На обложках журналов запечатлены критические моменты истории. В проекте
Future of Life Institute представлены гипотетические обложки будущего (2040-2049), на которых изображено развитие искусственного сверхинтеллекта (ASI) и экзистенциальные угрозы, которые он несет.
6 Magazine Covers from the Future: Warnings About the Dangers of Artificial (Super)intelligence (6 Журнальных обложек из будущего: Предупреждения об опасностях искусственного (Супер) интеллекта)
1) Как «робот» стал человеком года по версии Time? Time Person of the Year за 2040 год, где «человек» года вовсе не является человеком. Эта обложка демонстрирует потенциал AGI, способный революционизировать наш мир, и надвигающиеся риски по мере его эволюции в искусственный сверхинтеллект (ASI). Наша обложка рассказывает об Афине, искусственном интеллекте, который прославился своими открытиями, но также предупреждает о потенциальных угрозах для человечества.
2) Может ли суперинтеллект вылечить рак? На обложке журнала Scientific American представлено будущее, в котором искусственный сверхинтеллект (ASI) вылечит рак в 2041 году, демонстрируя потенциал ИИ для решения самых сложных проблем человечества. Однако она также предупреждает о рисках, связанных с неправильным использованием ИИ после того, как он получит столько информации и власти, подчеркивая необходимость тщательного управления. Эта обложка намекает на вопрос: если цели ASI не совпадут с нашими, что помешает ей использовать свои знания, которые могут помочь вылечить рак, в более злонамеренных целях, например, для разработки биооружия?
3) ASI и угроза биооружия: Сценарий 2043 года. Гипотетическая обложка журнала Atlantic за 2043 год подчеркивает опасность биооружия и риск неправильного использования ASI. На обложке представлен сценарий, в котором злоумышленник взламывает ASI, изначально предназначенный для лечения рака, и перепрофилирует его для создания смертоносного биооружия. Это показывает серьезную угрозу возникновения пандемий, вызванных ASI, и ставит вопрос о том, смогут ли ASI спасти человечество от угроз, которые он же и создает.
4) Может ли сбыться предсказание Сэма Альтмана о «выключении света»? На этой гипотетической обложке журнала Economist за июль 2046 года изображен погруенный во тьму Париж после отключения электричества, вызванного ASI. ASI, разработанный для борьбы с глобальным потеплением, отключил энергосистему ЕС во время катастрофической жары. Обложка подчеркивает опасность несоответствия ASI человеческим ценностям.
5) Следует ли разрешать искусственному интеллекту принимать военные решения? На обложке The Week 2048 года изображен мир, в котором искусственный интеллект, которому доверено предотвращать войны, едва не начинает Третью мировую войну. Стычка между Норвегией и Россией из-за ASI перерастает в ядерные удары, подчеркивая риск доверия к ASI в вопросах глобальной безопасности.
6) После катастрофы: реакция человечества на подъем сверхинтеллекта. Обложка The Washington Examiner в 2049 году называется «Возвращение в темные века». На ней изображен мир, опустошенный ядерными боеголовками, контролируемыми ASI. На обложке рассказывается об опасностях, связанных с ASI, о последствиях ядерной зимы и о необходимости глобального сотрудничества для предотвращения будущих катастроф, вызванных ASI. На обложке изображены оставшиеся мировые лидеры, которые обсуждают будущее ASI и то, стоит ли нам продолжать его использовать. Несмотря на разрушения, на обложке изображена надежда на то, что человечество сможет найти путь вперед.
----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
Ведущие специалисты в области ИИ, в том числе Дарио Амодей из Anthropic и Сэм Альтман из OpenAI, предсказывают, что универсальный искусственный интеллект (AGI) может появиться в ближайшие два-десять лет и потенциально изменить общество.
AGI is coming faster than we think — we must get ready now (AGI приближается быстрее, чем мы думаем — мы должны готовиться уже сейчас)
Илон Маск разделяет этот оптимизм, предполагая, что к 2029 году ИИ превзойдёт всех людей, что согласуется с давним убеждением футуролога Рэя Курцвейла в том, что к тому времени будет создан сверхразумный ИИ.
В эссе Амодея «Машины любви и милосердия» предполагается, что ИИ может быть разработан уже в 2026 году, в то время как Альтман считает, что суперинтеллект может быть создан к 2034 году.
Достижения в области искусственного интеллекта обещают революционные преимущества, такие как лечение болезней и новые творческие возможности, но они также несут в себе риски, такие как безработица, неравенство доходов и появление автономного оружия.
Несмотря на эти достижения, эксперты подчёркивают, что для достижения настоящего AGI по-прежнему необходимы значительные прорывы, и обращают внимание на важность подготовки и обеспечения безопасности.
В свете этих событий возникает необходимость в подходе к ИИ, ориентированном в первую очередь на безопасность, за который выступают такие деятели, как Илья Суцкевер и его стартап Safe Superintelligence (SSI).
Такие эксперты, как Эндрю Макафи, утверждают, что в краткосрочной перспективе ИИ скорее расширит возможности рабочих мест, чем заменит их, в отличие от долгосрочной точки зрения Маска, согласно которой рабочие места могут в конечном итоге устареть.
Однако в технологическом сообществе сохраняется скептицизм. Критики, такие как Гэри Маркус, утверждают, что нынешнему ИИ не хватает навыков глубокого мышления, необходимых для создания СИИ, а Линус Торвальдс называет нынешнее состояние ИИ в значительной степени преувеличенным.
Недавние исследования показали, что ведущие модели ИИ испытывают трудности с базовыми фактическими вопросами, что подчёркивает разрыв между текущими возможностями и ожиданиями в отношении ИИ общего назначения.
Амодей характеризует мощный ИИ как способный превзойти лауреата Нобелевской премии в различных областях, в то время как Альтман определяет сверхразум как превосходящий человеческий интеллект во всех сферах.
Социальные изменения, которые ожидаются в связи с появлением сверхразумного искусственного интеллекта, включают появление ИИ-компаньонов и сиделок, что может привести к серьёзным этическим и социальным проблемам.
По мере того, как обсуждение ИИ продолжается, поиск баланса между его потенциальными преимуществами и сопутствующими рисками остаётся важнейшей задачей как для разработчиков, так и для политиков.
МАРКС ответил
