• Через несколько тысяч дней у нас появится суперинтеллект — его нужно сделать как можно более массовым, иначе он станет ограниченным ресурсом, за который будут вестись войны.
• Появление ИИ — самый важный факт в истории человечества. Он поможет достичь уровня процветания, который сегодня кажется немыслимым — в будущем жизнь каждого может быть лучше, чем жизнь кого-либо сейчас.
• Главный ключ к прогрессу — глубокое обучение. Оно приведет ИИ к решению проблем изменения климата, открытиям всех законов физики, новой вехе в образовании и другим достижениям.
The Intelligence Age
Кому интересно перевод тут
Сэм Альтман: Век интеллекта
Сэм Альтман: Век интеллекта (перевод)
Перевод на русский язык манифеста от главы OpenAI Сэма Альтмана о будущем ИИ.
В ближайшие десятилетия мы сможем делать то, что показалось бы волшебством нашим предкам.
Этот феномен не новый, но он будет как никогда прежде ускоряться. Способности людей значительно возросли со временем; мы уже достигли того, что наши предки считали невозможным.
У нас появляется все больше способностей не из-за генетических изменений, а благодаря инфраструктуре общества, которая гораздо умнее и эффективнее любого из нас по отдельности; само общество является формой продвинутого интеллекта. Наши прародители и предыдущие поколения достигли великих достижений. Они внесли вклад в фундамент человеческого прогресса, от которого мы все получаем выгоду. ИИ даст людям инструменты для решения сложных задач и поможет нам добавить новые элементы в этот фундамент, которые мы не смогли бы придумать сами. История прогресса будет продолжаться, и наши дети смогут делать то, что нам еще невообразимо.
Это не произойдет сразу, но скоро мы будем работать с ИИ, который поможет нам добиться гораздо большего, чем без него; в конце концов, у каждого из нас появится личная команда ИИ из виртуальных экспертов в разных областях, которые будут работать вместе, чтобы создать практически все, что мы можем себе представить. У наших детей будут виртуальные наставники, которые предоставят персонализированные уроки по любому предмету, на любом языке и в любом темпе. Можно представить аналогичные идеи для улучшения здравоохранения, создания любого ПО, которое только можно вообразить, и многого другого.
С этими новыми возможностями мы можем достичь уровня процветания, который сегодня кажется немыслимым; в будущем жизнь каждого может быть лучше, чем жизнь кого-либо сейчас. Процветание само по себе не обязательно делает людей счастливыми (среди богатых людей полно несчастных), но оно значительно улучшит жизнь людей по всему миру.
Вот один из способов узкого взгляда на историю человечества: после тысяч лет смешения научных открытий и технического прогресса мы научились плавить песок, добавлять примеси, с поразительной точностью компоновать их в чрезвычайно крошечных масштабах в компьютерные чипы, пропускать энергию через них и в конечном итоге получать системы, способные создавать искусственный интеллект с постоянно растущими возможностями.
Это может оказаться самым важным фактом во всей истории на данный момент. Вполне возможно, что через несколько тысяч дней (!) у нас появится суперинтеллект; это может занять больше времени, но я уверен, что мы доберемся до цели.
Как же мы оказались на пороге следующего скачка в процветании?
В трех словах: сработало глубокое обучение.
В 15 словах: глубокое обучение сработало, предсказуемо улучшалось и масштабировалось, и мы выделяли на него все больше ресурсов.
Вот и всё: человечество открыло алгоритм, который может обучаться на любой выборке данных (или, точнее, подлинным «правилам», которые порождают любую выборку данных). С шокирующей точностью, чем больше вычислительных ресурсов и данных доступно, тем лучше ИИ помогает людям решать сложные задачи. Как бы много времени я ни тратил на размышления об этом, я все равно не могу полностью осознать, насколько это важно.
Есть много деталей, которые нам еще предстоит выяснить, но главная ошибка — отвлекаться на любые сложности. Глубокое обучение работает, и мы решим оставшиеся проблемы. Можно сказать многое о том, что может произойти дальше, но главное: ИИ будет становиться лучше, и это приведет к значительным улучшениям в жизни людей по всему миру.
Модели ИИ вскоре начнут выполнять роль автономных личных помощников, которые будут выполнять конкретные задачи от нашего имени, например, координировать медицинскую помощь. В какой-то момент ИИ станет настолько хорош, что поможет нам создавать системы следующего поколения и добиваться научного прогресса во всех областях.
Технологии привели нас от Каменного века к Сельскохозяйственному веку, а затем к Индустриальному веку. К Веку Интеллекта проложен путь через вычислительные мощности, энергию и человеческое стремление.
Если мы хотим предоставить ИИ как можно большему числу людей, нам нужно снизить стоимость вычислений и сделать их доступными (что требует много энергии и микрочипов). Если мы не построим достаточно инфраструктуры, ИИ станет очень ограниченным ресурсом, за который будут вестись войны, и который станет в основном инструментом богатых людей.
Нам нужно действовать мудро, но решительно. Рассвет Века Интеллекта — это важнейшее событие с очень сложными и крайне высокими ставками. Это не будет исключительно положительная история, но ее потенциал настолько огромен, что мы и будущие поколения обязаны разобраться с рисками, стоящими перед нами.
Я верю, что будущее будет настолько светлым, что никто не может должным образом описать его сейчас; главной чертой Века Интеллекта станет глобальное процветание.
Хотя это произойдет постепенно, поразительные достижения, такие как решение проблемы изменения климата, создание космической колонии и открытие всех законов физики, со временем станут обыденными. Обладая почти безграничным интеллектом и изобилием энергии — способностью генерировать великие идеи и воплощать их в жизнь — мы сможем сделать очень многое.
Как и с другими технологиями, у этого будут недостатки, и нам нужно начинать работать уже сейчас, чтобы максимизировать пользу от ИИ и минимизировать его вред. Например, мы ожидаем, что эта технология может значительно изменить рынок труда (как в положительную, так и в отрицательную стороны) в ближайшие годы, но большинство профессий будут меняться медленнее, чем многие думают, и у меня нет страха, что мы останемся без работы (даже если новые виды деятельности не будут напоминать сегодняшние «настоящие работы»). У людей есть врожденное желание создавать и быть полезными друг другу, и ИИ позволит нам усилить наши способности, как никогда прежде. Как общество, мы снова окажемся в мире, полном возможностей, и сможем сосредоточиться на задачах с общим положительным итогом.
Многие из профессий, которые мы выполняем сегодня, казались бы людям несколько сотен лет назад пустой тратой времени. Но никто не оглядывается назад и не хочет быть фонарщиком. Если бы фонарщик увидел мир сегодня, он бы посчитал всё вокруг него немыслимым. И если бы мы перенесли себя в будущее на 100 лет вперед, то мир вокруг нас показался бы таким же невозможным.
Перевод на русский язык манифеста от главы OpenAI Сэма Альтмана о будущем ИИ.
В ближайшие десятилетия мы сможем делать то, что показалось бы волшебством нашим предкам.
Этот феномен не новый, но он будет как никогда прежде ускоряться. Способности людей значительно возросли со временем; мы уже достигли того, что наши предки считали невозможным.
У нас появляется все больше способностей не из-за генетических изменений, а благодаря инфраструктуре общества, которая гораздо умнее и эффективнее любого из нас по отдельности; само общество является формой продвинутого интеллекта. Наши прародители и предыдущие поколения достигли великих достижений. Они внесли вклад в фундамент человеческого прогресса, от которого мы все получаем выгоду. ИИ даст людям инструменты для решения сложных задач и поможет нам добавить новые элементы в этот фундамент, которые мы не смогли бы придумать сами. История прогресса будет продолжаться, и наши дети смогут делать то, что нам еще невообразимо.
Это не произойдет сразу, но скоро мы будем работать с ИИ, который поможет нам добиться гораздо большего, чем без него; в конце концов, у каждого из нас появится личная команда ИИ из виртуальных экспертов в разных областях, которые будут работать вместе, чтобы создать практически все, что мы можем себе представить. У наших детей будут виртуальные наставники, которые предоставят персонализированные уроки по любому предмету, на любом языке и в любом темпе. Можно представить аналогичные идеи для улучшения здравоохранения, создания любого ПО, которое только можно вообразить, и многого другого.
С этими новыми возможностями мы можем достичь уровня процветания, который сегодня кажется немыслимым; в будущем жизнь каждого может быть лучше, чем жизнь кого-либо сейчас. Процветание само по себе не обязательно делает людей счастливыми (среди богатых людей полно несчастных), но оно значительно улучшит жизнь людей по всему миру.
Вот один из способов узкого взгляда на историю человечества: после тысяч лет смешения научных открытий и технического прогресса мы научились плавить песок, добавлять примеси, с поразительной точностью компоновать их в чрезвычайно крошечных масштабах в компьютерные чипы, пропускать энергию через них и в конечном итоге получать системы, способные создавать искусственный интеллект с постоянно растущими возможностями.
Это может оказаться самым важным фактом во всей истории на данный момент. Вполне возможно, что через несколько тысяч дней (!) у нас появится суперинтеллект; это может занять больше времени, но я уверен, что мы доберемся до цели.
Как же мы оказались на пороге следующего скачка в процветании?
В трех словах: сработало глубокое обучение.
В 15 словах: глубокое обучение сработало, предсказуемо улучшалось и масштабировалось, и мы выделяли на него все больше ресурсов.
Вот и всё: человечество открыло алгоритм, который может обучаться на любой выборке данных (или, точнее, подлинным «правилам», которые порождают любую выборку данных). С шокирующей точностью, чем больше вычислительных ресурсов и данных доступно, тем лучше ИИ помогает людям решать сложные задачи. Как бы много времени я ни тратил на размышления об этом, я все равно не могу полностью осознать, насколько это важно.
Есть много деталей, которые нам еще предстоит выяснить, но главная ошибка — отвлекаться на любые сложности. Глубокое обучение работает, и мы решим оставшиеся проблемы. Можно сказать многое о том, что может произойти дальше, но главное: ИИ будет становиться лучше, и это приведет к значительным улучшениям в жизни людей по всему миру.
Модели ИИ вскоре начнут выполнять роль автономных личных помощников, которые будут выполнять конкретные задачи от нашего имени, например, координировать медицинскую помощь. В какой-то момент ИИ станет настолько хорош, что поможет нам создавать системы следующего поколения и добиваться научного прогресса во всех областях.
Технологии привели нас от Каменного века к Сельскохозяйственному веку, а затем к Индустриальному веку. К Веку Интеллекта проложен путь через вычислительные мощности, энергию и человеческое стремление.
Если мы хотим предоставить ИИ как можно большему числу людей, нам нужно снизить стоимость вычислений и сделать их доступными (что требует много энергии и микрочипов). Если мы не построим достаточно инфраструктуры, ИИ станет очень ограниченным ресурсом, за который будут вестись войны, и который станет в основном инструментом богатых людей.
Нам нужно действовать мудро, но решительно. Рассвет Века Интеллекта — это важнейшее событие с очень сложными и крайне высокими ставками. Это не будет исключительно положительная история, но ее потенциал настолько огромен, что мы и будущие поколения обязаны разобраться с рисками, стоящими перед нами.
Я верю, что будущее будет настолько светлым, что никто не может должным образом описать его сейчас; главной чертой Века Интеллекта станет глобальное процветание.
Хотя это произойдет постепенно, поразительные достижения, такие как решение проблемы изменения климата, создание космической колонии и открытие всех законов физики, со временем станут обыденными. Обладая почти безграничным интеллектом и изобилием энергии — способностью генерировать великие идеи и воплощать их в жизнь — мы сможем сделать очень многое.
Как и с другими технологиями, у этого будут недостатки, и нам нужно начинать работать уже сейчас, чтобы максимизировать пользу от ИИ и минимизировать его вред. Например, мы ожидаем, что эта технология может значительно изменить рынок труда (как в положительную, так и в отрицательную стороны) в ближайшие годы, но большинство профессий будут меняться медленнее, чем многие думают, и у меня нет страха, что мы останемся без работы (даже если новые виды деятельности не будут напоминать сегодняшние «настоящие работы»). У людей есть врожденное желание создавать и быть полезными друг другу, и ИИ позволит нам усилить наши способности, как никогда прежде. Как общество, мы снова окажемся в мире, полном возможностей, и сможем сосредоточиться на задачах с общим положительным итогом.
Многие из профессий, которые мы выполняем сегодня, казались бы людям несколько сотен лет назад пустой тратой времени. Но никто не оглядывается назад и не хочет быть фонарщиком. Если бы фонарщик увидел мир сегодня, он бы посчитал всё вокруг него немыслимым. И если бы мы перенесли себя в будущее на 100 лет вперед, то мир вокруг нас показался бы таким же невозможным.
