Сэм Альтман: трудно представить, как изменится мир через 10 лет

Теперь движение стало почти механическим — и ускоряется с каждым месяцем. Он называет это началом технологического взлета, который ощущается менее странным, чем ожидалось, но с куда более серьезными последствиями.

Альтман утверждает, что такие системы, как GPT-4 и o3, уже превосходят человека во многих когнитивных аспектах и способны резко увеличить продуктивность тех, кто с ними взаимодействует. Он отметил, некоторые ученые сегодня становятся в два или даже три раза эффективнее благодаря ИИ, и именно это он считает самым важным аспектом: возможность использовать ИИ для ускорения разработки еще более продвинутого ИИ. Так начинается то, что он называет «личиночной формой рекурсивного самосовершенствования» — пока не самостоятельное обновление кода, но уже нечто близкое по эффекту.

Смелые прогнозы

Прогнозы, которые он озвучивает, уже не выглядят фантастично. В 2025 году появились интеллектуальные агенты, способные к полноценной когнитивной работе. В 2026 году, по его оценке, появятся системы, умеющие делать настоящие научные открытия. А в 2027-м — физические роботы, выполняющие реальные задачи в материальном мире. Он рассматривает сценарий, в котором первый миллион таких роботов будет создан вручную, но после этого они смогут полностью взять на себя весь производственный цикл — от добычи полезных ископаемых до строительства новых дата-центров и фабрик по выпуску чипов. Дата-центры, строящие другие дата-центры, — это не гипербола, а возможная реальность ближайших лет.

Способность одного человека сделать гораздо больше в 2030 году, чем он мог бы сделать в 2020 году, станет поразительным изменением, и многие люди поймут, как извлечь из этого пользу.

В этом сценарии, по его словам, стоимость интеллекта будет стремиться к стоимости электроэнергии. Один запрос к ChatGPT в среднем потребляет 0,34 ватт-часа и 0,000085 галлона воды — это примерно одна пятнадцатая чайной ложки. Альтман считает, что при должной автоматизации ресурсов, сам интеллект может стать «слишком дешевым, чтобы его измерять». Такой эффект потенциально полностью снимает исторические ограничения, наложенные дефицитом как интеллекта, так и энергии — двух фундаментальных ресурсов, тормозивших прогресс.

Однако он подчеркивает, что наряду с преимуществами это создает огромные риски. Прежде всего — риск неправильного выравнивания систем с интересами человечества. В качестве примера он приводит алгоритмы социальных сетей, которые прекрасно понимают краткосрочные предпочтения людей, но вредят их долгосрочному благополучию. По его мнению, задача выравнивания — то есть способность ИИ действовать в соответствии с коллективными ценностями человечества — является важнейшей перед началом масштабного распространения суперинтеллекта.

Альтман также отмечает, что экономическое давление уже запустило петлю ускорения: ценность, создаваемая ИИ, стимулирует строительство все большего количества инфраструктуры. В будущем, по его словам, роботы будут создавать не только код, но и себя — как в прямом, так и в инфраструктурном смысле. Системы, которые сегодня работают в дата-центрах, завтра могут управлять их строительством. Это ведет к появлению нового производственного цикла, в котором масштабируемость ограничивается только идеями.

Общество быстро адаптируется к изменениям

Он акцентирует внимание на том, что общество адаптируется к изменениям удивительно быстро. Мы перестаем удивляться даже чудесам: сначала поражаемся, что ИИ умеет писать абзац, потом ожидаем от него роман; сначала он ставит диагноз, потом ждем от него лекарства; сначала он пишет скрипт, потом хотим, чтобы он создал бизнес. По его словам, так и происходит сингулярность — не внезапным взрывом, а постепенным превращением невероятного в рутину.

Социальные последствия, по его мнению, будут не менее важны. Масса профессий исчезнет, но мир станет богаче настолько, что смогут обсуждаться новые формы социального контракта. Возможно, они будут вводиться не одномоментно, а шаг за шагом. Однако, оглядываясь назад через несколько десятилетий, люди поймут, что произошли кардинальные перемены. Как фермер из прошлого мог бы счесть современные профессии «фальшивыми», так и мы будем считать фальшивыми профессии 2100 года. При этом они, скорее всего, будут казаться людям будущего важными и наполненными смыслом.

Отдельно Альтман останавливается на важности идей. Ранее в стартап-индустрии высмеивали тех, кто имел только идею, но не мог ее реализовать. Сегодня, по мнению Альтмана, такие люди получат реальную силу — потому что реализовывать идеи станет легко. Ограничивающим фактором станет не исполнение, а оригинальность.

Альтман призывает начать глобальную дискуссию о допустимых границах использования ИИ, о том, как определить «коллективное выравнивание» — что человечество на самом деле хочет получить от суперинтеллекта. При этом важно обеспечить доступ к нему не только избранным корпорациям или государствам. Он считает, что только при широкой и равномерной доступности ИИ принесет максимум пользы.

По его словам, OpenAI остается прежде всего исследовательской компанией, занимающейся суперразумом. Но теперь направление ясно, темнота рассеивается, и если удастся пройти этот путь без катастроф, можно будет говорить о самой масштабной трансформации в истории цивилизации.

Сэм Альтман (Sam Altman), blog.samaltman