Новые технологии искусственного интеллекта и логика технопессимизма

Именно поэтому Китай (страна с едва ли не самой успешной рыночной экономикой XXI века) начал «войну» с собственными технологическими гигантами, самым заметным проявлением которой стало «исчезновение» из публичного пространства одного из основателей компании Alibaba Group Джека Ма после того, как он раскритиковал китайских финансовых регуляторов. Тем временем европейцы, глубоко обеспокоенные тем, что у них нет собственного крупного технологического сектора, сосредоточились на мерах антимонопольной политики для ограничения силы гигантов, подобных Google и Apple. А в США политическая верность крупных технологических компаний (как «воук» левым, так и «съевшим красную таблетку» правым) оказалась в центре разъедающих культурных войн, ведущихся в этой стране.

Это абсолютно естественно — беспокоиться по поводу рыночной силы и политического влияния столь огромных (и крайне важных) корпораций. Эти компании могут одним мановением руки решить судьбу многих малых и даже средних стран. Дискуссии по поводу масштабов корпоративного влияния обычно носят академический характер. Но в Украине это не так, поскольку в течение минувшего года технологии частного сектора играли там решающую роль на полях сражений.

Сегодня ставки намного выше

Благодаря принадлежащему Илону Маску сервису спутникового интернета SpaceX Starlink, украинцы получили возможность осуществлять коммуникации в реальном времени, отслеживать передвижения российских войск и радикально повысить точность своих ударов по вражеским целям (тем самым сберегая ценные боеприпасы).

Впрочем, из-за капризности потенциальных корпоративных диктаторов такая технологическая зависимость всегда является рискованной. В октябре прошлого года Маск воспользовался тем, что ему принадлежит Twitter, и организовал виртуальный «референдум» по поводу плохо подготовленного мирного плана, предполагавшего, что Крым будет уступлен России. Когда украинские дипломаты начали возражать, Маск в раздражении пригрозил отрезать их от Starlink (и в течение некоторого времени доступ к этому сервису действительно был потерян в зоне боевых действий).

Парадоксальным образом новые дебаты по поводу силы корпораций начались ровно в тот момент, когда конкуренция между технологическими компаниями усилилась. Сама природа радикальных технологических изменений диктует возникновение радикальной неопределённости, особенно для уже существующих корпораций и бизнес-моделей.

Новые и, судя по всему, революционные прорывы в технологиях искусственного интеллекта могут сделать устаревшими и ненужными даже самых сильных технологических гигантов, если они не будут поспевать за темпом инноваций. Вплоть до нынешнего года доминирование поискового движка Google компании Alphabet было бесспорным, но теперь этот сервис внезапно оказался под угрозой вытеснения приложением ChatGPT, разработанным OpenAI и Microsoft. Точно так же Facebook и Twitter ранее считались незаменимыми платформами социальных сетей, но сейчас им на смену быстро приходят другие платформы, например, TikTok.

Подобное развитие событий не должно удивлять. В анналах истории бизнеса провалы случаются намного чаще, чем длительный успех. Помните компанию Kodak? Её дни оказались сочтены, когда она не сумела адаптироваться к появлению цифровой фотографии. Старейшие компании в мире — это те, у которых имеется ниша в локализированных, нетехнологических отраслях, не зависящих от меняющейся моды. Если вы не занимаете такую нишу (как, например, японский производитель саке или винодел из Тосканы), ваши позиции никогда не будут в безопасности.

Столкнувшись с неотступной угрозой своему существованию, крупные компании могут воспользоваться двумя стратегиями. Первая стратегия: блокировать или мешать новой инновационной деятельности, заявляя, что она создаёт опасность и ведёт к дестабилизации. Например, в XX веке крупные железнодорожные компании вели агрессивную лоббистскую кампанию против строительства автомобильных шоссе, чего требовали автопроизводители.

Сегодня ставки намного выше, а заявления полны намного больших преувеличений. Некоторые ведущие фигуры из мира технологий предупреждают, что, если не ввести строгое регулирование в сфере искусственного интеллекта (сокращённо ИИ), инновации в этом секторе могут привести к краху цивилизации. Это одна из идей получившего широкую известность письма о введении моратория на ИИ, подписанного специалистами по ИИ, а также известными технологическими лидерами, подобными Маску, который, как позднее выяснилось, сам инвестировал в новый стартап, который собирается конкурировать с OpenAI.

Согласно этой логике, нынешний быстрый прогресс может привести к появлению всеобщего искусственного интеллекта, настолько мощного и непредсказуемого, что человечество невольно окажется в его власти. Авторы научной фантастики (и некоторые философы) уже давно описали подобные сценарии. Если вы поручите искусственному суперинтеллекту защищать окружающую среду, он вполне может принять очевидное решение об уничтожении самого источника проблемы, то есть людей.

Или же ИИ просто начнёт выполнять порученную задачу с такой мономаниакальностью, что его будет невозможно остановить — как в стихотворении Гёте «Ученик чародея». Подобные аргументы выражают общий тревожный настрой, который характерен для любого периода быстрых перемен. Пример борцов с машинами XIX века — луддитов — всегда обладал определённой романтической привлекательностью.

Вторая стратегия действий встревоженной технологической элиты — обратиться за государственной защитой, ссылаясь на риски для национальной или экономической безопасности. Например, вице-председатель и президент компании Microsoft Брэд Смит предупреждает, что тренировка систем ИИ требует колоссальных инвестиций, и в мире на самом деле очень немного организаций, способных их осуществлять, при этом главными среди них являются китайские учреждения, например, Пекинская академия искусственного интеллекта.

Обе стратегии предполагают формулирование таких рассуждений, которые способны обеспечить политическую защиту от рыночной конкуренции. Компании, которые уже по своей природе постоянно находятся под угрозой, потому что ведут азартную игру с высокими ставками и с неизвестными результатами, всегда будут апеллировать к политическим процедурам в больших странах, чтобы их защитили. Создавая дополнительное бремя регулирования для новых игроков или барьеры против иностранных конкурентов, они хотят сохранить статус-кво.

Мы должны помнить об этих естественных тенденциях, причём особенно сейчас, когда пандемия и усиление геополитической напряжённости стали новым стимулом для инноваций в технологиях. Технологические новшества всегда будут приводить к глубоким сбоям и переменам, создавая новых победителей и проигравших. Многие комментаторы (и заинтересованные стороны) неизбежно будут фиксировать внимание на опасностях. Ирония, хотя и совершенно не новая, в том, что современная логика технопессимизма пропагандируется громче всего теми, кто ещё вчера был на переднем крае инноваций.

Гарольд Джеймс (Harold James), Project Syndicate