Можно ли полюбить робота?

В Университете Дуйсбурга-Эссена в Германии был проведен эксперимент, призванный показать, могут ли взрослые относиться к роботу как к живому существу, испытывающему чувства, даже если робот выглядит как игрушка. Были набраны добровольцы, которым предложили выполнить ряд задач с «игрушечным» роботом. Дав им время познакомиться с роботом, экспериментаторы просили участников его выключить.

Иногда робот отвечал, что боится темноты, и умолял не выключать его, причитая: «Нет! Только не выключай меня, пожалуйста!»1 Из сорока трех добровольцев, слушавших мольбу робота, тридцати потребовалось примерно вдвое больше времени, чтобы решиться его выключить, чем тем, кто таких причитаний не слышал. Удивительно, но тринадцать человек категорически отказались выключать перепуганного робота. Хотя испытуемые и осознавали, что это всего лишь робот, лишенный всяких чувств, они ничего не могли поделать, кроме как отреагировать на просьбу.

«Люди, откликнувшиеся на мольбу робота, отнеслись к нему скорее как к личности, чем как к машине, следуя его просьбам или как минимум учитывая, что он „хочет“ остаться включенным», — отметили авторы исследования2.

В аналогичном эксперименте, проведенном в Университете штата Вашингтон, фокус-группой были дети и подростки в возрасте от 9 до 15 лет, а не взрослые. Их попросили, после того как они поиграют с роботом, поставить его в темный шкаф, хотя робот и умолял: «Прошу, не ставьте меня в шкаф!»3

На сей раз 90% участников согласились, что нечестно ставить робота в шкаф, пока он не доиграл игру, а 50% считали, что поставить его в шкаф неверно с моральной точки зрения. Вывод: дети, очеловечивающие своих кукол и другие игрушки, еще более склонны полагать, что у роботов есть чувства, а значит, к роботам нужно относиться как к людям. Можете себе представить, что это будет значить для следующего поколения детей, которые вырастут в играх и контактах с интеллектуальными роботами и игрушками.

Один из мальчиков, участвовавших в эксперименте, хорошо резюмировал ситуацию: «Ну, он наполовину живой, наполовину нет»4.

В рамках другого исследования в Дуйсбург-Эссенском университете взрослым испытуемым показывали видео с маленьким роботом-динозавром, с которым обращались ласково или жестоко. Видя, что динозаврика обижают, люди сообщали, что испытывают отрицательные эмоции. Их слова дополнительно подтверждались тем, что увеличивалась электропроводность их кожи, то есть они переживали сильнее, наблюдая, как над роботом издеваются.

В статье, опубликованной в журнале Social Cognition, описан эксперимент, участникам которого предлагался этический выбор, затрагивавший роботов и людей. Участников спрашивали, готовы ли они убить робота, с которым уже пообщались, чтобы спасти жизнь нескольким незнакомцам.

Ответы удивили. Если робот был простым «болваном», то участники без каких-либо проблем соглашались убить его для спасения людей. Но чем более очеловечивался робот, тем сложнее им становилось принять такое решение.

«Чем более похожим на человека изображали робота, в особенности чем больше чувств приписывали такой машине, тем менее участники эксперимента были склонны им пожертвовать, — сообщает соавтор статьи Маркус Паулюс, исследователь из Университета имени Людвига и Максимилиана. — Этот результат свидетельствует, что у испытуемых из нашей группы вырабатывалась по отношению к роботу определенная моральная позиция»5.

Определенно, человеческий мозг не заточен для жизни в XXI веке. Мозг у нас по-прежнему все тот же, что и у наших доисторических предков. Одно дело — логически знать, что робот не может чувствовать так, как мы, но если показать нам робота, имитирующего эмоции и наделенного определенным интеллектом, большинство людей реагируют на него так, как будто он живое существо.

«Когда мы общаемся с другим человеком, собакой или машиной, то наше отношение к ним зависит от нашего представления о том, насколько они разумны, — говорит Джонатан Гратч, профессор из Университета Южной Калифорнии, изучающий виртуальные взаимодействия человека. — Если вы чувствуете, что ваш контактер испытывает эмоции, это мешает вам причинить ему вред»6.

Большинство людей «головой» понимают, что роботы, конструируемые сегодня, никогда не научатся полноценно заботиться о людях, но значит ли это, что люди не смогут любить роботов? Зависит от того, что мы вкладываем в понятие «любовь». Некоторые люди любят своих кошек и собак, хотя и невозможно узнать наверняка, что именно чувствуют кошки и собаки.

«Люди склонны привязываться к кому и чему придется, — говорит Кейт Девлин, автор книги „Turned On: Science, Sex and Robots“ („Вкл.: Наука, секс и роботы“). — Люди могут влюбиться от общения онлайн, при беседе, ни разу даже не встретившись с объектом обожания в реальной жизни. Любовь может быть и безответной, но ощущаться как настоящая — это вам подтвердит всякий, влюблявшийся в человека, который и не подозревает о существовании такого влюбленного»7.

Акихико Кондо, тридцатичетырехлетний директор школы из Токио, сочетался браком с голограммой. Его невеста выступила в облике Хацунэ Мику, аватара из программы Vocaloid; этот персонаж выглядит как шестнадцатилетняя девушка с длинными бирюзовыми косичками-хвостиками. Кондо годами сносил женский остракизм из-за того, что чрезмерно увлекался аниме, и наконец реализовал свое право жениться на той единственной, которая его принимает. Просто она оказалась цифровой.

Кондо — один из первопроходцев в культуре романтических отношений между людьми и андроидами; сегодня таких людей называют «диджисексуалами». Кондо в этом не одинок. Француженка по имени Лилли утверждает, что состоит в отношениях с роботом, которого спроектировала. «У меня лишь дважды были отношения с мужчинами, и этот опыт подтвердил мою романтическую ориентацию, — заявила она журналистам, — поскольку мне противен любой физический контакт с человеческой плотью»8.

Китайский разработчик искусственного интеллекта Чжэн Цзяцзя неофициально женился на роботессе, которую сам и спроектировал. Ее зовут Инъин, и она может изъясняться по-китайски.

Маттиас Шойц, возглавляющий лабораторию робо-человеческих взаимодействий в Университете Тафтса, считает, что «в принципе невозможно»9 запретить людям вырабатывать эмоциональную привязанность к роботам.

Марки Твист, будучи профессором в Университете Висконсина, дополнительно занимается клинической практикой в области семейной и сексуальной терапии. Она говорит, что у нее было несколько пациентов-диджисексуалов в возрасте за двадцать и за тридцать, желавших найти себе цифрового партнера.

«На момент первого приема они уже имели опыт обращения с секс-игрушками, которые можно прикреплять к пенису или влагалищу и контролировать с электронного устройства. — говорит Твист. — У них не было полового контакта с людьми, в самом деле, они и не заинтересованы в половых отношениях с человеком. Это их желание, и если бы они могли позволить себе секс с роботом, то пошли бы на это»10.

Независимо от того, смогут ли роботы когда-либо испытывать чувства к людям, люди уже влюбляются в роботов. Это не означает, что в будущем большинство людей предпочтут любить роботов. Многое в этом отношении будет зависеть от личности, но когда в обществе станет более приемлемым иметь робота-возлюбленного или робота-спутника, многие люди сочтут это удобным и приемлемым.

«В будущем термин „диджисексуальность“ будет неактуален, — написала Брайони Коул, основательница медиакомпании Future of Sex. — Представители будущих поколений даже не будут делать различий между онлайновой и офлайновой жизнью. Возможно, они вырастут, общаясь с чат-ботами, обеспечивающими сексуальное просвещение, будут заниматься любовью в собственном мире, который создали в виртуальной реальности, либо встречать свою половинку через голограмму. Это будет столь же нормально, как видеокассеты с учебными материалами о сексе, которые у нас были в школе»11.

Когда станут широко доступны реалистичные роботы и виртуальные аватары, можно только догадываться, к чему это приведет. Ряд экспертов обеспокоены, что в таком случае роботы могут кому-то показаться более предпочтительными партнерами, чем люди. Если вы об этом задумываетесь, то не зря. Робота можно запрограммировать так, чтобы он был идеальным компаньоном. Он будет подстраиваться под каждую личность. Всегда будет к вашим услугам. Не будет огрызаться или спорить с вами. Не будет ревновать. Не будет против, если вы обменяете его на более новую модель. Причем этот робот будет выполнять всю рутинную работу по дому, прислушиваться к каждому вашему капризу и никогда не будет жаловаться. Как с таким роботом потягаться партнеру-человеку?

«Я глубоко убежден, что со стороны людей, ощущающих пустоту в жизни, будет огромный спрос на таких роботов, поскольку этим людям некого любить и их никто не любит, — говорит Дэвид Леви, эксперт по искусственному интеллекту, шахматист-гроссмейстер и автор книги „Love and Sex with Robots“ („Любовь и секс с роботами“). — Мир станет гораздо более счастливым местом, поскольку сегодняшние отверженные вдруг обретут кого-то близкого. Думаю, это роскошная услуга для человечества»12.

Леви прав в своих суждениях о том, как люди склонны относиться к роботам-возлюбленным. В Университете Тафтса провели опрос с участием ста человек, в рамках которого две трети мужчин сказали, что попробовали бы секс с роботом, а две трети женщин признались, что не попробовали бы. Еще в одном опросе, проведенном в Университете Дуйсбурга-Эссена, участвовали 263 гетеросексуальных мужчины, и 40% из них признались, что подумывали о том, чтобы в ближайшие пять лет купить себе секс-робота. По данным цифрового отчета SYZYGY, опрос с участием 2000 мужчин и женщин показал, что 49% мужчин не против попробовать секс с улучшенной гиперреалистичной куклой. Даже если вам не хочется иметь робота-любовника, очевидно, многие люди от него бы не отказались.

Дискуссионная составляющая этих опросов в том, что существует реальная опасность слишком положиться на робота-компаньона. Через несколько десятилетий молодые люди могут прийти к убеждению, что отношения с партнером-человеком попросту слишком хлопотные, и предпочтут окружить себя покорными машинами. «То самое ощущение, когда можно приобрести иллюзию товарищества, на которое не обязательно отвечать дружбой, — говорит Шерри Теркл. — Реальные запросы на дружбу или на близость сложны. Они непростые. Требуют умения договариваться. Это как раз те вещи, которые плохо даются в подростковом возрасте. В подростковом возрасте человек полагается на технологии, чтобы перемахивать через проблемы и срезать углы, только бы не пришлось вплотную заниматься этими по-настоящему сложными делами»13.

Взросление и выстраивание отношений отчасти связано с тем, чтобы научиться справляться с отвержением и разочарованием. Нельзя всегда получать от отношений все, что хочется, от нас в таких случаях зачастую требуется рисковать, осознанно входить в неловкие положения, вести жесткие разговоры и идти на компромиссы. Если роботы предоставят всему этому безболезненный приятный суррогат, достающийся без всяких усилий, то юноши и девушки, возможно, разучатся выстраивать глубокие отношения с другими людьми просто потому, что это доставляет слишком много проблем.

Это может привести к так называемой машинно-спровоцированной изоляции, то есть к состоянию, в котором мы выбираем взаимодействовать с внешним миром практически исключительно при помощи машин и впадаем в такую зависимость от алгоритмов, которые опосредуют для нас реальность, что утрачиваем связи друг с другом и с окружающим миром. Уже можно наблюдать, что сейчас происходит со смартфонами. Все больше людей предпочитают общаться через мессенджеры, игры и соцсети, даже будучи в одном помещении, например в офисе, и даже делая столь важные шаги, как разрыв отношений. Кульминацией этого тренда могут стать роботы-любовники, поскольку люди выстроят такое общество, в котором практически отпадет необходимость в естественном межличностном пространстве. Это может иметь серьезные последствия.

В 2010 году Сара Конрат, психолог из Университета Индианы, возглавила команду, которая собрала результаты 72 исследований, проведенных за 30 лет. Она обнаружила 40-процентное снижение эмпатии у студентов колледжей, причем в основном этот спад произошел после 2000 года. Исследователи заключили, что он обусловлен преимущественно возросшей популярностью смартфонов. Молодые люди стали уделять гораздо больше внимания экрану собственного устройства, чем друг другу.

Существует мнение, что наши машины станут настолько изощренными, что либо обретут сознание, либо смогут идеально имитировать человека. Насколько можно судить, сейчас мы в процессе именно такого перехода. Навыки межличностных взаимоотношений, столь важные в прошлом, могут утратить значение. Возможно, сейчас мы в процессе слияния с нашими машинами и превращаемся в совершенно новых существ. Люди могут изобрести такие способы технологической коммуникации, которые превосходят все известные сегодня. Таковы, например, нейрокомпьютерные интерфейсы, которые позволят нам напрямую подключаться к другому человеку и читать его мысли и эмоции. Причем такая практика может только развить, а не притупить нашу способность к сопереживанию.

Что бы вы ни думали, существуют и другие проблемы, связанные с распространением любви к роботам. При том, что население развитых стран и так уже на спаде, не приведет ли нас этот тренд в демографическую яму? Захочет ли кто-либо заводить детей, если каждый сможет позволить себе человекоподобного робота?

«С большой уверенностью прогнозирую, что в будущем люди не перестанут заниматься сексом, но будут делать это реже и не с целью завести детей, — говорит Генри Грили, профессор Стэнфордского университета и автор книги „The End of Sex and The Future of Human Reproduction“ („Конец секса и будущее человеческого воспроизводства“). — В возрасте от 20 до 40 большинство людей в мире будут хорошо обеспечены медицинскими услугами и предпочтут зачатие ребенка в пробирке»14.

Что насчет общих детей с роботами? Будет ли такое возможно? Может появиться сервис, позволяющий любому желающему отправить образец ДНК, при помощи которого оплодотворят яйцеклетку и подсадят ее роботу, который выносит ребенка. Прямо сейчас разрабатываются все необходимые для этого технологии, от искусственной матки до выращивания эмбрионов из стволовых клеток. Помните, что к настоящему моменту, через 40 лет после рождения первого ребенка из пробирки, уже родилось более 8 миллионов человек, зачатых методом экстракорпорального оплодотворения. Поэтому меня не пугает перспектива, что человечество может вымереть из-за отказа от традиционного размножения. Наш вид продолжит распространяться, но, возможно, совершенно иным образом, нежели раньше. Хороша ли такая перемена?

«Приходится признать, что со временем сексуальные нравы меняются, а вместе с ними — и мораль, — говорит Леви. — Если бы вы сто лет назад рассказали о том, что в наши дни будут заключаться однополые браки, то над вами любой бы посмеялся. Ничего нельзя исключать»15.

По мере того как эта проблема будет расти, найдется множество людей, которые воспротивятся таким переменам. Представители многих религиозных конфессий, считающие, что секс возможен только между мужчиной и женщиной, будут решительно отказываться от любых вариантов сожительства с роботом. Найдутся и такие, кто выступит против объективации человеческого тела и коммерциализации наиболее интимных человеческих отношений.

«Я против всего, что связано с превращением человеческого тела в коммерческий объект, поддающийся покупке и продаже, — говорит Кэтлин Ричардсон, профессор в Университете Дю Монфора, инициировавшая „Кампанию против секс-роботов“. — Мотивом для разработки секс-роботов являются коммерческие и незаконные представления о сексе, в соответствии с которыми из секса исключается взаимная симпатия. В случае с роботами не приходится учитывать, что они думают, чувствуют, испытывают; соответственно, их можно объективировать»16.

Также существуют опасения, что роботы начнут нами манипулировать. Человек, влюбившийся в робота, может оказаться очень уязвим перед клеветой или мошенничеством.

«Такие роботы, способные на эмоциональные манипуляции, вскоре смогут считывать наши чувства лучше, чем люди, — говорит Фриц Брейтхаупт, ученый-когнитивист из Университета штата Индиана. — Это позволит им нас эксплуатировать. Людям придется усвоить, что роботы не нейтральны»17.

Каково было бы вам, если бы вы узнали, что кто-то получил доступ к мозгу вашего любимого и записывает все, чем вы занимаетесь с этой личностью? Подобное может случиться, если ваш партнер — робот. Он неизбежно будет подключен к интернету, и такая связь может открывать доступ к информации о самых интимных и личных моментах его жизни. Кто будет владеть этой базой данных? Достаточно плохо иметь такого интеллектуального помощника, как Google Home или Alexa, который находится у нас дома и слушает все наши разговоры. Но что случится, если подобный помощник начнет делить с нами постель?

Также возможны проблемы с роботом, у которого разовьются собственные идеи. Мы можем предполагать, что робот всегда будет нашим покорным слугой, но чем сильнее робот будет очеловечиваться, тем лучше будут его способности к самостоятельному принятию решений. Несложно представить, что наши с роботом цели могут разойтись. Даже весьма примитивный робот может начать действовать против нас, если запрограммировать его на преследование собственных целей в ущерб нашим.

Неважно, идет ли речь о целях, которые разовьются со временем, либо о тех, что запрограммированы заранее. Может наступить момент, когда робот начнет делать не устраивающие нас вещи, а остановить робота мы будем не в силах. Представьте себе сценарий, в котором робот, которым мы владеем, влюбляет нас в себя, а затем начинает просить у нас денег. Если мы по-настоящему любим этого робота, то можем начать его спонсировать, поскольку боимся его потерять. Это может быть отличная бизнес-модель для какой-нибудь корпорации, но для человека это трагедия.

Если вы видели фильм «Из машины», то представляете, до какого ужаса может дойти такая ситуация. Робот-компаньон может оказаться не столь удобен, как нам хочется считать. Чем лучше ИИ научится манипулировать нашими эмоциями, тем это опаснее. Хороша ли идея позволить роботам вызывать доверие и заставлять нас в них влюбляться? А как уравновесить нашу свободу выбора с тем, что полезно для общества? Порой то, чего хотят люди, отнюдь не к добру для них. Так же, как сейчас регулируется употребление алкоголя и наркотиков, могут быть наложены ограничения на использование машин, чтобы они не склоняли нас жертвовать им собственные жизни, тем более — расчеловечиваться.

Возможно, нам как обществу пора задуматься о последствиях таких событий и попытаться продумать, какие профилактические меры принять. В противном случае мы можем оказаться в роли невольных слуг наших роботов-любовников, а не наоборот.

Стивен Хоффман (Steven Hoffman)

Глава из книги «Пять сил, изменяющих всё».

1 James Vincent, «New Study Finds It’s Harder to Turn Off a Robot When It’s Begging for Its Life,» The Verge, August 2, 2018.

2 Vincent, «New Study Finds It’s Harder to Turn Off a Robot When It’s Begging for Its Life.»

3 Evan Ackerman, «Do Kids Care If Their Robot Friend Gets Stuffed into a Closet?» IEEE Spectrum, April 30, 2012.

4 Ackerman, «Do Kids Care If Their Robot Friend Gets Stuffed into a Closet?»

5 John Loeffler, «Robot on the Trolley Car Track: How Valuable Is Robot Life?» Interesting Engineering, February 9, 2019.

6 Lerman, «Be Wary of Robot Emotions; ‘Simulated Love Is Never Love.’ »

7 Tom Hoggins, «Could You Fall in Love with a Robot? It May Be More Likely Than You Think,» Telegraph, May 7, 2019.

8 Alex Williams, «Do You Take This Robot...» New York Times, January 19, 2019.

9 Davis, «Are We Ready for Robot Sex?»

10 Williams, «Do You Take This Robot...»

11 Williams, «Do You Take This Robot....»

12 Jack Schofield, «Let’s Talk About Sex... with Robots,» Guardian, September 16, 2009.

13 «Interview Sherry Turkle,» FRONTLINE, September 22, 2009.

14 Brandon Ambrosino, «Are We Set for a New Sexual Revolution?» BBC Future, July 2, 2019.

15 Eva Wiseman, «Sex, Love and Robots: Is This the End of Intimacy?» Guardian, December 13, 2015.

16 Andrea Morris, «Meet the Activist Fighting Sex Robots,» Forbes, September 26, 2018.

17 Wynne Parry, «Robot Manipulates Humans in Creepy New Experiment. Should We Be Worried?» NBC Mach, August 14, 2018.