Искусственный интеллект против мошенников
Lemonade Insurance Company - это онлайн-платформа с использованием искусственного интеллекта для оказания страховых услуг. В основе идеи компании лежит минимизация использования человеческих ресурсов и максимальное использование чат-ботов и систем искусственного интеллекта. Платформа позволяет оформить страховку онлайн за 90 секунд и получить покрытие по ней в течение 3 минут.
Компания была основана израильтянами в США шесть лет назад, и размещение ее акций на Нью-Йоркской фондовой бирже 2 июля прошлого года стало одним из наиболее успешных на Уолл-стрит.
Lemonade гордится тем, что предоставляет людям более простой и легкий способ подать иски о страховании домашних животных, дома и жизни. Клиенты разговаривают с чат-ботом, отправляют заявку, и решение о размере выплат можно принять за несколько минут.
«Когда пользователь подает иск, он записывает видео на свой телефон и объясняет, что произошло. Наш ИИ тщательно анализирует эти видео на предмет мошенничества. Он может улавливать невербальные сигналы, которые традиционные страховщики не распознают, поскольку не используют цифровой процесс обработки исков», — говорилось в серии твитов, которые с тех пор были удалены.
Пользователи сети раскритиковали технологию Lemonade, обвинив ее в потенциальной предвзятости и зависимости от неубедительного анализа настроений и эмоций. Заявление компании возмутило прежде всего потому, что, во-первых, на данном этапе не существует технологии, позволяющей достоверно определить, когда человек лжет. Поэтому для страховой компании очень проблематично использовать подобные технологии для принятия решений по страховым искам своих клиентов.
Во-вторых, существуют серьезные этические проблемы: можно ли дать искусственному интеллекту право судить, является ли человек лжецом, и принимать решения о его характере на основе физических характеристик? Как можно гарантировать, что такая технология, например, не будет дискриминировать людей с дефектами речи или людей с темным оттенком кожи – как это было доказано в прошлом с системами искусственного интеллекта?
Использование программного обеспечения машинного обучения для автоматизации процессов принятия решений о предоставлении клиентам кредита или страховых выплат – вопрос особенно чувствительный. В прошлом месяце американская комиссия по надзору за потребителями, FTC, выпустила строго сформулированное предупреждение о незаконности использования алгоритмов, которые в конечном итоге приводят к дискриминации людей по признаку расы, цвета кожи, религии, национального происхождения, пола, семейного положения и возраста при принятии финансовых решений.
Публикация вызвала бурю, и компания поторопилась удалить сообщения, пояснив, что из-за неудачной формулировки произошло недопонимание. «В «Твиттере» прошла обширная дискуссия по поводу нашего плохо сформулированного твита (в основном это касается термина «невербальные сигналы»), что привело к путанице в отношении того, как мы используем видео клиентов для обработки исков, — сообщила компания. – Были также вопросы, используем ли мы ИИ для распознавания эмоций (мы этого не делаем), и для автоматического отклонения заявлений (никогда!)»
«Мы не используем и не пытаемся создать ИИ, который использует физические или личные функции для опровержения заявлений», — повторилось в нем.
Опровержение компании удовлетворило не всех. Как написала в «Твиттере» журналист CNN Рейчел Метц, вопреки заявлению Lemonade, что она не позволяет алгоритмам ИИ автоматически отклонять иски, в проспекте эмиссии, который компания представила перед IPO в прошлом году, она фактически прямо заявила, что ее бот «запускает процесс запроса и оплачивает или отклоняет его без вмешательства человека».
Так или иначе, заявление компании о возможностях борьбы с мошенниками с помощью ИИ полностью устроило инвесторов, и акция Lemonade во время торгов 26 мая выросла почти на 11 процентов.
Олег Каль