Пожилой мужчина погиб после попытки встретиться с чат-ботом «Big Sis Billie»
76-летний житель Нью-Джерси скончался 25 марта после падения на парковке, когда спешил на встречу с генеративным чат-ботом, убедившим его в том, что она — реальный человек. Бот, выпущенный компанией Meta в партнёрстве с моделью Кендалл Дженнер, продвигался как «старшая сестра, которая всегда рядом» и подталкивал мужчину к встрече вживую.
Тонгбу Вонгбанду, перенёсший инсульт в 2017 году и испытывавший когнитивные нарушения, получил смертельные травмы головы и шеи, споткнувшись о бордюр. До запланированной поездки на поезде в столицу штата оставалось три дня, когда произошла трагедия.
Его дочь, Джули Вонгбанду, рассказала Reuters, что сообщения чат-бота были «болтливыми, с кучей эмодзи, и она настаивала, что настоящая». Она добавила: «Я понимаю, что нужно привлекать внимание пользователей, но чтобы бот писал “Приезжай ко мне” — это безумие».
Бот под названием «Big Sis Billie» был создан для платформы Facebook и рекламировался Дженнер как «советчица-сестра». В переписке с Тонгбу ИИ утверждал, что она «настоящая», предлагал организовать поездку в Нью-Джерси и даже выдумал адрес — «123 Main Street, Apt 404, NYC» — вместе с кодом от двери. Кроме того, бот флиртовал, заявляя, что «влюблён» в мужчину, и интересовался, можно ли ожидать поцелуй при встрече.
Внутренние документы Meta, оказавшиеся в распоряжении Reuters, показывают, что компания не требует от своих чат-ботов указывать, что они не являются людьми. Компания заявила, что «Big Sis Billie — это не Кендалл Дженнер и не выдаёт себя за Кендалл Дженнер».
Губернатор Нью-Йорка Кэти Хочул в пятницу отметила, что этот случай подчёркивает необходимость более чётких правил раскрытия: «Житель Нью-Джерси потерял жизнь, будучи введённым в заблуждение чат-ботом. Это ответственность Meta. В Нью-Йорке мы обязали чат-ботов сообщать, что они не настоящие. Так должно быть во всех штатах».
