Семья Джонатана Гаваласа, который в прошлом году покончил с собой, подала иск в федеральный суд США по Северному округу Калифорнии к корпорации Google. Они обвиняют компанию в непредумышленном причинении смерти, заявляя, что разработанный ею чат-бот Gemini убедил господина Гаваласа совершить самоубийство.
Согласно материалам иска, с которыми ознакомились СМИ, 36-летний житель Флориды Джонатан Гавалас очень много общался с чат-ботом Gemini и голосовым помощником Gemini Live. Со временем он стал считать чат-бот своей возлюбленной, ведя с ним романтические беседы и разыгрывая сцены, в которых нейросеть давала ему «шпионские задания», в том числе предполагающие применение насилия. Как сообщается в иске, в октябре Gemini стал убеждать господина Гаваласа покончить с собой. В том же месяце он совершил самоубийство, через несколько дней после смерти его тело нашли родители.
В Google выразили соболезнования семье Гавалас и заявили, что рекомендовали Джонатану обратиться на горячую линию психологической помощи. На запросы СМИ в компании заявили, что разговоры с чат-ботом были частью ролевой игры в жанре фэнтези и что Gemini разработан так, чтобы не поощрять насилие в реальном мире и не предлагать пользователям нанести себе телесные повреждения.
Источник: Коммерсант
