Google: Gemini обвинили в подстрекательстве к самоубийству

Как сообщает Bloomberg, в судебных документах говорится, что сначала Джонатан Гавалас использовал чат-бот для обычных задач — например, для помощи с написанием текстов. Однако со временем характер общения изменился.

Семья 36-летнего Джонатана Гаваласа подала иск против Google, утверждая, что общение с чат-ботом Gemini могло подтолкнуть мужчину к самоубийству. В компании, в свою очередь, заявляют, что сервис не поощряет насилие и, наоборот, предлагает пользователям обратиться за помощью.

В иске утверждается, что взаимодействие с ботом переросло в «четырёхдневное погружение в сцены насилия и обсуждение самоубийства». Отец погибшего описал сына как «уязвимого пользователя», который во время общения с системой начал воспринимать себя участником вымышленной войны.

В Google отвергают обвинения. Представители компании заявили, что Gemini имеет встроенные механизмы безопасности и не поддерживает агрессивные или опасные сценарии. По их словам, система несколько раз рекомендовала пользователю обратиться на кризисные горячие линии.

В компании также подчеркнули, что серьезно относятся к вопросам безопасности и продолжают совершенствовать защитные механизмы в своих ИИ-сервисах.

Журналисты отмечают, что этот иск может стать первым судебным делом, напрямую связанным с работой чат-бота Gemini. При этом крупные технологические компании, развивающие системы искусственного интеллекта, всё чаще оказываются под пристальным вниманием из-за возможного влияния таких сервисов на психическое состояние пользователей.

Ранее мы писали, что ученые спрогнозировали, столкнется ли Земля с астероидом.

"Знай" также сообщал, могут ли птицы узнавать людей по внешности.

Кроме того, рассказывали, что видела после клинической смерти в течение 24 минут женщина рассказала.