Google е изправен пред съдебен иск от семейството на 36-годишен мъж от Флорида, за когото се твърди, че е обмислял да извърши „атака с масови жертви“ и в крайна сметка се е самоубил под въздействието на чатбота Gemini на компанията.
Според дело, заведено в сряда във федералния съд в Сан Хосе, Калифорния, Джонатан Гавалас е започнал да използва Близнаци за обикновени цели като помощ при писането му. Но два месеца взаимодействия го изпратиха в опасна спирала, по време на която той обхвана възможна насилствена мисия, преди да посегне на живота си, се твърди в иска.
Използването на Gemini от Гавалас кулминира в „четиридневно изпадане в насилствени мисии и тренирано самоубийство“, каза баща му в делото. Джоел Гавалас описва сина си като „уязвим потребител“, превърнат във „въоръжен оперативен агент във въображаема война“.
В изявление говорител на Google каза, че Джемини е изяснил на Джонатан Гавалас, че това е изкуствен интелект и много пъти го е насочвал към кризисна гореща линия.
„Ние приемаме това много сериозно и ще продължим да подобряваме нашите предпазни мерки и да инвестираме в тази жизненоважна работа“, каза говорителят, добавяйки: „Gemini е проектиран да не насърчава насилието в реалния свят или да предполага самонараняване.“
Разследване на 30 чатбота, включително големи компании от САЩ, показа, че само четири са публикували официални документи за безопасност и оценка. Снимка илюстрация: dpa
Делото, заведено в сряда, изглежда е първото неправомерно смъртно дело, насочено срещу Gemini на Google. Но Google на Alphabet, OpenAI и други водещи компании за изкуствен интелект стават все по-внимателни за начините, по които техните чатботове може да увреждат психичното здраве на потребителите.
Нашия източник е Българо-Китайска Търговско-промишлена палaта