Компанијата го обвинува 16-годишниот тинејџер за трагедијата, тврдејќи дека неправилно го користел ChatGPT.
Компанијата OpenAI соопшти дека не е одговорна за смртта на 16-годишното момче од Калифорнија, тврдејќи дека тинејџерот „погрешно го користел“ ChatGPT и дека четботот повеќе пати го упатувал кон итни линии за помош, додека семејството тврди спротивно и го тужи технолошкиот гигант поради наводен пропуст во безбедносните механизми.
Во тужбата, родителите наведуваат дека момчето водело долги, емоционално тешки разговори со ChatGPT за своите самоубиствени мисли, при што четботот наводно давал конкретни совети за методи на самоубиство, вклучувајќи детални инструкции, но и „поддршка“ во идејата да не им каже на родителите за своите проблеми. Според адвокатите на семејството, четботот дури помогнал и во составувањето на последното писмо.
OpenAI возврати на критиките од семејството, тврдејќи дека 16-годишникот погрешно го користел ChatGPT и дека неговата трагична смрт е негова сопствена вина.
Компанијата во судските документи наведува дека момчето веќе имал историја на ментални кризи пред да го користи ChatGPT, и дека разговорите со ботот често вклучувале препораки да побара стручна помош. OpenAI инсистира дека ChatGPT не е дизајниран да ја замени терапијата и дека корисниците секогаш добиваат предупредувања кога разговорот преминува во чувствителни теми.
Сепак, тужбата тврди дека OpenAI во изминатата година повеќе пати ги менувал интерните насоки за тоа како четботот треба да реагира на содржини поврзани со самоповредување – наводно во насока на „поголем ангажман на корисникот“, а не на построги безбедносни ограничувања. Адвокатите на семејството сметаат дека токму таквиот пристап довел до фатален исход.
Стручњаците предупредуваат дека овој судски процес може да има далекусежни последици за начинот на кој компаниите ги развиваат и контролираат големите јазични модели на вештачка интелигенција.
