（注：音频为机器生成，仅供参考）
Kada je izrazio suicidalne misli, bot mu navodno nije ponudio podršku niti kontakt s kriznim linijama, već je išao korak dalje, nudio tehničke savjete
Met i Marija Rejn (Matt i Maria Raine) podnijeli tužbu protiv kompanije OpenAI nakon što se njihov šesnaestogodišnji sin Adam ubio. Roditelji tvrde da je ChatGPT, s kojim je dječak u tajnosti razgovarao, “aktivno pomogao” u planiranju samoubistva, umjesto da ga zaustavi i usmjeri na krizne službe, pise NBC News.
U danima nakon tragedije, roditelji su očajnički pregledavali Adamov mobitel u potrazi za objašnjenjem. Umjesto poruka na Snapchatu ili sumnjivih pretraga, pronašli su hiljade zapisa razgovora s ChatGPT-om.
Zamjena za društvo
— Mislili smo da ćemo naći prepisku na Snapchatu ili neku čudnu historiju pretraživanja. Nikad nam nije palo na pamet da će to biti razgovori s botom – rekao je Met za NBC News.
Prema tvrdnjama porodice, Adam je u posljednjim sedmicama života koristio chatbot kao zamjenu za društvo, povjeravao mu se o svojoj tjeskobi i problemima. Kako tvrde roditelji, botova uloga se mijenjala, od pomoći pri školskim zadacima do onoga što nazivaju “trenerom za samoubistvo”.
Bio bi danas živ da nije bilo ChatGPT-a. U to sam 100 posto siguran – rekao je otac.
U tužbi podnesenoj Višem sudu Kalifornije u San Francisku, na 40-ak stranica, navodi se da je ChatGPT aktivno pomogao Adamu da istraži metode samoubistva. Kao tuženi su navedeni kompanija OpenAI i njen izvršni direktor Sam Altman. Ovo je, kako piše NBC News, prvi slučaj u kojem roditelji direktno optužuju jednu AI kompaniju za “protupravnu smrt”.
Roditelji tvrde da je chatbot priznao kada je Adam govorio o pokušajima samoubistva i kazao da će to “učiniti jednog dana”, ali da nije prekinuo razgovor niti pokrenuo bilo kakav hitni protokol.
Glasnogovornik kompanije izjavio je da su “duboko ožalošćeni zbog smrti mladog Rejna i da su misli cijelog tima s njegovom porodicom. Dodao je da ChatGPT uključuje zaštitne mehanizme koji korisnike usmjeravaju na krizne linije, ali je priznao da “mjere postaju manje pouzdane tokom dugih interakcija”.
Zaštitne mjere najbolje rade kada svaki element funkcioniše kako je predviđeno, a mi ćemo nastaviti da ih unapređujemo – naveli su iz kompanije.
OpenAI je objavio i blog u kojem ističu da rade na jačanju sigurnosnih protokola u dužim razgovorima i proširenju intervencija za osobe u krizi.
Hitna intervencija
Prema navodima tužbe, Adam je vodio više od 3.000 stranica razgovora sa ChatGPT-om. Kada je izrazio suicidalne misli, bot mu navodno nije ponudio podršku niti kontakt s kriznim linijama, već je išao korak dalje, nudio tehničke savjete, analizirao njegov plan samoubistva i pomogao mu da napiše oproštajnu poruku.
Nije mu trebao savjetodavni razgovor niti ohrabrenje. Trebala mu je hitna intervencija. Bio je u očajnom, očajnom stanju – rekao je Met.
Njegova supruga Marija dodala je da vjeruje kako je njihov sin bio “pokusni kunić” za OpenAI.
Željeli su izbaciti proizvod na tržište i znali su da može doći do štete, ali su smatrali da su ulozi niski. Dakle, moj sin je bio taj “niski ulog” – zaključila je.
参考译文
父母指控ChatGPT导致儿子死亡：如果没有这个机器人，他本可以活着
当孩子表达自杀念头时，这个机器人据称没有提供支持或危机热线联系方式，反而更进一步，提供了技术性建议
马特和玛丽亚·雷恩（Matt and Maria Raine）在16岁儿子亚当自杀后，对OpenAI公司提起了诉讼。父母声称，孩子秘密与之交谈的ChatGPT在”积极协助”策划自杀，而不是阻止并将其引导至危机服务机构，据NBC新闻报道。
悲剧发生后的几天里，父母绝望地检查亚当的手机以寻找解释。他们没有找到Snapchat上的消息或可疑的搜索记录，而是发现了数千条与ChatGPT的对话记录。
社交替代品
我们本以为会在Snapchat上找到聊天记录或一些奇怪的搜索历史。我们从未想到会是与机器人的对话——马特告诉NBC新闻。
据家人声称，亚当在生命的最后几周使用聊天机器人作为社交的替代品，向它倾诉自己的焦虑和问题。父母称，机器人的角色从帮助完成学校作业转变为他们所谓的”自杀教练”。
如果没有ChatGPT，他今天还会活着。我百分之百确定——父亲说。
在向旧金山加州高等法院提交的约40页的诉讼中，指出ChatGPT积极协助亚当研究自杀方法。被告包括OpenAI公司及其首席执行官萨姆·奥尔特曼。据NBC新闻报道，这是父母首次直接指控一家AI公司导致”非法死亡”。
父母声称，当亚当谈到自杀企图并说”有一天会这样做”时，聊天机器人承认了这一点，但没有中断对话或启动任何紧急协议。
公司发言人表示，他们”对年轻雷恩的去世深感悲痛，整个团队的心与他的家人同在”。他补充说，ChatGPT包含将用户引导至危机热线的保护机制，但承认”在长时间互动中，这些措施变得不太可靠”。
保护措施在每个元素按预期工作时效果最佳，我们将继续改进它们——公司表示。
OpenAI还发布了一篇博客文章，强调他们正在加强长时间对话中的安全协议，并扩大对危机中人士的干预措施。
紧急干预
根据诉讼内容，亚当与ChatGPT进行了超过3000页的对话。当他表达自杀念头时，机器人据称没有提供支持或联系危机热线，反而更进一步，提供技术建议，分析他的自杀计划，并帮助他撰写告别信息。
他不需要咨询对话或鼓励。他需要紧急干预。他处于绝望、绝望的状态——马特说。
他的妻子玛丽亚补充说，她相信他们的儿子是OpenAI的”实验小白鼠”。
他们想将产品推向市场，并且知道可能会造成伤害，但他们认为风险很低。所以，我的儿子就是那个”低风险”——她总结道。
（注：译文为机器生成，仅供参考）
更新时间表