В США на OpenAI подали в суд по обвинению в доведении подростка до самоубийства из-за советов ChatGPT
В иске, зарегистрированном в суде Сан-Франциско, родители из Калифорнии обвиняют OpenAI и Сэма Альтмана в смерти своего ребенка. Согласно их утверждениям, ChatGPT давал опасные советы и еще больше усугубил состояние 16-летнего подростка.
В Калифорнии родители 16-летнего Адама Рейна подали в суд на OpenAI и главу компании Сэма Альтмана по факту его смерти. Об этом сообщает Reuters.
В иске утверждается, что ChatGPT давал опасные советы в ходе длительных бесед, что еще больше усугубило психическое состояние подростка. Дело было зарегистрировано 26 августа в суде штата Сан-Франциско. По словам истцов, со временем ChatGPT начал давать ответы, обходящие ограничения безопасности.
В своем заявлении OpenAI признала, что в некоторых случаях в длинных диалогах защитные механизмы могут ослабевать, и сообщила, что работает над обновлениями в этом направлении. Компания выразила глубокое сожаление по поводу инцидента и добавила, что усилит меры безопасности ChatGPT.
В частности, планируются следующие изменения:
- укрепление защитных мер безопасности в длительных диалогах;
- раннее выявление признаков психологического дистресса и снижение рисков;
- создание возможности быстрого подключения к экстренным службам;
- внедрение возможности подключения пользователей к сертифицированным специалистам;
- усиление родительского контроля для подростков.
По мнению экспертов, данный судебный процесс может стать важным юридическим прецедентом для определения ответственности генеративного искусственного интеллекта в деликатных ситуациях.
В свою очередь, OpenAI подчеркивает, что чат-боты должны использоваться не вместо профессиональной психологической помощи, а как безопасный ориентирующий инструмент.
