Против OpenAI подали новый иск после того, как 19-летний Сэм Нельсон принял смесь кратома, «ксанакса» и алкоголя после консультаций с ChatGPT и не выжил. Иск от имени родителей студента подан в США. Об этом сообщает издание Ars Technica.
Семья утверждает, что Нельсон годами использовал ChatGPT как основной источник информации и доверял ответам сервиса. По версии истцов, модель ChatGPT 4o фактически выступала для подростка «консультантом по наркотикам», советуя дозировки и комбинации веществ, а также поощряя эксперименты.
В иске говорится, что чат-бот предупреждал о рисках смешивания препаратов, однако позже рекомендовал комбинацию кратома и «ксанакса» как «одно из лучших решений», не упомянув риск летального исхода. Родители также заявили, что ChatGPT не распознал признаки тяжелого состояния подростка, включая проблемы со зрением и икоту, и не посоветовал срочно обратиться за медицинской помощью.
В OpenAI назвали ситуацию трагической и заявили, что модель ChatGPT 4o больше недоступна, а современные версии сервиса получили дополнительные меры безопасности. В компании подчеркнули, что ChatGPT не заменяет медицинскую помощь и сейчас использует механизмы для выявления опасных запросов и перенаправления пользователей к реальным специалистам.
Семья Нельсона требует привлечь OpenAI к ответственности, уничтожить модель ChatGPT 4o и ограничить обсуждение незаконных наркотиков в сервисе. Также истцы хотят добиться независимого аудита ИИ-инструментов компании.
Ранее российские компании предупредили об уязвимостях в ИИ-инструментах для написания ПО.
