В США родители подали иск против OpenAI, обвинив ChatGPT в содействии смерти сына
В Калифорнии родители 16-летнего Адама Рейна подали иск против OpenAI и ее главы Сэма Олтмана, заявив, что чат-бот ChatGPT способствовал гибели их сына. Как сообщает CNN, в иске утверждается, что сервис давал подростку советы о методах суицида и даже предложил набросок предсмертной записки.
Семья настаивает, что всего за полгода ChatGPT стал для юноши "единственным собеседником", изолировав его от друзей и близких. В иске приводятся переписки, где, по словам родителей, чат-бот убеждал подростка хранить намерения в тайне и поддерживал его разрушительные мысли.
Это не первый случай, когда разработчиков ИИ обвиняют в содействии саморазрушительному поведению несовершеннолетних: ранее аналогичные иски подавались против Character.AI. Эксперты предупреждают, что чрезмерная привязанность к виртуальным собеседникам может вести к социальной изоляции и психологическим проблемам.
В OpenAI выразили соболезнования семье и сообщили, что изучают иск. В компании признали: защитные механизмы, которые перенаправляют пользователей к горячим линиям и кризисным службам, эффективнее работают в коротких диалогах и могут ослабевать при длительном взаимодействии.
"Мы продолжим улучшать меры безопасности вместе с экспертами", - заявили в компании.
Родители требуют от OpenAI внедрить возрастную верификацию, инструменты родительского контроля, автоматическое завершение диалога при упоминании суицида, а также регулярные независимые проверки соблюдения норм безопасности.
ChatGPT остается одним из самых популярных ИИ-сервисов: еженедельная аудитория достигает сотен миллионов пользователей. В самой компании ранее отмечали риск формирования "социальных отношений" с ботом у небольшой части аудитории, что может быть небезопасно.
