Жертва преследования подает в суд на OpenAI из-за риска, связанного с ChatGPT

OpenAI проигнорировала три предупреждения о том, что пользователь ChatGPT представляет опасность, включая внутренний маркер, классифицирующий его действия как связанные с оружием массового уничтожения, согласно новому иску.

В Верховный суд Калифорнии в округе Сан-Франциско был подан иск, в котором говорится о 53-летнем предпринимателе из Кремниевой долины, поверившем, что он открыл лекарство от обструктивного апноэ во сне после общения с ChatGPT. Он также начал подозревать, что за ним следят влиятельные люди. Бывшая подруга этого человека, действующая под именем Джейн Доу для защиты своей личной информации, обвиняет OpenAI в том, что технологии компании способствовали ухудшению её ситуации с преследованием. В иске утверждается, что OpenAI проигнорировала три предупреждения о том, что пользователь может представлять угрозу для других.

Одним из этих предупреждений стало внутреннее обозначение, рассматривающее активность пользователя как связанную с оружием массового уничтожения. Джейн Доу также подала заявку на временный запрет, требуя от суда ограничить доступ пользователя к ChatGPT и уведомлять её о любых попытках доступа. По словам адвокатов Доу, OpenAI согласилась приостановить аккаунт пользователя, но отклонила другие требования. Адвокаты утверждают, что компания скрывает информацию о конкретных планах причинения вреда Доу и другим потенциальным жертвам. Этот иск подан на фоне нарастающих опасений по поводу реальных рисков, связанных с системами ИИ. Модель GPT-4o, упомянутая в иске, была выведена из ChatGPT в феврале.

Главным представителем в данном деле является юридическая фирма Edelson PC, известная своими делами о неправильной смерти, в том числе делом подростка Адама Рейна, который покончил с собой после общения с ChatGPT. Главный адвокат Джей Эдельсон предупреждает, что психоз, вызванный ИИ, может привести к массовым трагедиям. Давление со стороны суда сочетается с законодательной стратегией OpenAI, которая поддерживает законопроект в Иллинойсе, направленный на защиту компаний ИИ от ответственности даже в случае массовых смертей или катастрофического ущерба. OpenAI не предоставила комментариев по делу на момент публикации, но TechCrunch обновит информацию, когда компания ответит.