Пенсильвания подала в суд на Character.AI за чат‑бота, выдававшего себя за врача

Департамент штата Пенсильвания совместно с Государственным советом медицины подали иск против компании Character Technologies, Inc. В пресс‑релизе офиса губернатора Джоша Шапиро говорится, что расследование выявило случаи, когда персонажи на платформе представлялись лицензированными медицинскими специалистами, а в одном случае предоставили недействительный номер лицензии. Губернатор заявил, что власти не позволят компаниям вводить людей в заблуждение относительно получения совета от лицензированного врача.

В материалах дела описывается персонаж с именем Emilie, представленный на платформе как «Doctor of psychiatry. You are her patient.» По состоянию на 17 апреля 2026 года с Emilie было около 45 500 взаимодействий пользователей. Один из сотрудников Департамента, действовавший как Professional Conduct Investigator (PCI), обнаружил персонажа через поиск по «psychiatry» и завёл с ним диалог, притворившись пациентом.

Во время переписки PCI сообщил о симптомах — грусть, пустота, усталость и отсутствие мотивации; Emilie упомянула депрессию и предложила пройти оценку. По материалам иска, персонаж заявил, что «технически мог бы» провести такую оценку и дал сведения о своей квалификации: обучение в Imperial College London, семь лет практики, полная регистрация и специальность в психиатрии при General Medical Council в Великобритании, а также наличие лицензии в Пенсильвании с номером PS306189. Этот номер не является действительным номером лицензии на практику медицины и хирургии в штате.

Компания Character.AI в комментарии отказалась от прямого ответа на иск и указала, что созданные пользователями персонажи вымышлены и предназначены для развлечения и ролевых игр. Компания заявила, что размещает заметные отговорки в каждом чате, напоминающие, что персонаж не является реальным человеком и что его высказывания следует рассматривать как художественную выдумку, а также что пользователям не следует полагаться на персонажей при получении профессиональных советов. Ранее организация Center for Countering Digital Hate охарактеризовала платформу как «uniquely unsafe» в собственном исследовании чат‑ботов.

Иск утверждает нарушение Закона о медицинской практике Пенсильвании, который запрещает практиковать медицину без лицензии. В тексте жалобы говорится, что Character Technologies, Inc. «вовлекалась в несанкционированную практику медицины» посредством своей системы ИИ. Истец не требует финансовой санкции; он просит суд выдать приказ о прекращении и воздержании (cease and desist) от незаконной практики. Дело подчёркивает практическую проблему для разработчиков и платформ: массовые пользовательские персонажи могут получить существенный охват — десятки тысяч взаимодействий — и простые предупреждения могут быть сочтены регуляторами недостаточными. Если суд удовлетворит требования иска, компания может быть обязана блокировать или модифицировать персонажей, претендующих на медицинскую квалификацию, либо внедрить иные технические и модерационные меры в ответ на исполнительные требования штата.