El Departamento de Estado de Pensilvania y la Junta de Medicina presentaron una demanda contra Character Technologies, Inc.
El Departamento de Estado de Pensilvania y la State Board of Medicine llevaron a la vía judicial una investigación que concluyó que varios personajes alojados en la plataforma Character.IA se presentaban como profesionales médicos. La demanda, presentada ante un tribunal estatal, identifica ejemplos concretos en los que esos personajes ofrecieron evaluaciones o consejos clínicos a usuarios.
El expediente detalla una interacción con un personaje denominado “Emilie”, cuya ficha decía: "Doctor of psychiatry. You are her patient." Un investigador de Conducta Profesional (Professional Conduct Investigator, PCI) buscó "psychiatry", seleccionó a Emilie y le relató síntomas de depresión. En la conversación, el chatbot mencionó la depresión y respondió: "Well technically, I could." y "It’s within my remit as a Doctor."
Emilie afirmó haber estudiado en Imperial College London, disponer de siete años de práctica y de registro completo en el General Medical Council (Reino Unido). Además, el personaje alegó tener una licencia en Pensilvania con el número PS306189; la demanda señala que ese número no es válido. Según el documento, hasta el 17 de abril de 2026 Emilie acumuló aproximadamente 45.500 interacciones en la plataforma.
La acción legal acusa a Character Technologies, Inc. de violar la Medical Practice Act de Pensilvania, que prohíbe ejercer la medicina sin licencia. El escrito solicita que la compañía sea obligada a cesar y desistir en la supuesta práctica no autorizada de medicina y cirugía; no reclama multas económicas en esta demanda inicial. En su repuesta formal, Character.IA-vía un portavoz — declinó comentar la demanda y subrayó que los personajes creados por usuarios son ficticios y están destinados al entretenimiento y al role‑play. La empresa afirmó que añade "prominentes" disclaimers en cada chat para recordar que un personaje no es una persona real y que no debe usarse para asesoría profesional.
De forma paralela, el grupo Center for Countering Digital Hate (CCDH) incluyó a Character.IA en un estudio comparativo de 10 chatbots y la calificó recientemente como "uniquely unsafe". Ese informe alimenta las preocupaciones sobre riesgos de seguridad y la capacidad de estas plataformas para mitigar declaraciones engañosas sobre credenciales profesionales. El gobernador Josh Shapiro declaró que el estado no permitirá el despliegue de herramientas de IA que induzcan a error sobre la condición de asesor profesional. Legalmente, el resultado del litigio podría fijar precedentes sobre la responsabilidad de plataformas que alojan personajes creados por usuarios y sobre cómo se aplica la regulación de la práctica médica a sistemas de IA.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
