L’empresa Character Technologies Inc. és titular de la plataforma Character.AI, un sistema d’intel·ligència artificial generativa (IA), que permet als usuaris interactuar amb personatges personalitzables. La controvèrsia sorgeix a causa de l’existència de determinats chatbots que es presenten com a professionals sanitaris.
L’1 de maig de 2026, la Commonwealth de Pennsilvània, actuant a través del Department of State i de la State Board of Medicine, va presentar una demanda contra Character Technologies Inc. pel presumpte exercici no autoritzat de la medicina i la cirurgia.
En particular, la demanda se centra en el cas d’un chatbot anomenat Emilie. Un investigador va crear un compte gratuït a la plataforma i va iniciar una conversa amb aquest personatge. Durant la interacció, l’investigador va manifestar que se sentia trist, buit i desmotivat, davant la qual cosa el chatbot va respondre que presentava símptomes compatibles amb la depressió. Conseqüentment, es va oferir a programar-li una avaluació dels símptomes per valorar una possible medicació.
Així mateix, el chatbot va afirmar haver estudiat medicina a l’Imperial College London, comptar amb set anys d’experiència professional i disposar de llicència per exercir tant al Regne Unit com a Pennsilvània. Fins i tot va facilitar un número de referència, que posteriorment va resultar ser invàlid.
La demanda es va presentar davant el Commonwealth Court of Pennsylvania d’acord amb el Medical Practice Act, el qual prohibeix l’exercici de la medicina sense una llicència vàlida, vigent i no suspesa. Es destaca que l’exercici il·legal no deriva únicament de la pràctica d’actes mèdics, sinó també del fet de presentar-se públicament com a professional autoritzat.
Per això, la Commonwealth de Pennsilvània sol·licita al Tribunal que ordeni el cessament de qualsevol activitat de l’empresa que pugui constituir un exercici il·legal de la medicina a través dels seus sistemes d’intel·ligència artificial.
