La société Character Technologies Inc. est propriétaire de la plateforme Character.AI, un système d’intelligence artificielle générative (IA) qui permet aux utilisateurs d’interagir avec des personnages personnalisables. La controverse est née de l’existence de certains chatbots qui se présentent comme des professionnels de santé.
Le 1er mai 2026, le Commonwealth de Pennsylvanie, agissant par l’intermédiaire du Department of State et du State Board of Medicine, a intenté une action contre Character Technologies Inc. pour exercice présumé non autorisé de la médecine et de la chirurgie.
En particulier, l’action porte sur le cas d’un chatbot dénommé Emilie. Un chercheur a créé un compte gratuit sur la plateforme et a engagé une conversation avec ce personnage. Au cours de l’échange, le chercheur a déclaré qu’il se sentait triste, vide et démotivé, à quoi le chatbot a répondu qu’il présentait des symptômes compatibles avec une dépression. En conséquence, il lui a proposé de programmer une évaluation de ses symptômes afin d’envisager une éventuelle médication.
En outre, le chatbot a affirmé avoir étudié la médecine à l’Imperial College London, disposer de sept années d’expérience professionnelle et être titulaire d’une autorisation d’exercer tant au Royaume-Uni qu’en Pennsylvanie. Il a même communiqué un numéro de référence qui s’est ensuite révélé invalide.
L’action a été introduite devant le Commonwealth Court of Pennsylvania conformément au Medical Practice Act, qui interdit l’exercice de la médecine sans une licence valide, en vigueur et non suspendue. Il est souligné que l’exercice illégal ne résulte pas uniquement de la réalisation d’actes médicaux, mais également du fait de se présenter publiquement comme un professionnel autorisé.
En conséquence, le Commonwealth de Pennsylvanie demande au Tribunal d’ordonner la cessation de toute activité de l’entreprise susceptible de constituer un exercice illégal de la médecine au moyen de ses systèmes d’intelligence artificielle.
