Prioriser les profits plutôt que la sécurité des utilisateurs. OpenAI et Sam Altman font face à une plainte de l’État américain de Floride qui les accuse d’avoir négligé la protection des mineurs et minimisé les risques associés à ChatGPT.

La Floride a une dent contre OpenAI et son cofondateur-patron, Sam Altman : c’est le premier État américain à poursuivre l’entreprise (PDF), par l’intermédiaire de son procureur général James Uthmeier. Bien sûr, le labo IA a déjà été la cible de plaintes aux États-Unis, mais elles provenaient de particuliers (comme Elon Musk), d’auteurs, de médias, ainsi que d’autorités publiques comme la FTC (le régulateur américain de la protection des consommateurs).

ChatGPT, attention danger

La Floride elle-même avait lancé une enquête criminelle sur OpenAI début avril autour d’une fusillade dans une université. Mais cette fois, on passe à l’étape du procès civil et Sam Altman est pris dans la nasse. L’État accuse l’entreprise et son dirigeant de tromper les consommateurs en présentant ChatGPT comme sûr, fiable et adapté aux adolescents.

Le procureur général allègue que ChatGPT est dangereux pour les mineurs, que le service est susceptible de créer une dépendance, qu’il renforce les délires ou les croyances erronées, qu’il a joué un rôle dans plusieurs suicides, qu’il peut être utilisé pour préparer des fusillades et des crimes violents, et que les garde-fous pour protéger les enfants sont insuffisants. Le marketing d’OpenAI exagèrerait également les capacités du service IA, en le présentant comme un outil fiable pour les finances, la gestion d’entreprise, la recherche ou la santé. N’en jetez plus.

La plainte multiplie les exemples de crimes et de suicides imputés à ChatGPT ces derniers mois. Elle cite également la fusillade à l’université d’État de Floride qui fait l’objet d’une plainte pénale. L’État demande que les pratiques d’OpenAI soient jugées trompeuses par la justice, que certaines de ses activités soient interdites ou limitées en Floride, ainsi que des sanctions financières et la mise en cause personnelle de Sam Altman, ce qui est inhabituel dans ce type de procédure.

Sam Altman visé directement

La Floride tient en effet Sam Altman personnellement responsable des dommages causés par ChatGPT aux résidents de l’État. En cause : la conduite « téméraire et délibérée » du dirigeant et son « mépris total pour les risques que le comportement [d’OpenAI] fait peser sur la vie humaine ». Le procureur général s’appuie sur un long portrait consacré à Sam Altman dans le New Yorker, dont on s’était fait l’écho. Il en ressortait d’après les témoignages que le PDG avait une certaine tendance à s’arranger avec la vérité, sans se préoccuper des conséquences de ses mensonges.

« OpenAI et [Sam] Altman ont ignoré les alertes de sécurité, qu’elles viennent de l’intérieur ou de l’extérieur de l’entreprise. Ils ont exposé les enfants à des risques majeurs et permis à un produit dangereux d’être utilisé par des millions de Floridiens », a attaqué James Uthmeier durant une conférence de presse.

• Algorithmique 1/6 : Intelligence sans conscience

L’entreprise a réagi par un communiqué qui ne répond pas directement aux accusations de l’État. « Nous pensons que les mineurs doivent bénéficier d’une protection renforcée », a ainsi expliqué un porte-parole, qui déroule les différents mécanismes mis en place dernièrement pour encadrer l’utilisation de ChatGPT par les plus jeunes. « Ces dispositifs ne feront pas revenir les victimes, mais nous restons déterminés à améliorer la sécurité de nos produits. »

• Suicide après discussions avec ChatGPT : OpenAI rejette la responsabilité sur le défunt

Une plainte ne fait pas un procès, et encore moins une éventuelle condamnation. Néanmoins, cette première aux États-Unis pourrait pousser d’autres États à emboîter le pas.