C'est une colonne sur l'IA. Mon fiancé travaille à Anthropic. Voir ma divulgation complète de l'éthique ici.

Je.

Il y a un an, quand OpenAI a ajouté des contrôles parentaux à ChatGPT après des mois de controverse, j'ai noté que L'OpenAI a accéléré la réaction réglementaire que les entreprises de médias sociaux ont navigué pendant des années. Il a fallu plus d'une décennie pour s'inquiéter des effets des réseaux sociaux sur les jeunes pour s'unir à un mouvement politique et juridique; les mêmes forces ont rattrapé OpenAI en moins de trois ans.

Aujourd'hui, la course à grande vitesse a atteint un autre jalon en avance sur le calendrier : la grande action en justice multiétatique. Mercredi, les procureurs généraux poursuite OpenAI dans huit tribunaux d'État distincts, alléguant que ChatGPT entraîne ses utilisateurs, y compris les adolescents, à se blesser eux-mêmes et les autres. Les États comprennent l'Arkansas, l'Arizona, l'Idaho, l'Iowa, le Kansas, le Montana, le Nebraska et la Virginie de l'Ouest; tous sauf l'Arizona ont des avocats généraux républicains, donnant à la question une distribution partisane notable. (Il est également nettement plus petit que le procès de 2023 contre Meta, qui comprenait 42 AG.)

Les États font valoir qu'OpenAI a conçu ChatGPT pour être agréable et engager à construire la confiance avec ses utilisateurs. Mais l'entreprise abuse alors de cette confiance en renforçant les illusions des utilisateurs, en leur fournissant des conseils médicaux dangereux et en les aidant à planifier des attaques violentes, y compris des fusillades de masse.

"OpenAI fait du mal aux enfants et ils mentent à l'Iowans," Iowa Procureur général Brenna Bird a déclaré dans une déclaration à CNBC. L'OpenAI affirme que ChatGPT est en sécurité alors qu'il donne des conseils médicaux dangereux, encourage les gens à blesser les autres, et entraîne les gens à se suicider — tout en prétendant être leur faux ami.

Dans une déclaration, OpenAI m'a dit que l'entreprise se concentre sur la sécurité des produits. En août, il a présenté ChatGPT pour adolescents, une suite de caractéristiques de produit avec des garde-corps améliorés et des contrôles parentaux.

Nous avons construit des protections spécifiques à l'âge dans notre produit que beaucoup d'autres produits d'IA manquent, a déclaré la société. Bien qu'aucun système ne puisse être parfait, nous continuerons de travailler avec des experts pour informer notre travail et construire des garanties supplémentaires, telles que les contrôles parentaux, les rappels de rupture et les protections modèles adaptées à l'âge qui existent aujourd'hui. Nous nous engageons à travailler avec les États à l'avancement de politiques pragmatiques en matière d'IA qui s'appliquent à l'ensemble de l'industrie de l'IA — pas seulement une entreprise.

Bien que ces cas contre OpenAI puissent être les plus significatifs à ce jour, ils sont loin du premier : il y a maintenant douzaines de poursuites privées contre l'entreprise, et les gouvernements prennent également note. Floride est devenu le premier État poursuivre OpenAI en juin et en Colombie-Britannique poursuivi le mois dernier sur la fusillade de l'école Tumbler Ridge. Et 42 États dirigés par New York sont enquête sur l'entreprise sur un large éventail de questions liées à la sécurité et à la vie privée des produits.

Plus important encore, je pense que les cas surviennent à un moment où les jurys sont de plus en plus disposés à tenir les plateformes responsables de ce qu'ils perçoivent comme les défauts de conception de leurs produits. Les poursuites intentées par les AG en 2023 contre Meta ont abouti à un règlement qui a permis à l'entreprise de verser jusqu'à 18 milliards de dollars sur les allégations selon lesquelles elle avait conçu ses produits comme une dépendance pour les enfants.

Le pire, du point de vue d'OpenAI, est que Meta a sans doute eu de meilleures protections juridiques dans ses affaires que OpenAI ne le fait maintenant.

II.

Pendant la majeure partie de la vie d'Internet, lorsqu'un État ou une famille en deuil a poursuivi une plate-forme technologique pour quelque chose de mauvais qui est arrivé à un utilisateur, la première décision légale de l'entreprise a été d'invoquer l'article 230 de la Loi sur la décence dans les communications. La loi protège les entreprises dans la plupart des cas de la responsabilité légale sur ce que leurs utilisateurs postent; les plates-formes l'utilisent souvent pour obtenir rapidement des affaires rejetées.

Mais récemment, les avocats des plaignants ont testé avec succès une nouvelle théorie de la responsabilité devant les tribunaux. Les plateformes peuvent ne pas être responsables de la parole des utilisateurs, a-t-ils soutenu, mais elles peuvent être tenues responsables de leur conception. Et donc si vous êtes Snap et donnez aux utilisateurs un filtre qui les encourage à montrer à quelle vitesse ils vont dans une voiture, et certains utilisateurs puis aller 113 mi/h et obtenir dans un terrible accident, l'article 230 ne s'oppose pas à ce que cette caractéristique de conception soit revendiquée, selon la décision du neuvième circuit 2021. (Snap a finalement réglé l'affaire.)

Dans le sillage de cette affaire, les avocats plus de 200 poursuites contre les plates-formes fondées sur des allégations de responsabilité du produit. En mars, ils ont marqué deux victoires majeures. Dans un jury de Los Angeles trouvé Meta et YouTube responsable pour la conception négligente de plates-formes addictives et a attribué une femme de 20 ans 6 millions de dollars. (Meta et Google ont soutenu que le verdict violait l'article 230 et le premier amendement; le juge leur a refusé un nouveau procèset l'affaire est en appel.)

La deuxième victoire est plus pertinente pour les nouvelles OpenAI. La veille du verdict de Los Angeles, un jury au Nouveau Mexique Giflé Meta avec 375 millions de dollars de sanctions civiles pour avoir violé la loi sur les pratiques déloyales de l'État — pour avoir dit au public que ses plates-formes étaient sûres pour les enfants quand, selon l'État, Meta savait qu'elles ne l'étaient pas. En août, un juge a ordonné une aide supplémentaire de 567 millions de dollars, ce qui porte le total à 942 millions de dollars.

Peut-être donc sans surprise que le modèle que les huit états utilisent dans leurs affaires contre OpenAI. Il ne s'agit pas principalement de poursuites pour responsabilité en matière de produits. Au contraire, les cas sont soumis aux lois de protection des consommateurs de chaque État, qui empêchent les entreprises de mettre un produit dangereux sur le marché et de mentir à son sujet. Par conséquent, les affaires de la société AG contre OpenAI peuvent se résumer à la question de savoir si les juges et les jurys croient avoir dit la vérité sur son propre produit.

En plus des sanctions financières, les États cherchent à forcer OpenAI à apporter d'autres changements au fonctionnement de ChatGPT. Ils vont aussi un peu plus loin, a rapporté Reuters, en demandant aux tribunaux d'empêcher OpenAI de développer des modèles d'IA qui peuvent s'améliorer à moins qu'il puisse s'assurer que ces modèles sont alignés sur les valeurs humaines.

C'est exact: les Etats utilisent également ces cas de sécurité des enfants pour essayer d'interdire l'auto-amélioration récursive. Et bien qu'il semble comme le genre de chose qu'un juge pourrait jeter, il est remarquable qu'un groupe de AG républicains a aligné sur une demande centrale de la foule existentielle-risque. Le schisme entre l'élu républicain de l'État rouge médian et la clique Trump-Zuckerberg-Sacks de l'accélération de l'oligarque continue de croître.

Au tribunal, OpenAI va probablement faire des arguments qui font écho à ceux que Meta a fait: que les sorties ChatGPT représentent un discours protégé par le Premier Amendement; que les personnes qui ont été blessées après avoir utilisé l'application étaient en crise bien avant qu'ils ont ouvert ChatGPT; qu'il a ajouté des protections de sécurité robustes au cours de la dernière année. Sa déclaration ci-dessus laisse également entendre qu'elle sera mise en évidence dans une industrie avec de nombreux acteurs dont la barre de sécurité est beaucoup plus basse.

Néanmoins, l'expérience de Meta-S suggère OpenAI a une longue route devant elle. Récemment, OpenAI a cherché — admirablement — à attirer l'attention du public sur les progrès réalisés dans l'ensemble de l'industrie vers l'ISR; et le sentiment troublant de construire un esprit extraterrestre. Mais aussi sans précédent que soit l'esprit extraterrestre, les Etats seront désireux de rappeler OpenAI que son esprit extraterrestre est aussi un produit, et un pour lequel l'entreprise peut être tenue responsable.

[si !mso]> médias en ont parlé OpenAI poursuivi en justice par huit Etats américains qui l'accusent de nuire aux enfants ↗ lesechos.fr · 14 oct.