Deuxième procès contre l'IA
Pablinux d'hier nous a avertis sur le soin qu'il faut apporter aux réponses que Bard, L'outil d'intelligence artificielle de Google. Il semble que, du côté de Microsoft, son moteur de recherche Bing et ChatGPT les choses ne vont pas beaucoup mieux puisqu'ils sont les protagonistes du premier procès contre un moteur de recherche basé sur l'Intelligence Artificielle.
Les moteurs de recherche ont déjà été dénoncés dans divers pays pour les résultats qu'ils affichent. Dans certains cas, les tribunaux les ont acquittés et dans d'autres, ils ont été tenus pour responsables de l'indexation de documents publiés par des tiers. Mais, maintenant, nous sommes confrontés à une situation pour laquelle il n'y a pas de précédents.
Le premier procès contre un moteur de recherche basé sur l'Intelligence Artificielle
Tout a commencé quand quelqu'un a pensé à rechercher Bing, le moteur de recherche Microsoft qui utilise la technologie derrière ChatGPT pour Jeffery Battle. Le problème est qu'il y en a deux suffisamment importants pour apparaître dans les moteurs de recherche.
L'un est un chef d'entreprise respectable et professeur d'université retraité avec les honneurs de l'US Air Force, le second, qui porte également le deuxième prénom de Leon, est en prison pour avoir voulu rejoindre des terroristes islamistes.
Pour Bing en revanche, c'est le bon professeur qui est en prison pour avoir voulu rejoindre les talibans.. Et, le « cependant » est littéral. C'est la transition choisie par l'IA pour joindre les deux biographies, impliquant sans équivoque qu'il s'agit de la même personne.
Le professeur Battle a présenté demande pour diffamation et il est tellement sûr de son succès qu'il a décidé de se passer d'avocat, ce que la législation de ce pays permet. Bien que les analystes ne soient pas aussi convaincus des possibilités.
Selon la loi américaine :
Aucun fournisseur ou utilisateur d'un service informatique interactif ne doit être considéré comme un éditeur ou locuteur d'informations fournies par un autre fournisseur de contenu d'informations."
Mais, le demandeur affirme qu'il a non seulement informé Microsoft du problème, lors du traitement des informations, il perd l'immunité de désignation pour devenir émetteur.
Il s'agit du deuxième procès contre un outil d'Intelligence Artificielle, le premier, dirigé contre OpenAI, pour avoir fourni de fausses informations sur un procès.
L'accusé que personne n'a accusé
Fred Riehl est un journaliste qui a décidé de s'abonner à ChatGPT pour se faciliter la tâche. Un jour, il a décidé de demander à l'outil de lui faire un résumé d'un procès et lui a fourni le lien où il pourrait le trouver, nous parlons du lien officiel du demandeur.
La réponse a été que le procès consistait à accuser un ancien directeur financier (qu'il nomme) de détournement de fonds. Le problème est que cette personne n'a jamais occupé ce poste et que le procès n'a rien à voir avec un détournement de fonds.
Riehl, qui je suppose savait de quoi il s'agissait, il lui a demandé de citer le paragraphe correspondant accusant Walters, ce que ChatGPT a fait à sa grande surprise.
Lorsque le journaliste lui a demandé de montrer l'intégralité du procès, ChatGPT a produit un texte qui n'a rien à voir avec l'original, pas même le numéro de dossier correspondant.
En tout état de cause, selon les experts, la possibilité que M. Walters remporte le demande c'est douteux. Le crime de diffamation exige que :
- Le demandeur peut prouver que le défendeur a agi en sachant que la déclaration était fausse ou savait que la déclaration pouvait être fausse, mais qu'il a omis d'agir en conséquence de cette connaissance.
- Le demandeur peut prouver qu'il a été lésé par la déclaration. Des exemples de cela seraient la perte d'emploi, la perte de relations familiales ou professionnelles.
Sur le site ChatGPT, du moins dans sa version gratuite, il avertit que les résultats peuvent contenir des erreurs. Si OpenAI est conscient de l'ampleur que ces erreurs peuvent avoir, il devrait être testé. Ce qui est certain c'est que pour le moment je ne vais pas changer d'avocat pour une IA, ChatGPT ne semble pas pouvoir éviter d'être poursuivi.