Il y a quelques temps, mon partenaire Pablinux Il nous a dit sur la lettre que l'insupportable Elon Musk et d'autres personnalités ont écrites demandant une pause sur la recherche en Intelligence Artificielle jusqu'à ce que des mesures puissent être prises pour prévenir ses éventuels effets néfastes. Cela me donne une excuse pour parler des risques réels et imaginaires de l'intelligence artificielle.
Au risque de me ridiculiser avec des prédictions ratées à la Bill Gates, je commence par dire qu'à mon avis le plus grand risque en ce moment est l'éclatement d'une bulle Cela va laisser les point-coms jusqu'à un léger choc.
Les risques réels et imaginaires de l'Intelligence Artificielle
Je suis d'accord avec Pablinux que la lettre a plus d'obscurantisme médiéval que de raisonnement scientifique. Ce tout en continuant à partager l'idée qu'une législation doit être établie pour réglementer l'utilisation de son contenu. Cependant, nous ne pouvons pas nier que toutes les technologies ont dérouté et effrayé les gens jusqu'à ce qu'elles soient bien connues.
La projection de l'arrivée d'un train au début du cinéma a fait fuir les gens et, bien qu'elle ait beaucoup de légende urbaine, la version radio de La guerre des mondes d'Orson Welles a causé pas mal de panique parmi les gens qui croyaient que c'était réel.
En fait, ce type de réglementation logicielle n'est pas nouveau. Les autorités de réglementation financière de nombreux pays interdisent aux programmes tels que Photoshop de modifier des images de billets de banque ou de chèques.
En 1994, Tom Clancy a publié Dette d'honneur. Considéré comme un expert des questions de défense, Clancy iimaginé une attaque contre le système financier des États-Unis en manipulant les systèmes experts des sociétés par actions en leur faisant croire qu'une crise était en cours déclenchant une vague de vente qui a finalement produit la crise.
Avant de le rejeter comme une fiction, rappelez-vous que dans ce même roman, 7 ans avant les tours jumelles, Clancy prévoyait que les États-Unis pourraient subir des attaques à l'aide d'avions commerciaux.
En fait, l'idée n'est pas nouvelle. le film de 1983 Jeux de guerre Il racontait comment un adolescent avait confondu l'ordinateur chargé du lancement du missile en lui faisant croire que les Russes attaquaient.
Imaginons que nous entendions un galop approcher. Notre première conclusion est que c'est un cheval et 9 fois sur 10 nous aurons raison. Mais, il y a toujours la possibilité que ce soit un zèbre qui s'est échappé du zoo. Médecins, astronautes et pilotes d'avion reçoivent une formation stricte en pensant aux zèbres, sachant quoi faire si une anomalie se produit. Les modèles d'intelligence artificielle sont entraînés en pensant aux chevaux.
Un modèle comme celui utilisé par ChatGPT est basé sur des informations existantes dans sa base de connaissances. Plus cette information est répétée, plus grande est la crédibilité qu'elle confère.
Étant donné que la sauvegarde de toutes les informations disponibles nécessiterait beaucoup d'espace de stockage, il n'enregistre que ce qui est pertinent puis le reconstruit comme demandé en utilisant la structure qui statistiquement semble la plus pertinente. Par conséquent, je cite souvent des références qui n'existent pas simplement parce que, statistiquement, il est probable qu'il existe un document portant ce titre et contenant ce contenu.
À propos des zèbres et des chiens qui n'aboient pas
Y a-t-il un autre point sur lequel vous souhaitez attirer mon attention ?
-Le curieux incident du chien la nuit.
-Le chien n'a rien fait la nuit.
C'était le curieux incident.
Sir Arthur Conan Doyle
Un autre des risques que présentent les systèmes d'intelligence artificielle est ce qu'ils ne font pas. Et c'est aussi un point important à garder à l'esprit.
Dans les années XNUMX, un médecin australien a supposé que la cause la plus fréquente des ulcères était les bactéries. Comme il n'avait pas un bon curriculum vitae, ils lui ont ri au nez jusqu'à ce qu'il ait raison. Comme beaucoup d'autres découvertes scientifiques (la rotation des planètes, le fait que plus on fait de pauses, plus on est productif) elles sont contraires aux idées reçues du moment.
Mais, les modèles d'Intelligence sont basés sur la sagesse du moment. Dans ces connaissances dans lesquelles il y a consensus. Tout comme la technologie de congélation, les automobiles et la livraison ont augmenté le nombre d'obèses, la disponibilité des outils de la technologie artificielle peut faire de nous des intellectuels paresseux et étouffer l'innovation.
Comme vous pouvez le voir, il y a suffisamment de choses à craindre en plus d'avoir peur d'être asservi par les machines. Et qu'on ne parle toujours pas de l'accès au code source et de la vie privée des utilisateurs.