Oui, combien de dégâts Skynet a-t-il causés. Je ne pense pas que parler d'un ouvrage qui a publié son premier épisode il y a près de 40 ans (1984) soit gâché, mais il y a quatre décennies, il n'y avait pas d'intelligence artificielle au-delà de petits programmes qui apprenaient un peu et laissaient libre cours à votre imagination. C'est ainsi que la figure de Skynet a été conçue, un programme qui a appris par lui-même et s'est amélioré et amélioré jusqu'à ce qu'il prenne conscience de lui-même, "effrayé" d'apprendre qu'il allait être éteint et mettre fin à l'humanité comme on l'appelait en lançant des missiles entre les États-Unis et la Russie. . Le plus avancé qui existe actuellement, du moins que l'on sache, est ChatGPT4, et ses améliorations sont venues effrayer ou, du moins, agacer.
Mais passons à un point plus réaliste. L'inquiétude des signataires de la lettre ouverte, y compris Elon Musk, ont d'autres préoccupations, ou une sans forme complète. Il leur peur est de l'inconnu, l'une des craintes les plus courantes, est qu'OpenAI et d'autres fondations, programmes et projets améliorent leurs intelligences artificielles comme s'il s'agissait d'une course pour voir qui va plus loin et quand, et cela peut donner des résultats disparates.
ChatGPT 4 à l'honneur
Avec la version < 4 du chatbot OpenAI, les choses semblaient plus "drôles" ou "mignonnes", utilisez le mot que vous préférez. Ils lui demandent des choses et il répond; on vous demande de corriger une section de code et vous le faites ; vous lui demandez la signification d'une lettre d'une chanson ou d'un film et il vous l'explique ; mais ChatGPT 4 est allé plus loin. Vos réponses se sont beaucoup améliorées, et vous pouvez même générer contenu qui pourrait être faux.
Car c'est une des préoccupations qui est évoquée : imaginons que j'écrive un article très détaillé sur pourquoi l'homme n'a jamais atteint la lune. Cet article a de nombreuses visites et est partagé partout, même si dans certains cas c'est pour le critiquer. Plus tard, nous demandons à ChatGPT ce qui s'est passé à ce moment-là, pour nous écrire un article sur cet événement, il nous écrit quelque chose basé sur ce que j'ai écrit et, comme il n'a pas la capacité de détecter fausses nouvelles, écrivez-nous quelque chose de faux. Ceci, ou avec un meilleur exemple, pourrait inonder les réseaux.
6 mois de pause pour étudier le contrôle
Ce qu'il faut, c'est queTous les laboratoires d'IA suspendre pendant au moins 6 mois la formation des systèmes d'IA plus puissants que ChatGPT-4. Cette pause doit être publique et vérifiable, et inclure tous les acteurs clés. Si la pause ne peut pas être décrétée rapidement, les gouvernements devraient intensifier et instituer un moratoire.«.
Tous les laboratoires et les experts indépendants devraient utiliser ce temps pour mettre en œuvre un ensemble de protocoles de sécurité, ce qui pourrait être interprété comme une autre façon de dire qu'il faut écrire des lois similaires aux fameuses lois de la robotique.
N'en est-il pas de même pour les gouvernements ?
Ce qui me frappe personnellement, c'est un point où il dit que, parallèlement, les développeurs d'IA doivent travailler avec les décideurs politiques pour accélérer le développement de l'intelligence artificielle pour les systèmes gouvernementaux. C'est-à-dire, aider les gouvernements avec leur propre intelligence artificielle pouvoir, en quelques mots, contrôler des intelligences artificielles. Faites ce que je dis, pas ce que je fais.
Que la lettre ait été signée par Elon Musk ne me surprend pas. Il a été révélé qu'il a cofondé OpenAI, et il semble qu'après avoir quitté l'entreprise, son succès se fasse mal. Pour le reste, oui, il est vrai que les intelligences artificielles, aussi intelligentes soient-elles, dans la prise de décision ne seraient pas meilleures qu'un enfant de 7 ans, et qu'il leur serait peut-être difficile de différencier le vrai du fausses informations. , donc le but des fausses nouvelles est une possibilité et des mesures doivent être prises. Pour tout le reste, je pense que tant qu'on ne leur donne pas les codes de lancement des missiles, les choses ne s'annoncent pas si mal. J'espère que je ne me trompe pas.