Estem en un moment en què setmana sí setmana no surt una nova notícia sobre alguna cosa nova amb intel·ligència artificial. Google? Ja ha llançat diverses cosetes, encara que s'ho està prenent amb relativa calma. Apple? Es diu que iOS 18 serà el llançament més gran de la seva història per la seva IA, probablement Apple GPT. Microsoft? Només li falta que el seu proper sistema operatiu sigui wIAndows 12. Però actualment totes semblen tenir un problema comú.
En els darrers dies he llegit sobre un nou cercador que el que fa és, depenent del que introduïm, examinar la web, crear un article amb les dades més rellevants i presentar-nos-ho llest per llegir. El problema és que de vegades falla i hem de comprovar que el que ens mostra és cert. Per tant, i no són les meves paraules, encara que hi estic d'acord, és “inútil”.
La intel·ligència artificial tendeix a inventar-se coses
Hi ha molt que sí que fan bé, però no hem de pensar que alguna cosa generada per intel·ligència artificial és tal com afirma. Això de les al·lucinacions és un problema que sembla relacionat a respondre, sense importar si és correcte o no. Les IA donen més importància a oferir una resposta que no sigui necessària. És impossible que davant d'una qüestió ens responguin «no ho sé».
Això no és nou, però és important que es tingui en compte cada vegada que fem servir alguna cosa que depengui de la IA. La més popular ara mateix és Xat GPT, i és una eina que falla igual que encerta. Fa poc, a finals del 2023, vaig veure un vídeo de dos esportistes li preguntaven al chatbot sobre ells mateixos, i va arribar a assegurar que un era aficionat al triatló. Es preguntava, «que jo què?» i també que d'on s'haurà tret això.
El problema de les al·lucinacions no és un bug, però actua com a tal. És com si un programari per a PC li demanéssim que calculés 9823798279827×825928377, no pogués fer-ho i en comptes de donar-nos un resultat ens donés un altre, el que sigui, fins i tot ens obrís un vídeo a l'atzar, perquè ens ha de dir alguna cosa. Com que nosaltres no podem fer el càlcul (sí podem, n'és un exemple), podem creure'ns-ho i donar-ho com a bo o buscar una segona opinió.
Si hem de cercar més, el càlcul és inútil.
Nosaltres hem d'analitzar i demostrar que tenim intel·ligència… real
Jo recordo la primera vegada que vaig xatejar amb una d'aquestes IA. ho vaig fer a You.com, per més tard fer el salt a la font (ChatGPT). Recordo acabar la trilogia de Mass Effect, preguntar-li sobre els possibles finals, ja que no em venia de gust passar-me altres 80 hores jugant, i que el mateix chatbot em digués una cosa i la contrària. Vaig acabar com sempre, buscant alguna cosa a Google i veient els finals a YouTube. El temps que vaig passar intentant esbrinar les coses amb ChatGPT va ser un temps perdut. Ja no em passa.
Jo he escrit diversos articles sobre l'ús de la intel·ligència artificial, i al final sempre s'arriba a la mateixa conclusió: hem de ser conscients del que ja avisa OpenAI, que les respostes pot no ser precises, i si això és així, tenen poca utilitat. Sí que en tenen, és clar, però en casos comptats. Per exemple, al desenvolupament. Quan ChatGPT et respon ràpidament a les mateixes qüestions que pots trobar a Reddit o Desbordament de pila sí que és interessant. Però compte amb el Prompt, amb el text amb què li demanem les coses, o ens pot fer perdre molt de temps.
Nosaltres hem de demostrar que tenim intel·ligència… real. Com quan busquem a Google sobre una malaltia i no ens creiem el primer que trobem, que probablement sigui que tenim una malaltia greu. El que és bo de la IA en aquests casos és que sí que acaba dient-nos que val la pena que consultem amb un metge per confirmar les coses.
Però compte amb les al·lucinacions. Si es va poder inventar que un pilot de MotoGP era aficionat al triatló o de què va la lletra d'una cançó per declaracions en alguna entrevista, què no seran capaços d'afirmar?
ACTUALITZAT: Ara que Bard ja està disponible a Espanya, no es pot fer més que confirmar que les IA «al·lucinen». Per provar-ho, li he preguntat sobre el proper disc d'Amaranthe, que surt aquest febrer del 2024, i s'inventa la llista de cançons, fins i tot ficant d'altres artistes. Això per no esmentar que us pregunto si teniu alguna URL per preguntar-vos directament i, abans de reconèixer que no, em passa una a una pàgina que ni tan sols és de Google. Anem bé.