La caverna de ChatGPT

La confiança excessiva en ChatGPT pot portar inconvenients

Diuen que per a novetats els clàssics. Una al·legoria escrita quatre segles anys de la nostra era és ideal per entendre quins són els límits de les noves aplicacions d'Intel·ligència Artificial. em refereixo a la «Caverna de ChatGPT» que no és ni més ni menys que una adaptació de la famosa al·legoria de la caverna de Plató

No tinc res a objectar a l'ús de les eines d'intel·ligència artificial. De fet, trobo que faciliten molt la feina. Però, sempre que sigui usada per persones que tinguin coneixements suficients per avaluar la seva feina.

Per posar un exemple; un pot demanar a ChatGPT que escrigui un plugin de WordPress, però si no tenim coneixements sobre PHP aquest plugin pot produir greus problemes de seguretat.

L'al·legoria de la caverna

Plató va ser un filòsof grec que va viure entre els segles V i IV abans de Crist. Expressava els seus pensaments en la forma de mites i al·legories. La més coneguda va ser la de la caverna.

publicada en La República, l'al·legoria imagina un grup de persones encadenades en una caverna, darrere d'ells tenen un foc que llença ombres sobre la paret que tenen davant seu. Les ombres són l'única cosa que veuen i imaginen que són l'única cosa que existeix ignorant el que hi ha més enllà.

Quan un dels presoners és alliberat pot veure el món com realment és i s'adona del limitat de les seves experiències a la caverna.

Segons els estudiosos de Plató, aquesta al·legoria posa en relleu que tots vivim les nostres vides basant-nos en les nostres pròpies informacions i experiències. Informacions i experiències equivalents a les ombres de la caverna. Igual que els presoners, hi ha la veritable realitat i està més enllà de la nostra comprensió.

La caverna de ChatGPT

ChatGPT i els seus competidors tenen tant admiradors com detractors. Però ningú no havia donat una explicació tècnica sobre les seves falles fins a un article publicat a New Yorker per l'escriptor de ciència ficció Ted Chang

Per explicar les falles dels models de llenguatge Chang fa una analogia amb el que passa amb imatges i fitxers d'àudio.

L'enregistrament i la reproducció d'un fitxer digital requereix dos passos: el primer és la codificació, moment en què l'arxiu es converteix a un format més compacte, ia continuació la descodificació, que és el procés invers. El procés de conversió s'anomena sense pèrdua (l'arxiu restaurat és igual que l'original) o amb pèrdua (Part de la informació es va perdre per sempre). La compressió amb pèrdua s'aplica a fitxers d'imatges, vídeo o àudio i la majoria de vegades no és perceptible. Quan ho és s'anomena artefacte de compressió». Els artefactes de compressió es presenten en la forma de parts borroses en imatges o so metàl·lic en àudio.

Chang utilitza l'analogia d'un JPG borrós de la web per referir-se als models de llenguatge. I, aquesta és força exacta. Tots dos comprimeixen la informació conservant només «El que és important». Lus models de llenguatge generen, a partir de grans quantitats de dades de text, una representació compacta dels patrons i relacions entre paraules i frases.

A partir d'ella es genera text nou tractant tant com sigui similar en contingut i significat al text original. El problema és quan a la web no hi ha prou informació perquè es pugui generar un text nou. Això es tradueix en que ChatGPT pugui escriure un assaig de nivell universitari, però no fer operacions senzilles de 5 dígits.

Chang conclou que:

Fins i tot si és possible restringir que els grans models de llenguatge participin en la creació, hauríem de fer-los servir per generar contingut web? Això tindria sentit només si el nostre objectiu és reempaquetar la informació que ja està disponible a la web. Algunes empreses existeixen per fer precisament això; generalment les anomenem fàbriques de contingut. Potser la borrositat dels models de llenguatge els és útil, com una manera d'evitar la infracció de drets d'autor. Tot i això, en termes generals, diria que qualsevol cosa que sigui bona per a les fàbriques de contingut no és bona per a les persones que busquen informació. Laugment daquest tipus de reenvasat és el que ens dificulta trobar el que estem buscant en línia en aquest moment; com més es publica a la web el text generat per grans models de llenguatge, més es converteix la web en una versió més borrosa de si mateixa.

I com els presoners de la caverna, la nostra experiència seria molt més petita del que la realitat ens ofereix.


Sigues el primer a comentar

Deixa el teu comentari

La seva adreça de correu electrònic no es publicarà. Els camps obligatoris estan marcats amb *

*

*

  1. Responsable de les dades: AB Internet Networks 2008 SL
  2. Finalitat de les dades: Controlar l'SPAM, gestió de comentaris.
  3. Legitimació: El teu consentiment
  4. Comunicació de les dades: No es comunicaran les dades a tercers excepte per obligació legal.
  5. Emmagatzematge de les dades: Base de dades allotjada en Occentus Networks (UE)
  6. Drets: En qualsevol moment pots limitar, recuperar i esborrar la teva informació.