Riscos reais e imaxinados da Intelixencia Artificial (Opinión)

Hai un tempo, o meu compañeiro de Pablinux Díxonos en a carta que o insufrible Elon Musk e outras personalidades escribiron pedindo unha pausa na investigación en Intelixencia Artificial ata que se poidan tomar medidas para evitar os seus posibles efectos adversos. Iso dáme a escusa para falar dos riscos reais e imaxinados da Intelixencia Artificial.

A risco de facer o ridículo con prediccións fallidas ao estilo de Bill Gates, comezo dicindo que na miña opinión o maior risco agora mesmo é unha burbulla Iso vai deixar as punto com ata un leve choque.

Os riscos reais e imaxinados da Intelixencia Artificial

Concordo con Pablinux en que a carta ten máis escurantismo medieval que razoamento científico. Iso ao tempo que se segue compartindo a idea de que se debe establecer unha lexislación que regule o uso do seu contido. Non obstante, non podemos negar que toda a tecnoloxía confundía e asustaba á xente ata que foi coñecida.

A proxección da chegada dun tren ao comezo da cinematografía fixo que a xente fuxira da sala e, aínda que ten moita lenda urbana, a versión radiofónica de Guerra dos Mundos de Orson Welles causou bastante pánico entre a xente que cría que era real.

De feito, este tipo de regulación do software non é nada novo. As autoridades reguladoras financeiras de moitos países prohiben que programas como Photoshop editen imaxes de billetes ou cheques.

En 1994 publicou Tom Clancy Débeda de honra. Considerado un experto en temas de defensa, Clancy iImaxinou un ataque ao sistema financeiro dos Estados Unidos manipulando os sistemas expertos das sociedades anónimas para que cresen que se estaba a producir unha crise. desencadeando unha onda de vendas que finalmente produciu a crise.

Antes de desestimala como ficción, lembra que nesa mesma novela, 7 anos antes das Torres Xemelgas, Clancy anticipou que Estados Unidos podería sufrir ataques mediante avións comerciais.

En realidade a idea non é nova. a película de 1983 Xogos de guerra Contaba como un adolescente confundiu o ordenador encargado do lanzamento do mísil para que pensase que os rusos estaban a atacar.

Imaxinemos que escoitamos un galope achegarse. A nosa primeira conclusión é que é un cabalo e 9 veces de cada 10 teremos razón. Pero, sempre existe a posibilidade de que se trate dunha cebra que escapou do zoolóxico. Médicos, astronautas e pilotos de avións reciben un adestramento estrito pensando nas cebras, sabendo que facer se se produce unha anomalía. Os modelos de intelixencia artificial adestran pensando en cabalos.

Un modelo como o usado por ChatGPT baséase na información existente na súa base de coñecemento. Cantas máis veces se repita esa información, maior será a credibilidade que lle atribúe.

Dado que gardar toda a información dispoñible requiriría moito espazo de almacenamento, só garda o que é relevante e despois reconstrúeo segundo se lle solicite utilizando a estrutura que estatisticamente parece máis relevante. Por iso, moitas veces cito referencias que non existen só porque estatísticamente é probable que haxa un documento con ese título que conteña ese contido.

Sobre as cebras e os cans que non ladran

Hai algún outro punto sobre o que queiras chamar a miña atención?
-O curioso incidente do can pola noite.
-O can non fixo nada pola noite.
Ese foi o incidente curioso.

Sir Arthur Conan Doyle

Outro dos riscos que teñen os sistemas de Intelixencia Artificial é o que non fan. E tamén é un punto importante a ter en conta.

Na década de XNUMX, un médico australiano supuxo que a causa máis común de úlceras eran as bacterias. Como non tiña un gran currículo, ríronlle na cara ata que se lle demostrou a razón. Como moitos outros descubrimentos científicos (a rotación dos planetas, o feito de que cantos máis pausas fagas, máis produtivo es) son contrarios á sabedoría do momento.

Pero, os modelos de intelixencia baséanse na sabedoría do momento. Naqueles coñecementos nos que hai consenso. Do mesmo xeito que a tecnoloxía de conxelación, os automóbiles e a entrega aumentaron o número de obesos, a dispoñibilidade de ferramentas de tecnoloxía artificial pode converternos en intelectuais preguiceiros e sufocar a innovación.

Como podes ver, hai cousas suficientes polas que preocuparse ademais de ter medo de ser escravo polas máquinas. E iso que aínda non falamos do acceso ao código fonte e da privacidade dos usuarios.