For en stund siden, min Pablinux-partner Han fortalte oss på brevet som den utålelige Elon Musk og andre personligheter skrev og ba om en pause i forskning innen kunstig intelligens inntil tiltak kan iverksettes for å forhindre mulige skadevirkninger. Det gir meg unnskyldningen til å snakke om de reelle og innbilte risikoene ved kunstig intelligens.
Med fare for å lure meg selv med mislykkede spådommer i Bill Gates-stil, begynner jeg med å si at etter min mening den største risikoen akkurat nå er en boble som sprekker Det kommer til å overlate dot-coms til et mildt sjokk.
De virkelige og forestilte risikoene ved kunstig intelligens
Jeg er enig med Pablinux i at brevet har mer middelaldersk obskurantisme enn vitenskapelig resonnement. At samtidig som de fortsetter å dele ideen om at det bør etableres lovgivning for å regulere bruken av innholdet. Vi kan imidlertid ikke nekte for at all teknologi forvirret og skremte folk før den var godt kjent.
Projiseringen av ankomsten av et tog i begynnelsen av kinematografi fikk folk til å flykte fra rommet, og selv om det har mye av en urban legende, radioversjonen av Verdens krig av Orson Welles forårsaket en del panikk blant folk som trodde det var ekte.
Faktisk er denne typen programvareregulering ikke noe nytt. Finansielle reguleringsmyndigheter i mange land forbyr programmer som Photoshop fra å redigere bilder av sedler eller sjekker.
I 1994 publiserte Tom Clancy Æresgjeld. Ansett som en ekspert på forsvarsspørsmål, Clancy iforestilte seg et angrep på det finansielle systemet i USA ved å manipulere ekspertsystemene til aksjeselskapene til å tro at en krise fant sted utløste en salgsbølge som til slutt produserte krisen.
Før du avviser det som fiksjon, husk at i den samme romanen, 7 år før tvillingtårnene, forventet Clancy at USA kunne bli utsatt for angrep med kommersielle fly.
Ideen er faktisk ikke ny. filmen fra 1983 Krigsspill Den fortalte hvordan en tenåring forvirret datamaskinen som hadde ansvaret for rakettoppskytningen til å tro at russerne angrep.
La oss forestille oss at vi hører en galopp nærme seg. Vår første konklusjon er at det er en hest og 9 ganger av 10 vil vi ha rett. Men det er alltid en mulighet for at det er en sebra som rømte fra dyrehagen. Leger, astronauter og flypiloter får streng opplæring i å tenke på sebraer, og vite hva de skal gjøre hvis en anomali oppstår. Modeller med kunstig intelligens er trent med hester i tankene.
En modell som den som brukes av ChatGPT er basert på eksisterende informasjon i kunnskapsbasen. Jo flere ganger informasjonen gjentas, jo større troverdighet gir den.
Siden lagring av all tilgjengelig informasjon vil kreve mye lagringsplass, den lagrer bare det som er relevant og bygger det deretter opp igjen som forespurt ved å bruke strukturen som statistisk virker mest relevant. Derfor siterer jeg mange ganger referanser som ikke eksisterer bare fordi det statistisk sett er sannsynlig at det er et dokument med den tittelen som inneholder det innholdet.
Om sebraer og hunder som ikke bjeffer
Er det noe annet du ønsker å gjøre meg oppmerksom på?
-Den merkelige hendelsen med hunden om natten.
- Hunden gjorde ingenting om natten.
Det var den merkelige hendelsen.
Sir Arthur Conan Doyle
En annen av risikoene som kunstige intelligenssystemer har, er hva de ikke gjør. Og det er også et viktig poeng å huske på.
På XNUMX-tallet antok en australsk lege at den vanligste årsaken til sår var bakterier. Siden han ikke hadde en god CV, lo de ham opp i ansiktet til han fikk rett. Som mange andre vitenskapelige oppdagelser (rotasjonen av planetene, det faktum at jo flere pauser du tar, jo mer produktiv er du) er de i strid med øyeblikkets visdom.
Men etterretningsmodeller er basert på øyeblikkets visdom. I den kunnskapen der det er konsensus. Akkurat som fryseteknologi, biler og levering har økt antallet overvektige, kan tilgjengeligheten av verktøy for kunstig teknologi gjøre oss late intellektuelle og kvele innovasjon.
Som du kan se, er det nok ting å bekymre seg for i tillegg til å være redd for å bli slaveret av maskinene. Og at vi fortsatt ikke snakker om tilgang til kildekoden og personvernet til brukerne.