För ett tag sedan, min Pablinux-partner Han sa det till oss på brevet som den outhärdlige Elon Musk och andra personligheter skrev och bad om en paus i forskningen inom artificiell intelligens tills åtgärder kan vidtas för att förhindra dess eventuella negativa effekter. Det ger mig ursäkten att prata om de verkliga och inbillade riskerna med artificiell intelligens.
Med risk för att göra mig narr av misslyckade förutsägelser av Bill Gates-stil, börjar jag med att säga att enligt min mening den största risken just nu är en bubbla som spricker Det kommer att lämna dot-coms upp till en mild chock.
De verkliga och inbillade riskerna med artificiell intelligens
Jag håller med Pablinux om att brevet har mer medeltida obskurantism än vetenskapliga resonemang. Den där samtidigt som de fortsätter att dela tanken att lagstiftning bör upprättas för att reglera användningen av dess innehåll. Vi kan dock inte förneka att all teknik förvirrade och skrämde människor tills den var välkänd.
Projektionen av ankomsten av ett tåg i början av kinematografi fick människor att fly från rummet och även om det har mycket av en urban legend, radioversionen av Världarnas krig av Orson Welles orsakade en hel del panik bland människor som trodde att det var verkligt.
I själva verket är den här typen av mjukvarureglering inget nytt. Finansiella tillsynsmyndigheter i många länder förbjuder program som Photoshop att redigera bilder av sedlar eller checkar.
1994 publicerade Tom Clancy Hedersskuld. Anses vara expert på försvarsfrågor, Clancy iföreställde sig en attack på det finansiella systemet i USA genom att manipulera aktiebolagens expertsystem till att tro att en kris ägde rum släppte lös en försäljningsvåg som till slut skapade krisen.
Innan du avfärdar det som fiktion, kom ihåg att i samma roman, 7 år före tvillingtornen, förutsåg Clancy att USA kunde drabbas av attacker med kommersiella flygplan.
Idén är faktiskt inte ny. filmen från 1983 Krigsspel Den berättade hur en tonåring förvirrade datorn som ansvarade för missiluppskjutningen till att tro att ryssarna attackerade.
Låt oss föreställa oss att vi hör en galopp närma sig. Vår första slutsats är att det är en häst och 9 gånger av 10 kommer vi att ha rätt. Men det finns alltid möjligheten att det är en zebra som rymt från djurparken. Läkare, astronauter och flygplanpiloter får strikt träning i att tänka på zebror och veta vad de ska göra om en anomali inträffar. Modeller med artificiell intelligens tränas med hästar i åtanke.
En modell som den som används av ChatGPT är baserad på befintlig information i dess kunskapsbas. Ju fler gånger informationen upprepas, desto större trovärdighet ger den.
Eftersom att spara all tillgänglig information skulle kräva mycket lagringsutrymme, den sparar bara det som är relevant och bygger sedan om det som efterfrågat med den struktur som statistiskt verkar vara mest relevant. Därför citerar jag många gånger referenser som inte finns bara för att det statistiskt är troligt att det finns ett dokument med den titeln som innehåller det innehållet.
Om zebror och hundar som inte skäller
Finns det någon annan punkt du vill fästa min uppmärksamhet på?
-Den märkliga händelsen med hunden på natten.
-Hunden gjorde ingenting på natten.
Det var den märkliga händelsen.
Sir Arthur Conan Doyle
En annan av riskerna som artificiell intelligens har är vad de inte gör. Och det är också en viktig punkt att ha i åtanke.
På XNUMX-talet anade en australisk läkare att den vanligaste orsaken till sår var bakterier. Eftersom han inte hade något bra CV, skrattade de honom rakt i ansiktet tills han fick rätt. Liksom många andra vetenskapliga upptäckter (planeternas rotation, det faktum att ju fler pauser du tar, desto mer produktiv är du) strider de mot ögonblickets visdom.
Men intelligensmodeller är baserade på ögonblickets visdom. I den kunskap där det råder konsensus. Precis som frysteknik, bilar och leveranser har ökat antalet överviktiga, kan tillgången på konstgjorda teknikverktyg göra oss lata intellektuella och kväva innovation.
Som du kan se finns det tillräckligt med saker att oroa sig för utöver att vara rädd för att bli förslavad av maskinerna. Och att vi fortfarande inte pratar om tillgång till källkoden och användarnas integritet.