Reelle og indbildte risici ved kunstig intelligens (udtalelse)

Kunstig intelligens-modeller er ikke i stand til at opdage anomalier

For et stykke tid siden, min Pablinux partner Han fortalte os om brevet, som den utålelige Elon Musk og andre personligheder skrev og bad om en pause i forskningen i kunstig intelligens indtil der kan træffes foranstaltninger for at forhindre dets mulige negative virkninger. Det giver mig undskyldningen til at tale om de reelle og indbildte risici ved kunstig intelligens.

Med fare for at gøre mig selv til grin med fejlslagne forudsigelser i Bill Gates-stil, begynder jeg med at sige, at efter min mening den største risiko lige nu er en boblesprængning Det vil efterlade dot-coms op til et mildt chok.

De reelle og indbildte risici ved kunstig intelligens

Jeg er enig med Pablinux i, at brevet har mere middelalderlig obskurantisme end videnskabeligt ræsonnement. At samtidig med at de deler ideen om, at der bør etableres lovgivning for at regulere brugen af ​​dets indhold. Vi kan dog ikke afvise, at al teknologi forvirrede og skræmte folk, indtil det var velkendt.

Projektionen af ​​ankomsten af ​​et tog i begyndelsen af ​​kinematografi fik folk til at flygte fra rummet, og selvom det har meget af en urban legende, radioversionen af Verdenskrig af Orson Welles forårsagede en del panik blandt folk, der troede, det var ægte.

Faktisk er denne type softwareregulering ikke noget nyt. Finansielle tilsynsmyndigheder i mange lande forbyder programmer som Photoshop at redigere billeder af pengesedler eller checks.

I 1994 udgav Tom Clancy Æresgæld. Betragtet som en ekspert i forsvarsspørgsmål, Clancy iforestillede sig et angreb på det finansielle system i USA ved at manipulere aktieselskabernes ekspertsystemer til at tro, at en krise fandt sted udløser en salgsbølge, der til sidst skabte krisen.

Før du afviser det som fiktion, så husk, at i den samme roman, 7 år før tvillingetårnene, forudså Clancy, at USA kunne blive udsat for angreb med kommercielle fly.

Ideen er faktisk ikke ny. filmen fra 1983 Krigsspil Den fortalte, hvordan en teenager forvirrede computeren, der var ansvarlig for missilaffyringen, til at tro, at russerne angreb.

Lad os forestille os, at vi hører en galop nærme sig. Vores første konklusion er, at det er en hest, og 9 gange ud af 10 vil vi have ret. Men der er altid mulighed for, at det er en zebra, der er flygtet fra zoologisk have. Læger, astronauter og flypiloter modtager streng træning i at tænke på zebraer og vide, hvad de skal gøre, hvis der opstår en anomali. Kunstig intelligens-modeller trænes med heste i tankerne.

En model som den, der bruges af ChatGPT, er baseret på eksisterende information i dens vidensbase. Jo flere gange informationen gentages, jo større troværdighed tildeler den.

Da lagring af alle tilgængelige oplysninger ville kræve meget lagerplads, den gemmer kun det, der er relevant og genopbygger det derefter som ønsket ved hjælp af den struktur, der statistisk virker mest relevant. Derfor citerer jeg mange gange referencer, der ikke eksisterer, bare fordi det statistisk set er sandsynligt, at der er et dokument med den titel, der indeholder det indhold.

Om zebraer og hunde, der ikke gøer

Er der andre ting, du vil henlede min opmærksomhed på?
-Den mærkelige hændelse med hunden om natten.
- Hunden lavede ingenting om natten.
Det var den besynderlige hændelse.

Sir Arthur Conan Doyle

En anden af ​​de risici, som kunstig intelligens-systemer har, er, hvad de ikke gør. Og det er også en vigtig pointe at huske på.

I XNUMX'erne formodede en australsk læge, at den mest almindelige årsag til sår var bakterier. Da han ikke havde et godt CV, lo de ham op i ansigtet, indtil han fik ret. Ligesom mange andre videnskabelige opdagelser (planeternes rotation, det faktum, at jo flere pauser du tager, jo mere produktiv er du) er de i modstrid med øjeblikkets visdom.

Men efterretningsmodeller er baseret på øjeblikkets visdom. I den viden, hvori der er konsensus. Ligesom fryseteknologi, biler og levering har øget antallet af overvægtige, kan tilgængeligheden af ​​kunstige teknologiske værktøjer gøre os dovne intellektuelle og kvæle innovation.

Som du kan se, er der nok ting at bekymre sig om, ud over at være bange for at blive slaveret af maskinerne. Og at vi stadig ikke taler om adgang til kildekoden og brugernes privatliv.


Vær den første til at kommentere

Efterlad din kommentar

Din e-mailadresse vil ikke blive offentliggjort. Obligatoriske felter er markeret med *

*

*

  1. Ansvarlig for data: AB Internet Networks 2008 SL
  2. Formålet med dataene: Control SPAM, management af kommentarer.
  3. Legitimering: Dit samtykke
  4. Kommunikation af dataene: Dataene vil ikke blive kommunikeret til tredjemand, undtagen ved juridisk forpligtelse.
  5. Datalagring: Database hostet af Occentus Networks (EU)
  6. Rettigheder: Du kan til enhver tid begrænse, gendanne og slette dine oplysninger.