Pred chvíľou, môj parťák Pablinux Povedal nám to na list, ktorý neznesiteľný Elon Musk a ďalšie osobnosti napísali so žiadosťou o prestávku vo výskume umelej inteligencie kým sa neprijmú opatrenia na zabránenie jeho prípadným nepriaznivým účinkom. To mi dáva zámienku hovoriť o skutočných a domnelých rizikách umelej inteligencie.
S rizikom, že zo seba urobím blázna s neúspešnými predpoveďami v štýle Billa Gatesa, začínam tým, že podľa môjho názoru najväčším rizikom v súčasnosti je prasknutie bubliny To zanechá dot-coms v miernom šoku.
Skutočné a domnelé riziká umelej inteligencie
Súhlasím s Pablinuxom, že list má viac stredovekého tmárstva ako vedeckého zdôvodnenia. To pričom naďalej zdieľame myšlienku, že by sa mala vytvoriť legislatíva na reguláciu používania jej obsahu. Nemôžeme však poprieť, že všetka technológia zmiatla a vystrašila ľudí, kým nebola dobre známa.
Projekcia príchodu vlaku na začiatku kinematografie prinútila ľudí utiecť z miestnosti, a hoci má veľkú mestskú legendu, rozhlasová verzia Vojna slov od Orsona Wellesa vyvolalo medzi ľuďmi, ktorí verili, že je to skutočné, paniku.
V skutočnosti tento typ softvérovej regulácie nie je žiadnou novinkou. Finančné regulačné orgány v mnohých krajinách zakazujú programom, ako je Photoshop, upravovať obrázky bankoviek alebo šekov.
V roku 1994 publikoval Tom Clancy Čestný dlh. Clancy i. považovaný za odborníka na otázky obranypredstavoval si útok na finančný systém Spojených štátov zmanipulovaním expertných systémov akciových spoločností, aby uverili, že prebieha kríza rozpútanie predajnej vlny, ktorá nakoniec vyvolala krízu.
Predtým, ako to odmietnete ako fikciu, nezabudnite, že v tom istom románe, 7 rokov pred Dvojičkami, Clancy predpokladal, že Spojené štáty môžu utrpieť útoky pomocou komerčných lietadiel.
V skutočnosti táto myšlienka nie je nová. film z roku 1983 Vojnové hry Rozprávalo sa v ňom, ako tínedžer zmiatol počítač, ktorý mal na starosti odpálenie rakety, aby si myslel, že útočia Rusi.
Predstavme si, že počujeme približujúci sa cval. Náš prvý záver je, že je to kôň a 9 krát z 10 budeme mať pravdu. Vždy však existuje možnosť, že ide o zebru, ktorá utiekla zo zoo. Lekári, astronauti a piloti lietadiel absolvujú prísny výcvik, aby mysleli na zebry a vedeli, čo robiť, ak sa vyskytne anomália. Modely umelej inteligencie sú trénované s ohľadom na kone.
Model ako ten, ktorý používa ChatGPT, je založený na existujúcich informáciách v jeho znalostnej báze. Čím viackrát sa táto informácia zopakuje, tým väčšiu dôveryhodnosť priradí.
Keďže uloženie všetkých dostupných informácií by si vyžadovalo veľa úložného priestoru, uloží len to, čo je relevantné, a potom to znova vytvorí podľa požiadaviek pomocou štruktúry, ktorá sa štatisticky javí ako najrelevantnejšia. Preto mnohokrát citujem odkazy, ktoré neexistujú, len preto, že štatisticky je pravdepodobné, že existuje dokument s týmto názvom, ktorý obsahuje tento obsah.
O zebrách a psoch, ktoré neštekajú
Je ešte nejaký bod, na ktorý by ste ma chceli upozorniť?
-Kuriózna príhoda so psom v noci.
-Pes v noci nič nerobil.
To bol ten kuriózny incident.
Sir Arthur Conan Doyle
Ďalším z rizík, ktoré systémy umelej inteligencie majú, je to, čo nerobia. A to je tiež dôležitý bod, ktorý treba mať na pamäti.
V XNUMX. rokoch XNUMX. storočia istý austrálsky lekár usúdil, že najčastejšou príčinou vredov sú baktérie. Keďže nemal skvelý životopis, smiali sa mu do tváre, kým sa nedalo za pravdu. Rovnako ako mnohé iné vedecké objavy (rotácia planét, skutočnosť, že čím viac prestávok si dávate, tým ste produktívnejší), sú v rozpore s múdrosťou okamihu.
Ale modely inteligencie sú založené na múdrosti okamihu. V tých vedomostiach, v ktorých existuje konsenzus. Rovnako ako technológia mrazenia, automobily a dodávky zvýšili počet obéznych, dostupnosť nástrojov umelej technológie z nás môže urobiť lenivých intelektuálov a potlačiť inovácie.
Ako vidíte, okrem strachu, že vás zotročia stroje, je dosť vecí, o ktoré by ste sa mali obávať. A že stále nehovoríme o prístupe k zdrojovému kódu a súkromí používateľov.