Skutečná a domnělá rizika umělé inteligence (Názor)

Modely umělé inteligence nejsou schopny detekovat anomálie

Před chvílí, můj parťák z Pablinuxu Řekl nám na dopis, který nesnesitelný Elon Musk a další osobnosti napsali s žádostí o pauzu ve výzkumu umělé inteligence dokud nebude možné přijmout opatření k zamezení jeho případným nepříznivým účinkům. To mi dává záminku mluvit o skutečných a domnělých rizicích umělé inteligence.

S rizikem, že ze sebe udělám hlupáka neúspěšnými předpověďmi ve stylu Billa Gatese, začínám tím, že podle mého názoru největším rizikem je teď prasknutí bubliny To zanechá dot-comy mírný šok.

Skutečná a domnělá rizika umělé inteligence

Souhlasím s Pablinuxem, že dopis má více středověkého tmářství než vědecké úvahy. Že i nadále sdílí myšlenku, že by měla být vytvořena legislativa upravující používání jejího obsahu. Nemůžeme však popřít, že veškerá technologie mátla a děsila lidi, dokud nebyla dobře známá.

Projekce příjezdu vlaku na počátku kinematografie přiměla lidi prchnout z místnosti, a přestože má velkou městskou legendu, rozhlasová verze Válka světů Orson Welles vyvolal mezi lidmi, kteří věřili, že je skutečný, docela paniku.

Ve skutečnosti tento typ softwarové regulace není žádnou novinkou. Finanční regulační úřady v mnoha zemích zakazují programům, jako je Photoshop, upravovat obrázky bankovek nebo šeků.

V roce 1994 publikoval Tom Clancy Čestný dluh. Clancy i. je považován za odborníka na otázky obranypředstavoval si útok na finanční systém Spojených států manipulací expertních systémů akciových společností, aby uvěřily, že probíhá krize rozpoutání prodejní vlny, která nakonec vyvolala krizi.

Než to odmítnete jako fikci, nezapomeňte, že ve stejném románu, 7 let před Dvojčaty, Clancy předpokládal, že Spojené státy mohou trpět útoky pomocí komerčních letadel.

Ve skutečnosti myšlenka není nová. film z roku 1983 Válečné hry Vyprávělo, jak teenager zmatený počítač, který měl na starosti odpálení rakety, si myslel, že útočí Rusové.

Představme si, že slyšíme přibližující se cval. Náš první závěr je, že je to kůň a 9krát z 10 budeme mít pravdu. Vždy ale existuje možnost, že jde o zebru, která utekla ze zoo. Lékaři, astronauti a piloti letadel absolvují přísný výcvik v přemýšlení o zebrách a vědí, co dělat, pokud dojde k anomálii. Modely umělé inteligence jsou trénovány s ohledem na koně.

Model, jako je ten, který používá ChatGPT, je založen na existujících informacích v jeho znalostní bázi. Čím vícekrát se tato informace opakuje, tím větší je důvěryhodnost.

Protože uložení všech dostupných informací by vyžadovalo hodně úložného prostoru, uloží pouze to, co je relevantní, a poté to znovu sestaví podle požadavků pomocí struktury, která se statisticky jeví jako nejrelevantnější. Proto mnohokrát cituji odkazy, které neexistují jen proto, že statisticky je pravděpodobné, že existuje dokument s tímto názvem, který tento obsah obsahuje.

O zebrách a psech, kteří neštěkají

Je ještě nějaký další bod, na který mě chcete upozornit?
-Kuriózní příhoda se psem v noci.
- Pes v noci nic nedělal.
To byl ten zvláštní incident.

Sir Arthur Conan Doyle

Dalším z rizik, která systémy umělé inteligence mají, je to, co nedělají. A to je také důležitý bod, který je třeba mít na paměti.

V XNUMX. letech XNUMX. století jeden australský lékař usoudil, že nejčastější příčinou vředů jsou bakterie. Protože neměl skvělý životopis, smáli se mu do tváře, dokud se neprokázalo, že má pravdu. Stejně jako mnoho jiných vědeckých objevů (rotace planet, fakt, že čím více přestávek si dáváte, tím jste produktivnější) jsou v rozporu s moudrostí okamžiku.

Ale modely inteligence jsou založeny na moudrosti okamžiku. V těch znalostech, ve kterých panuje shoda. Stejně jako technologie mrazení, automobily a dodávky zvýšily počet obézních, dostupnost nástrojů umělé technologie z nás může udělat líné intelektuály a potlačit inovace.

Jak vidíte, kromě strachu, že vás stroje zotročí, je dost věcí, o které se můžete starat. A že se stále nebavíme o přístupu ke zdrojovému kódu a soukromí uživatelů.


Buďte první komentář

Zanechte svůj komentář

Vaše e-mailová adresa nebude zveřejněna. Povinné položky jsou označeny *

*

*

  1. Za data odpovídá: AB Internet Networks 2008 SL
  2. Účel údajů: Ovládací SPAM, správa komentářů.
  3. Legitimace: Váš souhlas
  4. Sdělování údajů: Údaje nebudou sděleny třetím osobám, s výjimkou zákonných povinností.
  5. Úložiště dat: Databáze hostovaná společností Occentus Networks (EU)
  6. Práva: Vaše údaje můžete kdykoli omezit, obnovit a odstranit.