Reële en ingebeelde risico's van kunstmatige intelligentie (opinie)

Kunstmatige intelligentiemodellen kunnen afwijkingen niet detecteren

Een tijdje geleden, mijn Pablinux-partner Hij vertelde ons op de brief die de onuitstaanbare Elon Musk en andere persoonlijkheden schreven waarin ze vroegen om een ​​pauze in het onderzoek naar kunstmatige intelligentie totdat er maatregelen kunnen worden genomen om de mogelijke nadelige effecten ervan te voorkomen. Dat geeft me het excuus om te praten over de echte en ingebeelde risico's van kunstmatige intelligentie.

Met het risico mezelf voor de gek te houden met mislukte voorspellingen in Bill Gates-stijl, begin ik dat naar mijn mening te zeggen het grootste risico op dit moment is het barsten van een zeepbel Dat zal de dotcoms een lichte schok geven.

De echte en ingebeelde risico's van kunstmatige intelligentie

Ik ben het met Pablinux eens dat de brief meer middeleeuws obscurantisme bevat dan wetenschappelijke redenering. Dat terwijl we het idee blijven delen dat er wetgeving moet komen om het gebruik van de inhoud te reguleren. We kunnen echter niet ontkennen dat alle technologie mensen verwarde en bang maakte totdat het algemeen bekend was.

De projectie van de aankomst van een trein aan het begin van de cinematografie zorgde ervoor dat mensen de kamer ontvluchtten en, hoewel het een grote stedelijke legende heeft, de radioversie van War of the Worlds van Orson Welles veroorzaakte nogal wat paniek onder mensen die dachten dat het echt was.

In feite is dit soort softwareregulering niets nieuws. Financiële regelgevende instanties in veel landen verbieden programma's zoals Photoshop om afbeeldingen van bankbiljetten of cheques te bewerken.

In 1994 publiceerde Tom Clancy Schuld van eer. Beschouwd als een expert op het gebied van defensiekwesties, Clancy istelde zich een aanval voor op het financiële systeem van de Verenigde Staten door de expertsystemen van de aandelenmaatschappijen te manipuleren door te geloven dat er een crisis gaande was het ontketenen van een verkoopgolf die uiteindelijk de crisis veroorzaakte.

Voordat u het afdoet als fictie, moet u bedenken dat Clancy in diezelfde roman, 7 jaar voor de Twin Towers, verwachtte dat de Verenigde Staten zouden worden aangevallen met commerciële vliegtuigen.

Eigenlijk is het idee niet nieuw. de film uit 1983 Oorlogs spellen Er werd verteld hoe een tiener de computer die verantwoordelijk was voor de raketlancering in de war bracht door te denken dat de Russen aanvielen.

Laten we ons voorstellen dat we een galop horen naderen. Onze eerste conclusie is dat het een paard is en 9 van de 10 keer zullen we gelijk hebben. Maar er is altijd de mogelijkheid dat het een zebra is die ontsnapt is uit de dierentuin. Artsen, astronauten en vliegtuigpiloten krijgen een strikte training om na te denken over zebra's en te weten wat ze moeten doen als zich een afwijking voordoet. Kunstmatige intelligentiemodellen worden getraind met paarden in gedachten.

Een model zoals dat wordt gebruikt door ChatGPT is gebaseerd op bestaande informatie in de kennisbank. Hoe vaker die informatie wordt herhaald, hoe groter de geloofwaardigheid die het toekent.

Aangezien het opslaan van alle beschikbare informatie veel opslagruimte zou vergen, het slaat alleen op wat relevant is en herbouwt het vervolgens zoals gevraagd met behulp van de structuur die statistisch gezien het meest relevant lijkt. Daarom citeer ik vaak referenties die niet bestaan, alleen maar omdat het statistisch gezien waarschijnlijk is dat er een document met die titel is dat die inhoud bevat.

Over zebra's en honden die niet blaffen

Is er nog een ander punt waarop u mijn aandacht wilt vestigen?
-Het merkwaardige incident van de hond 's nachts.
-De hond deed 's nachts niets.
Dat was het merkwaardige incident.

Sir Arthur Conan Doyle

Een ander risico dat kunstmatige-intelligentiesystemen met zich meebrengen, is wat ze niet doen. En het is ook een belangrijk punt om in gedachten te houden.

In de jaren negentig vermoedde een Australische arts dat bacteriën de meest voorkomende oorzaak van zweren waren. Omdat hij geen geweldig cv had, lachten ze hem uit tot hij gelijk kreeg. Net als veel andere wetenschappelijke ontdekkingen (de rotatie van de planeten, het feit dat hoe meer pauzes je neemt, hoe productiever je bent) zijn ze in strijd met de wijsheid van het moment.

Maar Intelligence-modellen zijn gebaseerd op de wijsheid van het moment. In die kennis waarin er consensus is. Net zoals bevriezingstechnologie, auto's en bezorgdiensten het aantal zwaarlijvigen hebben doen toenemen, kan de beschikbaarheid van hulpmiddelen voor kunstmatige technologie ons tot luie intellectuelen maken en innovatie in de kiem smoren.

Zoals je kunt zien, zijn er genoeg dingen om je zorgen over te maken, behalve dat je bang bent om tot slaaf te worden gemaakt door de machines. En dat we het nog steeds niet hebben over toegang tot de broncode en de privacy van gebruikers.


Wees de eerste om te reageren

Laat je reactie achter

Uw e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *

*

*

  1. Verantwoordelijk voor de gegevens: AB Internet Networks 2008 SL
  2. Doel van de gegevens: Controle SPAM, commentaarbeheer.
  3. Legitimatie: uw toestemming
  4. Mededeling van de gegevens: De gegevens worden niet aan derden meegedeeld, behalve op grond van wettelijke verplichting.
  5. Gegevensopslag: database gehost door Occentus Networks (EU)
  6. Rechten: u kunt uw gegevens op elk moment beperken, herstellen en verwijderen.