Sanotaan, että uutuuksille klassikoita. Neljä vuosisataa aikakaudestamme kirjoitettu allegoria on ihanteellinen ymmärtämään, mitkä ovat tekoälyn uusien sovellusten rajat. Tarkoitan "ChatGPT-luolaa", joka ei ole enempää eikä vähempää kuin muunnelma kuuluisasta Platonin luola-alleegoriasta.
Minulla ei ole mitään tekoälytyökalujen käyttöä vastaan. Itse asiassa huomaan, että ne helpottavat työtä paljon. Mutta niin kauan kuin sitä käyttävät ihmiset, joilla on riittävästi tietoa työsi arvioimiseen.
Esimerkiksi; ChatGPT:tä voi pyytää kirjoittamaan WordPress-laajennuksen, mutta jos jollain ei ole tietoa PHP:stä, tämä laajennus voi aiheuttaa vakavia tietoturvaongelmia.
Luolan allegoria
Platon oli kreikkalainen filosofi, joka eli XNUMX. ja XNUMX. vuosisatojen välillä eKr. Hän ilmaisi ajatuksensa myyttien ja allegorioiden muodossa. Tunnetuin niistä oli luola.
Lähetetty Tasavalta, allegoria kuvittelee ryhmä ihmisiä kahlittuina luolaan, heidän takanaan on tuli, joka heittää varjoja heidän edessään olevalle seinälle. Varjot ovat ainoa asia, jonka he näkevät ja kuvittelevat olevansa ainoa asia, joka on olemassa, jättäen huomiotta sen, mikä on takana.
Kun yksi vangeista vapautuu, hän pystyy näkemään maailman sellaisena kuin se todella on ja tajuaa kuinka rajallisia hänen kokemuksensa luolassa olivat.
Platon-oppineiden mukaan tämä allegoria korostaa, että me kaikki elämme elämäämme oman tietomme ja kokemustemme perusteella. Luolan varjoja vastaavaa tietoa ja kokemuksia. Aivan kuten vangit, on olemassa todellinen todellisuus, ja se on meidän käsityksemme ulkopuolella.
ChatGPT:n luola
ChatGPT:llä ja sen kilpailijoilla on sekä ihailijoita että halventajia. Mutta kukaan ei ollut antanut teknistä selitystä sen vioista ennen artikkelia julkaistu Science fiction -kirjailija Ted Changin New Yorkerissa
Selittääkseen kielimallien puutteita Chang vertailee sitä, mitä tapahtuu kuville ja äänitiedostoille.
Digitaalisen tiedoston tallennus ja toisto vaatii kaksi vaihetta: ensimmäinen on koodaus, jolloin tiedosto muunnetaan kompaktimpaan muotoon, jota seuraa dekoodaus, joka on käänteinen prosessi. Muunnosprosessia kutsutaan häviöttömäksi (palautettu tiedosto on sama kuin alkuperäinen) tai häviöiseksi (jotkin tiedot menetetään lopullisesti). Häviöllistä pakkausta käytetään kuva-, video- tai äänitiedostoissa, eikä sitä useimmiten havaita. Kun se on, sitä kutsutaan pakkausartefaktiksi. Pakkauksen artefaktit näkyvät kuvissa sumeneina tai äänessä kolinana.
Chang käyttää verkosta tulevan sumean JPG:n analogiaa viitatakseen kielimalleihin. Ja tämä on aika tarkkaa. Molemmat pakkaavat tiedot säilyttäen vain "tärkeän asian". LKielimallit luovat suurista tekstidatamääristä kompaktin esityksen sanojen ja lauseiden välisistä malleista ja suhteista.
Siitä luodaan uusi teksti, jota yritetään saada mahdollisimman sisällöltään ja merkitykseltään samanlainen kuin alkuperäinen teksti. Ongelmana on se, että verkossa ei ole tarpeeksi tietoa uuden tekstin luomiseksi. Tämä tarkoittaa sitä, että ChatGPT pystyy kirjoittamaan korkeakoulutason esseen, mutta ei tee yksinkertaisia 5-numeroisia toimintoja.
Chang päättelee, että:
Vaikka suuria kielimalleja voidaan rajoittaa osallistumasta luomiseen, pitäisikö meidän käyttää niitä verkkosisällön luomiseen? Tämä olisi järkevää vain, jos tavoitteemme on pakata uudelleen tieto, joka on jo saatavilla verkossa. Jotkut yritykset ovat olemassa tehdäkseen juuri niin; kutsumme niitä yleensä sisältötehtaiksi. Ehkä kielimallien sumeus on heille hyödyllistä keinona välttää tekijänoikeusrikkomuksia. Yleisesti ottaen sanoisin kuitenkin, että mikä tahansa sopii sisältötehtaille, ei ole hyvää tietoa etsiville. Tämän tyyppisen uudelleenpakkauksen yleistyminen tekee meidän vaikeaksi löytää etsimämme verkosta juuri nyt.; Mitä enemmän suurten kielimallien tuottamaa tekstiä julkaistaan verkossa, sitä enemmän Webistä tulee sumeampi versio itsestään.
Ja kuten vangit luolassa, kokemuksemme olisi paljon pienempi kuin mitä todellisuus meille tarjoaa.