Sinasabi nila na para sa mga novelties ang mga klasiko. Ang isang alegorya na nakasulat sa apat na siglo ng ating panahon ay mainam upang maunawaan kung ano ang mga limitasyon ng mga bagong aplikasyon ng Artipisyal na Katalinuhan. Ang tinutukoy ko ay ang "ChatGPT Cave" na hindi hihigit o mas mababa sa isang adaptasyon ng sikat na alegorya ng kuweba ni Plato
Wala akong pagtutol sa paggamit ng mga artificial intelligence tool. Sa katunayan, nalaman kong mas pinapadali nila ang trabaho. Pero basta gamitin ng mga taong may sapat na kaalaman upang suriin ang iyong trabaho.
Halimbawa; maaaring hilingin sa ChatGPT na magsulat ng isang WordPress plugin, ngunit kung ang isa ay kulang sa kaalaman sa PHP ang plugin na iyon ay maaaring magdulot ng malubhang problema sa seguridad.
Ang alegorya ng kuweba
Si Plato ay isang Griyegong pilosopo na nabuhay sa pagitan ng ika-XNUMX at ika-XNUMX na siglo BC. Ipinahayag niya ang kanyang mga saloobin sa anyo ng mga alamat at alegorya. Ang pinakakilala sa kanila ay ang sa yungib.
Nai-post sa La República, naiisip ng alegorya isang grupo ng mga tao na nakakadena sa isang yungib, sa likod nila ay may apoy na naglalagay ng anino sa dingding sa harapan nila. Ang mga anino lamang ang kanilang nakikita at iniisip na sila lamang ang umiiral, hindi pinapansin ang nasa kabila.
Kapag ang isa sa mga bilanggo ay pinalaya, nakikita niya ang mundo kung ano talaga ito at napagtanto kung gaano limitado ang kanyang mga karanasan sa kuweba.
Ayon sa mga iskolar ng Plato, ang alegorya na ito ay nagha-highlight na lahat tayo ay nabubuhay batay sa ating sariling impormasyon at mga karanasan. Impormasyon at karanasang katumbas ng mga anino ng kuweba. Tulad ng mga bilanggo, nariyan ang tunay na katotohanan at ito ay lampas sa ating pang-unawa.
Ang kuweba ng ChatGPT
Ang ChatGPT at ang mga katunggali nito ay may parehong mga tagahanga at mga detractors. Ngunit, walang nagbigay ng teknikal na paliwanag tungkol sa mga pagkabigo nito hanggang sa isang artikulo lathala sa New Yorker ng manunulat ng science fiction na si Ted Chang
Upang ipaliwanag ang mga bahid sa mga modelo ng wika, gumawa si Chang ng pagkakatulad sa kung ano ang nangyayari sa mga larawan at audio file.
Ang pagre-record at pagpaparami ng isang digital na file ay nangangailangan ng dalawang hakbang: ang una ay ang pag-encode, kung saan ang file ay na-convert sa isang mas compact na format, na sinusundan ng pag-decode, na kung saan ay ang reverse na proseso. Ang proseso ng conversion ay tinatawag na lossless (ang naibalik na file ay kapareho ng orihinal) o lossy (Ang ilang impormasyon ay mawawala magpakailanman). Ang lossy compression ay inilalapat sa mga file ng imahe, video, o audio at kadalasan ay hindi napapansin. Kapag ito ay, ito ay tinatawag na isang compression artifact. Lumalabas ang mga artifact ng compression sa anyo ng pag-blur sa mga larawan o pag-clanking sa audio.
Gumagamit si Chang ng pagkakatulad ng isang malabo na JPG mula sa web upang sumangguni sa mga modelo ng wika. At, ito ay medyo tumpak. Parehong i-compress ang impormasyon na pinapanatili lamang ang "Ang mahalagang bagay". LAng mga modelo ng wika ay bumubuo, mula sa malalaking halaga ng data ng teksto, ng isang compact na representasyon ng mga pattern at relasyon sa pagitan ng mga salita at parirala.
Mula dito, nabuo ang isang bagong teksto na sinusubukan hangga't maaari na gawin itong katulad sa nilalaman at kahulugan sa orihinal na teksto. Ang problema ay kapag walang sapat na impormasyon sa web para makabuo ng bagong text. Isinasalin ito sa ChatGPT na makapagsulat ng isang sanaysay sa antas ng kolehiyo, ngunit hindi gumagawa ng mga simpleng 5-digit na operasyon.
Sinabi ni Chang na:
Kahit na posibleng paghigpitan ang malalaking modelo ng wika sa paglahok sa pag-author, dapat ba nating gamitin ang mga ito upang makabuo ng nilalaman sa web? Ito ay magiging makabuluhan lamang kung ang aming layunin ay muling i-repack ang impormasyon na available na sa Web. Ang ilang mga kumpanya ay umiiral upang gawin iyon; karaniwang tinatawag namin silang mga pabrika ng nilalaman. Marahil ay kapaki-pakinabang sa kanila ang pagiging malabo ng mga modelo ng wika, bilang isang paraan upang maiwasan ang paglabag sa copyright. Gayunpaman, sa pangkalahatan, sasabihin ko na kung ano ang mabuti para sa mga pabrika ng nilalaman ay hindi mabuti para sa mga taong naghahanap ng impormasyon. Ang pagtaas ng ganitong uri ng repackaging ang nagpapahirap sa amin na mahanap ang hinahanap namin online ngayon.; Ang mas maraming tekstong nabuo ng malalaking modelo ng wika ay nai-publish sa Web, mas nagiging malabong bersyon ng sarili ang Web.
At, tulad ng mga bilanggo sa kuweba, ang aming karanasan ay magiging mas maliit kaysa sa kung ano ang iniaalok sa amin ng katotohanan.