ChatGPT je prototip chatbota umjetne inteligencije
To je objavljena vijest OpenAI razvija softver koji može otkriti je li vaš ChatGPT model generirao tekst, ovo je bilo nedugo nakon što su službenici obrazovanja grada New Yorka objavili da će blokirati učenicima pristup alatu u javnim školama.
A to je da su objavili razna izvješća o čemu učenici koji koriste umjetnu inteligenciju za izradu domaće zadaće, natjerali su učitelje da razmišljaju o tome kako to utječe na obrazovanje.
Neki su izrazili svoje briga o tome kako jezični modeli mogu dopustiti učenicima da varaju.
S obzirom na to, OpenAI je objavio da radi na razvoju "ublažavanja" koja će pomoći ljudima da otkriju tekst koji automatski generira ChatGPT.
“Učinili smo ChatGPT dostupnim kao pregled istraživanja za učenje iz stvarnog svijeta, za koji vjerujemo da je bitan dio razvoja i implementacije sposobnih i sigurnih AI sustava. Stalno uključujemo povratne informacije i naučene lekcije", rekao je glasnogovornik tvrtke.
Prema svjedočanstvima sveučilišnih profesora, učenici vjeruju ChatGPT-u da će riješiti svoje domaće zadaće, pogotovo na probama.
“Akademija to nije vidjela. Tako da nas je iznenadilo,” kaže Darren Hudson Hick, asistent profesora filozofije na Sveučilištu Furman.
"Prijavio sam to na Facebooku, a moji [učitelji] prijatelji su rekli: 'Da! I ja sam uhvatio jednog', dodao je. Ranije ovog mjeseca, Hick je navodno tražio od svog razreda da napiše esej od 500 riječi o škotskom filozofu iz XNUMX. stoljeća Davidu Humeu i paradoksu užasa, koji ispituje kako ljudi mogu izvući zadovoljstvo iz nečega čega se boje. , za test kod kuće. Ali prema profesoru filozofije, jedan od eseja koji je dobio imao je neke značajke koje su "obilježile" korištenje umjetne inteligencije u "rudimentarnom" odgovoru učenika. Hick objašnjava da to može otkriti izvježbano oko.
Biti u stanju razlikovati rukopis ručno proizveden od strane čovjeka ili stroja promijenit će način na koji se mogu koristiti u akademiji. Škole bi mogle učinkovitije provoditi zabranu testiranja generiranu umjetnom inteligencijom,
Da, generativni jezični modeli mogu biti dobri, ali oni ne znaju o čemu govore.
Koliko god impresivno pisanje generirano umjetnom inteligencijom bilo na naslovnicama sa sveučilišnim konferencijama i školama koje zabranjuju tipkane radove, evo podsjetnika da im nedostaje razumijevanje stvarnog ljudskog pisma.
A to je da OpenAI impresionira internet svojim naporima da replicira ljudsku inteligenciju i umjetničke sposobnosti od 2015. Ali prošlog studenog tvrtka je konačno postala mega viralna s lansiranjem AI generatora teksta ChatGPT. Korisnici beta alata objavili su primjere tekstualnih odgovora koje je generirala umjetna inteligencija na upite koji su se činili toliko legitimnim da su tjerali strah u srca učitelja i čak natjerali Google da se boji da bi alat mogao uništiti njihovu istraživačku aktivnost.
Ako inženjeri OpenAI-ja mogu stvoriti bota koji može tipkati jednako dobro ili bolje od prosječnog čovjeka, logično je da mogu stvoriti i bota koji je bolji od prosječnog čovjeka u otkrivanju je li tekst generirao AI.
Budući da, kao što je spomenuto, OpenAI trenutno radi na rješenju, već su objavljena najmanje tri alata za otkrivanje koji se mogu koristiti:
GPT-2 Detektor izlaza
Mrežna demonstracija modela detektora izlaza GPT-2 omogućuje vam da zalijepite tekst u okvir i odmah vidite kolika je vjerojatnost da je tekst upisao AI. Prema istraživanju OpenAI-ja, alat ima relativno visoku stopu otkrivanja, ali "treba ga kombinirati s pristupima koji se temelje na metapodacima, ljudskoj prosudbi i obrazovanju javnosti kako bi bio najučinkovitiji".
GLTR
Kada je OpenAI objavio GPT-2 2019., ljudi iz MIT-IBM Watson AI Laba i Harvard Natural Language Processing Group udružili su se kako bi stvorili algoritam koji pokušava otkriti je li tekst upisao bot.
Računalno generirani tekst može izgledati kao da ga je napisao čovjek, ali vjerojatnije je da će ljudski pisac izabrati nepredvidive riječi. Koristeći metodu "takes one to know one", ako algoritam GLTR može predvidjeti sljedeću riječ u rečenici, pretpostavit će da je rečenicu napisao bot.
GPZero
Tijekom božićne sezone, Edward Tian bio je zauzet stvaranjem GPTZero, aplikacije koja može pomoći u određivanju je li tekst napisao čovjek ili bot. Kao akademik na Princetonu, Tian razumije kako sveučilišni profesori mogu imati veliki interes u otkrivanju plagijata potpomognutog umjetnom inteligencijom ili plagijata potpomognutog umjetnom inteligencijom.
Tian kaže da njegov alat mjeri slučajnost rečenica ("buzz") plus ukupnu slučajnost ("bursts") kako bi izračunao vjerojatnost da je tekst napisao ChatGPT. Otkako je tweetao o GPTZero 2. siječnja, Tian kaže da su mu se već obratili investitori rizičnog kapitala koji žele ulagati, a on će uskoro razviti ažurirane verzije.
izvor: https://techcrunch.com