ChatGPT este un prototip de chatbot cu inteligență artificială
S-a dat vestea că OpenAI dezvoltă un software care poate detecta dacă modelul dvs. ChatGPT a generat text, asta la scurt timp după ce oficialii din New York au anunțat că vor bloca accesul elevilor la instrument în școlile publice.
Și este că au lansat diverse rapoarte despre ce elevii care folosesc AI pentru a-și face temele, i-au făcut pe profesori să se gândească la modul în care aceasta afectează educația.
Unii și-au exprimat preocupare cu privire la modul în care modelele de limbaj pot permite elevilor să trișeze.
Având în vedere acest lucru, OpenAI a anunțat că lucrează pentru a dezvolta „atenuări” care să ajute oamenii să detecteze textul generat automat de ChatGPT.
„Am făcut ChatGPT disponibil ca o previzualizare a cercetării pentru a învăța din utilizarea în lumea reală, ceea ce credem că este o parte esențială a dezvoltării și implementării sistemelor AI capabile și sigure. Încorporăm în mod constant feedback-ul și lecțiile învățate”, a spus un purtător de cuvânt al companiei.
Potrivit mărturiilor profesorilor universitari, studenții au încredere în ChatGPT pentru a-și rezolva temele, mai ales la repetiţii.
„Academia nu a văzut-o să vină. Așa că ne-a luat prin surprindere”, spune Darren Hudson Hick, profesor asistent de filozofie la Universitatea Furman.
„Am raportat-o pe Facebook, iar prietenii mei [profesorii] mi-au spus: „Da! Am prins și eu unul'”, a adăugat el. La începutul acestei luni, Hick și-a cerut clasei să scrie un eseu de 500 de cuvinte despre filozoful scoțian din secolul al XVIII-lea David Hume și paradoxul groazei, care examinează modul în care oamenii pot obține plăcere din ceva de care se tem. , pentru un test acasă. Însă, potrivit profesorului de filosofie, unul dintre eseurile care i-au venit avea câteva trăsături care „marcau” folosirea AI în răspunsul „rudimentar” al elevului. Hick explică că acest lucru poate fi detectat de un ochi antrenat.
A fi capabil să distingă scrisul de mână produs manual de un om sau de o mașină va schimba modul în care pot fi folosite în academie. Școlile ar putea aplica mai eficient interdicția de testare generată de AI,
Da, modelele de limbaj generativ pot fi bune, dar nu știu despre ce vorbesc.
Oricât de impresionant este scrisul generat de inteligență artificială, când conferințele universitare și școlile interzic lucrările dactilografiate, iată un memento că nu înțeleg scrierea umană reală.
Și este că OpenAI a impresionat Internetul cu eforturile sale de a replica inteligența umană și abilitățile artistice încă din 2015. Dar în noiembrie anul trecut, compania a devenit în sfârșit mega virală odată cu lansarea generatorului de text AI ChatGPT. Utilizatorii instrumentului beta au postat exemple de răspunsuri text generate de inteligență artificială la solicitări care păreau atât de legitime încât au provocat teamă în inimile profesorilor și chiar au făcut ca Google să se teamă că instrumentul le-ar putea ucide activitatea de cercetare.
Dacă inginerii OpenAI pot crea un bot care poate scrie la fel de bine sau mai bine decât un om obișnuit, este logic că pot crea, de asemenea, un bot care este mai bun decât omul mediu în a detecta dacă textul a fost generat de AI.
Deoarece, după cum sa menționat pentru moment, OpenAI lucrează la o soluție, au fost deja lansate cel puțin trei instrumente de detectare care pot fi utilizate:
Detector de ieșire GPT-2
Demo-ul online al modelului de detector de ieșire GPT-2 vă permite să lipiți text într-o casetă și să vedeți imediat probabilitatea ca textul să fi fost tastat de AI. Potrivit cercetării OpenAI, instrumentul are o rată de detectare relativ mare, dar „trebuie să fie combinat cu abordări bazate pe metadate, judecată umană și educație publică pentru a fi cel mai eficient”.
GLTR
Când OpenAI a lansat GPT-2 în 2019, oamenii de la MIT-IBM Watson AI Lab și Harvard Natural Language Processing Group s-au unit pentru a crea un algoritm care încearcă să detecteze dacă textul a fost tastat de un bot.
Textul generat de computer poate părea scris de un om, dar un scriitor uman este mai probabil să selecteze cuvinte imprevizibile. Folosind metoda „takes one to know one”, dacă algoritmul GLTR poate prezice următorul cuvânt dintr-o propoziție, se va presupune că propoziția a fost scrisă de un bot.
GPZero
În timpul sezonului de Crăciun, Edward Tian a fost ocupat să creeze GPTZero, o aplicație care poate ajuta să stabilească dacă textul a fost scris de un om sau de un bot. În calitate de universitar la Princeton, Tian înțelege modul în care profesorii universitari pot avea un interes personal în detectarea plagiatului asistat de AI sau a plagiatului asistat de AI.
Tian spune că instrumentul său măsoară caracterul aleatoriu al propozițiilor („buzz”) plus aleatoritatea generală („explozii”) pentru a calcula probabilitatea ca textul să fi fost scris de ChatGPT. De când a postat pe Twitter despre GPTZero pe 2 ianuarie, Tian spune că a fost deja abordat de capitaliști de risc care doresc să investească și că va dezvolta versiuni actualizate în curând.
Fuente: https://techcrunch.com