ChatGPT je prototyp chatbota s umelou inteligenciou
Správa bola zverejnená, že OpenAI vyvíja softvér, ktorý dokáže zistiť, či váš model ChatGPT generoval text, to krátko po tom, čo predstavitelia školstva v New Yorku oznámili, že zablokujú prístup študentov k nástroju na verejných školách.
A je to, že vydali rôzne správy o čom študenti používajúci AI na robenie domácich úloh, prinútili učiteľov zamyslieť sa nad tým, ako to ovplyvňuje vzdelávanie.
Niektorí vyjadrili svoje obavy o to, ako jazykové modely môžu dovoliť študentom podvádzať.
Vzhľadom na to OpenAI oznámila, že pracuje na vývoji „zmiernenia“, ktoré ľuďom pomôže odhaliť text automaticky generovaný ChatGPT.
„ChatGPT sme sprístupnili ako ukážku výskumu, aby sme sa poučili z používania v reálnom svete, čo je podľa nás nevyhnutná súčasť vývoja a nasadenia schopných a bezpečných systémov AI. Neustále začleňujeme spätnú väzbu a získané poznatky,“ povedal hovorca spoločnosti.
Podľa svedectiev univerzitných profesorov študenti dôverujú ChatGPT pri riešení ich domácich úloh, najmä na skúškach.
„Akadémia to nevidela. Takže nás to zaskočilo,“ hovorí Darren Hudson Hick, odborný asistent filozofie na Furmanskej univerzite.
„Nahlásil som to na Facebooku a moji priatelia [učiteľ] povedali: „Áno! Jednu som chytil aj ja,“ dodal. Začiatkom tohto mesiaca Hick údajne požiadal svoju triedu, aby na test doma napísala 500-slovnú esej o škótskom filozofovi XNUMX. storočí Davidovi Humovi a hororovom paradoxe, ktorá skúma, ako môžu ľudia získať potešenie z niečoho, čoho sa boja. Podľa profesora filozofie však jedna z esejí, ktoré sa k nemu dostali, mala niektoré črty, ktoré „označili“ použitie AI v „základnej“ reakcii študenta. Hick vysvetľuje, že to môže zistiť trénované oko.
Vedieť rozlíšiť rukopis ručne vyrábané človekom alebo strojom zmení to spôsob ich využitia v akadémii. Školy by mohli efektívnejšie presadzovať zákaz testovania generovaného AI,
Áno, generatívne jazykové modely môžu byť dobré, ale nevedia, o čom hovoria.
Rovnako pôsobivé, ako sa písanie generované AI dostáva na titulky univerzitných konferencií a škôl, ktoré zakazujú papiere písané na stroji, tu je pripomienka, že im chýba pochopenie skutočného ľudského písania.
OpenAI robí dojem na internete už od roku 2015 svojou snahou replikovať ľudskú inteligenciu a umelecké schopnosti. V novembri minulého roka sa však spoločnosť konečne stala mega virálnou, keď spustila AI textový generátor ChatGPT. Používatelia beta nástroja zverejnili príklady textových odpovedí generovaných AI na výzvy, ktoré sa zdali také legitímne, že vyvolali strach v srdciach učiteľov a dokonca vyvolali v Google strach, že tento nástroj môže zastaviť ich výskumnú aktivitu.
Ak inžinieri OpenAI dokážu vytvoriť robota, ktorý dokáže písať rovnako dobre alebo lepšie ako priemerný človek, je logické, že dokážu vytvoriť aj robota, ktorý je lepší ako priemerný človek pri zisťovaní, či text vygenerovala AI.
Keďže OpenAI momentálne pracuje na riešení, už boli vydané najmenej tri detekčné nástroje, ktoré možno použiť:
Detektor odchodu GPT-2
Online demo modelu únikového detektora GPT-2 vám umožňuje vložiť text do poľa a okamžite vidieť pravdepodobnosť, že text bol napísaný AI. Podľa výskumu OpenAI má tento nástroj relatívne vysokú mieru detekcie, no „na to, aby bol čo najefektívnejší, je potrebné ho kombinovať s prístupmi založenými na metadátach, ľudskom úsudku a vzdelávaní verejnosti“.
GLTR
Keď OpenAI vydala GPT-2 v roku 2019, ľudia z laboratória MIT-IBM Watson AI Lab a Harvard Natural Language Processing Group sa spojili, aby vytvorili algoritmus, ktorý sa snaží zistiť, či bol text napísaný robotom.
Počítačom generovaný text sa môže zdať napísaný človekom, ale ľudský pisateľ s väčšou pravdepodobnosťou vyberie nepredvídateľné slová. Ak algoritmus GLTR dokáže predpovedať ďalšie slovo vo vete pomocou metódy „treba poznať jedného“, bude predpokladať, že vetu napísal robot.
GPTZero
Počas vianočnej sezóny bol Edward Tian zaneprázdnený tvorbou GPTZero, aplikácie, ktorá môže pomôcť určiť, či text napísal človek alebo robot. Ako akademik v Princetone Tian chápe, ako môžu mať univerzitní profesori vlastný záujem na odhaľovaní plagiátorstva s pomocou AI alebo plagiátorstva s pomocou AI.
Tian hovorí, že jeho nástroj meria náhodnosť viet ("buzz") plus celkovú náhodnosť ("burst") na výpočet pravdepodobnosti, že text napísal ChatGPT. Od tweetovania o GPTZero 2. januára Tian hovorí, že ho už oslovili investori rizikového kapitálu, ktorí chcú investovať, a čoskoro vyvinie aktualizované verzie.
Fuente: https://techcrunch.com