ChatGPT je prototyp chatbota s umělou inteligencí
Zpráva byla zveřejněna, že OpenAI vyvíjí software, který dokáže zjistit, zda váš model ChatGPT generoval text, to krátce poté, co představitelé školství v New Yorku oznámili, že zablokují přístup studentů k tomuto nástroji ve veřejných školách.
A je to tím, že vydali různé zprávy o čem studenti používající umělou inteligenci k plnění domácích úkolů, přiměly učitele přemýšlet o tom, jak to ovlivňuje vzdělávání.
Někteří vyjádřili své obavy o to, jak jazykové modely mohou dovolit studentům podvádět.
Vzhledem k tomu OpenAI oznámilo, že pracuje na vývoji „zmírnění“, které lidem pomůže detekovat text automaticky generovaný ChatGPT.
„ChatGPT jsme zpřístupnili jako náhled výzkumu, abychom se poučili z používání v reálném světě, což je podle nás nezbytnou součástí vývoje a nasazení schopných a bezpečných systémů umělé inteligence. Neustále začleňujeme zpětnou vazbu a získané poznatky,“ uvedl mluvčí společnosti.
Podle svědectví univerzitních profesorů studenti důvěřují ChatGPT, že vyřeší jejich domácí úkoly, hlavně ve zkouškách.
"Akademie to neviděla." Takže nás to zaskočilo,“ říká Darren Hudson Hick, odborný asistent filozofie na Furmanově univerzitě.
„Nahlásil jsem to na Facebooku a moji [učitelští] přátelé byli jako: ‚Jo! Taky jsem jednoho chytil,“ dodal. Začátkem tohoto měsíce Hick údajně požádal svou třídu, aby napsala esej o 500 slovech o skotském filozofovi Davidu Humovi z XNUMX. století a hororovém paradoxu, který zkoumá, jak mohou lidé získat potěšení z něčeho, čeho se bojí. Ale podle profesora filozofie měl jeden z esejů, které se k němu dostaly, některé rysy, které „označily“ použití umělé inteligence ve studentově „základní“ reakci. Hick vysvětluje, že to lze zjistit cvičeným okem.
Umět rozlišit rukopis ručně vyráběné člověkem nebo strojem změní to způsob jejich použití v akademii. Školy by mohly účinněji prosazovat zákaz testování generovaného umělou inteligencí,
Ano, generativní jazykové modely mohou být dobré, ale nevědí, o čem mluví.
Jakkoli je psaní generované umělou inteligencí působivé na titulky univerzitních konferencí a škol, které zakazují papíry psané na stroji, zde je připomenutí, že jim chybí porozumění skutečnému lidskému psaní.
A je to tím, že OpenAI ohromuje internet svou snahou o replikaci lidské inteligence a uměleckých schopností již od roku 2015. Loni v listopadu se ale společnost konečně stala mega virální se spuštěním textového generátoru AI ChatGPT. Uživatelé beta nástroje zveřejnili příklady textových odpovědí generovaných umělou inteligencí na výzvy, které se zdály tak legitimní, že vzbuzovaly strach v srdcích učitelů a dokonce způsobily, že se Google obával, že tento nástroj může zničit jejich výzkumnou činnost.
Pokud inženýři OpenAI dokážou vytvořit robota, který umí psát stejně dobře nebo lépe než průměrný člověk, je logické, že mohou také vytvořit robota, který je lepší než průměrný člověk při zjišťování, zda text generovala umělá inteligence.
Protože, jak již bylo zmíněno, OpenAI v současné době pracuje na řešení, již byly vydány nejméně tři detekční nástroje, které lze použít:
Detektor výstupu GPT-2
Online demo modelu únikového detektoru GPT-2 vám umožňuje vložit text do rámečku a okamžitě vidět pravděpodobnost, že text byl napsán AI. Podle výzkumu OpenAI má nástroj relativně vysokou míru detekce, ale „je třeba jej kombinovat s přístupy založenými na metadatech, lidském úsudku a veřejném vzdělávání, aby byl co nejúčinnější“.
GLTR
Když OpenAI v roce 2 vydala GPT-2019, lidé z MIT-IBM Watson AI Lab a Harvard Natural Language Processing Group se spojili, aby vytvořili algoritmus, který se snaží zjistit, zda byl text napsán robotem.
Počítačem generovaný text se může zdát napsaný člověkem, ale lidský pisatel pravděpodobně vybere nepředvídatelná slova. Pokud algoritmus GLTR dokáže předpovědět další slovo ve větě pomocí metody „bere one to know one“, bude předpokládat, že větu napsal robot.
GPZero
Během vánoční sezóny byl Edward Tian zaneprázdněn vytvářením GPTZero, aplikace, která může pomoci určit, zda text napsal člověk nebo robot. Jako akademik na Princetonu Tian chápe, jak mohou mít univerzitní profesoři zájem na odhalování plagiátorství za pomoci umělé inteligence nebo plagiátorství s pomocí umělé inteligence.
Tian říká, že jeho nástroj měří náhodnost vět ("buzz") plus celkovou náhodnost ("bursts"), aby vypočítal pravděpodobnost, že text byl napsán ChatGPT. Od tweetování o GPTZero 2. ledna Tian říká, že ho již oslovili investoři rizikového kapitálu, kteří chtějí investovat, a brzy vyvine aktualizované verze.
zdroj: https://techcrunch.com