ChatGPT är en artificiell intelligens chatbot-prototyp
Nyheten släpptes att OpenAI utvecklar programvara som kan upptäcka om din ChatGPT-modell genererade text, detta kort efter att utbildningstjänstemän i New York City meddelade att de skulle blockera elevernas tillgång till verktyget i offentliga skolor.
Och det är att de har släppt olika rapporter om vad elever som använder AI för att göra sina läxor, de har fått lärare att fundera över hur det påverkar utbildningen.
Vissa har uttryckt sitt oro för hur språkmodeller de kan tillåta elever att fuska.
Med tanke på detta meddelade OpenAI att de arbetar med att utveckla "reduceringar" som kommer att hjälpa människor att upptäcka texten som automatiskt genereras av ChatGPT.
"Vi har gjort ChatGPT tillgängligt som en förhandsgranskning för att lära oss av den verkliga användningen, vilket vi tror är en viktig del av att utveckla och distribuera kapabla och säkra AI-system. Vi införlivar ständigt feedback och lärdomar, säger en talesperson för företaget.
Enligt vittnesmål från universitetsprofessorer, studenter litar på att ChatGPT löser sina läxor, speciellt vid repetitioner.
”Akademin såg det inte komma. Så det överraskade oss, säger Darren Hudson Hick, biträdande professor i filosofi vid Furman University.
"Jag rapporterade det på Facebook, och mina [lärare] vänner sa: 'Ja! Jag fångade en också", tillade han. Tidigare denna månad ska Hick ha bett sin klass att skriva en essä på 500 ord om den skotske XNUMX-talsfilosofen David Hume och skräckparadoxen, som undersöker hur människor kan dra njutning av något de fruktar. , för ett test hemma. Men enligt filosofiprofessorn hade en av uppsatserna som kom till honom några drag som "markerade" användningen av AI i studentens "rudimentära" svar. Hick förklarar att detta kan upptäckas av ett tränat öga.
Att kunna urskilja handstil för hand tillverkad av en människa eller en maskin det kommer att förändra hur de kan användas i akademin. Skolor skulle mer effektivt kunna upprätthålla det AI-genererade testförbudet,
Ja, generativa språkmodeller kan vara bra, men de vet inte vad de pratar om.
Lika imponerande som AI-genererat skrivande skapar rubriker med universitetskonferenser och skolor som förbjuder maskinskrivna papper, här är en påminnelse om att de saknar förståelse för mänskligt skrivande.
Och det är så att OpenAI har imponerat på Internet med sina ansträngningar att replikera mänsklig intelligens och konstnärliga förmågor sedan 2015. Men i november förra året blev företaget äntligen megaviralt med lanseringen av AI-textgeneratorn ChatGPT. Användare av betaverktyget publicerade exempel på AI-genererade textsvar på uppmaningar som verkade så legitima att de slog rädsla i lärarnas hjärtan och till och med fick Google att frukta att verktyget kunde döda deras forskningsaktivitet.
Om OpenAI-ingenjörer kan skapa en bot som kan skriva lika bra eller bättre än den genomsnittliga människan, är det naturligt att de också kan skapa en bot som är bättre än den genomsnittliga människan på att upptäcka om text genererades av AI.
Eftersom OpenAI, som nämnts för tillfället, arbetar på en lösning, har åtminstone tre detektionsverktyg redan släppts som kan användas:
GPT-2 utgångsdetektor
Onlinedemon av GPT-2-utgångsdetektormodellen låter dig klistra in text i en ruta och omedelbart se sannolikheten att texten skrevs av AI. Enligt OpenAI:s forskning har verktyget en relativt hög upptäcktsgrad, men "måste kombineras med metoder baserade på metadata, mänskligt omdöme och offentlig utbildning för att vara mest effektivt."
GLTR
När OpenAI släppte GPT-2 2019, gick folket på MIT-IBM Watson AI Lab och Harvard Natural Language Processing Group ihop för att skapa en algoritm som försöker upptäcka om text har skrivits av en bot.
Datorgenererad text kan tyckas vara skriven av en människa, men en mänsklig författare är mer benägna att välja oförutsägbara ord. Om GLTR-algoritmen kan förutsäga nästa ord i en mening, kommer den att anta att meningen är skriven av en bot genom att använda metoden "tar en att veta en".
GPZero
Under julsäsongen var Edward Tian upptagen med att skapa GPTZero, en app som kan hjälpa till att avgöra om text skrevs av en människa eller en bot. Som akademiker vid Princeton förstår Tian hur universitetsprofessorer kan ha ett egenintresse av att upptäcka AI-assisterat plagiat eller AI-assisterat plagiat.
Tian säger att hans verktyg mäter slumpmässigheten hos meningar ("buzz") plus den övergripande slumpmässigheten ("bursts") för att beräkna sannolikheten för att texten skrevs av ChatGPT. Sedan Tian twittrade om GPTZero den 2 januari, säger Tian att han redan har blivit kontaktad av riskkapitalister som vill investera, och han kommer att utveckla uppdaterade versioner snart.
Fuente: https://techcrunch.com