ChatGPT er en kunstig intelligens chatbot prototype
Nyheden blev offentliggjort OpenAI udvikler software, der kan registrere, om din ChatGPT-model genererede tekst, dette kort efter, at New York Citys uddannelsesembedsmænd meddelte, at de ville blokere elevernes adgang til værktøjet i offentlige skoler.
Og det er, at de har udgivet forskellige rapporter om hvad studerende, der bruger kunstig intelligens til at lave deres lektier, de har fået lærerne til at tænke over, hvordan det påvirker uddannelsen.
Nogle har givet udtryk for deres bekymring for, hvordan sprogmodeller de kan tillade elever at snyde.
I lyset af dette meddelte OpenAI, at det arbejder på at udvikle "begrænsninger", der vil hjælpe folk med at opdage teksten automatisk genereret af ChatGPT.
"Vi har gjort ChatGPT tilgængeligt som et forskningspreview for at lære af brugen i den virkelige verden, som vi mener er en væsentlig del af udvikling og implementering af dygtige og sikre AI-systemer. Vi inkorporerer konstant feedback og erfaringer," sagde en talsmand for virksomheden.
Ifølge udtalelser fra universitetsprofessorer, studerende stoler på, at ChatGPT løser deres lektier, især i prøverne.
”Akademiet så det ikke komme. Så det overraskede os,” siger Darren Hudson Hick, assisterende professor i filosofi ved Furman University.
"Jeg rapporterede det på Facebook, og mine [lærer] venner sagde, 'yeah! Jeg fangede også en," tilføjede han. Tidligere på måneden bad Hick efter sigende sin klasse om at skrive et essay på 500 ord om den skotske filosof David Hume fra det XNUMX. århundrede og rædselsparadokset, som undersøger, hvordan folk kan få glæde af noget, de frygter. , til en test derhjemme. Men ifølge filosofiprofessoren havde et af de essays, der kom til ham, nogle træk, der "markerede" brugen af AI i den studerendes "rudimentære" svar. Hick forklarer, at dette kan opdages af et trænet øje.
At kunne skelne håndskrift i hånden fremstillet af et menneske eller en maskine det vil ændre måden, de kan bruges på i akademiet. Skoler kunne mere effektivt håndhæve det AI-genererede testforbud,
Ja, generative sprogmodeller kan være gode, men de ved ikke, hvad de taler om.
Lige så imponerende som AI-genereret skrift skaber overskrifter med universitetskonferencer og skoler, der forbyder maskinskrevne papirer, her er en påmindelse om, at de mangler forståelse for faktisk menneskelig skrivning.
Og det er, at OpenAI har imponeret internettet med sine bestræbelser på at replikere menneskelig intelligens og kunstneriske evner siden 2015. Men i november sidste år gik virksomheden endelig megaviralt med lanceringen af AI-tekstgeneratoren ChatGPT. Brugere af beta-værktøjet postede eksempler på AI-genererede tekstsvar på prompter, der virkede så legitime, at de slog frygt ind i lærernes hjerter og endda fik Google til at frygte, at værktøjet kunne dræbe deres forskningsaktivitet.
Hvis OpenAI-ingeniører kan skabe en bot, der kan skrive lige så godt eller bedre end det gennemsnitlige menneske, er det naturligt, at de også kan skabe en bot, der er bedre end det gennemsnitlige menneske til at opdage, om tekst blev genereret af AI.
Da OpenAI som nævnt i øjeblikket arbejder på en løsning, er der allerede frigivet mindst tre detektionsværktøjer, der kan bruges:
GPT-2 udgangsdetektor
Onlinedemoen af GPT-2-udgangsdetektormodellen giver dig mulighed for at indsætte tekst i en boks og straks se sandsynligheden for, at teksten blev skrevet af AI. Ifølge OpenAI's forskning har værktøjet en relativt høj detektionsrate, men "skal kombineres med tilgange baseret på metadata, menneskelig dømmekraft og offentlig uddannelse for at være mest effektiv."
GLTR
Da OpenAI udgav GPT-2 i 2019, gik folk fra MIT-IBM Watson AI Lab og Harvard Natural Language Processing Group sammen om at skabe en algoritme, der forsøger at opdage, om tekst er blevet skrevet af en bot.
Computergenereret tekst kan se ud til at være skrevet af et menneske, men en menneskelig forfatter er mere tilbøjelig til at vælge uforudsigelige ord. Ved at bruge "takes one to know one"-metoden, hvis GLTR-algoritmen kan forudsige det næste ord i en sætning, vil den antage, at sætningen er skrevet af en bot.
GPZero
I juletiden havde Edward Tian travlt med at skabe GPTZero, en app, der kan hjælpe med at afgøre, om teksten var skrevet af et menneske eller en bot. Som akademiker ved Princeton forstår Tian, hvordan universitetsprofessorer kan have en egeninteresse i at opdage AI-assisteret plagiat eller AI-assisteret plagiat.
Tian siger, at hans værktøj måler tilfældigheden af sætninger ("buzz") plus den overordnede tilfældighed ("bursts") for at beregne sandsynligheden for, at teksten er skrevet af ChatGPT. Siden tweetede om GPTZero den 2. januar, siger Tian, at han allerede er blevet kontaktet af venturekapitalister, der ønsker at investere, og han vil snart udvikle opdaterede versioner.
kilde: https://techcrunch.com