ChatGPT er en kunstig intelligens chatbot-prototype
Nyheten ble sluppet at OpenAI utvikler programvare som kan oppdage om ChatGPT-modellen din genererte tekst, dette kort tid etter at utdanningstjenestemenn i New York City annonserte at de ville blokkere studenttilgang til verktøyet i offentlige skoler.
Og det er at de har gitt ut ulike rapporter om hva studenter som bruker AI til å gjøre leksene sine, de har fått lærerne til å tenke på hvordan det påvirker utdanningen.
Noen har gitt uttrykk for sitt bekymring for hvordan språkmodeller de kan tillate studenter å jukse.
Gitt dette kunngjorde OpenAI at de jobber med å utvikle "begrensninger" som vil hjelpe folk å oppdage teksten automatisk generert av ChatGPT.
"Vi har gjort ChatGPT tilgjengelig som en forskningsforhåndsvisning for å lære av bruk i den virkelige verden, som vi mener er en viktig del av utvikling og distribusjon av dyktige og sikre AI-systemer. Vi inkorporerer stadig tilbakemeldinger og erfaringer," sa en talsperson for selskapet.
I følge attester fra universitetsprofessorer, studenter stoler på ChatGPT for å løse leksene sine, spesielt på prøver.
«Akademiet så det ikke komme. Så det overrasket oss, sier Darren Hudson Hick, assisterende professor i filosofi ved Furman University.
"Jeg rapporterte det på Facebook, og vennene mine [lærer] sa: 'Ja! Jeg fanget en også," la han til. Tidligere denne måneden skal Hick ha spurt klassen sin om å skrive et essay på 500 ord om den skotske filosofen David Hume fra XNUMX-tallet og skrekkparadokset, som undersøker hvordan folk kan få glede av noe de frykter. , for en test hjemme. Men ifølge filosofiprofessoren hadde et av essayene som kom til ham noen trekk som "markerte" bruken av AI i studentens "rudimentære" respons. Hick forklarer at dette kan oppdages av et trenet øye.
Å kunne skille håndskrift for hånd produsert av et menneske eller en maskin det vil endre måten de kan brukes på i akademiet. Skoler kan mer effektivt håndheve det AI-genererte testforbudet,
Ja, generative språkmodeller kan være bra, men de vet ikke hva de snakker om.
Like imponerende som AI-generert skrift skaper overskrifter med universitetskonferanser og skoler som forbyr maskinskrevne papirer, her er en påminnelse om at de mangler forståelse for faktisk menneskelig skriving.
Og det er at OpenAI har imponert Internett med sin innsats for å gjenskape menneskelig intelligens og kunstneriske evner siden 2015. Men i november i fjor ble selskapet endelig megaviralt med lanseringen av AI-tekstgeneratoren ChatGPT. Brukere av betaverktøyet la ut eksempler på AI-genererte tekstsvar på forespørsler som virket så legitime at de satte frykt inn i lærernes hjerter og til og med fikk Google til å frykte at verktøyet kunne drepe forskningsaktiviteten deres.
Hvis OpenAI-ingeniører kan lage en bot som kan skrive like bra eller bedre enn gjennomsnittsmennesket, er det naturlig at de også kan lage en bot som er bedre enn gjennomsnittsmennesket til å oppdage om tekst ble generert av AI.
Siden OpenAI som nevnt for øyeblikket jobber med en løsning, har minst tre deteksjonsverktøy allerede blitt utgitt som kan brukes:
GPT-2 utgangsdetektor
Den elektroniske demoen av GPT-2-utgangsdetektormodellen lar deg lime inn tekst i en boks og umiddelbart se sannsynligheten for at teksten ble skrevet av AI. I følge OpenAIs forskning har verktøyet en relativt høy deteksjonsrate, men "må kombineres med tilnærminger basert på metadata, menneskelig dømmekraft og offentlig utdanning for å være mest effektiv."
GLTR
Da OpenAI ga ut GPT-2 i 2019, slo folkene ved MIT-IBM Watson AI Lab og Harvard Natural Language Processing Group seg sammen for å lage en algoritme som prøver å oppdage om tekst er skrevet av en bot.
Datagenerert tekst kan se ut til å være skrevet av et menneske, men en menneskelig forfatter er mer sannsynlig å velge uforutsigbare ord. Hvis GLTR-algoritmen kan forutsi neste ord i en setning, vil den anta at setningen er skrevet av en bot ved å bruke "tar en å kjenne en"-metoden.
GPZero
I julesesongen var Edward Tian opptatt med å lage GPTZero, en app som kan hjelpe med å finne ut om teksten er skrevet av et menneske eller en bot. Som akademiker ved Princeton forstår Tian hvordan universitetsprofessorer kan ha en egeninteresse i å oppdage AI-assistert plagiat eller AI-assistert plagiat.
Tian sier at verktøyet hans måler tilfeldigheten til setninger ("buzz") pluss den generelle tilfeldigheten ("bursts") for å beregne sannsynligheten for at teksten ble skrevet av ChatGPT. Siden Tian tvitret om GPTZero 2. januar, sier Tian at han allerede har blitt kontaktet av venturekapitalister som ønsker å investere, og at han snart vil utvikle oppdaterte versjoner.
Fuente: https://techcrunch.com