ChatGPT è un prototipo di chatbot di intelligenza artificiale
La notizia è stata rilasciata OpenAI sta sviluppando un software in grado di rilevare se il tuo modello ChatGPT ha generato testo, questo poco dopo che i funzionari dell'istruzione di New York City hanno annunciato che avrebbero bloccato l'accesso degli studenti allo strumento nelle scuole pubbliche.
Ed è che hanno rilasciato vari rapporti su cosa studenti che usano l'intelligenza artificiale per fare i compiti, hanno fatto riflettere gli insegnanti su come influisce sull'istruzione.
Alcuni hanno espresso la loro preoccupazione su come i modelli linguistici possono permettere agli studenti di imbrogliare.
Detto questo, OpenAI ha annunciato che sta lavorando per sviluppare "mitigazioni" che aiuteranno le persone a rilevare il testo generato automaticamente da ChatGPT.
“Abbiamo reso ChatGPT disponibile come anteprima di ricerca per apprendere dall'uso nel mondo reale, che riteniamo sia una parte essenziale dello sviluppo e dell'implementazione di sistemi di intelligenza artificiale capaci e sicuri. Incorporiamo costantemente feedback e lezioni apprese", ha affermato un portavoce dell'azienda.
Secondo testimonianze di professori universitari, gli studenti si affidano a ChatGPT per risolvere i compiti, soprattutto durante le prove.
“L'accademia non se l'aspettava. Quindi ci ha colto di sorpresa", afferma Darren Hudson Hick, assistente professore di filosofia alla Furman University.
"L'ho segnalato su Facebook e i miei amici [insegnanti] mi hanno detto, 'sì! Ne ho preso uno anch'io'", ha aggiunto. All'inizio di questo mese, secondo quanto riferito, Hick ha chiesto alla sua classe di scrivere un saggio di 500 parole sul filosofo scozzese del XVIII secolo David Hume e il paradosso dell'orrore, che esamina come le persone possono trarre piacere da qualcosa che temono, per un test a casa. Ma secondo il professore di filosofia, uno dei saggi che gli sono pervenuti aveva delle caratteristiche che "segnavano" l'uso dell'IA nella risposta "rudimentale" dello studente. Hick spiega che questo può essere rilevato da un occhio allenato.
Essere in grado di distinguere la scrittura a mano a mano prodotto da un essere umano o da una macchina cambierà il modo in cui possono essere utilizzati nell'accademia. Le scuole potrebbero applicare in modo più efficace il divieto di test generato dall'intelligenza artificiale,
Sì, i modelli di linguaggio generativo possono essere buoni, ma non sanno di cosa stanno parlando.
Per quanto impressionante sia la scrittura generata dall'intelligenza artificiale che fa notizia con le conferenze universitarie e le scuole che vietano i documenti dattiloscritti, ecco un promemoria che mancano di comprensione della vera scrittura umana.
Ed è che OpenAI ha impressionato Internet con i suoi sforzi per replicare l'intelligenza umana e le capacità artistiche dal 2015. Ma lo scorso novembre, la società è finalmente diventata virale con il lancio del generatore di testo AI ChatGPT. Gli utenti dello strumento beta hanno pubblicato esempi di risposte di testo generate dall'intelligenza artificiale a suggerimenti che sembravano così legittimi da incutere timore nei cuori degli insegnanti e persino da far temere a Google che lo strumento potesse interrompere la loro attività di ricerca.
Se gli ingegneri di OpenAI possono creare un bot in grado di digitare altrettanto o meglio dell'essere umano medio, è ovvio che possono anche creare un bot che sia migliore dell'essere umano medio nel rilevare se il testo è stato generato dall'IA.
Poiché come detto per il momento OpenAI sta lavorando a una soluzione, sono già stati rilasciati almeno tre strumenti di rilevamento utilizzabili:
Rilevatore di uscita GPT-2
La demo online del modello di rilevatore di uscita GPT-2 consente di incollare il testo in una casella e vedere immediatamente la probabilità che il testo sia stato digitato dall'IA. Secondo la ricerca di OpenAI, lo strumento ha un tasso di rilevamento relativamente alto, ma "deve essere combinato con approcci basati su metadati, giudizio umano e istruzione pubblica per essere più efficace".
GLTR
Quando OpenAI ha rilasciato GPT-2 nel 2019, i ragazzi del MIT-IBM Watson AI Lab e dell'Harvard Natural Language Processing Group si sono uniti per creare un algoritmo che tenti di rilevare se il testo è stato digitato da un bot.
Il testo generato dal computer può sembrare scritto da un essere umano, ma è più probabile che uno scrittore umano selezioni parole imprevedibili. Utilizzando il metodo "ne basta uno per conoscerne uno", se l'algoritmo GLTR può prevedere la parola successiva in una frase, presumerà che la frase sia stata scritta da un bot.
GPZero
Durante il periodo natalizio, Edward Tian era impegnato a creare GPTZero, un'app che può aiutare a determinare se il testo è stato scritto da un essere umano o da un bot. Come accademico a Princeton, Tian comprende come i professori universitari possano avere un interesse acquisito nel rilevare il plagio assistito dall'IA o il plagio assistito dall'IA.
Tian afferma che il suo strumento misura la casualità delle frasi ("buzz") più la casualità complessiva ("burst") per calcolare la probabilità che il testo sia stato scritto da ChatGPT. Da quando ha twittato su GPTZero il 2 gennaio, Tian afferma di essere già stato avvicinato da venture capitalist che vogliono investire e presto svilupperà versioni aggiornate.
fonte: https://techcrunch.com