ChatGPT ir mākslīgā intelekta tērzēšanas robota prototips
Tika izlaista ziņa, ka OpenAI izstrādā programmatūru, kas var noteikt, vai jūsu ChatGPT modelis ir ģenerējis tekstu, tas notika neilgi pēc tam, kad Ņujorkas izglītības amatpersonas paziņoja, ka bloķēs skolēnu piekļuvi rīkam valsts skolās.
Un tas ir, ka viņi ir izlaiduši dažādus ziņojumus par to, ko skolēni, kuri izmanto AI, lai pildītu mājasdarbus, tie ir likuši skolotājiem aizdomāties par to, kā tas ietekmē izglītību.
Daži ir izteikuši savu bažas par valodu modeļiem viņi var ļaut studentiem krāpties.
Ņemot to vērā, OpenAI paziņoja, ka strādā, lai izstrādātu "mazinājumus", kas palīdzēs cilvēkiem atklāt ChatGPT automātiski ģenerēto tekstu.
“Mēs esam padarījuši ChatGPT pieejamu kā izpētes priekšskatījumu, lai mācītos no reālās pasaules izmantošanas, kas, mūsuprāt, ir būtiska spējīgu un drošu AI sistēmu izstrādes un izvietošanas sastāvdaļa. Mēs pastāvīgi iekļaujam atsauksmes un gūtās mācības," sacīja uzņēmuma pārstāvis.
Saskaņā ar universitātes profesoru atsauksmēm, skolēni uzticas ChatGPT, lai atrisinātu mājasdarbus, īpaši mēģinājumos.
"Akadēmija to neredzēja. Tāpēc tas mūs pārsteidza,” saka Darens Hadsons Hiks, Furmana universitātes filozofijas docents.
"Es par to ziņoju Facebook, un mani [skolotāju] draugi teica:" jā! Es arī vienu noķēru," viņš piebilda. Kā ziņots, šī mēneša sākumā Hiks lūdza savu klasi uzrakstīt 500 vārdu garu eseju par XNUMX. gadsimta skotu filozofu Deividu Hjūmu un šausmu paradoksu, kurā tiek pētīts, kā cilvēki var gūt prieku no kaut kā, no kā viņi baidās. , lai veiktu pārbaudi mājās. Bet, pēc filozofijas profesora domām, vienai no esejām, kas viņam nonāca, bija dažas iezīmes, kas "iezīmēja" AI izmantošanu studenta "rudimentārajā" atbildē. Hiks skaidro, ka to var noteikt apmācīta acs.
Spēja atšķirt rokrakstu ar rokām, ko ražo cilvēks vai mašīna tas mainīs veidu, kā tos var izmantot akadēmijā. Skolas varētu efektīvāk īstenot mākslīgā intelekta radīto testu aizliegumu,
Jā, ģeneratīvie valodu modeļi var būt labi, bet viņi nezina, par ko runā.
Tikpat iespaidīgi, kā mākslīgā intelekta radītā rakstīšana nonāk universitāšu konferenču un skolu virsrakstos, aizliedzot rakstāmmašīnas rakstus, šeit ir atgādinājums, ka viņiem trūkst izpratnes par cilvēka rakstīšanu.
Un tas ir tas, ka OpenAI kopš 2015. gada ir pārsteidzis internetu ar saviem centieniem atkārtot cilvēka intelektu un mākslinieciskās spējas. Taču pagājušā gada novembrī uzņēmums beidzot kļuva milzīgs vīruss, uzsākot AI teksta ģeneratoru ChatGPT. Beta versijas rīka lietotāji publicēja piemērus ar mākslīgā intelekta radītām teksta atbildēm uz uzvednēm, kas šķita tik likumīgas, ka iedzina skolotāju sirdīs bailes un pat lika Google baidīties, ka rīks var iznīcināt viņu pētniecības darbību.
Ja OpenAI inženieri var izveidot robotu, kas var rakstīt tikpat labi vai labāk nekā vidusmēra cilvēks, ir pašsaprotami, ka viņi var izveidot arī robotu, kas ir labāks par vidusmēra cilvēku, lai noteiktu, vai tekstu ir ģenerējis AI.
Tā kā, kā jau minēts, OpenAI pašlaik strādā pie risinājuma, jau ir izlaisti vismaz trīs noteikšanas rīki, kurus var izmantot:
GPT-2 izejas detektors
GPT-2 izejas detektora modeļa tiešsaistes demonstrācija ļauj ielīmēt tekstu lodziņā un uzreiz redzēt varbūtību, ka tekstu ir ierakstījis AI. Saskaņā ar OpenAI pētījumu, rīkam ir salīdzinoši augsts noteikšanas līmenis, taču "lai tas būtu visefektīvākais, tas ir jāapvieno ar pieejām, kuru pamatā ir metadati, cilvēku spriedumi un sabiedrības izglītošana".
GLTR
Kad OpenAI 2. gadā izlaida GPT-2019, MIT-IBM Watson AI Lab un Hārvardas dabiskās valodas apstrādes grupas darbinieki sadarbojās, lai izveidotu algoritmu, kas mēģina noteikt, vai tekstu nav ievadījis robots.
Var šķist, ka datorā ģenerētu tekstu ir rakstījis cilvēks, taču cilvēka rakstītājs, visticamāk, atlasīs neparedzamus vārdus. Ja GLTR algoritms var paredzēt nākamo vārdu teikumā, izmantojot metodi “notiek viens, lai uzzinātu vienu”, tas pieņems, ka teikumu ir uzrakstījis robots.
GPTZero
Ziemassvētku sezonā Edvards Tjans bija aizņemts, veidojot GPTZero — lietotni, kas var palīdzēt noteikt, vai tekstu ir rakstījis cilvēks vai robots. Būdams Prinstonas mācībspēks, Tians saprot, kā universitātes profesori var būt ieinteresēti atklāt mākslīgā intelekta vai mākslīgā intelekta plaģiātu.
Tian saka, ka viņa rīks mēra teikumu nejaušību ("buzz") un kopējo nejaušību ("pārrāvumus"), lai aprēķinātu varbūtību, ka tekstu ir uzrakstījis ChatGPT. Kopš 2. janvāra tvitera par GPTZero Tjans saka, ka viņu jau ir uzrunājuši riska kapitālisti, kuri vēlas ieguldīt, un viņš drīzumā izstrādās atjauninātas versijas.
Fuente: https://techcrunch.com