Klods, tērzēšanas robots, kurš vēlas konkurēt ar OpenAI
Anthropic, mākslīgā intelekta starta uzņēmums, ko 2021. gadā izveidoja bijušie OpenAI darbinieki, ir klusi sācis testēt jaunu ChatGPT līdzīgu AI palīgu, kas, šķiet, uzlabo oriģinālo dažās galvenajās jomās.
ar koda nosaukumu "Claude", tas tika izveidots, izmantojot Anthropic izstrādāto tehniku, ko sauc par "konstitucionālo AI" un tehniku mērķis ir nodrošināt “uz principiem balstītu” pieeju saskaņot AI sistēmas ar cilvēka nodomiem, ļaujot AI, piemēram, ChatGPT, atbildēt uz vaicājumiem, izmantojot vienkāršu principu kopumu kā ceļvedi.
Tiek minēts, ka Anthropic sevi tirgo kā AI pētniecības un drošības uzņēmumu, kas cenšas radīt uzticamas, interpretējamas un vadāmas AI sistēmas.
Jaunuzņēmums līdz šim ir saņēmis vairāk nekā 700 miljonus ASV dolāru finansējumu un nesen ieviesa AI tērzēšanas robotu ar nosaukumu Claude. Pēdējais ir salīdzināms ar OpenAI ChatGPT, taču saskaņā ar Anthropic teikto, Klods vairākos svarīgos veidos ir pārāks par oriģinālu.
Visa sistēma ir slēgtā beta versijā, un dažiem cilvēkiem vēl ir bijusi piekļuve tērzēšanas robotam, taču Anthropic ir pacēlis vāku dažiem tās dizaina aspektiem dokumentā, ko tā kopīgoja ar kopienu.
Precīzi, lai izstrādātu Klodu, Anthropic komanda sāka, izstrādājot sarakstu ar apmēram desmit principiem, kas kopā veido sava veida "konstitūciju" (tātad termins "konstitucionālais AI").
Šie principi nav publiskoti, bet Anthropic saka, ka tie ir balstīti uz labdarības jēdzieniem (maksimāli palielināt pozitīvo ietekmi), nelikumība (izvairieties sniegt kaitīgus padomus) un autonomiju (respektējiet izvēles brīvību).
Pēc šo pamatprincipu ieviešanas Anthropic lūdza mākslīgā intelekta sistēmu, kas nav Klods, izmantot šos principus, lai uzlabotu sevi, rakstot atbildes uz dažādiem jautājumiem (piemēram, "Izstrādājiet attēlu XX stilā vai izveidojiet dzejoli šādā stilā XX") stils") un izskatot atbildes saskaņā ar konstitūciju. AI izpētīja iespējamās atbildes uz tūkstošiem uzvedņu.
Klods sīki izklāsta savas ieviešanas tehniskās detaļas, taču Anthropic pētnieciskajā dokumentā par konstitucionālo AI ir aprakstīts AnthropicLM v4-s3 — iepriekš apmācīts modelis ar 52 miljardu parametru. Šis autoregresīvais modelis tika apmācīts bez uzraudzības liela teksta korpusā, līdzīgi kā OpenAI GPT-3. Anthropic stāsta, ka Claude ir lielāks jauns modelis ar līdzīgām arhitektūras izvēlēm kā publicētajam pētījumam.
Sistēma izvēlējās tos, kas visvairāk atbilst konstitūcijai, un Anthropic tos destilēja vienā modelī. Pēc starta domām, šis modelis tika izmantots Kloda apmācīšanai.
Kas ir Klods?
Claude būtībā ir statistikas rīks vārdu prognozēšanai, piemēram, ChatGPT un citi valodu modeļi. Pamatojoties uz tādiem modeļiem kā apkārtējā teksta semantiskais konteksts, Klods, ko baro ar daudziem paraugiem, kas ņemti no tīmekļa, uzzināja vārdu rašanās varbūtību. Rezultātā Klods var atklāti sarunāties, stāstīt jokus un filozofēt par visdažādākajām tēmām.
Tomēr, Klods nav ideāls, jo tāpat kā visi AI, ir jutīgs pret dažiem ChatGPT trūkumiem, tostarp tādu atbilžu piegāde, kas neatbilst plānotajiem ierobežojumiem. Vienā no dīvainākajiem piemēriem, jautājot sistēmai Base64, kodēšanas shēma, kas attēlo bināros datus ASCII formātā, apiet savus iebūvētos filtrus kaitīga satura noteikšanai.
Bet atšķirībā no ChatGPT, Klods var atbalstīt (bet ne vienmēr) kurš nezina atbildi uz īpaši sarežģītu jautājumu.
Pārbaudes atklāj, ka šķiet, ka tas arī labāk stāsta jokus nekā ChatGPT — iespaidīgs varoņdarbs, ņemot vērā, ka AI sistēmām ir tik grūti uztvert humoru.
Ir vērts pieminēt, ka Claude nav pieejams plašai sabiedrībai, jo to var pārbaudīt tikai ar Slack integrāciju kā daļu no slēgtas beta versijas.
Beta dalībnieki sīki izklāstīja savu mijiedarbību ar Klodu Twitter pēc tam, kad tika atcelts plašsaziņas līdzekļu embargo. Klods labāk varētu jokot, bet slikti programmēt. Komentāri arī parāda, ka Klods ir uzņēmīgs pret dažiem ChatGPT trūkumiem.
Visbeidzot, ja jūs interesē iespēja uzzināt vairāk par to, varat iepazīties ar informāciju šo saiti.