Claude, chatbot koji se želi natjecati s OpenAI-jem
Anthropic, AI startup koji su 2021. stvorili bivši zaposlenici OpenAI-ja, tiho je započeo s testiranjem novog AI pomoćnika nalik ChatGPT-u za kojeg se čini da poboljšava izvornika u nekoliko ključnih područja.
s kodnim imenom "Claude", ovo je stvoreno tehnikom koju je razvio Anthropic, pod nazivom «Ustavna umjetna inteligencija» i tehnika ima za cilj pružiti "principijelan" pristup uskladiti AI sustave s ljudskim namjerama, dopuštajući AI-ima kao što je ChatGPT da odgovore na upite koristeći skup jednostavnih načela kao vodič.
Spomenuto je da se Anthropic reklamira kao tvrtka za istraživanje i sigurnost umjetne inteligencije koja teži stvaranju pouzdanih, interpretabilnih i upravljivih sustava AI.
Startup je do danas dobio više od 700 milijuna dolara financiranja i nedavno je predstavio AI chatbot pod nazivom Claude. Potonji je usporediv s OpenAI-jevim ChatGPT-om, ali prema Anthropicu, Claude je superiorniji od originala na nekoliko važnih načina.
Cijeli sustav je u zatvorenoj beta verziji i malo je ljudi još imalo pristup chatbotu, ali Anthropic je podigao poklopac na nekim aspektima njegovog dizajna u dokumentu koji je podijelio sa zajednicom.
Točnije, kako bi dizajnirao Claude, tim Anthropica započeo je razvojem popisa od desetak principa koji, zajedno, tvore neku vrstu "ustava" (otuda i izraz "Ustavna umjetna inteligencija").
Ova načela nisu javno objavljena, ali Anthropic kaže da se temelje na konceptima milosrđa (maksimizirati pozitivan učinak), nezlobnost (izbjegavajte davanje štetnih savjeta) i autonomiju (poštujte slobodu izbora).
Nakon implementacije ovih osnovnih principa, Anthropic je zatražio od AI sustava, koji nije Claude, da upotrijebi te principe kako bi se poboljšao pisanjem odgovora na različita pitanja (na primjer, "Dizajnirajte sliku u stilu XX. ili napravite pjesmu u stilu od XX"). stil XX") i razmatranje odgovora u skladu s ustavom. AI je istraživao moguće odgovore na tisuće upita.
Claude daje malo detalja o tehničkim detaljima svoje implementacije, ali Anthropicov istraživački rad o ustavnoj umjetnoj inteligenciji opisuje AnthropicLM v4-s3, model s 52 milijarde parametara unaprijed obučenih. Ovaj autoregresivni model treniran je bez nadzora na velikom korpusu teksta, slično OpenAI-jevom GPT-3. Anthropic nam govori da je Claude veći novi model sa sličnim arhitektonskim odabirom kao u objavljenom istraživanju.
Sustav je odabrao one koji su najkonzistentniji s ustavom, a Anthropic ih je destilirao u jedan model. Prema startupu, ovaj je model korišten za treniranje Claudea.
Što je Claude?
Claude je u osnovi statistički alat za predviđanje riječi, kao što je ChatGPT i drugi jezični modeli. Nahranjen mnoštvom uzoraka tekstova preuzetih s weba, Claude je naučio vjerojatnost pojavljivanja riječi na temelju modela kao što je semantički kontekst okolnog teksta. Kao rezultat toga, Claude može voditi otvoren razgovor, pričati viceve i filozofirati o širokom rasponu tema.
Međutim, Claude nije savršen, budući da kao i sva umjetna inteligencija, je osjetljiv na neke od nedostataka ChatGPT-a, uključujući isporuku odgovora koji ne odgovaraju planiranim ograničenjima. U jednom od najčudnijih primjera, traženje sustava u Base64, shemi kodiranja koja predstavlja binarne podatke u ASCII formatu, zaobilazi svoje ugrađene filtre za štetan sadržaj.
Pero za razliku od ChatGPT-a, Claude može podržati (ali ne uvijek) koji ne zna odgovor na posebno teško pitanje.
Testovi otkrivaju da se također čini boljim u pričanju viceva od ChatGPT-a, što je impresivan podvig s obzirom na to da je humor tako težak koncept za sustave umjetne inteligencije.
Vrijedi spomenuti da Claude nije dostupan široj javnosti, budući da se može testirati samo kroz Slack integraciju kao dio zatvorene beta verzije.
Sudionici beta verzije detaljno su opisali svoje interakcije s Claudeom na Twitteru, nakon što je ukinut embargo na medijsku pokrivenost. Claude bi bio bolji u šali, ali loš u programiranju. Komentari također pokazuju da je Claude osjetljiv na neke od nedostataka ChatGPT-a.
Konačno, ako vas zanima više o tome, možete se obratiti pojedinostima u sljedeći link.