Claude, chatbot, ktorý chce konkurovať OpenAI
Antropic, startup s umelou inteligenciou vytvorený v roku 2021 bývalými zamestnancami OpenAI, začal potichu testovať nového asistenta AI podobného ChatGPT, ktorý podľa všetkého vylepšuje originál v niekoľkých kľúčových oblastiach.
s kódovým názvom "Claude", toto bolo vytvorené pomocou techniky vyvinutej spoločnosťou Anthropics názvom «Ústavná AI» a technika má za cieľ poskytnúť prístup založený na zásadách zosúladiť systémy AI s ľudskými zámermi, čo umožňuje AI ako ChatGPT reagovať na otázky pomocou súboru jednoduchých princípov ako sprievodcu.
Spomína sa, že spoločnosť Antropic sa predáva ako spoločnosť zaoberajúca sa výskumom a bezpečnosťou AI, ktorá sa snaží vytvárať dôveryhodné, interpretovateľné a ovládateľné systémy AI.
Startup doteraz získal viac ako 700 miliónov dolárov na financovaní a nedávno predstavil AI chatbota s názvom Claude. Ten je porovnateľný s ChatGPT od OpenAI, ale podľa Anthropic je Claude lepší ako originál v niekoľkých dôležitých smeroch.
Celý systém je v uzavretej beta verzii a k chatbotovi zatiaľ malo prístup len málo ľudí, ale Anthropic v dokumente, ktorý zdieľal s komunitou, odkryl niektoré aspekty svojho dizajnu.
Presne s cieľom navrhnúť Clauda začal tím Anthropic vypracovaním zoznamu asi desiatich princípov, ktoré spolu tvoria akúsi „ústavu“ (odtiaľ pojem „ústavná umelá inteligencia“).
Tieto zásady neboli zverejnené, ale Antropický hovorí, že sú založené na koncepte charity (maximalizovať pozitívny vplyv), žiadna zloba (vyhnite sa poskytovaniu škodlivých rád) a autonómia (rešpektujte slobodu voľby).
Po implementácii týchto základných princípov spoločnosť Anthropic požiadala systém umelej inteligencie, ktorým nie je Claude, aby tieto princípy použil na svoje zlepšenie písaním odpovedí na rôzne otázky (napríklad „Navrhnite obrázok v štýle XX alebo vytvorte báseň v štýle z XX"). štýl XX") a preskúmanie odpovedí v súlade s ústavou. Umelá inteligencia preskúmala možné reakcie na tisíce výziev.
Claude poskytuje len málo podrobností o technických detailoch svojej implementácie, ale výskumná práca Anthropic o ústavnej AI popisuje AnthropicLM v4-s3, predtrénovaný model s 52 miliardami parametrov. Tento autoregresívny model bol trénovaný bez dozoru na veľkom textovom korpuse, podobne ako OpenAI GPT-3. Anthropic nám hovorí, že Claude je väčší nový model s podobnými architektonickými možnosťami ako publikovaný výskum.
Systém vybral tie, ktoré sú najviac v súlade s ústavou, a Anthropic ich destiloval do jedného modelu. Podľa startupu bol tento model použitý na výcvik Clauda.
čo je Claude?
Claude je v podstate štatistický nástroj na predpovedanie slov, ako je ChatGPT a iné jazykové modely. Claude, ktorý vychádzal z množstva vzorových textov prevzatých z webu, sa naučil pravdepodobnosť výskytu slov na základe modelov, ako je sémantický kontext okolitého textu. Vďaka tomu dokáže Claude viesť otvorený rozhovor, rozprávať vtipy a filozofovať na širokú škálu tém.
Avšak, Claude nie je dokonalý, pretože ako každá AI, je náchylný na niektoré chyby ChatGPT, vrátane poskytovania odpovedí, ktoré nezodpovedajú plánovaným obmedzeniam. V jednom z najpodivnejších príkladov požiadajte systém v Base64, schému kódovania, ktorá predstavuje binárne údaje vo formáte ASCII, obchádza jeho vstavané filtre na škodlivý obsah.
Hruška na rozdiel od ChatGPT môže Claude podporovať (ale nie vždy) kto nepozná odpoveď na obzvlášť ťažkú otázku.
Testy odhaľujú, že sa tiež zdá, že dokáže lepšie rozprávať vtipy ako ChatGPT, čo je pôsobivý výkon vzhľadom na to, že humor je pre systémy AI taký ťažký koncept.
Za zmienku stojí, že Claude nie je k dispozícii širokej verejnosti, pretože ho možno otestovať iba prostredníctvom integrácie Slack v rámci uzavretej beta verzie.
Účastníci beta verzie podrobne opísali svoje interakcie s Claude na Twitteri po zrušení embarga na mediálne pokrytie. Claude by bol lepší v žartovaní, ale zlý v programovaní. Komentáre tiež ukazujú, že Claude je náchylný na niektoré chyby ChatGPT.
Nakoniec, ak máte záujem dozvedieť sa o tom viac, môžete si podrobnosti prečítať v nasledujúci odkaz.