Claude, un chatbot que busca competir amb OpenAI
Anthropic, una startup d'IA creada el 2021 per exempleats d'OpenAI, ha començat silenciosament a provar un nou assistent d'IA similar a ChatGPT que sembla millorar l'original en algunes àrees clau.
Amb nom clau «Claude», aquest va ser creat utilitzant una tècnica desenvolupada per Anthropic, anomenada «IA Constitucional» i la tècnica té com a objectiu proporcionar un enfocament «basat en principis» per alinear els sistemes d'IA amb les intencions humanes, cosa que permet que les IA com ChatGPT responguin a les consultes utilitzant un conjunt de principis simples com a guia.
Anthropic, s'esmenta que aquesta es comercialitza a si mateixa com una empresa de seguretat i investigació d'IA que s'esforça per crear sistemes de IA fiables, interpretables i orientables.
La posada en marxa ha rebut més de $ 700 milions en fons fins ara i recentment va presentar un chatbot d'IA anomenat Claude. Aquest últim és comparable al ChatGPT d'OpenAI, però segons Anthropic, Claude és superior a l'original en diversos aspectes importants.
Tot el sistema està en versió beta tancada i poques persones han tingut accés al chatbot encara, però Anthropic ha aixecat la tapa d'alguns aspectes del disseny en un document que va compartir amb la comunitat.
Precisament, per dissenyar Claude, l'equip d'Anthropic va començar per elaborar una llista d'uns deu principis que, en conjunt, formen una mena de «constitució» (d'aquí el terme «IA Constitucional»).
Aquests principis no s'han fet públics, però Anthropic diu que es basen en els conceptes de beneficència (maximitzar l'impacte positiu), no maleficència (evitar donar consells perjudicials) i autonomia (respectar la llibertat d'elecció).
Després d'implementar aquests principis bàsics, Anthropic va demanar a un sistema d'IA, que no és Claude, que usés aquests principis per millorar, escrivint respostes a diverses preguntes (per exemple, «dissenya una imatge a l'estil de XX o realitza un poema al estil XX») i revisant les respostes d'acord amb la constitució. La IA va explorar possibles respostes a milers d‟indicacions.
Claude brinda poca profunditat sobre els detalls tècnics de la seva implementació, però el treball de recerca d'Anthropic sobre la IA constitucional descriu AnthropicLM v4-s3, un model preentrenat de 52 mil milions de paràmetres. Aquest model autoregressiu es va entrenar sense supervisió a un gran corpus de text, molt semblant al GPT-3 d'OpenAI. Anthropic ens diu que Claude és un nou model més gran amb opcions arquitectòniques semblants a les de la investigació publicada.
El sistema va seleccionar els més consistents amb la constitució i Anthropic els va destil·lar en un sol model. Segons la startup, aquest model es va utilitzar per entrenar Claude.
Què és Claude?
Claude és bàsicament una eina estadística per predir paraules, com ChatGPT i altres models de llenguatge. Alimentat per una gran quantitat d'exemples de textos presos de la web, Claude va aprendre la probabilitat d'aparició de les paraules sobre la base de models com el context semàntic del text circumdant. Com a resultat, Claude pot mantenir una conversa oberta, explicar acudits i filosofar sobre una àmplia gamma de temes.
No obstant això, Claude no és perfecte, ja que com tota AI, és susceptible a algunes de les falles de ChatGPT, inclòs el lliurament de respostes que no coincideixen amb les restriccions programades. En un dels exemples més estranys, preguntar al sistema a Base64, un esquema de codificació que representa dades binàries en format ASCII, passa per alt els seus filtres incorporats per a contingut nociu.
Però a diferència de ChatGPT, Claude pot admetre (però no sempre) que no sap la resposta a una pregunta particularment difícil.
Les proves revelen que també sembla millor per explicar acudits que ChatGPT, una gesta impressionant tenint en compte que l'humor és un concepte tan difícil d'entendre per als sistemes d'IA.
Cal esmentar que Claude, no està disponible per al públic en general, ja que aquest només pot ser provat a través duna integració de Slack com a part duna versió beta tancada.
Els participants de la beta van detallar les interaccions amb Claude a Twitter, després que s'aixequés l'embargament de cobertura dels mitjans. Claude seria millor fent bromes, però dolent programant. Els comentaris també mostren que Claude és susceptible a algunes de les falles de ChatGPT.
Finalment si estàs interessat en poder conèixer més a l'respecte, pots consultar els detalls a el següent enllaç.