Claude, isang chatbot na nilikha ng mga dating empleyado ng OpenAI

Ang Anthropic, isang AI startup na ginawa noong 2021 ng mga dating empleyado ng OpenAI, ay tahimik na nagsimulang subukan ang isang bagong AI assistant na mala-ChatGPT na lumalabas na bumuti ang orihinal sa ilang pangunahing lugar.

na may code name "Claude", ito ay nilikha gamit ang isang pamamaraan na binuo ng Anthropic, na tinatawag na «Constitutional AI» at ang pamamaraan naglalayong magbigay ng "nakabatay sa prinsipyo" na diskarte upang ihanay ang mga AI system sa mga intensyon ng tao, na nagpapahintulot sa mga AI tulad ng ChatGPT na tumugon sa mga query gamit ang isang hanay ng mga simpleng prinsipyo bilang gabay.

Ang Anthropic, nabanggit, ay nagbe-market sa sarili bilang isang AI research and security company na nagsusumikap na lumikha ng mapagkakatiwalaan, mabibigyang-kahulugan, at mapapamahalaan na mga sistema ng AI.

Ang startup ay nakatanggap ng higit sa $700 milyon sa pagpopondo hanggang ngayon at kamakailan ay ipinakilala ang isang AI chatbot na tinatawag na Claude. Ang huli ay maihahambing sa OpenAI's ChatGPT, ngunit ayon kay Anthropic, si Claude ay higit sa orihinal sa ilang mahahalagang paraan.

Ang buong system ay nasa closed beta at kakaunting tao ang may access sa chatbot, ngunit inalis na ni Anthropic ang ilang aspeto ng disenyo nito sa isang dokumentong ibinahagi nito sa komunidad.

Eksakto, upang idisenyo si Claude, nagsimula ang pangkat ng Anthropic sa pamamagitan ng pagbuo ng isang listahan ng humigit-kumulang sampung prinsipyo na, magkasama, ay bumubuo ng isang uri ng "konstitusyon" (samakatuwid ang terminong "Constitutional AI").

Ang mga prinsipyong ito ay hindi isinapubliko, ngunit Sinabi ni Anthropic na sila ay batay sa mga konsepto ng kawanggawa (i-maximize ang positibong epekto), non-maleficence (iwasan ang pagbibigay ng nakakapinsalang payo) at awtonomiya (igalang ang kalayaan sa pagpili).

Matapos ipatupad ang mga pangunahing prinsipyong ito, hiniling ni Anthropic sa isang AI system, na hindi si Claude, na gamitin ang mga prinsipyong ito para mapahusay ang sarili sa pamamagitan ng pagsulat ng mga sagot sa iba't ibang tanong (halimbawa, "Magdisenyo ng larawan sa istilo ng XX o gumawa ng tula sa istilo ng XX"). istilo XX") at pagrepaso sa mga tugon alinsunod sa konstitusyon. Ginalugad ng AI ang mga posibleng tugon sa libu-libong senyas.

Si Claude ay nagbibigay ng kaunting lalim sa mga teknikal na detalye ng kanyang pagpapatupad, ngunit ang papel na pananaliksik ni Anthropic sa Constitutional AI ay naglalarawan sa AnthropicLM v4-s3, isang 52 bilyong parameter na pretrained na modelo. Ang autoregressive na modelong ito ay sinanay nang hindi sinusubaybayan sa isang malaking corpus ng text, katulad ng OpenAI's GPT-3. Sinasabi sa amin ni Anthropic na si Claude ay isang mas malaking bagong modelo na may katulad na mga pagpipilian sa arkitektura sa nai-publish na pananaliksik.

Pinili ng system ang mga pinakanaaayon sa konstitusyon, at ginawang iisang modelo ang mga ito ni Anthropic. Ayon sa startup, ginamit ang modelong ito para sanayin si Claude.

Ano ba Claude?

Claude ay karaniwang isang istatistikal na tool upang mahulaan ang mga salita, gaya ng ChatGPT at iba pang mga modelo ng wika. Pinakain ng napakaraming sample na teksto na kinuha mula sa Web, natutunan ni Claude ang posibilidad ng paglitaw ng mga salita batay sa mga modelo tulad ng konteksto ng semantiko ng nakapalibot na teksto. Bilang resulta, si Claude ay maaaring magkaroon ng isang bukas na pag-uusap, magsabi ng mga biro, at mamilosopo sa isang malawak na hanay ng mga paksa.

Gayunpaman, Hindi perpekto si Claude, dahil tulad ng lahat ng AI, ay madaling kapitan sa ilan sa mga kapintasan ng ChatGPT, kabilang ang paghahatid ng mga tugon na hindi tumutugma sa nakaiskedyul na mga hadlang. Sa isa sa mga kakaibang halimbawa, ang pagtatanong sa system sa Base64, isang encoding scheme na kumakatawan sa binary data sa ASCII format, ay nilalampasan ang mga built-in na filter nito para sa mapaminsalang nilalaman.

Peras hindi tulad ng ChatGPT, maaaring suportahan ni Claude (ngunit hindi palagi) sinong hindi nakakaalam ng sagot sa isang partikular na mahirap na tanong.

Ipinakikita ng mga pagsubok na mukhang mas mahusay din itong magsabi ng mga biro kaysa sa ChatGPT, isang kahanga-hangang gawa kung isasaalang-alang ang katatawanan ay isang mahirap na konsepto para sa mga AI system na maunawaan.

Ito ay nagkakahalaga ng pagbanggit na si Claude ay hindi magagamit sa pangkalahatang publiko, dahil maaari lamang itong masuri sa pamamagitan ng isang Slack integration bilang bahagi ng isang closed beta na bersyon.

Idinetalye ng mga kalahok sa Beta ang kanilang mga pakikipag-ugnayan kay Claude sa Twitter, pagkatapos alisin ang embargo sa coverage ng media. Si Claude ay mas mahusay sa pagbibiro, ngunit masama sa programming. Ang mga komento ay nagpapakita rin na si Claude ay madaling kapitan sa ilan sa mga kapintasan ng ChatGPT.

Panghuli, kung interesado kang malaman ang tungkol dito, maaari kang kumunsulta sa mga detalye sa ang sumusunod na link.