Claude, eski OpenAI çalışanları tarafından oluşturulan bir sohbet robotu

2021'de eski OpenAI çalışanları tarafından oluşturulan bir yapay zeka girişimi olan Anthropic, birkaç önemli alanda orijinali iyileştirdiği görülen ChatGPT benzeri yeni bir yapay zeka asistanını sessizce test etmeye başladı.

kod adı ile "Claude", bu Anthropic tarafından geliştirilen bir teknik kullanılarak oluşturuldu., «Anayasal AI» olarak adlandırılan ve teknik “ilke temelli” bir yaklaşım sunmayı amaçlar ChatGPT gibi yapay zekaların bir dizi basit ilkeyi kılavuz olarak kullanarak sorgulara yanıt vermesine olanak tanıyarak yapay zeka sistemlerini insan amaçlarıyla uyumlu hale getirmek.

Anthropic'in kendisini güvenilir, yorumlanabilir ve yönlendirilebilir AI sistemleri oluşturmaya çalışan bir AI araştırma ve güvenlik şirketi olarak pazarladığı belirtiliyor.

Başlangıç, bugüne kadar 700 milyon dolardan fazla fon aldı ve yakın zamanda Claude adında bir yapay zeka sohbet robotu tanıttı. İkincisi, OpenAI'nin ChatGPT'si ile karşılaştırılabilir, ancak Anthropic'e göre Claude, birkaç önemli yönden orijinalinden üstündür.

Sistemin tamamı kapalı beta aşamasında ve henüz çok az kişi chatbot'a erişebildi, ancak Anthropic, toplulukla paylaştığı bir belgede tasarımının bazı yönlerinin üzerindeki kapağı kaldırdı.

Anthropic ekibi tam olarak Claude'u tasarlamak için birlikte bir tür "anayasa" oluşturan yaklaşık on ilkeden oluşan bir liste geliştirerek işe başladı (dolayısıyla "Anayasal AI" terimi).

Bu ilkeler kamuoyuna açıklanmamıştır, ancak Antropik, hayırseverlik kavramlarına dayandıklarını söylüyor (olumlu etkiyi en üst düzeye çıkarın), kötülük yok (zararlı tavsiye vermekten kaçının) ve özerklik (seçim özgürlüğüne saygı gösterin).

Bu temel ilkeleri uyguladıktan sonra Anthropic, Claude olmayan bir yapay zeka sisteminden çeşitli sorulara yanıtlar yazarak (örneğin, "XX tarzında bir resim tasarlayın veya XX tarzında bir şiir yapın) bu ilkeleri kullanarak kendisini geliştirmesini istedi. XX")). stil XX") ve anayasaya uygun olarak yanıtların gözden geçirilmesi. AI, binlerce istemin olası yanıtlarını araştırdı.

Claude, uygulamasının teknik detayları hakkında çok az derinlik veriyor, ancak Anthropic'in Anayasal Yapay Zeka hakkındaki araştırma makalesi, 4 milyar parametreli önceden eğitilmiş bir model olan AnthropicLM v3-s52'ü açıklıyor. Bu otoregresif model, tıpkı OpenAI'nin GPT-3'ü gibi, denetimsiz olarak büyük bir metin topluluğu üzerinde eğitildi. Anthropic bize Claude'un yayınlanan araştırmaya benzer mimari seçimlere sahip daha büyük ve yeni bir model olduğunu söylüyor.

Sistem anayasaya en uygun olanları seçti ve Anthropic bunları tek bir modele ayırdı. Startup'a göre, bu model Claude'u eğitmek için kullanıldı.

Claude nedir?

Claude temelde kelimeleri tahmin etmek için istatistiksel bir araçtırChatGPT ve diğer dil modelleri gibi. Web'den alınan çok sayıda örnek metinle beslenen Claude, çevreleyen metnin anlamsal bağlamı gibi modellere dayalı olarak kelimelerin oluşma olasılığını öğrendi. Sonuç olarak, Claude açık bir konuşma yapabilir, fıkralar anlatabilir ve çok çeşitli konularda felsefe yapabilir.

Sin ambargo, Claude mükemmel değil, çünkü tüm yapay zeka gibi, ChatGPT'nin bazı kusurlarına duyarlıdır, programlanmış kısıtlamalarla eşleşmeyen yanıtların verilmesi dahil. En tuhaf örneklerden birinde, sisteme ASCII biçimindeki ikili verileri temsil eden bir kodlama şeması olan Base64'te soru sorulduğunda, zararlı içerik için yerleşik filtrelerini atlar.

Fakat ChatGPT'den farklı olarak Claude şunları destekleyebilir: (ama her zaman değil) cevabı kim bilmiyor özellikle zor bir soruya.

Testler, şaka yapmada ChatGPT'den daha iyi göründüğünü ortaya koyuyor; bu, mizahın AI sistemleri için kavraması çok zor bir kavram olduğu düşünüldüğünde etkileyici bir başarı.

Claude'un yalnızca kapalı bir beta sürümünün parçası olarak bir Slack entegrasyonu aracılığıyla test edilebildiğinden, Claude'un genel halka açık olmadığını belirtmekte fayda var.

Beta katılımcıları, medya kapsamı ambargosu kaldırıldıktan sonra Twitter'da Claude ile etkileşimlerini ayrıntılı olarak anlattı. Claude şaka yapmada daha iyi ama programlamada kötü olurdu. Yorumlar ayrıca Claude'un ChatGPT'nin bazı kusurlarına açık olduğunu gösteriyor.

Son olarak, bu konuda daha fazla bilgi edinmek istiyorsanız, ayrıntılara şuradan bakabilirsiniz: aşağıdaki bağlantı.