Open Assistant, herkesin harika bir sohbet tabanlı büyük dil modeline erişmesini sağlamayı amaçlayan bir projedir.
Son zamanlarda LAION topluluğu (Büyük Ölçekli Yapay Zeka Açık Ağı) bir duyuru ile açıklandı «OpenAssistant» projesinin ilk sürümüdoğal dilde soruları anlayıp yanıtlayabilen, üçüncü taraf sistemlerle etkileşime giren ve gerekli bilgileri dinamik olarak çıkarabilen bir yapay zeka sohbet robotu geliştiren .
LAION'a aşina olmayanlar için, ücretsiz makine öğrenme sistemleri oluşturmak için araçlar, modeller ve veri koleksiyonları geliştirdiğini bilmelisiniz (örneğin, LAION koleksiyonu, Stable Difüzyon görüntü sentez sisteminin modellerini eğitmek için kullanılır).
Ek olarak işi eğitmek ve organize etmek için kod Bilgisayarınızdaki botun hazır modellerden oluşan bir koleksiyon kullanılması önerilir meraklı bir topluluğun katılımıyla hazırlanan ve revize edilen, istek-yanıt (talimat-yürütme) şeklinde 600 bin diyalog örneği temelinde eğitilmiş ve önceden eğitilmiş bir dil modelini kullanmak.
Chatbot'un kalitesini değerlendirmek için 30 milyar parametreyi kapsayan OA_SFT_Llama_6B_30 bilgi modeli kullanılarak çevrimiçi bir hizmet de başlatıldı.
Ekibimiz, özellikle eğitim dili modelleri veya diğer AI uygulamaları için tasarlanmış inanılmaz derecede çeşitli ve benzersiz bir veri kümesi oluşturmak için son birkaç ay boyunca çok miktarda bilgi ve metin tabanlı geri bildirim toplamak için yorulmadan çalıştı.
Çok çeşitli konuları ve yazma stillerini kapsayan 600'den fazla insan yapımı veri noktasıyla, veri setimiz yeni nesil öğretim modelleri oluşturmak isteyen herhangi bir geliştirici için paha biçilmez bir araç olduğunu kanıtlayacaktır.
Verimliliği artırmak için sistem ve ihtiyaçtan kaçınmak büyük miktarda önceden ayarlanmış parametreyi saklayın, proje, arama motorları veya harici hizmetler aracılığıyla gerekli bilgileri alabilen, dinamik olarak güncellenen bir bilgi tabanı kullanma olasılığını öngörüyor.
Örneğin, bot yanıt oluştururken ek veri almak için harici API'lere erişebilir. Gelişmiş özelliklerden kişiselleştirme desteği de öne çıkıyor, yani belirli bir kullanıcıya önceki ifadelerine göre uyum sağlama yeteneği.
OpenAssistant'ı kurmakla ilgilenenler için, onu yerel olarak kurabileceğinizi ve aday Pythia SFT modellerinin HuggingFace'ten alınabileceğini ve HuggingFace Transformers kitaplığı aracılığıyla yüklenebileceğini bilmelisiniz. Bu nedenle yeterli donanım ile kullanılmaları mümkündür. Ayrıca HF'de, kendi donanımınız olmadan OA adayı ile sohbet etmek için kullanılabilecek alanlar vardır. Ancak, bu modeller kesin değildir ve zayıf veya istenmeyen sonuçlar doğurabilir.
LLaMa SFT modelleri, Meta lisansı nedeniyle doğrudan yayınlanamaz, ancak XOR ağırlıkları yakında yayınlanacaktır.
Mevcut en küçük modelin (Pythia) 12B parametrelerine sahip olduğunu ve tüketici donanımında çalıştırmanın zor olduğunu ancak tek bir profesyonel GPU üzerinde çalışabileceğini belirtmek önemlidir. Gelecekte daha küçük modeller olabilir ve modeli daha küçük donanımlarda çalıştırmaya yardımcı olabilecek tamsayı niceleme gibi yöntemleri geliştirmeyi umuyoruz.
Proje, ChatGPT'nin yeteneklerini tekrar etmeyi bırakmayı planlamıyor. Tıpkı açık kaynak projesi Stable Diffusion'ın görüntü oluşturma araçlarının gelişimini teşvik etmesi gibi, Open-Assistant'ın da doğal dillerde içerik oluşturma ve sorgu işleme alanında açık geliştirmenin gelişimini teşvik etmesi bekleniyor.
Proje kodu Python'da yazılmıştır ve Apache 2.0 lisansı altında dağıtılmaktadır. OpenAssistant geliştirmeleri, harici API'lere ve hizmetlere bağlı olmayan kendi akıllı asistanlarınızı ve iletişim sistemlerinizi oluşturmak için kullanılabilir. Geleneksel tüketici donanımı çalışmak için yeterlidir, örneğin bir akıllı telefon üzerinde çalışmak mümkündür. Open Assistant verileri, ticari kullanım da dahil olmak üzere çok çeşitli kullanımlara izin veren bir Creative Commons lisansı altında yayınlanır.
Son olarak, kaynak koduna bakmanın yanı sıra onun hakkında daha fazla bilgi edinmekle ilgileniyorsanız, ayrıntılara başvurabilirsiniz. Aşağıdaki bağlantıda.