Her hafta yeni bir şeyle ilgili yeni bir haberin gelmediği bir dönemdeyiz. yapay zeka. Google? Nispeten sakin bir şekilde karşılasa da zaten birkaç şeyi yayınladı. Manzana mı? iOS 18'in yapay zekası (muhtemelen Apple GPT) için şimdiye kadarki en büyük lansman olduğu söyleniyor. Microsoft'u mu? Eksik olan tek şey bir sonraki işletim sisteminin Windows 12 olması. Ancak şu anda hepsinin ortak bir sorunu var gibi görünüyor.
Geçtiğimiz günlerde yeni bir arama motorunun yaptığı şeyin, girdiğimiz şeye göre web'i incelemek, en alakalı verileri içeren bir makale oluşturmak ve onu okumaya hazır bir şekilde bize sunmak olduğunu okudum. Problem şu bazen başarısız oluyor ve kontrol etmemiz gerekiyor bize gösterdiği şeyin doğru olduğunu. Dolayısıyla bunlar benim sözlerim değil, her ne kadar kabul etsem de "işe yaramaz".
Yapay zeka bir şeyler icat etme eğilimindedir
İyi yaptıkları çok şey var ama yapay zekanın ürettiği bir şeyin tam da iddia ettiği gibi olduğunu düşünmemize gerek yok. Halüsinasyonlar aşağıdakilerle ilgili gibi görünen bir sorundur: Doğru olup olmadığına bakılmaksızın yanıt verin. Yapay zekalar yanıtın doğruluğundan çok yanıt sunmaya önem veriyor. Bir soruyla karşılaştıklarında “Bilmiyorum” cevabını vermeleri imkansızdır.
Bu yeni değil ancak yapay zekaya dayanan bir şey kullandığımızda bunu akılda tutmak önemlidir. Şu anda en popüler olanı ChatGPTve başarılı olduğu kadar başarısız olan bir araçtır. Geçtiğimiz günlerde, 2023 yılının sonlarında, iki sporcunun chatbot'a kendileri hakkında sorular sorduğu bir video gördüm ve hatta içlerinden birinin triatlon hayranı olduğu bile iddia ediliyordu. Kendi kendine "Peki ya ben?" diye sordu. ve ayrıca bu nereden geldi?
Sorunu halüsinasyonlar Bu bir böcek değil ama öyle davranıyor. Sanki bir PC yazılımı 9823798279827×825928377 hesaplamasını istemiş, yapamadı ve bize bir sonuç vermek yerine başka bir sonuç verdi, her neyse, hatta rastgele bir video bile açtı çünkü bize bir şey söylemesi gerekiyor. Hesaplamayı biz yapamadığımız için (evet yapabiliriz, örnektir) buna inanıp iyi kabul edebiliriz veya ikinci bir görüş alabiliriz.
Eğer daha fazla araştırma yapmak zorunda kalırsak hesaplama işe yaramaz.
Analiz etmeli ve zekaya sahip olduğumuzu göstermeliyiz... gerçek
Bu yapay zekalardan biriyle ilk kez sohbet ettiğim zamanı hatırlıyorum. yaptım Daha sonra kaynağa (ChatGPT) atlamak için You.com'da. Mass Effect üçlemesini bitirdiğimi ve ona olası sonları sorduğumu hatırlıyorum, çünkü onu oynamak için 80 saat daha harcamak istemiyordum ve aynı chatbot bana bir şey söyledi ve tam tersini söyledi. Her zamanki gibi Google'da bir şeyler aradım ve YouTube'da sonlarını izledim. ChatGPT ile sorunları çözmeye çalışırken harcadığım zaman boşa gitti. Artık bana olmuyor.
Yapay zekanın kullanımıyla ilgili birkaç makale yazdım ve sonunda hep aynı sonuca ulaşıyoruz: OpenAI'nin zaten neleri uyardığının, yanıtlarının doğru olmayabileceğinin farkında olmalıyız ve eğer öyleyse, onlar da bunu yapmış demektir. çok az kullanışlılık. Evet, elbette var, ancak nadir durumlarda. Örneğin, geliştirme aşamasında. ChatGPT, Reddit'te bulabileceğiniz aynı sorulara hızlı bir şekilde yanıt verdiğinde veya Yığın taşması evet ilginç. Ama ona dikkat et istemi, bir şeyler istediğimiz metinle, yoksa çok zaman harcayabilir.
Gerçek bir zekaya sahip olduğumuzu göstermeliyiz. Mesela Google'da bir hastalık hakkında arama yaptığımızda bulduğumuz ilk şeye, muhtemelen ciddi bir hastalığımız olduğuna inanmamamız gibi. Bu durumlarda yapay zekanın iyi yanı, bize bazı şeyleri doğrulamak için bir doktora danışmaya değer olduğunu söylemesidir.
Ancak halüsinasyonlara karşı dikkatli olun. Bir MotoGP sürücüsünün triatlon hayranı olduğunu veya bir röportajdaki ifadelerden bir şarkının sözlerinin neyle ilgili olduğunu icat edebilselerdi, neyi doğrulayamazlardı?
GÜNCELLENMİŞ: Şimdi ne olacak Bard artık İspanya'da mevcutyapay zekaların "halüsinasyon gördüğünü" doğrulamaktan başka bir şey yapılamaz. Bunu kanıtlamak için ona Amaranthe'nin Şubat 2024'te çıkacak bir sonraki albümünü sordum ve o, diğer sanatçıları da dahil ederek şarkı listesini hazırladı. Ona doğrudan sorabileceği bir URL'si olup olmadığını sorduğumdan bahsetmiyorum bile, olmadığını kabul etmeden önce bana Google'dan bile olmayan bir sayfaya bir URL gönderdi. İlerleme kaydediyoruz.