Yenilikler için klasikleri söylüyorlar. Çağımızın dört asırlık bir alegorisi, Yapay Zekanın yeni uygulamalarının sınırlarını anlamak için idealdir. Platon'un mağarasının ünlü alegorisinin bir uyarlamasından ne fazlası ne de azı olan "ChatGPT Mağarası" ndan bahsediyorum.
Yapay zeka araçlarının kullanılmasına bir itirazım yok. Aslında, işi çok daha kolaylaştırdıklarını düşünüyorum. Ama sürece çalışmanızı değerlendirmek için yeterli bilgiye sahip kişiler tarafından kullanılmalıdır.
Örneğin; ChatGPT'den bir WordPress eklentisi yazmasını isteyebilirsiniz, ancak PHP bilgisi yoksa bu eklenti ciddi güvenlik sorunlarına neden olabilir.
Mağaranın alegorisi
Platon, MÖ XNUMX. ve XNUMX. yüzyıllar arasında yaşamış bir Yunan filozofuydu. Düşüncelerini mitler ve alegoriler şeklinde ifade etti. Bunların en bilineni mağaranınkiydi.
Yayınlanan La República, alegori hayal ediyor Bir mağarada zincirlenmiş bir grup insan, arkalarında önlerindeki duvara gölge düşüren bir ateş var. Gölgeler, gördükleri tek şeydir ve ötesinde ne olduğunu görmezden gelerek var olan tek şey olduklarını hayal ederler.
Mahkumlardan biri serbest bırakıldığında, dünyayı gerçekte olduğu gibi görebilir ve mağaradaki deneyimlerinin ne kadar sınırlı olduğunu fark eder.
Platon alimlerine göre bu alegori, hepimizin kendi bilgi ve deneyimlerimize dayanarak hayatımızı yaşadığımızı vurgulamaktadır. Mağaranın gölgelerine eşdeğer bilgi ve deneyimler. Tıpkı mahkûmlar gibi bir gerçek vardır ve bizim kavrayışımızın ötesindedir.
ChatGPT'nin mağarası
ChatGPT ve rakiplerinin hem hayranları hem de kötüleyenler Ancak, bir makaleye kadar hiç kimse başarısızlıkları hakkında teknik bir açıklama yapmamıştı. yayınlanan bilim kurgu yazarı Ted Chang tarafından New Yorker'da
Dil modellerindeki kusurları açıklamak için Chang, görüntüler ve ses dosyalarıyla olanlarla bir benzetme yapıyor.
Bir dijital dosyanın kaydedilmesi ve çoğaltılması iki adım gerektirir: ilki, kodlama, bu noktada dosya daha kompakt bir biçime dönüştürülür, ardından ters işlem olan kod çözme gelir. Dönüştürme işlemi kayıpsız (geri yüklenen dosya orijinaliyle aynıdır) veya kayıplı (Bazı bilgiler sonsuza kadar kaybolur) olarak adlandırılır. Kayıplı sıkıştırma görüntü, video veya ses dosyalarına uygulanır ve çoğu zaman fark edilmez. Olduğu zaman, sıkıştırma artefaktı olarak adlandırılır. Sıkıştırma yapaylıkları, görüntülerde bulanıklık veya seste çınlama şeklinde ortaya çıkıyor.
Chang, dil modellerine atıfta bulunmak için web'den bulanık bir JPG analojisini kullanır. Ve bu oldukça doğru. Her ikisi de bilgileri yalnızca “Önemli olanı” koruyarak sıkıştırır. LDil modelleri, büyük miktarda metin verisinden, kalıpların ve kelimeler ile ifadeler arasındaki ilişkilerin kompakt bir temsilini oluşturur.
Bundan, içerik ve anlam bakımından orijinal metne mümkün olduğunca benzer hale getirmeye çalışarak yeni bir metin üretilir. Sorun, web'de yeni bir metin oluşturmak için yeterli bilgi olmadığında ortaya çıkar. Bu, ChatGPT'nin üniversite düzeyinde bir makale yazabilmesi, ancak 5 basamaklı basit işlemler yapamaması anlamına gelir.
Chang şu sonuca varıyor:
Büyük dil modellerinin yazarlığa katılmasını kısıtlamak mümkün olsa bile, bunları web içeriği oluşturmak için kullanmalı mıyız? Bu, yalnızca amacımız Web'de zaten mevcut olan bilgileri yeniden paketlemekse anlamlı olacaktır. Bazı şirketler tam da bunu yapmak için var; onlara genellikle içerik fabrikaları diyoruz. Belki de dil modellerinin belirsizliği, telif hakkı ihlallerinden kaçınmanın bir yolu olarak onlar için yararlıdır. Yine de genel olarak konuşursak, içerik fabrikaları için iyi olan her şeyin bilgi arayan insanlar için iyi olmadığını söyleyebilirim. Bu tür yeniden paketlemenin yükselişi, şu anda çevrimiçi olarak aradığımızı bulmamızı zorlaştıran şeydir.; Büyük dil modelleri tarafından üretilen metin Web'de ne kadar çok yayınlanırsa, Web kendisinin o kadar bulanık bir versiyonu haline gelir.
Ve mağaradaki mahkûmlar gibi, bizim deneyimimiz de gerçekliğin bize sunduğundan çok daha küçük olacaktır.