Skynet Ne Kadar Hasar Verdi: Açık Bir Mektup, ChatGPT 4 Tarafından Yapılan Büyük Ölçekli Yapay Zeka Deneylerinin Durdurulmasını İstiyor

ChatGPT 4'ü Durdur

Evet, Skynet ne kadar zarar verdi. İlk bölümünü neredeyse 40 yıl önce (1984) yayınlamış bir eserden bahsetmek bence bozulmaz ama kırk yıl önce biraz öğrenen ve hayal gücünüzü serbest bırakan küçük programların ötesinde yapay zeka yoktu. Skynet figürü böyle tasarlandı, kendi kendine öğrenen ve kendini fark edene kadar gelişen ve gelişen, kapatılacağını öğrenmekten "korkan" ve füze fırlatarak bilindiği şekliyle insanlığın sonunu getiren bir program. ABD ve Rusya arasında.. Şu anda var olan en gelişmiş, en azından bilinen, SohbetGPT 4ve iyileştirmeleri korkutmaya veya en azından sinirlendirmeye başladı.

Ama daha gerçekçi bir noktaya inelim. İmzacıları endişelendiriyor açık mektupElon Musk da dahil olmak üzere, başka endişeleri var ya da tam bir formu olmayan biri. O korkuları bilinmeyenden, en yaygın korkulardan biri, OpenAI ve diğer vakıfların, programların ve projelerin, kimin ne zaman daha ileri gittiğini görmek için bir yarışmış gibi yapay zekalarını geliştirmesi ve bunun farklı sonuçlar vermesidir.

ChatGPT 4 ön planda

OpenAI chatbot'un < 4 sürümü ile işler daha "komik" veya "sevimli" görünüyordu, hangi kelimeyi tercih ederseniz edin. Ona bir şeyler sorarlar ve o cevaplar; kodun bir bölümünü düzeltmeniz istenir ve bunu yaparsınız; bir şarkıdan ya da bir filmden bir mektubun anlamını sorarsın, sana açıklar; ancak ChatGPT 4 daha da ileri gitti. Yanıtlarınız çok gelişti ve hatta oluşturabilirsiniz yanlış olabilecek içerik.

Çünkü bahsedilen kaygılardan biri de bu: Düşünelim ki ben insanın aya neden hiç ulaşamadığına dair çok detaylı bir yazı yazıyorum. Bu yazı çok ziyaret ediliyor ve her yerde paylaşılıyor ama bazı durumlarda eleştirmek amaçlı. Daha sonra ChatGPT'ye o an ne olduğunu soruyoruz, bize o olayla ilgili bir yazı yazsın, yazdıklarımdan yola çıkarak bize bir şeyler yazıyor ve algılama yeteneği olmadığı için. sahte haberler, bize yanlış bir şey yazın. Bu veya daha iyi bir örnekle ağları doldurabilir.

Çalışma kontrolüne 6 ay ara

gerekli olan şu kiTüm Yapay Zeka Laboratuvarları ChatGPT-6'ten daha güçlü yapay zeka sistemlerinin eğitimine en az 4 ay ara verin. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm önemli oyuncuları içermelidir. Duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler adım atmalı ve bir moratoryum başlatmalıdır.".

Tüm laboratuvarlar ve bağımsız uzmanlar bu süreyi bir dizi güvenlik protokolü uygulamakBu, ünlü robotik yasalarına benzer yasalar yazmanız gerektiğini söylemenin başka bir yolu olarak tercüme edilebilir.

Aynı şey hükümetler için de geçerli değil mi?

Beni kişisel olarak etkileyen nokta, buna paralel olarak yapay zeka geliştiricilerinin hükümet sistemleri için yapay zeka gelişimini hızlandırmak için politika yapıcılarla birlikte çalışması gerektiğini söylemesi. Demek ki, hükümetlere kendi yapay zekalarıyla yardımcı olun kısacası yapay zekaları kontrol edebilmek. Dediğimi yap, yaptığımı değil.

Mektubun Elon Musk imzalı olması beni şaşırtmadı. OpenAI'nin kurucu ortağı olduğu ortaya çıktı ve görünüşe göre şirketten ayrıldıktan sonra başarısı zarar görüyor. Geri kalanı için, evet, ne kadar zeki olurlarsa olsunlar yapay zekanın karar vermede 7 yaşındaki bir çocuktan daha iyi olmadığı ve gerçek ile gerçeği ayırt etmenin onlar için zor olabileceği doğrudur. yanlış bilgi. , bu nedenle sahte haberlerin anlamı bir olasılıktır ve önlem alınmalıdır. Geri kalan her şey için, füze fırlatma kodları kendilerine verilmediği sürece işler o kadar da kötü görünmüyor diye düşünüyorum. Umarım yanılmam.


İlk yorumu siz

Yorumunuzu bırakın

E-posta hesabınız yayınlanmayacak. Gerekli alanlar ile işaretlenmiştir *

*

*

  1. Verilerden sorumlu: AB Internet Networks 2008 SL
  2. Verilerin amacı: Kontrol SPAM, yorum yönetimi.
  3. Meşruiyet: Onayınız
  4. Verilerin iletilmesi: Veriler, yasal zorunluluk dışında üçüncü kişilere iletilmeyecektir.
  5. Veri depolama: Occentus Networks (AB) tarafından barındırılan veritabanı
  6. Haklar: Bilgilerinizi istediğiniz zaman sınırlayabilir, kurtarabilir ve silebilirsiniz.