Yapay Zekanın Gerçek ve Hayali Riskleri (Görüş)

Yapay Zeka modelleri anormallikleri tespit edemiyor

Bir süre önce, Pablinux ortağım O bize söyledi üzerinde katlanılmaz Elon Musk ve diğer şahsiyetlerin yazdığı, Yapay Zeka araştırmalarına ara verilmesini isteyen mektup olası olumsuz etkilerini önlemek için önlemler alınana kadar. Bu bana Yapay Zekanın gerçek ve hayali riskleri hakkında konuşmak için bahane veriyor.

Başarısız Bill Gates tarzı tahminlerle kendimi aptal yerine koyma riskini göze alarak, bence şunu söyleyerek başlıyorum. şu anki en büyük risk balon patlaması Bu nokta-com'ları hafif bir şoka bırakacak.

Yapay Zekanın gerçek ve hayali riskleri

Pablinux'a, mektubun bilimsel muhakemeden çok ortaçağ müstehcenliğine sahip olduğu konusunda katılıyorum. O içeriğinin kullanımını düzenlemek için mevzuat oluşturulması gerektiği fikrini paylaşmaya devam ederken. Ancak, bilinene kadar tüm teknolojinin insanların kafasını karıştırdığını ve korkuttuğunu inkar edemeyiz.

Sinematografinin başında bir trenin gelişinin projeksiyonu, insanların odadan kaçmasına neden oldu ve büyük ölçüde bir şehir efsanesi olmasına rağmen, filmin radyo versiyonu Dünyaların Savaşı Orson Welles tarafından yazılan, gerçek olduğuna inanan insanlar arasında biraz paniğe neden oldu.

Aslında, bu tür bir yazılım düzenlemesi yeni bir şey değil. Birçok ülkedeki mali düzenleyici makamlar, Photoshop gibi programların banknot veya çek resimlerini düzenlemesini yasaklamaktadır.

1994 yılında Tom Clancy yayınlandı Şeref borcu. Savunma konularında uzman olarak kabul edilen Clancy ihisse senedi şirketlerinin uzman sistemlerini bir krizin meydana geldiğine inandırmak için manipüle ederek ABD'nin mali sistemine bir saldırı hayal etti. sonunda krizi üreten bir satış dalgasını serbest bırakmak.

Bunu kurmaca olarak görmeden önce, aynı romanda, İkiz Kuleler'den 7 yıl önce Clancy'nin Amerika Birleşik Devletleri'nin ticari uçakların kullanıldığı saldırılara maruz kalabileceğini tahmin ettiğini unutmayın.

Aslında fikir yeni değil. 1983 filmi Savaş oyunları Bir gencin füze fırlatmasından sorumlu bilgisayarı Rusların saldırdığını düşünerek nasıl karıştırdığını anlattı.

Yaklaşan bir dörtnala sesi duyduğumuzu düşünelim. İlk sonucumuz, bunun bir at olduğu ve 9'da 10 kez haklı olacağımızdır. Ancak hayvanat bahçesinden kaçanın bir zebra olma ihtimali her zaman vardır. Doktorlar, astronotlar ve uçak pilotları, zebralar hakkında ciddi bir eğitim alıyor ve bir anormallik meydana geldiğinde ne yapacaklarını biliyorlar. Yapay zeka modelleri, atlar düşünülerek eğitilir.

ChatGPT tarafından kullanılana benzer bir model, bilgi tabanındaki mevcut bilgileri temel alır. Bu bilgi ne kadar çok tekrarlanırsa, verdiği güvenilirlik o kadar artar.

Mevcut tüm bilgilerin kaydedilmesi çok fazla depolama alanı gerektireceğinden, yalnızca ilgili olanı kaydeder ve ardından istendiği gibi istatistiksel olarak en alakalı görünen yapıyı kullanarak yeniden oluşturur.. Bu nedenle, birçok kez var olmayan referanslara atıfta bulunuyorum çünkü istatistiksel olarak bu içeriği içeren bu başlığa sahip bir belge olması muhtemeldir.

Havlamayan zebralar ve köpekler hakkında

Dikkatimi çekmek istediğiniz başka bir nokta var mı?
-Geceleri köpeğin yaşadığı ilginç olay.
-Köpek geceleri hiçbir şey yapmadı.
Merak edilen olay buydu.

Sir Arthur Conan Doyle

Yapay Zeka sistemlerinin sahip olduğu risklerden bir diğeri de yapmadıklarıdır. Ve ayrıca akılda tutulması gereken önemli bir nokta.

XNUMX'larda Avustralyalı bir doktor, ülserlerin en yaygın nedeninin bakteriler olduğunu tahmin etti. Harika bir özgeçmişi olmadığı için haklı olduğu kanıtlanana kadar yüzüne güldüler. Diğer birçok bilimsel keşif gibi (gezegenlerin dönüşü, ne kadar çok mola verirseniz o kadar üretken olduğunuz gerçeği) bunlar da anın bilgeliğine aykırıdır.

Ancak, İstihbarat modelleri anın bilgeliğine dayanır. Konsensüs olan bilgide. Dondurucu teknoloji, otomobiller ve teslimat obez sayısını artırdığı gibi, Yapay Teknoloji araçlarının mevcudiyeti bizi tembel entelektüeller yapabilir ve yeniliği boğabilir.

Gördüğünüz gibi, makinelerin kölesi olmaktan korkmanın yanı sıra endişelenecek yeterince şey var. Ve hala kaynak koduna erişimden ve kullanıcıların gizliliğinden bahsetmediğimizi.


İlk yorumu siz

Yorumunuzu bırakın

E-posta hesabınız yayınlanmayacak. Gerekli alanlar ile işaretlenmiştir *

*

*

  1. Verilerden sorumlu: AB Internet Networks 2008 SL
  2. Verilerin amacı: Kontrol SPAM, yorum yönetimi.
  3. Meşruiyet: Onayınız
  4. Verilerin iletilmesi: Veriler, yasal zorunluluk dışında üçüncü kişilere iletilmeyecektir.
  5. Veri depolama: Occentus Networks (AB) tarafından barındırılan veritabanı
  6. Haklar: Bilgilerinizi istediğiniz zaman sınırlayabilir, kurtarabilir ve silebilirsiniz.