Sebentar tadi, rakan kongsi Pablinux saya Dia memberitahu kami pada surat yang ditulis oleh Elon Musk dan personaliti lain yang meminta berhenti pada penyelidikan dalam Kepintaran Buatan sehingga langkah boleh diambil untuk mencegah kemungkinan kesan buruknya. Itu memberi saya alasan untuk bercakap tentang risiko Kepintaran Buatan yang sebenar dan dibayangkan.
Dengan risiko memperbodohkan diri sendiri dengan ramalan gaya Bill Gates yang gagal, saya mulakan dengan mengatakan bahawa pada pendapat saya risiko terbesar sekarang ialah pecah gelembung Itu akan menyebabkan dot-coms terkejut.
Risiko Kepintaran Buatan yang sebenar dan dibayangkan
Saya bersetuju dengan Pablinux bahawa surat itu mempunyai lebih banyak obskurantisme zaman pertengahan daripada penaakulan saintifik. Itu sambil terus berkongsi idea bahawa perundangan harus diwujudkan untuk mengawal penggunaan kandungannya. Walau bagaimanapun, kita tidak boleh menafikan bahawa semua teknologi mengelirukan dan menakutkan orang ramai sehingga ia diketahui umum.
Unjuran ketibaan kereta api pada permulaan sinematografi membuatkan orang ramai meninggalkan bilik dan, walaupun ia mempunyai banyak legenda bandar, versi radio Perang Dunia oleh Orson Welles menyebabkan agak panik di kalangan orang yang percaya ia adalah benar.
Sebenarnya, peraturan perisian jenis ini bukanlah sesuatu yang baru. Pihak berkuasa kawal selia kewangan di banyak negara melarang program seperti Photoshop daripada mengedit imej wang kertas atau cek.
Pada tahun 1994 Tom Clancy menerbitkan Hutang kehormatan. Dianggap sebagai pakar dalam isu pertahanan, Clancy imembayangkan serangan ke atas sistem kewangan Amerika Syarikat dengan memanipulasi sistem pakar syarikat saham untuk mempercayai bahawa krisis sedang berlaku melancarkan gelombang jualan yang akhirnya menghasilkan krisis.
Sebelum menolaknya sebagai fiksyen, ingat bahawa dalam novel yang sama, 7 tahun sebelum Menara Berkembar, Clancy menjangkakan bahawa Amerika Syarikat boleh mengalami serangan menggunakan kapal terbang komersial.
Sebenarnya idea itu bukanlah baru. filem 1983 Permainan perang Ia menceritakan bagaimana seorang remaja mengelirukan komputer yang bertanggungjawab dalam pelancaran peluru berpandu untuk memikirkan bahawa Rusia sedang menyerang.
Bayangkan kita mendengar bunyi derap menghampiri. Kesimpulan pertama kami ialah ia adalah kuda dan 9 kali daripada 10 kami akan betul. Tetapi, selalu ada kemungkinan bahawa ia adalah kuda belang yang melarikan diri dari zoo. Doktor, angkasawan dan juruterbang kapal terbang menerima latihan yang ketat memikirkan tentang zebra, mengetahui apa yang perlu dilakukan jika anomali berlaku. Model kecerdasan buatan dilatih dengan mengambil kira kuda.
Model seperti yang digunakan oleh ChatGPT adalah berdasarkan maklumat sedia ada dalam pangkalan pengetahuannya. Lebih banyak kali maklumat itu diulang, lebih besar kredibiliti yang diberikannya.
Memandangkan menyimpan semua maklumat yang ada memerlukan banyak ruang storan, ia hanya menyimpan perkara yang berkaitan dan kemudian membinanya semula seperti yang diminta menggunakan struktur yang secara statistik kelihatan paling relevan. Oleh itu, banyak kali saya memetik rujukan yang tidak wujud hanya kerana secara statistik berkemungkinan terdapat dokumen dengan tajuk itu yang mengandungi kandungan tersebut.
Tentang kuda belang dan anjing yang tidak menyalak
Adakah terdapat perkara lain yang anda ingin menarik perhatian saya?
-Kejadian aneh anjing itu pada waktu malam.
-Anjing itu tidak melakukan apa-apa pada waktu malam.
Itulah kejadian yang ingin tahu.
Tuan Arthur Conan Doyle
Satu lagi risiko yang ada pada sistem Kecerdasan Buatan ialah apa yang mereka tidak lakukan. Dan ia juga merupakan perkara penting yang perlu diingat.
Pada tahun XNUMX-an, seorang doktor Australia menduga bahawa penyebab ulser yang paling biasa adalah bakteria. Oleh kerana dia tidak mempunyai resume yang hebat, mereka ketawa di mukanya sehingga dia terbukti betul. Seperti banyak penemuan saintifik lain (putaran planet, fakta bahawa lebih banyak rehat yang anda ambil, lebih produktif anda) ia bertentangan dengan kebijaksanaan masa ini.
Tetapi, model kecerdasan adalah berdasarkan kebijaksanaan masa ini. Dalam ilmu yang terdapat ijmak. Sama seperti teknologi pembekuan, kereta dan penghantaran telah meningkatkan bilangan obes, ketersediaan alatan Teknologi Buatan boleh menjadikan kita seorang intelektual yang malas dan menyekat inovasi.
Seperti yang anda lihat, terdapat perkara yang cukup untuk dibimbangkan selain takut diperhambakan oleh mesin. Dan kami masih tidak bercakap tentang akses kepada kod sumber dan privasi pengguna.