Beberapa waktu yang lalu, partner Pablinux saya Dia memberitahu kami pada surat yang ditulis oleh Elon Musk dan tokoh-tokoh lainnya yang tak tertahankan meminta jeda penelitian dalam Kecerdasan Buatan sampai langkah-langkah dapat diambil untuk mencegah kemungkinan efek sampingnya. Itu memberi saya alasan untuk berbicara tentang risiko nyata dan yang dibayangkan dari Kecerdasan Buatan.
Dengan risiko membodohi diri sendiri dengan prediksi gaya Bill Gates yang gagal, saya mulai dengan mengatakan itu menurut pendapat saya risiko terbesar saat ini adalah ledakan gelembung Itu akan membuat dot-com sedikit terkejut.
Risiko nyata dan yang dibayangkan dari Kecerdasan Buatan
Saya setuju dengan Pablinux bahwa surat itu memiliki lebih banyak ketidakjelasan abad pertengahan daripada penalaran ilmiah. Itu sambil terus berbagi gagasan bahwa undang-undang harus dibuat untuk mengatur penggunaan kontennya. Namun, kita tidak dapat memungkiri bahwa semua teknologi membingungkan dan membuat orang takut hingga dikenal luas.
Proyeksi kedatangan kereta api di awal sinematografi membuat orang lari dari ruangan dan, meskipun memiliki banyak legenda urban, versi radio dari Perang Dunia oleh Orson Welles menyebabkan sedikit kepanikan di antara orang-orang yang percaya itu nyata.
Sebenarnya, regulasi perangkat lunak jenis ini bukanlah hal baru. Otoritas pengatur keuangan di banyak negara melarang program seperti Photoshop mengedit gambar uang kertas atau cek.
Pada tahun 1994 Tom Clancy diterbitkan Hutang kehormatan. Dianggap ahli dalam masalah pertahanan, Clancy imembayangkan serangan terhadap sistem keuangan Amerika Serikat dengan memanipulasi sistem pakar perusahaan saham agar percaya bahwa krisis sedang terjadi melepaskan gelombang penjualan yang akhirnya menghasilkan krisis.
Sebelum menganggapnya sebagai fiksi, ingatlah bahwa dalam novel yang sama, 7 tahun sebelum Menara Kembar, Clancy mengantisipasi bahwa Amerika Serikat dapat mengalami serangan menggunakan pesawat komersial.
Sebenarnya ide tersebut bukanlah hal baru. film tahun 1983 Game perang Itu menceritakan bagaimana seorang remaja membingungkan komputer yang bertanggung jawab atas peluncuran rudal dengan berpikir bahwa Rusia sedang menyerang.
Bayangkan kita mendengar derap mendekat. Kesimpulan pertama kami adalah bahwa itu adalah seekor kuda dan 9 kali dari 10 kami akan benar. Tapi, selalu ada kemungkinan zebra yang kabur dari kebun binatang. Dokter, astronot, dan pilot pesawat menerima pelatihan ketat tentang zebra, mengetahui apa yang harus dilakukan jika terjadi anomali. Model kecerdasan buatan dilatih dengan mempertimbangkan kuda.
Model seperti yang digunakan oleh ChatGPT didasarkan pada informasi yang ada di basis pengetahuannya. Semakin sering informasi itu diulang, semakin besar kredibilitas yang diberikannya.
Karena menyimpan semua informasi yang tersedia akan membutuhkan banyak ruang penyimpanan, itu hanya menyimpan apa yang relevan dan kemudian membangunnya kembali seperti yang diminta menggunakan struktur yang secara statistik tampaknya paling relevan. Makanya, berkali-kali saya mengutip referensi yang tidak ada hanya karena secara statistik kemungkinan besar ada dokumen dengan judul tersebut yang memuat konten tersebut.
Tentang zebra dan anjing yang tidak menggonggong
Apakah ada hal lain yang ingin Anda perhatikan?
-Insiden anjing yang aneh di malam hari.
-Anjing tidak melakukan apa-apa di malam hari.
Itu adalah kejadian yang aneh.
Sir Arthur Conan Doyle
Risiko lain yang dimiliki sistem Kecerdasan Buatan adalah apa yang tidak mereka lakukan. Dan itu juga poin penting untuk diingat.
Pada tahun XNUMX-an, seorang dokter Australia menduga bahwa penyebab maag yang paling umum adalah bakteri. Karena dia tidak memiliki resume yang bagus, mereka menertawakannya sampai dia terbukti benar. Seperti banyak penemuan ilmiah lainnya (rotasi planet, fakta bahwa semakin banyak istirahat yang Anda ambil, semakin produktif Anda) mereka bertentangan dengan kebijaksanaan saat ini.
Tapi, model Intelijen didasarkan pada kearifan saat ini. Dalam pengetahuan yang di dalamnya terdapat konsensus. Sama seperti teknologi pembekuan, mobil, dan pengiriman telah meningkatkan jumlah orang gemuk, ketersediaan alat Teknologi Buatan dapat membuat kita menjadi intelektual yang malas dan menghambat inovasi.
Seperti yang Anda lihat, ada cukup banyak hal yang perlu dikhawatirkan selain takut diperbudak oleh mesin. Dan kami masih belum berbicara tentang akses ke kode sumber dan privasi pengguna.