Ya, berapa banyak kerusakan yang telah dilakukan Skynet. Saya tidak berpikir berbicara tentang sebuah karya yang menerbitkan episode pertamanya hampir 40 tahun yang lalu (1984) memanjakan, tetapi empat dekade lalu tidak ada kecerdasan buatan di luar program kecil yang belajar sedikit dan membiarkan imajinasi Anda menjadi liar. Beginilah sosok Skynet dikandung, sebuah program yang dipelajari dengan sendirinya dan ditingkatkan dan ditingkatkan hingga menjadi sadar akan dirinya sendiri, "takut" untuk mengetahui bahwa itu akan dimatikan dan mengakhiri umat manusia seperti yang dikenal dengan meluncurkan rudal. antara AS dan Rusia. . Yang paling maju yang ada sekarang, setidaknya yang diketahui, adalah ObrolanGPT 4, dan peningkatannya telah menakut-nakuti atau, setidaknya, mengganggu.
Tapi mari kita turun ke poin yang lebih realistis. Kekhawatiran para penandatangan surat Terbuka, termasuk Elon Musk, memiliki masalah lain, atau masalah tanpa bentuk lengkap. Dia ketakutan mereka adalah hal yang tidak diketahui, salah satu ketakutan yang paling umum, adalah bahwa OpenAI dan yayasan, program, dan proyek lainnya meningkatkan kecerdasan buatan mereka seolah-olah berlomba untuk melihat siapa yang maju dan kapan, dan ini dapat memberikan hasil yang berbeda.
ChatGPT 4 menjadi sorotan
Dengan versi <4 dari OpenAI chatbot, hal-hal tampak lebih "lucu" atau "imut", gunakan kata mana pun yang Anda suka. Mereka menanyakan banyak hal kepadanya dan dia menjawab; Anda diminta untuk memperbaiki bagian kode dan Anda melakukannya; Anda menanyakan arti surat dari sebuah lagu atau film dan dia menjelaskannya kepada Anda; tetapi ChatGPT 4 telah melangkah lebih jauh. Jawaban Anda telah meningkat pesat, dan Anda bahkan dapat menghasilkan konten yang bisa salah.
Karena ini adalah salah satu keprihatinan yang disebutkan: mari kita bayangkan saya menulis artikel yang sangat rinci tentang mengapa manusia tidak pernah mencapai bulan. Artikel ini mendapat banyak kunjungan dan dibagikan di mana-mana, meskipun dalam beberapa kasus untuk mengkritiknya. Nanti, kami bertanya kepada ChatGPT apa yang terjadi pada saat itu, untuk menulis artikel kepada kami tentang peristiwa itu, ia menulis sesuatu kepada kami berdasarkan apa yang telah saya tulis dan, karena tidak memiliki kemampuan untuk mendeteksi berita palsu, tulis kami sesuatu yang salah. Ini, atau dengan contoh yang lebih baik, dapat membanjiri jaringan.
Istirahat 6 bulan untuk belajar kontrol
Yang dibutuhkan adalah ituSemua AI Lab jeda setidaknya 6 bulan pelatihan sistem AI yang lebih kuat dari ChatGPT-4. Jeda ini harus bersifat publik dan dapat diverifikasi, serta menyertakan semua pemain kunci. Jika jeda tidak dapat diberlakukan dengan cepat, pemerintah harus meningkatkan dan melembagakan moratorium.".
Semua laboratorium dan ahli independen harus menggunakan waktu ini untuk mengimplementasikan satu set protokol keamanan, yang diterjemahkan dapat diambil sebagai cara lain untuk mengatakan bahwa Anda harus menulis hukum yang mirip dengan hukum robotika yang terkenal.
Bukankah itu sama untuk pemerintah?
Yang mengejutkan saya secara pribadi adalah poin di mana dia mengatakan bahwa, secara paralel, pengembang AI perlu bekerja sama dengan pembuat kebijakan untuk mempercepat pengembangan kecerdasan buatan untuk sistem pemerintahan. Artinya, membantu pemerintah dengan kecerdasan buatan mereka sendiri untuk dapat, dalam beberapa kata, untuk mengontrol kecerdasan buatan. Lakukan apa yang saya katakan, bukan apa yang saya lakukan.
Bahwa surat itu ditandatangani oleh Elon Musk tidak mengejutkan saya. Terungkap bahwa dia ikut mendirikan OpenAI, dan tampaknya, setelah keluar dari perusahaan, kesuksesannya terpukul. Selebihnya, ya, memang benar kecerdasan buatan, betapapun cerdasnya mereka, dalam pengambilan keputusan dikatakan tidak lebih baik dari anak berusia 7 tahun, dan mungkin sulit bagi mereka untuk membedakan yang benar dari yang benar. informasi palsu. , jadi intinya berita palsu adalah kemungkinan dan tindakan harus diambil. Untuk yang lainnya, saya pikir selama mereka tidak diberi kode peluncuran rudal, semuanya tidak terlihat terlalu buruk. Saya harap saya tidak salah.