Mereka mengatakan bahawa untuk kebaharuan klasik. Sebuah alegori yang ditulis empat abad zaman kita adalah ideal untuk memahami apakah had aplikasi baharu Kepintaran Buatan. Saya merujuk kepada "Gua ChatGPT" yang tidak lebih dan tidak kurang daripada adaptasi daripada alegori terkenal gua Plato.
Saya tidak ada bantahan terhadap penggunaan alat kecerdasan buatan. Malah, saya dapati mereka membuat kerja lebih mudah. Tetapi selagi digunakan oleh orang yang mempunyai pengetahuan yang mencukupi untuk menilai kerja anda.
Sebagai contoh; seseorang boleh meminta ChatGPT untuk menulis pemalam WordPress, tetapi jika seseorang itu kurang pengetahuan tentang PHP pemalam itu boleh menyebabkan masalah keselamatan yang serius.
Kiasan gua
Plato ialah seorang ahli falsafah Yunani yang hidup antara abad ke-XNUMX dan ke-XNUMX SM. Beliau menyatakan pemikirannya dalam bentuk mitos dan kiasan. Yang paling terkenal di antara mereka ialah gua.
Dihantar dalam Republik, kiasan membayangkan sekumpulan orang yang dirantai di dalam gua, di belakang mereka ada api yang menimbulkan bayang-bayang di dinding di hadapan mereka. Bayang-bayang adalah satu-satunya perkara yang mereka lihat dan bayangkan bahawa mereka adalah satu-satunya perkara yang wujud, mengabaikan apa yang ada di luar.
Apabila salah seorang banduan dibebaskan, dia dapat melihat dunia untuk apa sebenarnya dan menyedari betapa terhadnya pengalamannya di dalam gua.
Menurut sarjana Plato, alegori ini menonjolkan bahawa kita semua menjalani kehidupan kita berdasarkan maklumat dan pengalaman kita sendiri. Maklumat dan pengalaman yang setara dengan bayang-bayang gua. Sama seperti banduan, ada realiti sebenar dan ia di luar pemahaman kita.
Gua ChatGPT
ChatGPT dan pesaingnya mempunyai kedua-dua penyokong dan pencacai. Tetapi, tiada siapa yang memberi penjelasan teknikal tentang kegagalannya sehingga artikel diterbitkan di New Yorker oleh penulis fiksyen sains Ted Chang
Untuk menjelaskan kelemahan dalam model bahasa, Chang membuat analogi dengan apa yang berlaku dengan imej dan fail audio.
Rakaman dan pengeluaran semula fail digital memerlukan dua langkah: yang pertama ialah pengekodan, pada ketika itu fail ditukar kepada format yang lebih padat, diikuti dengan penyahkodan, yang merupakan proses terbalik. Proses penukaran dipanggil lossless (fail yang dipulihkan adalah sama dengan yang asal) atau lossy (Sesetengah maklumat hilang selama-lamanya). Mampatan lossy digunakan pada imej, video atau fail audio dan selalunya tidak dapat dilihat. Apabila sudah, ia dipanggil artifak mampatan. Artifak mampatan muncul dalam bentuk kabur dalam imej atau bunyi berdenting dalam audio.
Chang menggunakan analogi JPG kabur dari web untuk merujuk kepada model bahasa. Dan, ini agak tepat. Kedua-duanya memampatkan menyimpan maklumat hanya "Perkara penting". LModel bahasa menjana, daripada sejumlah besar data teks, perwakilan padat corak dan hubungan antara perkataan dan frasa.
Daripadanya, teks baharu dijana cuba sedaya mungkin untuk menjadikannya serupa dalam kandungan dan makna kepada teks asal. Masalahnya ialah apabila tidak ada maklumat yang mencukupi di web untuk menghasilkan teks baharu. Ini bermakna ChatGPT dapat menulis esei peringkat kolej, tetapi tidak melakukan operasi 5 digit yang mudah.
Chang membuat kesimpulan bahawa:
Walaupun mungkin untuk menyekat model bahasa besar daripada mengambil bahagian dalam pengarangan, adakah kita harus menggunakannya untuk menjana kandungan web? Ini akan masuk akal hanya jika matlamat kami adalah untuk membungkus semula maklumat yang sudah tersedia di Web. Sesetengah syarikat wujud untuk berbuat demikian; kami biasanya memanggil mereka kilang kandungan. Mungkin kekaburan model bahasa berguna kepada mereka, sebagai cara untuk mengelakkan pelanggaran hak cipta. Secara umumnya, saya akan mengatakan bahawa apa sahaja yang baik untuk kilang kandungan tidak baik untuk orang yang mencari maklumat. Kebangkitan jenis pembungkusan semula inilah yang menyukarkan kami untuk mencari apa yang kami cari dalam talian sekarang.; Lebih banyak teks yang dihasilkan oleh model bahasa besar diterbitkan di Web, lebih banyak Web menjadi versi kabur untuk dirinya sendiri.
Dan, seperti banduan di dalam gua, pengalaman kita akan jauh lebih kecil daripada apa yang ditawarkan oleh realiti kepada kita.