Mereka mengatakan bahwa untuk hal baru klasik. Sebuah alegori yang ditulis empat abad di zaman kita sangat ideal untuk memahami apa saja batasan dari aplikasi baru Kecerdasan Buatan. Saya mengacu pada "Gua ChatGPT" yang tidak lebih dan tidak kurang dari adaptasi dari alegori terkenal dari gua Plato
Saya tidak keberatan dengan penggunaan alat kecerdasan buatan. Bahkan, saya menemukan mereka membuat pekerjaan lebih mudah. Tapi selama digunakan oleh orang yang memiliki pengetahuan yang cukup untuk mengevaluasi pekerjaan Anda.
Misalnya; seseorang dapat meminta ChatGPT untuk menulis plugin WordPress, tetapi jika seseorang tidak memiliki pengetahuan tentang PHP, plugin tersebut dapat menyebabkan masalah keamanan yang serius.
Alegori gua
Plato adalah seorang filsuf Yunani yang hidup antara abad ke-XNUMX dan ke-XNUMX SM. Ia mengungkapkan pemikirannya dalam bentuk mitos dan alegori. Yang paling terkenal dari mereka adalah gua.
Diposting di Republik, kiasan itu membayangkan sekelompok orang dirantai di sebuah gua, di belakang mereka ada api yang membuat bayangan di dinding di depan mereka. Bayangan adalah satu-satunya hal yang mereka lihat dan bayangkan bahwa mereka adalah satu-satunya hal yang ada, mengabaikan apa yang ada di baliknya.
Ketika salah satu tahanan dibebaskan, dia dapat melihat dunia apa adanya dan menyadari betapa terbatasnya pengalamannya di dalam gua.
Menurut para sarjana Plato, alegori ini menyoroti bahwa kita semua menjalani hidup kita berdasarkan informasi dan pengalaman kita sendiri. Informasi dan pengalaman setara dengan bayang-bayang gua. Sama seperti para tahanan, ada realitas yang sebenarnya dan di luar pemahaman kita.
Gua ChatGPT
ChatGPT dan pesaingnya memiliki pengagum dan pencela. Tapi, tidak ada yang memberikan penjelasan teknis tentang kegagalannya hingga sebuah artikel diterbitkan di New Yorker oleh penulis fiksi ilmiah Ted Chang
Untuk menjelaskan kekurangan dalam model bahasa, Chang membuat analogi dengan apa yang terjadi pada file gambar dan audio.
Perekaman dan reproduksi file digital memerlukan dua langkah: yang pertama adalah encoding, di mana file dikonversi ke format yang lebih ringkas, diikuti dengan decoding, yang merupakan proses sebaliknya. Proses konversi disebut lossless (file yang dipulihkan sama dengan aslinya) atau lossy (Beberapa informasi hilang selamanya). Kompresi lossy diterapkan pada file gambar, video, atau audio dan seringkali tidak terlihat. Ketika itu, itu disebut artefak kompresi. Artefak kompresi muncul dalam bentuk buram pada gambar atau dentingan audio.
Chang menggunakan analogi fuzzy JPG dari web untuk merujuk pada model bahasa. Dan, ini cukup akurat. Keduanya memampatkan informasi hanya dengan menyimpan "Yang penting". LModel bahasa menghasilkan, dari sejumlah besar data teks, representasi padat dari pola dan hubungan antara kata dan frasa.
Dari situ, sebuah teks baru dihasilkan, berusaha semaksimal mungkin untuk membuatnya serupa dalam konten dan makna dengan teks aslinya. Masalahnya adalah ketika tidak ada cukup informasi di web untuk menghasilkan teks baru. Ini berarti ChatGPT dapat menulis esai tingkat perguruan tinggi, tetapi tidak melakukan operasi 5 digit sederhana.
Chang menyimpulkan bahwa:
Meskipun mungkin untuk membatasi model bahasa besar agar tidak berpartisipasi dalam penulisan, haruskah kita menggunakannya untuk membuat konten web? Ini masuk akal hanya jika tujuan kita adalah mengemas ulang informasi yang sudah tersedia di Web. Beberapa perusahaan ada untuk melakukan hal itu; kami umumnya menyebutnya pabrik konten. Mungkin ketidakjelasan model bahasa berguna bagi mereka, sebagai cara untuk menghindari pelanggaran hak cipta. Namun secara umum, saya akan mengatakan bahwa apa pun yang baik untuk pabrik konten tidak baik untuk orang yang mencari informasi. Maraknya jenis pengemasan ulang inilah yang membuat kami sulit menemukan apa yang kami cari secara online saat ini.; Semakin banyak teks yang dihasilkan oleh model bahasa besar dipublikasikan di Web, semakin Web menjadi versi yang lebih kabur dari dirinya sendiri.
Dan, seperti para tahanan di dalam gua, pengalaman kita akan jauh lebih kecil dari apa yang ditawarkan kenyataan kepada kita.