ChatGPT adalah prototipe chatbot kecerdasan buatan
Berita itu dirilis bahwa OpenAI sedang mengembangkan perangkat lunak yang dapat mendeteksi jika model ChatGPT Anda menghasilkan teks, ini tidak lama setelah pejabat pendidikan Kota New York mengumumkan bahwa mereka akan memblokir akses siswa ke alat tersebut di sekolah umum.
Dan mereka telah merilis berbagai laporan tentang apa siswa menggunakan AI untuk mengerjakan pekerjaan rumah mereka, mereka telah membuat para guru berpikir tentang bagaimana hal itu mempengaruhi pendidikan.
Beberapa telah mengungkapkannya perhatian tentang bagaimana model bahasa mereka memungkinkan siswa untuk menyontek.
Mengingat hal ini, OpenAI mengumumkan sedang mengembangkan "mitigasi" yang akan membantu orang mendeteksi teks yang dibuat secara otomatis oleh ChatGPT.
“Kami telah membuat ChatGPT tersedia sebagai pratinjau penelitian untuk belajar dari penggunaan di dunia nyata, yang kami yakini sebagai bagian penting dari pengembangan dan penerapan sistem AI yang andal dan aman. Kami terus-menerus menggabungkan umpan balik dan pelajaran," kata seorang juru bicara perusahaan.
Menurut kesaksian dari profesor universitas, siswa mempercayai ChatGPT untuk menyelesaikan pekerjaan rumah mereka, terutama dalam latihan.
“Akademi tidak melihatnya datang. Jadi kami terkejut, ”kata Darren Hudson Hick, asisten profesor filsafat di Universitas Furman.
"Saya melaporkannya di Facebook, dan teman [guru] saya seperti, 'yeah! Saya menangkap satu juga,'" tambahnya. Awal bulan ini, Hick dilaporkan meminta kelasnya untuk menulis esai 500 kata tentang filsuf Skotlandia abad ke-XNUMX David Hume dan paradoks horor, yang meneliti bagaimana orang dapat memperoleh kesenangan dari sesuatu yang mereka takuti, untuk ujian di rumah. Namun menurut profesor filsafat itu, salah satu esai yang datang kepadanya memiliki beberapa fitur yang "menandai" penggunaan AI dalam respons "belum sempurna" siswa. Hick menjelaskan bahwa ini dapat dideteksi oleh mata yang terlatih.
Mampu membedakan tulisan tangan dengan tangan yang diproduksi oleh manusia atau mesin itu akan mengubah cara mereka dapat digunakan di akademi. Sekolah dapat lebih efektif menegakkan larangan tes yang dihasilkan AI,
Ya, model bahasa generatif bisa bagus, tetapi mereka tidak tahu apa yang mereka bicarakan.
Betapapun mengesankannya tulisan yang dibuat oleh AI menjadi berita utama dengan konferensi universitas dan sekolah yang melarang makalah yang diketik, inilah pengingat bahwa mereka kurang memahami tulisan manusia yang sebenarnya.
Dan OpenAI telah mengesankan Internet dengan upayanya untuk mereplikasi kecerdasan manusia dan kemampuan artistik sejak 2015. Namun November lalu, perusahaan tersebut akhirnya menjadi viral dengan peluncuran generator teks AI ChatGPT. Pengguna alat beta memposting contoh tanggapan teks yang dihasilkan AI untuk petunjuk yang tampak begitu sah sehingga mereka menimbulkan ketakutan di hati para guru dan bahkan membuat Google takut bahwa alat tersebut dapat mematikan aktivitas penelitian mereka.
Jika insinyur OpenAI dapat membuat bot yang dapat mengetik dengan baik atau lebih baik daripada rata-rata manusia, masuk akal bahwa mereka juga dapat membuat bot yang lebih baik daripada rata-rata manusia dalam mendeteksi apakah teks dihasilkan oleh AI.
Sejak disebutkan untuk saat ini OpenAI sedang mengerjakan solusi, setidaknya tiga alat deteksi telah dirilis yang dapat digunakan:
Detektor Keluar GPT-2
Demo online model detektor keluar GPT-2 memungkinkan Anda menempelkan teks ke dalam kotak dan segera melihat kemungkinan bahwa teks tersebut diketik oleh AI. Menurut penelitian OpenAI, alat tersebut memiliki tingkat deteksi yang relatif tinggi, tetapi "perlu dikombinasikan dengan pendekatan berdasarkan metadata, penilaian manusia, dan pendidikan publik agar menjadi paling efektif."
GLTR
Ketika OpenAI merilis GPT-2 pada tahun 2019, orang-orang di MIT-IBM Watson AI Lab dan Harvard Natural Language Processing Group bekerja sama untuk membuat algoritme yang mencoba mendeteksi apakah teks telah diketik oleh bot.
Teks yang dihasilkan komputer mungkin tampak ditulis oleh manusia, tetapi penulis manusia lebih cenderung memilih kata-kata yang tidak dapat diprediksi. Dengan menggunakan metode "takes one to know one", jika algoritma GLTR dapat memprediksi kata berikutnya dalam sebuah kalimat, maka akan diasumsikan bahwa kalimat tersebut ditulis oleh bot.
GPZero
Selama musim Natal, Edward Tian sibuk membuat GPTZero, sebuah aplikasi yang dapat membantu menentukan apakah teks ditulis oleh manusia atau bot. Sebagai akademisi di Princeton, Tian memahami bagaimana profesor universitas dapat memiliki kepentingan dalam mendeteksi plagiarisme berbantuan AI atau plagiarisme berbantuan AI.
Tian mengatakan alatnya mengukur keacakan kalimat ("buzz") ditambah keacakan keseluruhan ("semburan") untuk menghitung kemungkinan bahwa teks itu ditulis oleh ChatGPT. Sejak men-tweet tentang GPTZero pada 2 Januari, Tian mengatakan dia telah didekati oleh pemodal ventura yang ingin berinvestasi, dan dia akan segera mengembangkan versi yang diperbarui.
sumber: https://techcrunch.com