ChatGPT, bir yapay zeka chatbot prototipidir
Öyle bir haber çıktı ki OpenAI, ChatGPT modelinizin metin oluşturup oluşturmadığını algılayabilen bir yazılım geliştiriyor. bu, New York Şehri eğitim yetkililerinin devlet okullarında öğrencilerin araca erişimini engelleyeceklerini açıklamasından kısa bir süre sonra.
Ve ne olduğuna dair çeşitli raporlar yayınladılar. ödevlerini yapmak için AI kullanan öğrenciler, öğretmenleri bunun eğitimi nasıl etkilediği konusunda düşündürdüler.
Bazıları düşüncelerini dile getirdi dil modellerinin nasıl olduğuyla ilgili endişe öğrencilerin kopya çekmesine izin verebilirler.
Bunu göz önünde bulunduran OpenAI, insanların ChatGPT tarafından otomatik olarak oluşturulan metni algılamasına yardımcı olacak "hafifletici önlemler" geliştirmek için çalıştığını duyurdu.
"ChatGPT'yi, yetenekli ve güvenli AI sistemlerini geliştirmenin ve devreye almanın önemli bir parçası olduğuna inandığımız gerçek dünya kullanımından öğrenmek için bir araştırma ön izlemesi olarak kullanıma sunduk. Bir şirket sözcüsü, "Sürekli olarak geri bildirimleri ve öğrenilen dersleri dahil ediyoruz" dedi.
Üniversite profesörlerinin ifadelerine göre, öğrenciler ödevlerini çözmek için ChatGPT'ye güveniyor, özellikle provalarda.
“Akademi bunun geleceğini görmedi. Furman Üniversitesi'nde felsefe profesörü olan Darren Hudson Hick, bu yüzden bizi şaşırttı" diyor.
"Facebook'ta bildirdim ve [öğretmen] arkadaşlarım 'evet! Ben de bir tane yakaladım'' diye ekledi. Bu ayın başlarında, Hick'in sınıfından evde bir test için 500. yüzyıl İskoç filozofu David Hume ve insanların korktukları bir şeyden nasıl zevk alabileceklerini inceleyen korku paradoksu hakkında XNUMX kelimelik bir makale yazmalarını istediği bildirildi. Ancak felsefe profesörüne göre, kendisine gelen makalelerden biri, öğrencinin "ilkel" yanıtında yapay zeka kullanımını "işaretleyen" bazı özelliklere sahipti. Hick, bunun eğitimli bir göz tarafından tespit edilebileceğini açıklıyor.
El yazısını ayırt edebilme bir insan veya bir makine tarafından elde üretilen akademide kullanılma şeklini değiştirecek. Okullar yapay zeka tarafından oluşturulan test yasağını daha etkili bir şekilde uygulayabilir,
Evet, üretken dil modelleri iyi olabilir ama ne hakkında konuştuklarını bilmiyorlar.
Yapay zeka tarafından üretilen yazı, üniversite konferanslarında ve daktiloyla yazılmış kağıtları yasaklayan okullarda manşetlere taşınsa da, gerçek insan yazısını anlamadıklarını hatırlatalım.
OpenAI, 2015'ten beri insan zekasını ve sanatsal yetenekleri kopyalama çabalarıyla İnternet'i etkiliyor. Ancak geçen Kasım ayında, şirket nihayet AI metin oluşturucu ChatGPT'nin piyasaya sürülmesiyle mega viral oldu. Beta aracının kullanıcıları, öğretmenlerin kalplerine korku salacak ve hatta Google'ı, aracın araştırma faaliyetlerini öldürebileceği konusunda korkutacak kadar meşru görünen istemlere yapay zeka tarafından oluşturulan metin yanıtlarının örneklerini yayınladı.
OpenAI mühendisleri, ortalama insan kadar iyi veya ondan daha iyi yazabilen bir bot yaratabilirlerse, metnin AI tarafından üretilip üretilmediğini tespit etmede ortalama insandan daha iyi olan bir bot da yaratabilecekleri mantıklıdır.
OpenAI şu an için bir çözüm üzerinde çalıştığından, kullanılabilecek en az üç tespit aracı piyasaya sürüldü:
GPT-2 Çıkış Dedektörü
GPT-2 çıkış dedektörü modelinin çevrimiçi demosu, metni bir kutuya yapıştırmanıza ve metnin yapay zeka tarafından yazılmış olma olasılığını hemen görmenize olanak tanır. OpenAI'nin araştırmasına göre, araç nispeten yüksek bir algılama oranına sahip, ancak "en etkili olması için meta verilere, insan yargısına ve halk eğitimine dayalı yaklaşımlarla birleştirilmesi gerekiyor."
GLTR
OpenAI, 2'da GPT-2019'yi piyasaya sürdüğünde, MIT-IBM Watson AI Lab ve Harvard Natural Language Processing Group'taki kişiler, metnin bir bot tarafından yazıp yazılmadığını tespit etmeye çalışan bir algoritma oluşturmak için bir araya geldi.
Bilgisayar tarafından oluşturulan metin bir insan tarafından yazılmış gibi görünebilir, ancak insan bir yazarın tahmin edilemeyen sözcükleri seçmesi daha olasıdır. "Birini bilmek gerekir" yöntemini kullanarak, GLTR algoritması bir cümledeki bir sonraki kelimeyi tahmin edebiliyorsa, cümlenin bir bot tarafından yazıldığını varsayacaktır.
GPSıfır
Noel sezonunda Edward Tian, metnin bir insan mı yoksa bot tarafından mı yazıldığını belirlemeye yardımcı olabilecek bir uygulama olan GPTZero'yu geliştirmekle meşguldü. Princeton'da bir akademisyen olarak Tian, üniversite profesörlerinin yapay zeka destekli intihali veya yapay zeka destekli intihali tespit etme konusunda nasıl kazanılmış bir çıkarı olabileceğini anlıyor.
Tian, aracının, metnin ChatGPT tarafından yazılma olasılığını hesaplamak için cümlelerin rastgeleliğini ("vızıltı") artı genel rastgeleliği ("patlamalar") ölçtüğünü söylüyor. 2 Ocak'ta GPTZero hakkında tweet attığından beri Tian, yatırım yapmak isteyen risk sermayedarlarının kendisine çoktan yaklaştığını ve yakında güncellenmiş versiyonları geliştireceğini söylüyor.
kaynak: https://techcrunch.com