ChatGPT е прототип на чатбот с изкуствен интелект
Новината беше пусната, че OpenAI разработва софтуер, който може да открие дали вашият ChatGPT модел генерира текст, това малко след като образователните власти в Ню Йорк обявиха, че ще блокират достъпа на учениците до инструмента в държавните училища.
И това е, че са пуснали различни доклади за какво ученици, използващи AI, за да пишат домашните си, те накараха учителите да се замислят как това се отразява на образованието.
Някои изразиха своите загриженост за това как езиковите модели те могат да позволят на учениците да мамят.
Като се има предвид това, OpenAI обяви, че работи за разработване на „смекчаване“, което ще помогне на хората да открият текста, автоматично генериран от ChatGPT.
„Направихме ChatGPT достъпен като преглед на проучване, за да се учим от употреба в реалния свят, което вярваме, че е съществена част от разработването и внедряването на способни и сигурни AI системи. Ние непрекъснато включваме обратна връзка и научени уроци“, каза говорител на компанията.
Според свидетелствата на университетски преподаватели, учениците се доверяват на ChatGPT за решаване на домашните им, особено на репетициите.
„Академията не го очакваше. Така че това ни изненада“, казва Дарън Хъдсън Хик, асистент по философия в университета Фурман.
„Съобщех за това във Facebook и приятелите ми [учители] казаха: „Да! И аз хванах един“, добави той. Съобщава се, че по-рано този месец Хик е помолил класа си да напише есе от 500 думи за шотландския философ от XNUMX-ти век Дейвид Хюм и парадокса на ужасите, което изследва как хората могат да извлекат удоволствие от нещо, от което се страхуват, за тест у дома. Но според професора по философия, едно от есетата, които стигнаха до него, имаше някои характеристики, които „маркираха“ използването на AI в „елементарния“ отговор на студента. Хик обяснява, че това може да бъде открито от тренирано око.
Да можеш да различаваш почерка ръчно произведени от човек или машина това ще промени начина, по който могат да бъдат използвани в академията. Училищата биха могли по-ефективно да наложат забраната за тестване, генерирана от AI,
Да, генеративните езикови модели могат да бъдат добри, но те не знаят какво говорят.
Колкото и впечатляващо да е писането, генерирано от AI, да прави заглавия с университетски конференции и училища, забраняващи машинописни документи, ето напомняне, че им липсва разбиране за действителното човешко писане.
И това е, че OpenAI впечатлява интернет с усилията си да възпроизведе човешката интелигентност и артистични способности от 2015 г. насам. Но миналия ноември компанията най-накрая стана мега вирусна с пускането на AI текстовия генератор ChatGPT. Потребителите на бета инструмента публикуваха примери за генерирани от AI текстови отговори на подкани, които изглеждаха толкова легитимни, че всяха страх в сърцата на учителите и дори накараха Google да се страхува, че инструментът може да убие изследователската им дейност.
Ако инженерите на OpenAI могат да създадат бот, който може да пише толкова добре или по-добре от средния човек, логично е, че те могат да създадат и бот, който е по-добър от средния човек в откриването дали текстът е генериран от AI.
Тъй като, както беше споменато, в момента OpenAI работи върху решение, вече са пуснати поне три инструмента за откриване, които могат да се използват:
GPT-2 Изходен детектор
Онлайн демонстрацията на модела на детектор за излизане GPT-2 ви позволява да поставите текст в поле и веднага да видите вероятността текстът да е въведен от AI. Според изследването на OpenAI, инструментът има относително висок процент на откриване, но „трябва да бъде комбиниран с подходи, базирани на метаданни, човешка преценка и обществено образование, за да бъде най-ефективен“.
GLTR
Когато OpenAI пусна GPT-2 през 2019 г., хората от MIT-IBM Watson AI Lab и Harvard Natural Language Processing Group се обединиха, за да създадат алгоритъм, който се опитва да открие дали текстът е въведен от бот.
Компютърно генерираният текст може да изглежда като написан от човек, но е по-вероятно човекът да избере непредвидими думи. Използвайки метода „взема човек да знае един“, ако алгоритъмът GLTR може да предвиди следващата дума в изречение, той ще приеме, че изречението е написано от бот.
GPZero
По време на коледния сезон Едуард Тиан беше зает със създаването на GPTZero, приложение, което може да помогне да се определи дали текстът е написан от човек или бот. Като академик в Принстън, Тиан разбира как университетските преподаватели могат да имат личен интерес от откриването на плагиатство, подпомогнато от ИИ, или плагиатство, подпомогнато от ИИ.
Тиан казва, че неговият инструмент измерва произволността на изреченията („бръмчене“) плюс общата произволност („избухвания“), за да изчисли вероятността текстът да е написан от ChatGPT. Откакто туитна за GPTZero на 2 януари, Тиан казва, че вече е бил потърсен от рискови капиталисти, които искат да инвестират, и той скоро ще разработи актуализирани версии.
Fuente: https://techcrunch.com