ChatGPT é um protótipo de chatbot de inteligência artificial
Foi divulgada a notícia de que A OpenAI está desenvolvendo um software que pode detectar se o seu modelo ChatGPT gerou texto, isso logo depois que as autoridades educacionais da cidade de Nova York anunciaram que bloqueariam o acesso dos alunos à ferramenta nas escolas públicas.
E é que eles divulgaram vários relatórios do que alunos usando IA para fazer a lição de casa, eles fizeram os professores pensarem sobre como isso afeta a educação.
Alguns expressaram sua preocupação sobre como os modelos de linguagem eles podem permitir que os alunos trapaceiem.
Diante disso, a OpenAI anunciou que está trabalhando para desenvolver "mitigações" que ajudarão as pessoas a detectar o texto gerado automaticamente pelo ChatGPT.
“Disponibilizamos o ChatGPT como uma prévia de pesquisa para aprender com o uso no mundo real, que acreditamos ser uma parte essencial do desenvolvimento e implantação de sistemas de IA capazes e seguros. Estamos constantemente incorporando feedback e lições aprendidas", disse um porta-voz da empresa.
Segundo depoimentos de professores universitários, os alunos confiam no ChatGPT para resolver seus deveres de casa, especialmente nos ensaios.
“A academia não viu isso chegando. Então isso nos pegou de surpresa”, diz Darren Hudson Hick, professor assistente de filosofia na Furman University.
"Eu denunciei no Facebook e meus amigos [professores] ficaram tipo 'sim! Eu peguei um também'", acrescentou. No início deste mês, Hick supostamente pediu à sua turma que escrevesse um ensaio de 500 palavras sobre o filósofo escocês do século XNUMX David Hume e o paradoxo do horror, que examina como as pessoas podem obter prazer de algo que temem, para um teste em casa. Mas, segundo o professor de filosofia, uma das redações que chegou a ele tinha algumas características que “marcavam” o uso da IA na resposta “rudimentar” do aluno. Hick explica que isso pode ser detectado por um olho treinado.
Ser capaz de distinguir a caligrafia produzidos à mão por um ser humano ou uma máquina vai mudar a forma como eles podem ser usados na academia. As escolas poderiam aplicar com mais eficácia a proibição de testes gerada por IA,
Sim, os modelos de linguagem generativa podem ser bons, mas não sabem do que estão falando.
Por mais impressionante que a escrita gerada por IA chegue às manchetes com conferências universitárias e escolas banindo trabalhos datilografados, aqui está um lembrete de que eles não entendem a escrita humana real.
E é que a OpenAI impressiona a Internet com seus esforços para replicar a inteligência humana e as habilidades artísticas desde 2015. Mas em novembro passado, a empresa finalmente se tornou mega viral com o lançamento do gerador de texto AI ChatGPT. Os usuários da ferramenta beta postaram exemplos de respostas de texto geradas por IA a prompts que pareciam tão legítimos que causaram medo nos corações dos professores e até fizeram o Google temer que a ferramenta pudesse acabar com sua atividade de pesquisa.
Se os engenheiros da OpenAI podem criar um bot que pode digitar tão bem ou melhor que o ser humano médio, é lógico que eles também podem criar um bot que é melhor do que o ser humano médio para detectar se o texto foi gerado pela IA.
Como mencionado no momento, a OpenAI está trabalhando em uma solução, já foram lançadas pelo menos três ferramentas de detecção que podem ser usadas:
Detector de Saída GPT-2
A demonstração online do modelo de detector de saída GPT-2 permite colar texto em uma caixa e ver imediatamente a probabilidade de o texto ter sido digitado pela IA. De acordo com a pesquisa da OpenAI, a ferramenta tem uma taxa de detecção relativamente alta, mas "precisa ser combinada com abordagens baseadas em metadados, julgamento humano e educação pública para ser mais eficaz".
GLTR
Quando a OpenAI lançou o GPT-2 em 2019, o pessoal do MIT-IBM Watson AI Lab e do Harvard Natural Language Processing Group se uniram para criar um algoritmo que tenta detectar se o texto foi digitado por um bot.
O texto gerado por computador pode parecer ter sido escrito por um ser humano, mas é mais provável que um escritor humano selecione palavras imprevisíveis. Usando o método "leva um para conhecer um", se o algoritmo GLTR puder prever a próxima palavra em uma frase, ele assumirá que a frase foi escrita por um bot.
GPZero
Durante a época de Natal, Edward Tian estava ocupado criando o GPTZero, um aplicativo que pode ajudar a determinar se o texto foi escrito por um humano ou um bot. Como acadêmico em Princeton, Tian entende como os professores universitários podem ter interesse em detectar plágio assistido por IA ou plágio assistido por IA.
Tian diz que sua ferramenta mede a aleatoriedade das sentenças ("buzz") mais a aleatoriedade geral ("explosões") para calcular a probabilidade de que o texto tenha sido escrito pelo ChatGPT. Desde que twittou sobre o GPTZero em 2 de janeiro, Tian diz que já foi abordado por capitalistas de risco que desejam investir e que desenvolverá versões atualizadas em breve.
fonte: https://techcrunch.com