Dizem que para novidades os clássicos. Uma alegoria escrita quatro séculos de nossa era é ideal para entender quais são os limites das novas aplicações da Inteligência Artificial. Refiro-me à "Caverna ChatGPT" que não é nem mais nem menos que uma adaptação da famosa alegoria da caverna de Platão
Não tenho objeções ao uso de ferramentas de inteligência artificial. Na verdade, acho que eles tornam o trabalho muito mais fácil. Mas enquanto ser usado por pessoas que tenham conhecimento suficiente para avaliar seu trabalho.
Por exemplo; pode-se pedir ao ChatGPT para escrever um plug-in do WordPress, mas se alguém não tiver conhecimento de PHP, esse plug-in pode causar sérios problemas de segurança.
A alegoria da caverna
Platão foi um filósofo grego que viveu entre os séculos V e IV aC. Ele expressou seus pensamentos na forma de mitos e alegorias. O mais conhecido deles era o da caverna.
Postado em A República, a alegoria imagina um grupo de pessoas acorrentadas em uma caverna, atrás delas tem uma fogueira que projeta sombras na parede a sua frente. As sombras são a única coisa que eles veem e imaginam que são a única coisa que existe, ignorando o que está além.
Quando um dos prisioneiros é libertado, ele consegue ver o mundo como ele realmente é e percebe o quão limitadas foram suas experiências na caverna.
De acordo com os estudiosos de Platão, essa alegoria destaca que todos nós vivemos nossas vidas com base em nossas próprias informações e experiências. Informações e experiências equivalentes às sombras da caverna. Assim como os prisioneiros, existe a verdadeira realidade e está além da nossa compreensão.
Caverna do ChatGPT
O ChatGPT e seus concorrentes têm admiradores e detratores. Mas, ninguém havia dado uma explicação técnica sobre suas falhas até que um artigo publicado no New Yorker pelo escritor de ficção científica Ted Chang
Para explicar as falhas nos modelos de linguagem, Chang faz uma analogia com o que acontece com imagens e arquivos de áudio.
A gravação e reprodução de um arquivo digital requer duas etapas: a primeira é a codificação, momento em que o arquivo é convertido para um formato mais compacto, seguido pela decodificação, que é o processo inverso. O processo de conversão é denominado sem perdas (o arquivo restaurado é igual ao original) ou com perdas (algumas informações são perdidas para sempre). A compactação com perdas é aplicada a arquivos de imagem, vídeo ou áudio e, na maioria das vezes, não é perceptível. Quando é, é chamado de artefato de compressão. Artefatos de compressão aparecem na forma de desfoque nas imagens ou ruídos no áudio.
Chang usa a analogia de um JPG difuso da web para se referir a modelos de linguagem. E isso é bastante preciso. Ambos compactam as informações mantendo apenas “O importante”. euOs modelos de linguagem geram, a partir de grandes quantidades de dados de texto, uma representação compacta dos padrões e relacionamentos entre palavras e frases.
A partir dele, um novo texto é gerado tentando ao máximo torná-lo semelhante em conteúdo e significado ao texto original. O problema é quando não há informações suficientes na web para gerar um novo texto. Isso significa que o ChatGPT pode escrever um ensaio de nível universitário, mas não fazer operações simples de 5 dígitos.
Chang conclui que:
Mesmo que seja possível restringir a participação de grandes modelos de linguagem na autoria, devemos usá-los para gerar conteúdo da web? Isso só faria sentido se nosso objetivo fosse reembalar as informações que já estão disponíveis na Web. Algumas empresas existem para fazer exatamente isso; geralmente os chamamos de fábricas de conteúdo. Talvez a imprecisão dos modelos de linguagem seja útil para eles, como forma de evitar a violação de direitos autorais. De um modo geral, porém, eu diria que tudo o que é bom para fábricas de conteúdo não é bom para pessoas que procuram informações. A ascensão desse tipo de reembalagem é o que está dificultando a localização do que procuramos online no momento.; Quanto mais texto gerado por grandes modelos de linguagem é publicado na Web, mais a Web se torna uma versão mais borrada de si mesma.
E, como os prisioneiros da caverna, nossa experiência seria muito menor do que a realidade nos oferece.