Há um tempo, meu parceiro Pablinux Ele nos disse em a carta que o insuportável Elon Musk e outras personalidades escreveram pedindo uma pausa nas pesquisas em Inteligência Artificial até que medidas possam ser tomadas para prevenir seus possíveis efeitos adversos. Isso me dá a desculpa para falar sobre os riscos reais e imaginários da Inteligência Artificial.
Correndo o risco de me fazer de bobo com previsões fracassadas ao estilo de Bill Gates, começo dizendo que, na minha opinião, o maior risco agora é o estouro da bolha Isso vai deixar as pontocoms em um leve choque.
Os riscos reais e imaginários da Inteligência Artificial
Concordo com Pablinux que a carta tem mais obscurantismo medieval do que raciocínio científico. Isso continuando a compartilhar a ideia de que se deve estabelecer uma legislação que regule o uso de seu conteúdo. No entanto, não podemos negar que toda tecnologia confundiu e assustou as pessoas até que fosse bem conhecida.
A projeção da chegada de um trem no início da cinematografia fez as pessoas fugirem da sala e, embora tenha muito de lenda urbana, a versão radiofônica de A Guerra dos Mundos de Orson Welles causou bastante pânico entre as pessoas que acreditavam que era real.
Na verdade, esse tipo de regulamentação de software não é novidade. As autoridades reguladoras financeiras em muitos países proíbem programas como o Photoshop de editar imagens de notas ou cheques.
Em 1994, Tom Clancy publicou Dívida de honra. Considerado um especialista em questões de defesa, Clancy iimaginou um ataque ao sistema financeiro dos Estados Unidos, manipulando os sistemas especialistas das sociedades anônimas para acreditar que uma crise estava ocorrendo desencadeando uma onda de vendas que finalmente produziu a crise.
Antes de descartar como ficção, lembre-se que nesse mesmo romance, 7 anos antes das Torres Gêmeas, Clancy antecipou que os Estados Unidos poderiam sofrer ataques com aviões comerciais.
Na verdade a ideia não é nova. o filme de 1983 Jogos de guerra Ele relatou como um adolescente confundiu o computador responsável pelo lançamento do míssil fazendo-o pensar que os russos estavam atacando.
Vamos imaginar que ouvimos um galope se aproximando. Nossa primeira conclusão é que é um cavalo e 9 em 10 vezes estaremos certos. Mas sempre existe a possibilidade de ser uma zebra que escapou do zoológico. Médicos, astronautas e pilotos de aviões recebem um treinamento rigoroso pensando nas zebras, sabendo o que fazer caso ocorra alguma anomalia. Os modelos de inteligência artificial são treinados pensando nos cavalos.
Um modelo como o utilizado pelo ChatGPT é baseado em informações existentes em sua base de conhecimento. Quanto mais vezes essa informação é repetida, maior a credibilidade que ela atribui.
Como salvar todas as informações disponíveis exigiria muito espaço de armazenamento, ele salva apenas o que é relevante e depois o reconstrói conforme solicitado usando a estrutura que estatisticamente parece a mais relevante. Por isso, muitas vezes cito referências que não existem só porque estatisticamente é provável que exista um documento com aquele título que contenha aquele conteúdo.
Sobre zebras e cachorros que não latem
Existe algum outro ponto para o qual você gostaria de chamar minha atenção?
-O curioso incidente do cachorro à noite.
-O cachorro não fez nada à noite.
Esse foi o curioso incidente.
Sir Arthur Conan Doyle
Outro dos riscos que os sistemas de Inteligência Artificial têm é o que eles não fazem. E também é um ponto importante a ter em mente.
Na década de XNUMX, um médico australiano supôs que a causa mais comum de úlceras eram bactérias. Como ele não tinha um ótimo currículo, eles riram na cara dele até que ele provasse que estava certo. Como muitas outras descobertas científicas (a rotação dos planetas, o fato de que quanto mais pausas você faz, mais produtivo você é), elas são contrárias à sabedoria do momento.
Mas os modelos de inteligência são baseados na sabedoria do momento. Naqueles saberes em que há consenso. Assim como a tecnologia de congelamento, automóveis e entregas aumentaram o número de obesos, a disponibilidade de ferramentas de Tecnologia Artificial pode nos tornar intelectuais preguiçosos e sufocar a inovação.
Como você pode ver, há coisas suficientes para se preocupar além de ter medo de ser escravizado pelas máquinas. E que ainda não falamos sobre o acesso ao código-fonte e a privacidade dos usuários.