Por Equipe 016
Conceição Lima *
Li recentemente um artigo do professor Giancarlo Guizzardi, capixaba de Vitória e hoje catedrático de Ciência da Computação na Universidade de Twente, na Holanda. Ele nos aconselha a esquecermos os cenários apocalípticos de filmes como Exterminador do Futuro ou Matrix, em que máquinas conscientes decidem exterminar a humanidade. O verdadeiro perigo da Inteligência Artificial não é a rebeldia das máquinas, mas a destruição sistemática da verdade.
Para explicar como a IA substitui a realidade por conteúdos plausíveis, mas sem compromisso com fatos, Guizzardi recorre às teorias de Jean Baudrillard, filósofo e sociólogo francês que cunhou os conceitos de simulacro e hiper-realidade, quando signos e imagens passam a ocupar o lugar da própria realidade.
Um exemplo emblemático foi o projeto The Next Rembrandt, fruto de uma colaboração entre a Microsoft e o Museu Rembrandt. Algoritmos analisaram 346 pinturas do artista e geraram um retrato inédito, tão fiel ao estilo original que poderia ser confundido com uma obra autêntica: um homem caucasiano, com adereço na cabeça, o tipo preferido de Rembrandt, em pose típica das obras do autor. Tudo incrivelmente similar: dados sobre composição, proporções faciais, cores típicas, uso de luz e sombra, pinceladas…
Outro caso foi a “publicação” do discurso que J.F. Kennedy teria feito em 22/11/1963, se não tivesse sido assassinado: o texto era real, mas a voz foi sintetizada por IA. Em ambos os casos, o resultado é tecnicamente perfeito, mas não corresponde a nenhum evento histórico.
A IA embaralha nossos conceitos de autenticidade e originalidade. Ela não se importa com a verdade: trabalha apenas com dados disponíveis e cálculos probabilísticos. A Internet, por sua vez, está cada vez mais “infestada” por textos gerados não pela experiência humana, mas por simulações algorítmicas.O treinamento da IA depende de dados inseridos na Internet. Com o esgotamento dos insumos humanos, cresce a “infocobiça” por conteúdo sintético, gerado por outras IAs. Isso cria um ciclo de erros e confabulações, afastando o conhecimento da realidade física e histórica. Quando a rede digital se tornar todinha alimentada somente por dados artificiais, o que vai acontecer com a sociedade humana? O que restará da verdade?
Sem verdade não há ciência nem democracia. A ciência se funda na busca pela realidade do mundo; sem ela, o conhecimento científico se inviabiliza. A democracia exige cooperação e visões compartilhadas da realidade. Sem uma representação fiel do mundo real, não há como resolver problemas coletivos. Se os dados que fundamentam nossas decisões são sintéticos e indiferentes à verdade, perde-se a base necessária para que esses dois pilares da sociedade (ciência e democracia) funcionem adequadamente.
Há caminhos para mitigar esse risco e resgatar a verdade? Atualmente, na “visão” fantasiosa da IA, tudo é possível, pode-se misturar tudo com tudo, sem distinção de tempo, espaço ou qualquer outro parâmetro real. Do ponto de vista tecnológico, talvez possam ser criados novos métodos de treinamento de IAs, baseados na semântica da linguagem humana, que ajudem as máquinas a distinguirem o possível do impossível. O que não se pode aceitar é a retroalimentação da IA com dados sintéticos fantasiosos.
Do ponto de vista dos humanos, o que se exige é o esforço crítico e analítico. A verdade nunca foi confortável, mas é indispensável. Diferentemente da fantasia, trata-se de uma conjuntura “difícil” que, na maioria das vezes, não pode ser observada diretamente. E, embora todos concordem em que a veracidade dos fatos depende de comprovação no mundo real, os humanos não são lá essas coisas nesse aspecto. Será que iríamos conseguir?
O desafio é a preguiça humana diante dessa tarefa. Precisamos de cooperação e visão compartilhada para rejeitar as fantasias da IA e preservar representações conectadas ao mundo real. Isso demanda uma educação diferente da que temos hoje, sobretudo nos países em desenvolvimento.
Em última análise, ciência e democracia dependem de uma visão comum da realidade e da disposição para enfrentar a complexidade do mundo. O esforço crítico é o que nos permite sair da “matrix” das simulações reconfortantes e assumir responsabilidade ética e epistêmica. Fora da verdade não há salvação.
* Doutora em Letras, com pós-doutorado em Linguística, escritora, conferencista e palestrante, membro eleito da Academia Ribeirãopretana de Letras e da Academia membro fundador da Academia Feminina Sul-Mineira de Letras