Nir Eisikovits, UMass Boston
Qualquer pessoa que acompanhe a retórica em torno da inteligência artificial nos últimos anos já ouviu uma versão ou outra da afirmação de que a IA é inevitável. Temas comuns são que a IA já está presente, é indispensável e que as pessoas que não acreditam nela estão prejudicando a si mesmas.
No mundo dos negócios, defensores da IA dizem a empresas e trabalhadores que eles ficarão para trás se não integrarem a IA generativa em suas operações. Nas ciências, defensores da IA prometem que a IA ajudará a curar doenças até agora intratáveis.
Na educação superior, os promotores da IA advertem os professores de que os estudantes devem aprender a usar a IA ou correm o risco de se tornarem não competitivos na hora de procurar emprego.
E, na segurança nacional, os defensores da IA dizem que ou a nação investe pesadamente em armamentos de IA, ou ficará em desvantagem em relação aos chineses e russos, que já estão fazendo isso.
O argumento em diferentes áreas é essencialmente o mesmo: O momento para o ceticismo sobre IA já passou. A tecnologia moldará o futuro, gostemos ou não. Você pode escolher aprender a usá-la ou ficar fora desse futuro. Quem tenta se opor a essa tecnologia está tão perdido quanto os tecelões manuais que resistiram aos teares mecânicos no início do século XIX.
Nos últimos anos, meus colegas e eu, no Centro de Ética Aplicada da UMass Boston, temos estudado as questões éticas levantadas pela adoção generalizada da IA, e acredito que o argumento da inevitabilidade é enganoso.
História e retrospectiva
Na verdade, essa afirmação é a versão mais recente de uma visão determinista do desenvolvimento tecnológico. É a crença de que as inovações são imparáveis assim que as pessoas começam a trabalhar nelas. Em outras palavras, certos “gênios” não retornam para suas garrafas. O melhor que se pode fazer é utilizá-los para bons propósitos.
Essa abordagem determinista para a tecnologia tem uma longa história. Ela foi aplicada à influência da imprensa, assim como ao aumento do uso de automóveis e da infraestrutura que eles requerem, entre outros desenvolvimentos.
Mas acredito que, quando se trata de IA, o argumento do determinismo tecnológico é tanto exagerado quanto simplificado.
IA em diversas áreas
Considere a afirmação de que empresas não podem se dar ao luxo de ficar fora do jogo da IA. Na verdade, ainda não foi comprovado que a IA está proporcionando ganhos significativos de produtividade para as empresas que a utilizam. Um relatório da The Economist, em julho de 2024, sugere que até agora, a tecnologia não teve quase nenhum impacto econômico.
O papel da IA na educação superior também ainda é uma questão em aberto. Embora universidades, nos últimos dois anos, tenham investido pesadamente em iniciativas relacionadas à IA, há indícios de que podem ter se precipitado.
A tecnologia pode servir como uma ferramenta pedagógica interessante. Por exemplo, a criação de um chatbot de Platão que permite que os alunos conversem por texto com um bot se passando por Platão é um truque interessante.
Mas a IA já está começando a substituir algumas das melhores ferramentas que os professores têm para avaliação e desenvolvimento do pensamento crítico, como as redações. A redação acadêmica está indo pelo caminho dos dinossauros à medida que mais professores desistem de tentar verificar se seus alunos estão escrevendo seus próprios trabalhos. Qual é o argumento de custo-benefício para abrir mão da escrita, uma habilidade tradicional importante e útil?
Nas ciências e na medicina, o uso da IA parece promissor. Seu papel na compreensão da estrutura das proteínas, por exemplo, provavelmente será significativo para a cura de doenças. A tecnologia está transformando a imagem médica e tem sido útil para acelerar o processo de descoberta de medicamentos.
Mas o entusiasmo pode ser exagerado. As previsões baseadas em IA sobre quais casos de COVID-19 se tornariam graves falharam amplamente, e os médicos frequentemente confiam excessivamente na capacidade de diagnóstico da tecnologia, muitas vezes contra seu próprio julgamento clínico. Assim, mesmo nesta área, onde o potencial é grande, o impacto final da IA ainda é incerto.
Na segurança nacional, o argumento para investir no desenvolvimento de IA é convincente. Dado que os riscos podem ser altos, o argumento de que, se chineses e russos estão desenvolvendo armas autônomas movidas por IA, os Estados Unidos não podem se dar ao luxo de ficar para trás tem peso real.
Mas uma rendição completa a essa forma de raciocínio, embora tentadora, provavelmente levará os EUA a ignorar o impacto desproporcional desses sistemas em nações que são pobres demais para participar da corrida armamentista da IA. As grandes potências poderiam implantar a tecnologia em conflitos nesses países. E, igualmente significativo, esse argumento minimiza a possibilidade de colaboração com adversários para limitar sistemas militares de IA, favorecendo a corrida armamentista em vez do controle de armas.
Um passo de cada vez
Examinar o potencial e os riscos da IA nesses diferentes domínios requer uma dose de ceticismo em relação à tecnologia. Acredito que a IA deve ser adotada de forma gradual e com uma abordagem cuidadosa, em vez de se sujeitar a declarações abrangentes de inevitabilidade. Ao desenvolver essa visão ponderada, há dois pontos a serem considerados:
Primeiro, empresas e empreendedores que trabalham com inteligência artificial têm um interesse óbvio em que a tecnologia seja vista como inevitável e necessária, pois eles dependem de sua adoção para o próprio sustento. É importante prestar atenção em quem está promovendo essa ideia de inevitabilidade, e por quais razões.
Segundo, vale a pena aprender com a história recente. Nos últimos 15 anos, os smartphones e os aplicativos de redes sociais que rodam neles passaram a ser vistos como um fato da vida – uma tecnologia tão transformadora quanto inevitável. Então, começaram a surgir dados sobre os danos à saúde mental que causam aos adolescentes, especialmente a jovens meninas. Distritos escolares nos Estados Unidos começaram a proibir celulares para proteger a atenção e a saúde mental de seus alunos. E algumas pessoas voltaram a usar celulares de flip para melhorar a qualidade de vida, evitando smartphones.
Após um longo experimento com a saúde mental dos jovens, facilitado por alegações de determinismo tecnológico, os americanos mudaram de direção. O que parecia fixo mostrou-se mutável. Ainda há tempo de evitar o mesmo erro com a inteligência artificial, que potencialmente pode ter consequências ainda maiores para a sociedade.
Nir Eisikovits, Professor de Filosofia e Diretor do Applied Ethics Center, UMass Boston
Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.
