Charles Barbour, Western Sydney University
Em 2005 — antes do surgimento das mídias sociais ou smartphones, muito menos do blockchain, metadados e OpenAI — o cientista da computação e empreendedor Ray Kurzweil publicou um relato profético e de tirar o fôlego do que ele chamou de “a singularidade”.
Kurzweil quis dizer um momento em um futuro não muito distante quando a tecnologia superinteligente de repente excederia todas as capacidades humanas imagináveis, absorveria a humanidade em suas operações e espalharia seu domínio por nada menos que o próprio universo. A Singularidade está Próxima, seu título declarou ameaçadoramente. E ele estava confiante o suficiente em seus cálculos para oferecer uma data precisa: 2045.
Este ano, quase exatamente na metade do caminho entre 2005 e 2045, Kurzweil divulgou uma atualização sobre sua profecia. Era essencialmente o mesmo prognóstico, mas com um título que soava um pouco menos ameaçador: A Singularidade Está Mais Próxima.
Para entender Kurzweil e o tecno-profetas que seguiram sua liderança, vale a pena pensar um pouco sobre a natureza da profecia em si. Pois mesmo em suas formas antigas e religiosas, o propósito da profecia nunca foi realmente prever o futuro. Sempre foi influenciar o presente — convencer as pessoas a viverem suas vidas de forma diferente hoje, em preparação para um amanhã que só pode ser hipotético.
Neste contexto, seria interessante perguntar por que tanto do discurso em torno das tecnologias emergentes se tornou tão apocalíptico em tom. O que exatamente esse discurso provavelmente realizará? Prever o eclipse iminente da humanidade dá a alguém uma razão para agir agora ou mudar algum aspecto de suas vidas? Ou a inevitabilidade projetada tem mais probabilidade de convencer as pessoas de que nada que elas façam pode ter qualquer consequência?
Sem dúvida, há algo sombriamente atraente sobre as declarações do fim dos tempos. Sua ubiquidade ao longo da história humana sugere isso. Mas há maneiras mais produtivas, mais equilibradas — embora menos sensacionalistas — de pensar e falar.
Sem ir até a “singularidade”, podemos construir um relato genuíno do que é singular sobre nossa experiência contemporânea e a maneira como ela está sendo moldada pelas máquinas que construímos?
Crítica: Techno:Humanos e Tecnologia – Marcus Smith (University of Queensland Press)
O novo livro de Marcus Smith Techno: Humanos e Tecnologia está entre as abordagens mais sensatas sobre o tópico.
Claro, como todos os outros que trabalham com esse gênero, Smith é rápido em propor que o momento presente é excepcional e único. A primeira frase de seu livro diz: “Estamos vivendo no meio de uma revolução tecnológica”. Referências ao conceito de “revolução” estão espalhadas generosamente por toda parte.
Mas o argumento central de Techno é que devemos regular a tecnologia. Mais importante, Smith argumenta que podemos. Professor associado de direito na Universidade Charles Sturt, ele sugere que a lei tem recursos mais do que suficientes à disposição para colocar as máquinas firmemente sob controle humano.
Na verdade, segundo Smith, a Austrália está em uma posição única para liderar o mundo em regulamentação tecnológica, precisamente porque não abriga as grandes corporações de tecnologia que dominam a sociedade americana e europeia. Isso explica por que a Austrália está, nas palavras de Smith, “se destacando” no campo.
A ameaça à democracia
Smith divide seu livro em três seções bem estruturadas que examinam a relação da tecnologia com o governo, o indivíduo e a sociedade.
Na primeira parte, ele aborda questões políticas em larga escala, como as mudanças climáticas criadas pelo homem, a aplicação da IA a todos os aspectos da vida pública e os sistemas de crédito social possibilitados pela vigilância digital e big data.
Talvez o argumento mais interessante de Smith aqui diga respeito à semelhança entre o notório sistema de crédito social empregado pelo governo chinês e os sistemas de crédito social desenvolvidos por forças comerciais.
É fácil criticar um governo que usa uma bateria de métodos tecnológicos para observar, avaliar e regular o comportamento de seus cidadãos. Mas os bancos não coletam dados e julgam clientes em potencial o tempo todo – geralmente com resultados profundamente discriminatórios? E plataformas como eBay, Uber e Airbnb não empregam pontuações de crédito de reputação como parte de seu modelo de negócios?
Para Smith, a questão não é se os sistemas de crédito social devem existem. É quase inevitável que existam. Ele nos pede para pensar muito sobre como regularemos esses sistemas e garantir que eles não tenham permissão para anular o que ele considera os “valores essenciais” da democracia liberal. Entre eles, Smith inclui “liberdade de expressão, movimento e reunião” e “o estado de direito, a separação de poderes, a liberdade de imprensa e o livre mercado”.
A segunda parte de Techno volta sua atenção para o indivíduo e a ameaça que as tecnologias emergentes representam aos direitos de privacidade. A principal preocupação aqui é a enorme quantidade de dados coletados sobre cada um de nós toda vez que interagimos com a internet – o que significa, para a maioria de nós, mais ou menos o tempo todo.
Como Smith aponta, embora este seja claramente um fenômeno global, a Austrália tem a duvidosa honra de liderar as democracias liberais do mundo na legislação de acesso governamental a esses dados. As empresas privadas de tecnologia na Austrália são legalmente obrigadas a inserir uma porta dos fundos para as atividades criptografadas de seus clientes. As agências de aplicação da lei têm o poder de assumir contas e interromper essas atividades.
“O fato é que os governos liberais-democráticos agem da mesma forma que os regimes autoritários que criticam”, escreve Smith:
Eles podem argumentar que só fazem isso em casos específicos e justificados sob mandado, mas uma vez que uma tecnologia se torna disponível, é provável que alguma agência governamental force os limites, acreditando que suas ações são justificadas pelos benefícios de seu trabalho para a comunidade.
O surgimento do big data, portanto, inevitavelmente “muda as democracias liberais para uma postura mais autoritária”. Mas, para Smith, a solução continua pronta para ser entregue:
Se direitos como privacidade e autonomia devem ser mantidos, então novas regulamentações são essenciais para gerenciar essas novas preocupações de privacidade, segurança e políticas.
Dificuldades práticas
A parte final de Techno foca na relação entre tecnologia e sociedade, com a qual Smith quer dizer principalmente economia e mercados.
Ele fornece uma visão geral útil da tecnologia blockchain usada por criptomoedas, que prometeu mitigar a desigualdade e criar crescimento por meio da descentralização do câmbio. Aqui, novamente, Smith evita adotar uma abordagem triunfalista ou catastrófica. Ele faz perguntas sensatas sobre como os governos podem mediar tal atividade e mantê-la dentro dos limites do estado de direito.
Ele aponta os exemplos da China e da União Europeia como dois modelos possíveis. O primeiro enfatiza o papel do estado; o segundo está tentando criar as condições legislativas para os mercados digitais. E embora ambos tenham sérias limitações, alguma combinação dos dois é provavelmente a mais provável de ter sucesso.
Mas é realmente no final do livro que a preocupação central de Smith – regulamentação – vem à tona. Ele não tem dificuldade em declarar o que considera ser o significado de seu trabalho. “Regulamentação tecnológica”, ele escreve, “é provavelmente a questão de política pública mais importante que a humanidade enfrenta hoje.”
Declarar que precisamos regular a tecnologia, no entanto, é muito mais simples do que explicar como podemos fazer isso.
Techno fornece um esboço muito amplo do último. Smith sugere que isso exigiria “envolver os principais atores” (incluindo técnicos, corporações e eticistas), “regular com tecnologia” (isto é, usar meios tecnológicos para impor leis em sistemas tecnológicos) e estabelecer “uma agência internacional dedicada” para coordenar processos regulatórios.
Mas Smith não reflete realmente sobre a complexidade de implementar qualquer uma dessas recomendações na prática. Além disso, é possível que, apesar de sua considerável ambição,sua abordagem não chega a capturar a verdadeira escala do problema. Como outra acadêmica australiana, Kate Crawford, argumentou recentemente, não podemos entender tecnologias inteligentes simplesmente como objetos ou ferramentas – um computador, uma plataforma, um programa. Isso ocorre porque elas não existem independentemente de redes carregadas de relacionamentos entre humanos e o mundo.
Essas redes se estendem às minas de lítio que extraem os minerais que permitem que a tecnologia opere, aos armazéns da Amazon que enviam componentes ao redor do mundo e às fábricas digitais de trabalho por peça nas quais os humanos recebem um salário de subsistência para produzir a ilusão de inteligência mecânica. Tudo isso está causando estragos no meio ambiente, reforçando desigualdades e facilitando a demolição da governança democrática.
Se o projeto de regulamentação fosse tocar em fenômenos desse tipo, teria que ser muito mais expansivo e abrangente do que até mesmo Smith propõe. Pode significar repensar, em vez de simplesmente tentar proteger, alguns dos que Smith chama de nossos “valores essenciais”. Pode exigir perguntar, por exemplo, se nossas democracias já foram realmente democráticas, se nossas sociedades já buscaram realmente a igualdade e se podemos continuar a depositar nossa fé no chamado “mercado livre”.
Fazer esse tipo de pergunta certamente não equivaleria a um apocalipse, mas poderia equivaler a uma revolução.
Charles Barbour, Professor Associado, Filosofia, Western Sydney University
Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.
