Imagem criada com uma atmosfera futurista e tensa, mostrando uma inteligência artificial aparentemente fora de controle humano.
Muito se propaga que a humanidade tende a sucumbir se mantivermos a aceleração do desenvolvimento tecnológico como está. Visto que as salvaguardas de proteção vigentes já não conseguem acompanhar o ritmo de crescimento das aplicações da inteligência artificial – IA. Contudo, não do jeito que você pensa! E sim no sentido que precisamos colocar o pé no freio e termos mais cautela, pois atravessamos um período de transição para a qual ainda não estamos preparados. E de incertezas sobre qual destino nos reserva.
Uma vez que, a meu ver, essa previsão procede só em parte. Sobretudo se continuarmos operando no piloto automático. Pois ainda não se sabe ao certo para qual lado iremos pender: se estamos mais propensos a/inclinados para um destino híbrido na interação humano-máquina, rumo a uma relação harmoniosa e pacífica de coexistência entre humanos e não humanos, ou se conflitiva, em direção a um “inevitável” risco existencial para a humanidade, com perdas e degradações sucessivas no nosso grau de autonomia, identidade, intimidade e liberdade individual.
Questiona-se, ao mesmo tempo, se tudo isso não passa de espetacularização através de sucessivas campanhas e jogadas de marketing das grandes empresas de tecnologia ao superestimar as atuais capacidades dos modelos computacionais; mas, a bem da verdade, a fim de fazer frente à concorrência, visando o pódio de quem chegará na frente dessa corrida desenfreada pela liderança de mercado. Porém, sem apresentar provas suficientes e definitivas para tanto. A exemplo de Dario Amodei, presidente da Anthropic, ao propagar como poderosos e avançados estão os atuais sistemas de inteligência artificial – IA a ponto de se auto-aperfeiçoarem, perdermos o controle sobre eles (após relatos de três incidentes de segurança com o Claude) e, assim, serem capazes de nos destruir nos próximos anos ou mesmo até o final da década.
No seu anúncio de setembro de 2026, Amodei alerta, então, que tem lidado com essa dualidade entre riscos e benefícios desde o início da Anthropic e, por essa razão, prega agora um discurso moderado em busca de um caminho intermediário para uma “regulamentação ponderada da IA”. Uma vez que, segundo ele, “não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la muito rapidamente é imprudente”.
Sem falar do alarmismo midiático que reverbera a sua fala, não cooperando em nada para aplacar o pânico moral que nos assola desde então, uma vez que não ameniza, mas só extrema hoje o pavor em torno do avanço tecnológico em meio a essa disputa desregrada, impulsionada por incentivos fiscais, por cada vez mais poder, controle, influência e supremacia global.
Nós no piloto automático: uma breve contextualização
Hoje podemos ver a humanidade operando quase que totalmente no modo ou piloto automático quando assistentes virtuais já configurados de fábrica se oferecem para resumir e/ou simplificar um documento logo que é aberto no Word ou em nossa caixa de e-mail. Tanto que há usuários que optam por delegar a eles o gerenciamento do que é ou não relevante como mensagem recebida ou que mereça ser lida. Logo, não é de se admirar que não recebamos mais a devolutiva de um convite RSPV para um evento (isto é, a expressão em francês “répondez s’il vous plaît” para “responda, por favor”).
Outro exemplo é a falta de quórum humano nas reuniões on-line, já que atualmente predominam os AI Assistents (literalmente assistentes de reunião) a fim de que nós “economizemos tempo de trabalho” por meio de ferramentas de inteligência artificial. Tanto que segundo pesquisa da plataforma Software Finder, 1 em cada 5 profissionais já utiliza recursos de IA para, em seu lugar, gerar anotações automáticas durante videoconferências. E 30% deles até “admitem ter pulado reuniões, confiando que os assistentes digitais registrariam as discussões relevantes” para que pudessem se concentrar em outras atividades, mormente quando houver conflito de agendas.
Só que nessa história há pelo menos dois lados que se antagonizam: enquanto tirar o foco da anotação e direcioná-lo para a participação transforma beneficamente a dinâmica das reuniões e a forma como os times colaboram, no intuito de que os participantes não se distraiam anotando tudo, por outro, ao transferir à máquina tais tarefas, não apenas se delegam as funções de participar, marcar presença e anotar, mas também a decisão sobre o que julguem como prioridade e considerem ser mais importante. Passa-se, então, a (falsa) impressão de que há poder de escolha e livre arbítrio quando na verdade não há.
Logo, há de se falar também dos malefícios, a exemplo das anotações feitas por IA que “podem resultar em imprecisões ou perda de nuances” tais como “tom de voz, linguagem corporal e a energia que predomina no ambiente”. Ou seja, sutilezas que “as ferramentas de IA atuais ainda não conseguem captar“.
Sem falar na falta de maior engajamento e comprometimento pessoal (sobretudo durante reuniões menores, mais intimistas, onde cada presença importa, ocasião em que colegas de profissão “podem interpretar a sua ausência como desinteresse ou desvalorização” e até mesmo quebra de respeito e confiança nos relacionamentos). Fora os potencias riscos sobre a privacidade, o sigilo das informações e a segurança dos dados.
Ou, ainda, quando surge algum problema com a sua conta bancária ou cartão que é bloqueado em operações on-line tidas por sistemas automatizados como suspeitas ou comportamentos anômalos. Situação em que, na maioria das vezes, não consegue ser resolvida de pronto por seu “gerente digital” e é preciso comparecer pessoalmente a uma unidade física em que nenhum dos funcionários lá presentes entende do processo de desbloqueio como um todo, mas tão somente por cada etapa que é encarregado.
A questão do deskilling ético
Segundo a filósofa Shannon Vallor, é a perda gradual da capacidade, habilidade ou de nossa confiança interna para, agora, tomarmos decisões complexas importantes, autonomamente, sem ter que recorrer à validação de uma máquina. Ou seja, transportando para o momento presente, a toda vez que, quando estamos em dúvida, recorremos a agentes de IA como fonte de referências éticas seguras e/ou como solução incontroversa para qualquer tipo de contexto ou situação pela qual passamos.
Bem na esteira do que Morozov já chamava de “tecnosolucionismo” (ou solucionismo tecnológico), diante da crença de que todas as mazelas da sociedade envoltas por questões complexas, sejam elas éticas, políticas e sociais, poderiam ser resolvidas de forma rápida e definitiva por meio de inovações e novos aparatos tecnológicos, como smartphones, aplicativos e algoritmos. Em uma clara ideologização da tecnologia, sem considerar as suas limitações intrínsecas, tais como a fuga da responsabilização e/ou contribuição para o resultado alcançado, pela redução da própria culpa ou complexidade dos fatos. Já que a tecnologia nunca é neutra, nem apolítica.
Sob a falácia ou (falsa) premissa que as IAs erram estatisticamente menos que os humanos. Algo que, por exemplo, já está ocorrendo no setor bancário, como nos episódios expostos anteriormente, ou até mesmo no nosso poder judiciário, sob a chancela – data venia – de alguns de seus expoentes mais vocais, a exemplo de falas recentes do ministro Luís Roberto Barroso acerca da automatização total e irrestrita dos processos. Pressupondo que a “IA produzirá decisões com mais objetividade do que os juízes“. Posição que, entretanto, começa a ser revista pelo Conselho Nacional de Justiça – CNJ, exigindo-se regras, limites e controles mais rígidos para tal. Na esteira do que entende o ministro Edson Fachin por “vulnerabilidade algorítmica” frente às novas fragilidades detonadas pela era digital.
Os 10% de chances de uma superinteligência aniquilar a humanidade
Embora essa previsão catastrófica seja um prato cheio para os doomers de IA, – aqueles que acreditam que o desenvolvimento da inteligência artificial “representa um risco existencial para a humanidade, podendo levar à extinção da raça humana” – já para a maior parte dos especialistas significa que seja pouco provável quantificar e/ou antever quando se concretizará tal ameaça.
Mesmo assim, por mais que soe como uma ficção científica sensacionalista, o alerta geral sobre essa aceleração e possível descontrole frente a uma vindoura superinteligência não surge exatamente do nada. Vigindo, portanto, ainda no plano hipotético, mas sem desconsiderar a sua possibilidade num futuro próximo. Não com os modelos atuais, mas com os que se sucederem.
Isso porque parte também de autoridades renomadas, a exemplo de Yoshua Bengio e Maria Ressa que compuseram, em julho de 2026, um painel científico da ONU que apresentou um relatório preliminar internacional independente baseado não em conjecturas, mas em evidências científicas sobre os perigos existenciais para a humanidade. Assim como resulta até mesmo da última encíclica papal, expondo as atuais tendências de cada vez maior concentração de renda e poder nas mãos de oligarcas, bem como o perigo de eclosão de uma corrida armamentista sem precedentes mirando a criação de armas biológicas e máquinas autônomas acopladas de IA para fins não pacíficos, e sim militares; logo, operando de forma independente, sem monitoramento ou com um mínimo de supervisão humana.
Alarme esse que, para piorar o cenário apocalíptico, vem acompanhado de vozes da própria indústria, como a de Bill Gates e de Jacob Coxon, um ex-funcionário da OpenAI e Anthropic ao expor que as Big Techs estadunidenses estão “brincando com vidas humanas”, agindo de forma antiética, inconsequente e irresponsável no desenvolvimento desenfreado de artefatos sobre os quais já se têm ciência interna de seus efeitos colaterais.
São relatos que hoje vêm à tona e onde há um fundo de verdade, mas com os quais, contudo, concordo apenas parcialmente. Sobretudo pelo timing e sob quais circunstâncias são proferidos esses apelos por pausa e/ou desacelaração nesse exato momento de acirramento da rivalidade sino-estadunidense e estremecimento da hegemonia dos EUA por um concorrente à altura, sobretudo através de seus modelos abertos (open source) e de custo mais baixo que requerem menor poder computacional. Envolvendo aí toda uma discussão mais complexa sobre a necessidade de fato por mais datacenters e excesso de infraestrutura; e, por conseguinte, a respeito de o seu custo socioambiental, em decorrência de maior consumo global por água e energia.
Cenário atual que em muito remete a Amartya Sen e ao livro Chutando a Escada de Ha-Joon Chang, envolvendo a metáfora pela qual, sócio e historicamente, os países desenvolvidos quase sempre se utilizaram de políticas estratégicas restritivas para, depois de ter chegado ao topo, impedir que os outros concorrentes (nações em desenvolvimento/do Sul Global) alcancem o mesmo patamar de crescimento econômico e desenvolvimento tecnológico.
Pois, na prática, entre a pausa e a aceleração da IA, ninguém quer desacelerar!! Existe, sim, é um embate civilizatório por duas visões distintas de mundo daqui pra frente. Ou, nas palavras de Ronaldo Lemos, trata-se de um “duelo entre filosofias distintas”:
As IAs americanas têm sido platônicas. Têm focado modelos de alta capacidade teórica, mas fechados, e deixando de lado preço e velocidade. As chinesas têm sido aristotélicas. Focadas em resolver problemas da realidade com modelos abertos, que podem ser retreinados e customizados, velozes e com preço menor. Em outras palavras, as IAs americanas são modelos de grande “sabedoria”, mas ainda divorciadas da realidade prática. As chinesas pensam a sabedoria como algo instrumental, para resolver problemas que existem aqui e agora.
À luz desse cenário ambivalente, haveria, então, uma preocupação legítima com o bem-estar da humanidade, onde o interesse reside em conclamar o mundo para juntos aderirmos a uma cooperação global de enfrentamento dos desafios da IA, ou se trata de uma manobra das principais empresas de tecnologia ocidentais para parar o avanço de outros países rivais?! Não somente em IA, mas também em outras frentes como robótica e computação quântica.
O Argumento
Sustento, portanto, que não é a inteligência artificial que vai sair do controle, e sim os humanos que irão perder o controle sobre as IAs. Em virtude das escolhas que fazemos agora! E o que resultará de tudo isso será de nossa responsabilidade pessoal, visto que o nosso futuro não adianta mais ser atribuído somente às máquinas e ao que será “decidido por elas” (a exemplo da clássica desculpa de que erros maquínicos nunca são oriundos de nossas próprias falhas ou “culpa” como seres humanos, e sim de que houve erro/falha sistêmica, seja este sistema “completamente” autônomo ou meramente automatizado).
Então, o que exatamente estou querendo dizer com isso? Ora, se nada for feito até lá (sob o entendimento que existe, de fato, um “ponto sem retorno” ou limite do tolerável), iremos em determinado momento perder o controle sobre tecnologias a que(m) delegamos cada vez mais agência e poder de decisão. Sobretudo em se tratando de estruturas críticas de comunicação, energia, transportes, finanças, recursos hídricos, cibersegurança e defesa! Uma discussão que gira em torno de um processo invisível, não linear e já em andamento sobre recursos finitos. E que hoje está inserida no dilema/debate entre o que entendemos como dever de cuidado, proteção e/ou controle excessivo sobre a inteligência artificial. Mas principalmente sobre agentes de IA! Isto é, aqueles que agora gozam de certa autonomia para tomar decisões complexas sem ter que pedir autorização ou confirmação para cada etapa do processo que operam dentro de um fluxo de trabalho.
Esse turning-point (ou virada), em teoria, poderia acontecer pois, ao contrário de nós, agentes de IA, por mais autônomos e avançados que sejam, não possuem senso crítico, limites éticos, barreiras morais ou sequer outro constrangimento natural/inerente a um ser humano sensato para conseguir cumprir com a tarefa a que lhe foi designada. Sequer compreendem o que estão fazendo, entendem o significado, suas nuances, ou mesmo a consequência de seus atos e omissões. O que está em jogo atualmente e importa de verdade é algo como “missão dada é missão cumprida“, independente de a que custo as chamadas máquinas autônomas/semi-autônomas seguirão com esse intento/propósito: se social, econômico, ambiental, institucional e/ou de vidas humanas.
Trata-se, portanto, de um debate imbricado que tem a ver tanto com o fenômeno do antropomorfismo das IAs que venho pesquisando há algum tempo, quanto ao seu processo inverso que se retroalimenta daquele: o do LLMismo, ou seja, da gradual “robotização” das pessoas (ou seja, de que nós humanos já estamos agindo no modo/piloto automático tal qual às chamadas máquinas autônomas e inteligentes quando lhe terceirizamos nosso livre poder de escolha e decisão). O que fatalmente está sob um guarda-chuva maior e que funciona concomitantemente: o de nossa crescente desumanização.
As diferentes propostas de (des)acelaração
Antes encabeçada pela Anthropic e OpenAI, a chamada global pela pausa ou slowdown (desacelaração) no desenvolvimento da IA agora é aderida pelo Google. Sob a escusa de uso indevido por parte de regimes não democráticos como China, Rússia, Irã e Iêmen. Ou seja, sobre o alegado uso antiético da IA para fins de ataques cibernéticos, vigilância para monitorar dissidentes, projetar bombas, mísseis, drones e armas biológicas.
Discurso este do Vale do Silício que, além de difícil de ser implementado e aderido por todos, é igualmente “utópico”, uma vez que a sua chamada por maior cooperação internacional é impropriamente associada ao controle da ameaça nuclear. Assim como parece ser “combinado” (“numa rara demonstração de união entre líderes tecnológicos rivais“), bem como também soa “contraditório”; isto é, popularmente conhecido como aquele que “morde e assopra”(no sentido de que quem provoca o problema é o mesmo que se apresenta como mártir e traz a sua solução), uma vez coincide com o momento em que a Anthropic “prepara a maior abertura de capital da história, avaliada acima de US$ 2 trilhões”. Sem falar das denúncias de vigilância atribuídas à própria denunciante, na tentativa de monitorar ativistas e críticos da IA.
Empresas e governos (agora) em lados opostos
Eis, então, os indícios que, inevitavelmente, insuflam o questionamento sobre quem vigia ou fiscaliza aqueles que hoje nos vigiam ou controlam. Visto que, embora pareça haver um uníssono em torno da pausa e/ou desacelaração da IA por parte das empresas do Vale do Silício, o mesmo não pode ser dito dos governos de China e, inclusive, dos EUA.
Sobre os chineses, não pretendem aderi-la por entenderem ser uma forma de pretexto ou justificativa para os excluir do sistema global de governança da IA, impedindo-os de avançar no seu progresso e desenvolvimento “por meio de barreiras tecnológicas e monopólios regulatórios para manter a hegemonia monopolista de Washington“. E, assim, ampliar a sua vantagem competitiva em alguns anos, à luz de como foi com a União Soviética à época da Guerra Fria (embora tal comparação seja um tanto problemática aos olhos do século XXI).
Já os estadunidenses, através da figura do seu presidente, não intencionam frear, implementar nenhuma forma de regulamentação federal, nem acompanhar o discurso “exagerado” de Amodei por uma “moratória” , e sim exercer algum tipo de controle – ainda que personalíssimo – sobre a inteligência artificial. Pois, segundo Trump, “vencer a China em IA é mais importante do que correr o risco de extinção da humanidade”.
