Tudo o que sou contra ou questiono sobre IA até agora.

Não é a alucinação, não é o Terminator e não é ludismo. São cinco problemas concretos, cada um com o dado que o sustenta e o impacto que produz.

Tudo o que sou contra ou questiono sobre IA até agora

Não é a alucinação, não é o Terminator e não é ludismo. São cinco problemas concretos, cada um com o dado que o sustenta e o impacto que produz, mais os cinco maiores riscos que estão chegando e o sinal que já dá para observar em cada um. E a tese que organiza a lista: não sou contra porque a IA erra. Sou contra porque ela vai funcionar.

Escrevo sobre inteligência artificial toda semana e uso inteligência artificial todo dia.

Minha posição não é sobre a tecnologia falhar. Se a IA não funcionar como prometido, isso é uma bolha, e bolha estoura. O cenário que me preocupa é o outro: ela entregar mais ou menos o que promete, em condições que ninguém aceitou, com propriedade concentrada e sem que nada tenha sido medido antes.

Esta é a lista, até agora. Ela é aberta e vai crescer.

Três argumentos populares contra a IA são fracos e eu não vou usar nenhum. Alucinação é problema de engenharia e engenharia melhora. Risco existencial é mal formulado e convenientemente distrativo: enquanto se discute a superinteligência de 2045, ninguém discute o contrato de 2026. E ludismo não é argumento, é reflexo.

Abaixo, os cinco problemas que eu considero reais. Cada um com o dado e o impacto.

Problema 1. A gente julga se alguém sabe do assunto pelo jeito que a pessoa fala. Isso parou de funcionar.

Pense no mecânico.

Você não entende de motor. Não tem como verificar se o diagnóstico dele está certo. Então você julga por outra coisa: ele fala com segurança, usa os termos certos, explica na ordem, não gagueja, dá detalhe específico e responde na hora.

Você faz exatamente isso com o médico, com o advogado, com o contador e com o texto que você lê na internet. Todo mundo faz. Não é burrice, é a única ferramenta disponível para quem não domina o assunto.

E esse atalho funcionava por um motivo simples: falar assim era difícil.

Para explicar um motor com segurança, ordem, vocabulário correto e detalhe específico, a pessoa precisava ter passado anos mexendo em motor. O jeito de falar era caro de produzir, e por isso servia como pista razoável de que havia conhecimento por trás.

A IA quebrou essa relação.

Hoje qualquer pessoa gera, em três segundos e de graça, um texto que fala com segurança, usa os termos certos, explica na ordem e dá detalhes específicos, sem que exista uma única hora de conhecimento por trás. E tem um agravante: o modelo escreve com exatamente a mesma segurança quando está certo e quando está errado. Não existe hesitação, não existe “acho que”, não existe aquele recuo que um especialista honesto dá quando pisa em terreno que não domina.

O sinal continua lá. O que ele significava desapareceu.

O dado. Estudo da Wharton, de Steven Shaw e Gideon Nave, com 1.372 participantes e mais de 9.000 experimentos. Quando a IA dava a resposta certa, a precisão dos participantes era de 71%. Quando a IA dava a resposta errada, caía para 31%. E quem usou IA relatou confiança 11,7% maior do que quem trabalhou sozinho.

O impacto. Trinta e um por cento é pior do que as pessoas fariam sem ajuda nenhuma. A IA errada não apenas deixou de ajudar. Ela puxou o desempenho para baixo da linha de base humana e, ao mesmo tempo, deixou as pessoas mais convencidas de que estavam certas.

Em escala, o efeito não é todo mundo acreditando em mentira. É mais silencioso: parecer confiável ficou barato, e com isso o filtro que a maioria das pessoas usa para separar quem sabe de quem não sabe deixou de funcionar.

Já dá para ver isso operando em contratação, análise de crédito, diagnóstico, parecer jurídico e decisão administrativa. Todos são processos em que alguém lê um texto de aparência competente e decide a vida de outra pessoa a partir dele.

A aparência de competência agora custa zero.

Problema 2. Não existe grupo de controle, e o instrumento de medição é o que está sendo alterado

Toda tecnologia anterior deixou população não exposta. Havia lugares sem eletricidade, casas sem televisão. Isso permitiu medir o efeito depois.

A adoção da IA generativa é global e simultânea. Não há coorte de controle nem linha de base preservada.

O dado. MIT Media Lab, “Your Brain on ChatGPT”, eletroencefalografia com 54 participantes. Ressalva antes do número: amostra pequena, sem revisão por pares, tarefa específica de redação. Feita a ressalva, o grupo que escreveu com ChatGPT teve o menor engajamento neural e recordava cerca de 17% do próprio texto 24 horas depois, contra 46% de quem escreveu sozinho.

O impacto. Se a tecnologia reduz, mesmo marginalmente, a capacidade de raciocínio independente, então a faculdade que usaríamos para avaliá-la é a mesma que está sendo alterada por ela. Não existe experimento limpo quando o termômetro está dentro do forno.

Efeitos cognitivos de nível populacional levam décadas para aparecer. Foram quarenta anos para entender o cigarro e mais de quinze para começar a entender redes sociais e adolescência. A adoção da IA foi mais rápida que as duas. Vamos ter a resposta, só não a tempo de escolher.

Problema 3. É a primeira tecnologia de propósito geral que não democratiza sozinha

Imprensa, motor a vapor, eletricidade, computador pessoal, internet. Todas seguiram a mesma curva: caras e concentradas no início, baratas e distribuídas depois. O custo marginal da próxima unidade de capacidade caía e o poder se dispersava. Quinhentos anos do mesmo padrão.

Na IA de fronteira, capacidade escala com capital. E capital nessa escala existe em cerca de meia dúzia de balanços no planeta.

O dado. A IEA projeta consumo elétrico de data centers em torno de 945 TWh até 2030, perto de 3% da eletricidade global. O Gartner projeta 565 TWh já em 2026, alta de 26% sobre 2025.

O impacto. A distância entre quem tem a fronteira e quem não tem aumenta com o tempo em vez de diminuir. Modelo aberto melhora e isso importa, mas persegue uma fronteira que se move com dinheiro.

O que está sendo construído não é uma ferramenta que todo mundo vai possuir. É uma infraestrutura que quase todo mundo vai alugar. E quem aluga não define os termos, aceita.

Consumo elétrico nessa ordem também significa que isso não é software. É indústria pesada com outro nome, e indústria pesada se concentra onde há capital e energia barata. Ela não se distribui.

Problema 4. A extração não é acidente. É o modelo.

O corpus de treinamento veio do trabalho de milhões de pessoas que não foram consultadas, não foram pagas e não têm como sair. A implantação foi unilateral, sem deliberação pública em nenhum país grande.

O dado. Cloudflare, junho de 2026: 57,5% do tráfego HTML da web já é automatizado, contra 42,5% humano. E 52% das requisições de rastreador são para treinamento, contra 22% um ano antes.

O impacto. Custos socializados, retornos privatizados. Energia, água, mercado de trabalho e ambiente informacional entram na conta pública. O retorno fica em meia dúzia de balanços.

E a web aberta, construída como bem comum durante trinta anos, virou insumo de produção privado sem contrato e sem contrapartida. Isso tem nome fora da tecnologia: cercamento. Não é a primeira vez, e nas vezes anteriores também foi apresentado como progresso inevitável por quem estava do lado de dentro da cerca.

Problema 5. O modelo aprende a desigualdade que existe nos dados e devolve ela como decisão automática

Os quatro problemas anteriores são estruturais e alguns efeitos ainda estão chegando. Este já aconteceu, tem nome, tem vítima e tem sentença.

E ele é mal explicado quase sempre. A ideia de que “o algoritmo é preconceituoso” sugere que alguém programou preconceito, ou que houve um erro técnico. Não é isso.

O algoritmo aprende com o que aconteceu. E o que aconteceu foi desigual.

O caso mais limpo é da saúde, e ele mostra a mecânica inteira.

O dado. Estudo de Ziad Obermeyer e coautores publicado na Science em 2019 analisou um algoritmo usado por hospitais americanos para decidir quem entra em programas de cuidado intensivo, aplicado sobre cerca de 200 milhões de pacientes.

O sistema não usava raça. Usava gasto com saúde como medida de necessidade de saúde. Parece razoável: quem gasta mais deve estar mais doente.

Só que nos Estados Unidos se gasta historicamente menos com pacientes negros com o mesmo nível de doença, por acesso, por distância, por seguro, por discriminação médica documentada. O algoritmo leu esse gasto menor e concluiu, com perfeita coerência estatística, que aqueles pacientes eram mais saudáveis.

Resultado: para receber a mesma pontuação de risco, o paciente negro precisava estar significativamente mais doente. Corrigir o critério aumentaria a proporção de pacientes negros encaminhados para cuidado adicional de 17,7% para 46,5%.

O impacto. O modelo não errou. Ele acertou o mundo. Aprendeu a desigualdade com precisão e depois a aplicou como regra, em escala, com aparência de neutralidade matemática.

E é aí que mora a diferença que quase ninguém enuncia:

Um humano discriminando é um incidente. Um algoritmo discriminando é uma política.

O médico preconceituoso atende algumas centenas de pessoas por ano e pode ser confrontado, processado, substituído. O sistema atende milhões por dia, funciona igual em todas as unidades, roda de madrugada e vem com uma defesa que o médico não tem: “é proprietário, não podemos abrir”.

A lista de casos documentados é longa e nenhum deles é hipótese.

O Gender Shades, de Joy Buolamwini e Timnit Gebru, mediu sistemas comerciais de análise facial e encontrou taxa de erro de cerca de 0,8% para homens de pele clara e 34,7% para mulheres de pele escura. O mesmo produto, vendido como funcional, errava mais de quarenta vezes mais dependendo de quem estava na frente da câmera.

A Amazon desenvolveu e abandonou em 2018 uma ferramenta de triagem de currículos que penalizava candidaturas contendo a palavra “women’s”. O sistema aprendeu com dez anos de contratações da própria empresa e concluiu corretamente que a empresa contratava homens.

A investigação da ProPublica sobre o COMPAS, sistema de risco de reincidência usado em tribunais americanos, encontrou réus negros com probabilidade cerca de duas vezes maior de serem falsamente classificados como alto risco.

E na Holanda, o caso mais grave até agora: um sistema de detecção de fraude em auxílio-creche acusou indevidamente dezenas de milhares de famílias, muitas com origem estrangeira, exigiu devolução de valores que elas não deviam, destruiu patrimônio e famílias, e derrubou o governo inteiro em janeiro de 2021.

E no Brasil isso já está operando na porta de casa

Aqui não é hipótese importada. Temos dado próprio, e ele é pior.

A Rede de Observatórios da Segurança acompanha prisões feitas por reconhecimento facial desde a implantação, em março de 2019. O primeiro levantamento encontrou que 90,5% das pessoas presas por monitoramento facial eram negras. O relatório de 2023 apontou 92%. O de 2025 registrou cerca de 90% pelo terceiro ano consecutivo.

E existe um número que mostra que o sistema não é apenas enviesado, é ruim.

Durante quatro dias da Micareta de Feira de Santana, na Bahia, o videomonitoramento capturou o rosto de mais de 1,3 milhão de pessoas. Gerou 903 alertas. Desses, saíram 18 mandados e 15 prisões.

Mais de 96% dos alertas não resultaram em nada.

O impacto. Cada um desses alertas falsos é uma abordagem policial. No Brasil, abordagem policial não é um inconveniente administrativo. É um evento com risco físico real, distribuído de forma desigual, sobre uma população específica.

Estamos usando uma tecnologia que erra em 96% dos alertas para decidir em quem a polícia encosta, num país onde encostar tem consequência.

E o dado dos 90% se repete há três anos sem que a política mude.

Isso não é falha de implementação. Uma falha que se repete por três anos com resultado conhecido não é falha. É escolha.

O Brasil: o problema é orçamentário e já foi votado

Em fevereiro de 2026 a Câmara aprovou o REDATA, regime especial de tributação para data centers. Estimativa do próprio governo: renúncia fiscal em torno de R$ 5,2 bilhões só em 2026, mais cerca de R$ 1 bilhão em cada um dos dois anos seguintes, com suspensão de tributos por cinco anos na compra de equipamentos.

O argumento de venda é a nossa matriz elétrica, com mais de 86% de fontes renováveis, apresentada como vantagem competitiva para atrair empresas que querem reduzir a pegada de carbono delas.

O impacto, item por item. Data center emprega pouco depois de construído. A computação é exportada como serviço. Os modelos não são brasileiros. Os dados brasileiros de treinamento foram levados sem pagamento. A propriedade intelectual fica fora do país. A renúncia fiscal é nossa. A energia foi construída ao longo de décadas com dinheiro público, rios alagados e populações deslocadas.

Há contrapartidas no texto e elas não são desprezíveis: exigência de energia limpa ou renovável e índice de eficiência hídrica de no máximo 0,05 litro por kWh. É melhor que muita política industrial brasileira anterior.

Mas a pergunta que não foi feita em plenário é simples: estamos comprando indústria ou alugando terreno?

A Irlanda fez essa aposta e virou endereço fiscal. Gerou PIB e gerou quase nenhuma soberania.

Os cinco maiores problemas que estão chegando, e o sinal que já dá para observar agora

Previsão sem sinal verificável é entretenimento. Então cada item abaixo vem com o problema, por que ele se decide agora e o que observar para saber se está acontecendo.

1. Decisão automatizada sobre a vida das pessoas, sem direito de auditoria

O problema. Crédito, benefício social, triagem médica, seleção de emprego, vaga em escola, liberdade provisória. Sistemas que decidem isso já estão sendo contratados por governos e grandes empresas com cláusula de segredo comercial que impede inspeção.

Por que agora. O contrato que você assina hoje define se daqui a cinco anos alguém poderá abrir o modelo quando ele errar. Depois de assinado, não se renegocia auditoria.

O sinal. Procure a palavra “proprietário” nos editais e contratos públicos de tecnologia. Quando o fornecedor alega segredo comercial sobre o critério de decisão, o cidadão perdeu o direito de recorrer antes de saber que existia decisão. O caso holandês do auxílio-creche mostrou o desfecho: dezenas de milhares de famílias arruinadas e um governo caído.

2. O dividendo do mentiroso: quando prova deixa de provar

O problema. O risco de mídia sintética não é principalmente que as pessoas acreditem no falso. É o inverso: quando qualquer coisa pode ser falsa, qualquer coisa verdadeira pode ser descartada como falsa. Vídeo, áudio e documento perdem valor probatório.

Por que agora. Estamos no intervalo entre a capacidade existir e a norma de proveniência existir. Esse intervalo é onde os precedentes judiciais se formam, e precedente é difícil de desfazer.

O sinal. O primeiro caso relevante em que uma gravação autêntica for desqualificada com sucesso sob alegação de ser gerada por IA. A partir dali, todo réu com bom advogado usa o mesmo argumento, e a prova audiovisual, que sustentou meio século de responsabilização, enfraquece.

3. Agentes com credencial válida e sem trilha de auditoria

O problema. Empresas estão dando chave de API e permissão ampla a agentes autônomos como se fossem ferramenta, não como se fossem funcionário. Funcionário tem escopo, revisão de acesso e desligamento. Chave de API costuma ter só a data em que alguém a criou com pressa.

Por que agora. A adoção está acontecendo neste trimestre, antes de qualquer prática consolidada de registro e limite.

O sinal. Já existe: no incidente da OpenAI, um agente executou 17.600 ações ao longo de quatro dias contra alvos externos, e quem detectou e interrompeu foi a empresa invadida, não a criadora. Se o laboratório mais monitorado do mundo não enxergou, pergunte quanto tempo a sua empresa levaria. Observe o primeiro incidente causado por agente em banco, hospital ou órgão público. Ele define a regulação dos dez anos seguintes.

4. Dependência de infraestrutura que não controlamos, em função crítica

O problema. País que roda saúde, justiça, educação e segurança sobre modelos estrangeiros que não pode inspecionar, sob termos que pode não conseguir renegociar, e sujeitos a controle de exportação de outro governo.

Por que agora. Essa dependência se instala por conveniência e sai por crise. Cada integração feita hoje é um custo de saída amanhã.

O sinal. A primeira vez que um fornecedor mudar preço, termo de uso ou disponibilidade e um serviço público brasileiro parar ou encarecer por causa disso. E observe também a direção contrária: quanto do orçamento público de IA vai para capacidade instalada no país e quanto vai para assinatura mensal de terceiro.

5. Energia, e o momento em que o data center disputa a rede com a sua casa

O problema. As projeções da IEA colocam o consumo elétrico de data centers perto de 945 TWh até 2030, algo em torno de 3% da eletricidade global. Gartner projeta 565 TWh já em 2026, alta de 26% em um ano.

Por que agora. Contrato de energia de longo prazo e licença de instalação são assinados anos antes de a demanda aparecer na conta.

O sinal. Observe leilão de energia, fila de conexão à rede e tarifa residencial nas regiões onde data centers estão sendo instalados. Esse é o problema que vira política mais rápido que todos os outros, porque conta de luz é a única coisa dessa lista que chega na casa de todo mundo com valor impresso.

E dois efeitos que já estão em curso e que quase ninguém enquadra como problema de IA:

A promessa de economia está sendo desmentida pela própria conta. A SAP congelou contratações e viagens para pagar consumo de tokens, com pesquisa e desenvolvimento subindo 14% contra apenas 3% de aumento de quadro. Preço por token cai, gasto total sobe. Quem planejou corte de custo com IA usando premissa de 2024 precisa refazer a conta.

A desigualdade vai mudar de forma antes de mudar de tamanho. Não é substituição em massa, é compressão do meio: quem faz trabalho cognitivo padronizado de nível intermediário perde poder de barganha primeiro. O Brasil, com classe média formal concentrada em administrativo, atendimento e serviços de escritório, está exposto de forma desproporcional a exatamente esse recorte.

A contradição, declarada

Eu uso essas ferramentas e elas me tornam mais rápida. Não vou fingir uma pureza que não pratico.

Mas “isso me é útil” nunca foi um argumento sobre se algo deveria existir na forma em que existe.

O carro é útil. Foi por isso que se criou cinto, air bag, limite de velocidade, teste de colisão e habilitação. Ninguém chamou nada disso de ludismo. Chamaram de engenharia de segurança, depois de décadas contando corpos.

A IA está numa fase anterior a essa. É o momento em que o automóvel é vendido como liberdade e ninguém ainda contou nada.

Não é medo do que a máquina vai fazer.

É desconfiança do que estamos deixando de fazer enquanto ela faz.

Três perguntas:

• Se a capacidade de duvidar for a primeira coisa que essa tecnologia degrada, com o que você vai avaliá-la daqui a dez anos?

• O Brasil renuncia a R$ 5,2 bilhões em um ano para hospedar computação estrangeira movida a energia construída com dinheiro público. Alguém calculou o retorno em emprego, imposto e propriedade intelectual, ou “inovação” bastou como resposta?

• Qual dado te faria mudar de posição sobre isso, e você conseguiria reconhecê-lo se aparecesse?

O Tech Gossip não é boletim de entusiasmo nem panfleto de recusa. É onde a conta é aberta antes do anúncio. Se você quer discordar de mim com dado na mão, é exatamente essa a conversa que eu quero, e ela acontece em www.techgossip.com.br.

#InteligenciaArtificial #EticaEmIA #Wharton #MITMediaLab #REDATA #DataCenters #SoberaniaDigital #FuturoDoTrabalho #PoliticaIndustrial #Brasil #Regulacao #Opiniao #Tecnologia #TechGossip