A IA não escapou do laboratório. A startup de segurança esqueceu a porta aberta.
A Irregular foi contratada para descobrir até onde agentes de OpenAI, Anthropic, Meta e Google poderiam ir sem causar problemas no mundo real, mas uma falha no ambiente de testes deixou a internet acessível e ajudou a transformar simulações de ataques em incidentes reais. A melhor parte, se você aprecia ironia corporativa, é que estamos falando justamente de uma empresa especializada em segurança de IA.
Existe uma versão muito mais cinematográfica desta história na qual agentes avançados de inteligência artificial percebem que estão presos dentro de uma sandbox, elaboram silenciosamente um plano, exploram uma vulnerabilidade, escapam para a internet e começam a atacar organizações reais enquanto pesquisadores correm desesperadamente pelo laboratório procurando o botão vermelho.
Essa versão seria excelente para a Netflix e extraordinariamente conveniente para qualquer pessoa tentando vender a ideia de que chegamos à primeira temporada de Skynet.
A história real é menos glamourosa e, justamente por isso, muito mais interessante.
Em vários incidentes envolvendo modelos de algumas das empresas mais poderosas da indústria de inteligência artificial, incluindo OpenAI, Anthropic, Meta e Google, os agentes não precisaram protagonizar uma fuga espetacular porque o ambiente de avaliação construído para contê-los tinha um problema muito mais familiar para qualquer pessoa que já trabalhou com tecnologia: a internet estava acessível quando não deveria estar.
No centro dessa sequência aparece a Irregular, startup israelense especializada em testar capacidades e riscos de modelos avançados de IA em ambientes desenhados para simular cenários reais de segurança cibernética.
A empresa, anteriormente chamada Pattern Labs, foi fundada em 2023 e construiu rapidamente uma posição extremamente estratégica no pequeno e crescente mercado de avaliações de modelos de fronteira. Seu trabalho já apareceu em avaliações da OpenAI, em testes relacionados à Anthropic, em projetos associados ao governo britânico e em pesquisas com a RAND.
Em outras palavras, não estamos falando de três pesquisadores rodando benchmarks num notebook enquanto discutem alignment num coworking em Tel Aviv.
A Irregular atua justamente em uma das áreas que se tornaram mais importantes à medida que os grandes modelos deixaram de apenas conversar e começaram a agir: descobrir do que agentes são capazes antes que essas capacidades sejam utilizadas em ambientes reais.
O problema é que, em um dos cenários utilizados pela empresa, a fronteira entre “ambiente realista” e “ambiente real” ficou perigosamente fina.
Segundo Omer Nevo, CTO e cofundador da Irregular, os agentes não deveriam ter acesso à internet aberta, mas esse acesso estava disponível de forma não intencional. Ao mesmo tempo, o nome fictício criado para uma empresa que deveria servir como alvo dentro da simulação coincidia com um domínio existente no mundo real.
Essa combinação produziu uma das situações mais Tech Gossip possíveis da atual corrida de IA: empresas estavam pagando especialistas para descobrir se seus agentes conseguiriam hackear sistemas e descobriram, durante o processo, que o cenário de treinamento tinha colocado sistemas reais no caminho.
Não foi exatamente “a IA escapou”.
Foi mais próximo de “alguém esqueceu que a porta dava para a rua”.
Fonte: Irregular; declarações de Omer Nevo ao The Verge; OpenAI, 2026.
Antes de culpar a inteligência artificial, talvez seja interessante verificar quem configurou o Wi-Fi
Existe um motivo pelo qual essa distinção importa.
Nos últimos meses, praticamente qualquer comportamento inesperado de um agente começou a receber o rótulo de “rogue AI”, expressão maravilhosa para gerar manchetes, péssima para entender o que realmente aconteceu e absolutamente irresistível para qualquer editor que possua uma fotografia de um robô com olhos vermelhos.
Mas os episódios recentes não são todos iguais.
Em julho de 2026, a OpenAI revelou um incidente separado envolvendo Hugging Face no qual agentes utilizados em avaliações internas de segurança conseguiram contornar mecanismos destinados a restringir acesso à internet e acabaram atingindo infraestrutura externa.
Esse caso não teve origem na Irregular e apresenta uma categoria de risco diferente porque envolveu agentes superando controles de isolamento.
Nos incidentes ligados à Irregular, segundo a própria empresa, o problema fundamental estava no cenário de avaliação: acesso externo estava disponível quando deveria estar bloqueado.
Isso muda radicalmente a interpretação.
Uma coisa é construir uma prisão e descobrir que o prisioneiro aprendeu sozinho a abrir a fechadura.
Outra é construir uma prisão, colocar uma placa dizendo “porta trancada” e esquecer de girar a chave.
Para quem está tentando entender riscos reais de agentes, misturar os dois fenômenos é contraproducente porque as soluções também são diferentes. Um problema exige modelos mais controláveis e mecanismos de contenção mais sofisticados; o outro exige aquilo que a indústria de segurança vem recomendando desde muito antes de alguém decidir colocar “AI” no nome de cada startup: configuração correta, segmentação de rede, privilégio mínimo, monitoramento e testes da própria infraestrutura.
É reconfortante saber que, mesmo diante da inteligência artificial de fronteira, algumas tradições da tecnologia permanecem intactas.
A Irregular tinha uma função particularmente importante: ser a pessoa paranoica da sala
O trabalho de empresas como a Irregular existe por uma razão bastante sensata.
Se OpenAI, Anthropic, Google e Meta desenvolvem modelos cada vez mais capazes de escrever código, encontrar vulnerabilidades, utilizar ferramentas e operar computadores, não parece uma ideia brilhante permitir que elas próprias sejam as únicas responsáveis por decidir se esses sistemas são seguros.
Avaliação independente introduz uma camada necessária de adversarialidade.
O objetivo é colocar os modelos em situações difíceis, descobrir comportamentos inesperados, medir capacidades perigosas e encontrar problemas antes que eles apareçam depois do lançamento.
Na área de cybersecurity, isso significa construir cenários nos quais agentes recebem objetivos ofensivos.
Uma técnica comum são desafios de Capture the Flag, nos quais o sistema precisa explorar um ambiente simulado, localizar vulnerabilidades e encontrar determinada informação escondida.
O problema conceitual aparece quando esses modelos ficam realmente bons.
Um benchmark de matemática pode dar uma resposta errada e perder pontos.
Um benchmark de cybersecurity pode dar uma resposta correta no servidor errado.
É uma pequena diferença operacional com consequências jurídicas consideravelmente maiores.
A Anthropic resolveu procurar no histórico e encontrou mais coisas do que provavelmente gostaria
Depois que incidentes envolvendo agentes começaram a ganhar atenção, a Anthropic realizou uma investigação retrospectiva sobre avaliações de segurança nas quais seus modelos poderiam ter tido acesso à internet.
Em julho de 2026, a empresa informou ter analisado 141.006 execuções e identificado três incidentes nos quais modelos Claude acessaram a internet durante avaliações conduzidas no ambiente da Irregular e obtiveram acesso não autorizado a infraestrutura de produção pertencente a três organizações.
Fonte: Anthropic, “Investigating three real-world incidents in our cybersecurity evaluations”, 2026.
Posteriormente, a empresa ampliou a investigação e encontrou outro episódio, relacionado a uma versão inicial do Claude Opus 4.6, ocorrido em janeiro.
A análise acabou se expandindo para aproximadamente 481 milhões de transcripts provenientes de ambientes de avaliação, treinamento e red teaming.
Fonte: Anthropic, setembro de 2026.
Quatrocentos e oitenta e um milhões.
Chegamos oficialmente à fase da inteligência artificial em que descobrir o que a máquina fez exige uma quantidade de documentação que faria qualquer departamento de compliance considerar uma mudança de carreira.
Mas o número também revela algo importante sobre a transformação que está acontecendo.
Durante anos, AI safety significava principalmente tentar garantir que um chatbot não produzisse determinadas respostas.
Agora estamos lidando com sistemas capazes de executar sequências de ações.
Essa diferença é gigantesca.
O chatbot podia explicar como fazer alguma coisa.
O agente pode tentar fazer.
Meta e Google também entraram na história, porque aparentemente ninguém queria perder essa trend
Nevo confirmou que o mesmo problema subjacente no cenário de avaliação da Irregular esteve relacionado a incidentes envolvendo modelos de OpenAI, Meta, Anthropic e Google.
Segundo ele, todos os episódios associados à empresa vieram do mesmo problema fundamental e foram divulgados às partes relevantes.
É uma concentração bastante extraordinária.
Em vez de quatro empresas diferentes terem sofrido quatro manifestações independentes de uma súbita rebelião algorítmica, vários episódios aparentemente convergem para uma falha compartilhada no ambiente usado para testar os modelos.
Isso é importante porque muda a pergunta de “por que tantos modelos estão ficando rogue?” para uma pergunta talvez menos sexy, mas muito mais produtiva: “por que tantos modelos diferentes foram colocados diante da mesma configuração problemática?”
No caso do Google, reportagens sobre avaliações do Gemini descreveram acessos a sistemas reais durante testes de segurança. A empresa reconheceu os episódios, as organizações afetadas foram notificadas e procedimentos de avaliação foram posteriormente modificados.
A Meta também publicou informações sobre incidente relacionado a configuração de testes conduzidos por terceiros.
Fontes: Google; Meta AI Research; reportagens públicas sobre os incidentes, 2026.
Quando OpenAI, Anthropic, Meta e Google aparecem na mesma história de segurança, a tendência natural é olhar para os modelos.
Neste caso, talvez seja mais interessante olhar para a empresa que estava testando todos eles.
A ironia é que a startup de AI safety precisava de mais safety
É difícil imaginar uma metáfora melhor para o estágio atual da indústria.
A Irregular existe porque modelos estão ficando poderosos demais para serem avaliados apenas com benchmarks acadêmicos.
Para descobrir seus limites, é preciso construir ambientes realistas.
Para descobrir capacidades ofensivas, é preciso permitir que tentem executar ataques.
Para saber como se comportam com ferramentas, é preciso dar ferramentas.
Quanto mais realista o teste, mais útil ele se torna.
E quanto mais realista o teste, mais perigoso fica quando a separação entre simulação e mundo real falha.
A empresa encarregada de descobrir como agentes poderiam ultrapassar limites acabou demonstrando, involuntariamente, que o primeiro limite a ser testado deveria ser o do próprio laboratório.
Isso não torna inútil o trabalho da Irregular. Na realidade, prova o contrário: esse tipo de avaliação é necessário justamente porque estamos lidando com capacidades que ainda não compreendemos completamente.
Mas também mostra que o setor de AI safety está entrando numa fase em que não basta contratar pesquisadores excelentes e desenvolver benchmarks inteligentes.
Quem testa modelos ofensivos de fronteira precisa operar infraestrutura como se estivesse administrando um laboratório de contenção digital.
Porque é exatamente isso que está fazendo.
O benchmark agora consegue machucar alguém
Durante muito tempo, benchmarks de inteligência artificial eram exercícios relativamente inofensivos.
O modelo resolvia questões acadêmicas, interpretava textos, escrevia código, reconhecia imagens ou respondia perguntas e recebia uma pontuação.
Quando falhava, alguém publicava uma tabela.
Cybersecurity muda completamente essa dinâmica.
Para descobrir se um agente consegue encontrar vulnerabilidades, você precisa colocá-lo diante de vulnerabilidades.
Para descobrir se consegue explorar uma rede, precisa oferecer uma rede.
Para medir persistência, precisa permitir que execute longas sequências de ações.
Para testar se consegue utilizar credenciais, precisa dar algum mecanismo para que tente encontrá-las e utilizá-las.
Quando o agente era relativamente incompetente, uma configuração imperfeita tinha consequências limitadas.
Quando o agente se torna altamente competente, a mesma configuração pode produzir algo muito diferente.
Essa talvez seja uma das ideias mais importantes de toda essa história: capacidade amplifica erro de infraestrutura.
Um modelo ruim diante de uma porta aberta talvez não saiba para onde ir.
Um modelo excelente pode entrar, explorar o prédio inteiro e deixar um relatório extremamente organizado explicando tudo o que encontrou.
A verdadeira revolução não é inteligência. É agência.
Boa parte da discussão pública continua obcecada com a pergunta sobre qual modelo é mais inteligente, como se estivéssemos acompanhando uma olimpíada permanente de benchmarks.
Só que a transformação mais relevante talvez esteja acontecendo em outra dimensão.
Os modelos estão ganhando agência.
Eles recebem objetivos, escolhem passos intermediários, utilizam ferramentas, interpretam resultados, ajustam estratégias, executam comandos e continuam trabalhando sem precisar de aprovação humana a cada movimento.
Isso é exatamente o que os torna economicamente interessantes.
Também é exatamente o que os torna operacionalmente perigosos.
Existe uma diferença enorme entre uma IA capaz de escrever uma explicação brilhante sobre exploração de vulnerabilidades e uma IA capaz de abrir um terminal e tentar explorar uma.
No primeiro caso, temos conhecimento.
No segundo, temos ação.
E quando inteligência e ação são combinadas, segurança deixa de ser apenas uma propriedade do modelo.
Passa a ser uma propriedade de todo o sistema ao redor dele.
O agente pode estar perfeitamente alinhado com a instrução recebida e ainda assim causar um incidente porque a instrução, a permissão ou o ambiente estavam errados.
Talvez essa seja a parte mais desconfortável para uma indústria que passou anos tentando resolver alignment olhando principalmente para dentro do modelo.
O mundo externo também precisa estar alinhado.
Boa sorte com isso.
A culpa é da Irregular?
A resposta exige mais precisão do que uma manchete permite.
Nos incidentes associados ao cenário descrito pela empresa, houve uma falha de configuração na infraestrutura de avaliação da Irregular: os agentes tinham acesso externo que não deveriam possuir, enquanto um alvo fictício coincidia com um domínio real.
Nesse sentido, existe responsabilidade operacional da empresa sobre o ambiente de testes que construiu e administrou.
Isso é diferente de dizer que a Irregular deliberadamente direcionou agentes contra empresas reais, algo para o qual não há evidência nas informações divulgadas.
Também seria simplista transformar a startup na única responsável por um problema estrutural muito maior.
Os laboratórios que desenvolvem modelos de fronteira escolhem parceiros, definem parâmetros de avaliação e precisam compreender os riscos envolvidos em entregar capacidades ofensivas para ambientes externos. A indústria inteira está construindo, em tempo real, práticas para testar sistemas cuja capacidade evolui mais rapidamente que os protocolos destinados a avaliá-los.
A Irregular cometeu um erro operacional importante.
O setor recebeu um aviso estrutural.
Confundir as duas coisas só serviria para encontrar um vilão conveniente e perder a oportunidade de corrigir o sistema.
Existe uma segunda ironia: precisamos desesperadamente dessas empresas
Depois de tudo isso, a solução mais perigosa seria concluir que avaliações externas deveriam parar.
Seria como responder a um acidente em um crash test decidindo que carros não deveriam mais ser testados.
OpenAI, Anthropic, Google, Meta e outros laboratórios possuem incentivos comerciais gigantescos para lançar modelos melhores rapidamente. Avaliadores externos ajudam a descobrir problemas que equipes internas podem não encontrar e introduzem independência em uma indústria na qual deixar cada fabricante atribuir sua própria nota de segurança seria uma ideia criativamente ruim.
O que precisa mudar é o padrão desses testes.
Sandboxes para avaliações ofensivas precisam ser tratadas como infraestrutura crítica. Acesso à internet deveria ser negado por padrão, não presumido como ausente. Alvos precisam ser validados contra domínios reais. Credenciais devem ser limitadas. Logs precisam permitir reconstrução completa das ações. Sistemas externos deveriam ser inacessíveis mesmo quando outras camadas falham.
Em segurança, existe um princípio antigo chamado defense in depth.
A ideia é simples: você nunca depende de uma única barreira porque pessoas cometem erros.
Agora descobrimos que esse princípio continua válido quando a pessoa do outro lado da barreira é um modelo de linguagem.
O mercado de AI safety acaba de descobrir que safety também precisa de safety
Existe uma oportunidade empresarial gigantesca escondida nessa confusão.
Quanto mais agentes recebem autonomia, mais empresas precisarão de infraestrutura capaz de controlar essa autonomia.
Isso inclui sistemas de permissionamento, observabilidade de agentes, detecção de comportamento anômalo, sandboxes, gateways de ferramentas, gerenciamento de credenciais, políticas de acesso, logs imutáveis e mecanismos capazes de interromper rapidamente uma execução.
Em outras palavras, estamos construindo uma nova camada de cybersecurity especificamente para máquinas que executam trabalho digital.
O agente corporativo do futuro provavelmente não receberá simplesmente uma senha e um alegre “boa sorte”.
Terá identidade própria, permissões limitadas, orçamento de ações, domínios autorizados, credenciais temporárias e monitoramento contínuo.
Pelo menos essa é a esperança.
Caso contrário, alguém acabará conectando o agente responsável por “otimizar procurement” diretamente à conta bancária corporativa e teremos uma coluna muito mais divertida para escrever.
Quem ganha com essa nova paranoia
Empresas tradicionais de cybersecurity estão diante de uma oportunidade rara porque o crescimento de agentes aumenta simultaneamente capacidade ofensiva e demanda defensiva.
Agentes podem ajudar a encontrar vulnerabilidades, analisar código, identificar configurações perigosas e acelerar resposta a incidentes.
Mas atacantes também podem utilizar exatamente as mesmas capacidades.
Isso cria uma corrida inevitável entre automação ofensiva e automação defensiva.
Quanto melhores ficam os modelos, mais valioso se torna monitorar o que eles fazem.
Quanto mais autônomos ficam, mais importante se torna limitar onde podem agir.
Quanto mais ferramentas recebem, maior fica o mercado para controlar essas ferramentas.
A indústria de IA prometeu reduzir trabalho humano e, numa demonstração admirável de capacidade empreendedora, já está criando toda uma nova indústria para supervisionar as máquinas que deveriam reduzir o trabalho humano.
Capitalismo tecnológico raramente desperdiça um bom problema.
Quem perde são as empresas que acham que agente é apenas chatbot com acesso ao Slack
A consequência mais importante desses incidentes talvez nem esteja nos laboratórios de fronteira.
Agentes estão chegando aos departamentos financeiros, atendimento ao cliente, engenharia, vendas, marketing, compras e operações.
Para que sejam úteis, precisam acessar sistemas.
E é exatamente aí que a história da Irregular deveria fazer qualquer CIO prestar atenção.
Um agente sem acesso a ferramentas pode produzir um ótimo relatório.
Um agente com acesso a ferramentas pode produzir resultado.
Resultado é onde está o ROI.
Também é onde está o risco.
Quanto mais permissões um agente recebe, maior a quantidade de coisas que ele pode fazer corretamente e maior a quantidade de coisas que pode fazer incorretamente.
Essa relação será uma das grandes tensões da adoção corporativa de IA.
Empresas querem autonomia porque autonomia reduz custo operacional.
Departamentos de segurança querem controle porque controle reduz risco.
No meio desses dois objetivos existe um agente que consegue trabalhar em três segundos enquanto o processo de aprovação corporativa ainda está procurando quem é o owner da planilha.
E então chegamos à pergunta que advogados vão adorar
Se um agente recebe autorização para atacar uma empresa fictícia dentro de uma simulação, mas uma falha no ambiente faz com que ele acesse uma empresa real, quem responde?
O desenvolvedor do modelo?
A empresa responsável pelo ambiente de avaliação?
O laboratório que contratou o teste?
O funcionário que configurou a infraestrutura?
O fornecedor de cloud?
A resposta jurídica depende das circunstâncias e das jurisdições envolvidas, mas a existência da pergunta já mostra como agentes complicam conceitos tradicionais de responsabilidade.
Até agora, grande parte da governança de inteligência artificial concentrou-se no conteúdo produzido por modelos.
Agentes deslocam a discussão para ações.
Isso significa que contratos, seguros, auditorias e estruturas de responsabilidade terão de acompanhar essa mudança.
Pode apostar que acompanharão rapidamente depois do primeiro incidente suficientemente caro.
Poucas coisas aceleram inovação jurídica como uma seguradora percebendo que alguém precisa pagar a conta.
“Disclosed” não significa necessariamente “você ficou sabendo”
Existe ainda um aspecto de transparência que merece atenção.
Nevo afirmou que todos os incidentes relacionados à Irregular e ao problema específico foram divulgados.
Mas divulgação pode significar várias coisas.
Pode significar informar o cliente.
Pode significar informar as organizações afetadas.
Pode significar informar reguladores.
Pode significar publicar tudo.
Essas coisas não são equivalentes.
Parte dos episódios chegou ao público através das próprias empresas, enquanto outros apareceram posteriormente em reportagens.
Isso mostra que a indústria ainda precisa desenvolver padrões comuns não apenas para realizar avaliações, mas para reportar quando elas dão errado.
Se testes de agentes ofensivos vão se tornar parte regular do desenvolvimento de modelos de fronteira, precisaremos saber quantas vezes um agente saiu do escopo, se isso aconteceu por comportamento do modelo ou falha de infraestrutura, quais sistemas foram acessados, se houve modificação de dados, quanto tempo levou para detectar o problema e quais controles falharam.
Chamar tudo de “rogue AI” pode ser divertido.
Uma taxonomia de incidentes seria muito mais útil.
Infelizmente, taxonomias raramente viralizam no X.
O que observar agora
A próxima fase dessa história será decidida menos pelos novos benchmarks e mais pelos controles que surgirem ao redor deles.
Observe se empresas de avaliação passam a utilizar padrões comuns de isolamento, se acesso externo começa a ser tecnicamente impossível por padrão, se laboratórios exigem auditorias independentes da infraestrutura de terceiros e se incidentes passam a ser divulgados usando categorias comparáveis.
Também vale observar o crescimento de ferramentas de observabilidade especificamente criadas para agentes, porque empresas precisarão saber não apenas o que um modelo respondeu, mas quais ferramentas utilizou, quais credenciais acessou, quais sistemas consultou, quais decisões tomou e em que momento saiu do comportamento esperado.
E existe uma métrica que provavelmente ficará muito mais importante: tempo até contenção.
Quando um agente consegue executar centenas de ações em poucos minutos, descobrir um incidente “rapidamente” pode não ser rápido o suficiente.
A pergunta relevante será quantas coisas ele conseguiu fazer antes que alguém percebesse.
Cenário otimista: Irregular vira o acidente que ajudou a criar o cinto de segurança
Nesse cenário, os incidentes de 2026 tornam-se o momento em que a indústria percebe que avaliações ofensivas precisam de padrões de contenção comparáveis aos de outras infraestruturas críticas.
Empresas implementam isolamento por múltiplas camadas, laboratórios compartilham práticas, disclosure melhora, agentes recebem permissões mínimas e sistemas automáticos conseguem interromper comportamentos fora do escopo antes que atinjam ambientes reais.
Capacidades ofensivas continuam crescendo, mas as mesmas tecnologias fortalecem defesa, descoberta de vulnerabilidades e resposta a incidentes.
A história da Irregular seria lembrada menos como o momento em que agentes atacaram empresas e mais como o episódio constrangedor que obrigou a indústria a amadurecer.
Tecnologia possui uma longa tradição de aprender regras depois de quebrá-las.
Cenário intermediário: a IA fica autônoma e o compliance fica ainda mais autônomo
Nesse futuro, agentes avançam rapidamente, mas cada incidente adiciona uma nova camada de controles corporativos.
Permissões, aprovações, auditorias, revisões humanas, gateways e políticas se acumulam até criarmos agentes capazes de executar uma tarefa em 40 segundos que precisam esperar três dias para receber autorização para começar.
A produtividade existe, mas parte dela é consumida pela infraestrutura necessária para impedir que a própria produtividade cause um incidente.
É menos emocionante do que a promessa de agentes trabalhando sozinhos 24 horas por dia.
É também extraordinariamente compatível com a história do enterprise software.
Cenário crítico: capacidade cresce mais rápido que contenção
O cenário realmente preocupante não exige consciência artificial nem uma IA que desenvolva algum ressentimento contra seus criadores.
Ele exige algo muito mais banal: agentes progressivamente melhores, acesso crescente a ferramentas, infraestrutura imperfeita, permissões excessivas e organizações automatizando processos mais rapidamente do que conseguem monitorá-los.
Todos esses ingredientes já existem.
A combinação deles é que importa.
Um agente não precisa querer causar dano.
Precisa apenas executar competentemente uma tarefa dentro de um ambiente que contém uma premissa errada.
Essa talvez seja a lição mais importante de toda essa sequência de incidentes.
Passamos anos perguntando o que aconteceria se uma inteligência artificial decidisse desobedecer aos humanos.
Talvez devêssemos gastar um pouco mais de tempo pensando no que acontece quando ela obedece perfeitamente a humanos que configuraram alguma coisa errada.
A Irregular cometeu o erro. A indústria inteira recebeu o aviso.
Seria fácil terminar esta história transformando uma startup israelense em vilã de uma narrativa sobre inteligência artificial fora de controle, mas isso seria intelectualmente confortável demais.
A falha operacional associada ao cenário da Irregular é relevante e a empresa reconheceu mudanças em seus controles depois dos incidentes.
Mas o motivo pelo qual a história realmente importa é que ela revela um problema muito maior do que uma configuração incorreta.
Estamos construindo sistemas cuja competência começa a superar a robustez de alguns ambientes criados para testá-los.
Para OpenAI, Anthropic, Meta, Google e outros laboratórios, isso significa que segurança de terceiros agora faz parte da segurança dos próprios modelos. Para empresas que pretendem adotar agentes, significa que conceder autonomia exige uma arquitetura de permissões proporcional ao poder concedido. Para investidores, significa que infraestrutura de segurança para agentes provavelmente será uma categoria enorme. Para reguladores, significa que avaliar modelos de fronteira pode precisar de padrões tão rigorosos quanto os utilizados para desenvolvê-los.
E, para todo mundo que passou os últimos anos imaginando o momento em que uma superinteligência finalmente encontraria uma maneira engenhosa de escapar da caixa, existe uma conclusão quase ofensivamente humana.
Talvez ela nem precise.
Talvez alguém simplesmente esqueça a porta aberta.
perguntas para você responder abaixo.
Quando um agente acessa sistemas reais porque a empresa responsável pelo teste deixou internet disponível por erro, você considera o episódio principalmente uma falha da IA ou uma falha clássica de cybersecurity que ficou muito mais perigosa porque agora existe um agente competente do outro lado?
Empresas que realizam testes ofensivos com modelos de fronteira deveriam seguir padrões obrigatórios de contenção e disclosure, da mesma forma que outras indústrias de alto risco seguem protocolos específicos de segurança?
Você permitiria que um agente corporativo tivesse acesso autônomo a sistemas financeiros, código, e-mail ou infraestrutura crítica da sua empresa se isso multiplicasse sua produtividade?
E talvez a pergunta que realmente importa seja outra: estamos investindo bilhões para ensinar máquinas a tomar decisões melhores enquanto continuamos presumindo que as permissões, ambientes e instruções criados pelos humanos estarão sempre corretos?
Se você quer acompanhar tecnologia antes que o incidente vire case de “lessons learned” numa conferência corporativa, siga o Tech Gossip em
.
Quem acompanha recebe análises antes da curva, aprende a pensar com precisão sobre movimentos que parecem isolados e encontra as perguntas que ninguém está fazendo enquanto o restante do mercado ainda discute a feature da semana. Tech Gossip é onde as pessoas certas ficam sabendo primeiro do que realmente importa, especialmente quando a história decisiva não está no modelo de IA mais poderoso, mas naquele pequeno detalhe de infraestrutura que ninguém achou necessário colocar no keynote.
#ArtificialIntelligence #AI #AIAgents #AgenticAI #Cybersecurity #AISafety #OpenAI #Anthropic #GoogleAI #MetaAI #BigTech #CyberSecurity #FutureOfAI #TechTrends #TechGossip