Autoridades americanas querem acesso antecipado à IA avançada, e as grandes empresas concordaram.
A Microsoft, o Google DeepMind e a xAI de Elon Musk ofereceram ao governo dos EUA acesso a novos modelos de IA antes de seu lançamento oficial, o que inaugura uma nova fase na relação frequentemente conflituosa do Vale do Silício com o receio do governo americano em relação às ameaças da IA, com base em... Último relatório de empresas de IA oferece modelos a autoridades americanas em nome de uma revisão de segurança., na esperança de que analistas governamentais possam avaliar sistemas de IA de ponta quanto a ameaças à segurança, como ataques cibernéticos e uso militar, antes que sejam expostos ao público por desenvolvedores e usuários e, inevitavelmente, por aqueles que não deveriam ter acesso a um modelo de IA usado como arma.
As avaliações serão conduzidas pelo Centro de Padrões e Inovação em IA (CAISI) do Departamento de Comércio, que afirma que a empresa acordo com Google DeepMind, Microsoft e xAI Isso permite avaliar modelos de IA na fase de pré-implantação, realizar pesquisas em áreas específicas e revisá-los após o lançamento em produção.
Isso pode parecer chato, mas não é. O governo está pedindo que a cobertura do capô seja removida antes que o carro possa circular, e esse capô está esquentando a cada dia que passa.
Resta saber, mas existe um receio compreensível de que a IA altamente desenvolvida ajude os cibercriminosos a serem ainda mais eficazes em seus crimes. "Autoridades americanas começaram a observar com suspeita e apreensão os modelos de vanguarda emergentes em seus estágios iniciais, notando que alguns deles elevaram os níveis de estresse dos mais altos funcionários do governo", escreveu a Reuters.
Uma das ferramentas de IA que mais gerou preocupação é o Mythos da Anthropic, um modelo divulgado recentemente. O problema não é que a IA possa identificar falhas de segurança que as pessoas não veem. É que uma única ferramenta pode permitir que profissionais de segurança encontrem falhas de segurança, e um atacante também poderia encontrá-las.
A Microsoft entrou no debate sobre IA. De acordo com seu comunicado à imprensa, a empresa prometeu "trabalhar com cientistas dos EUA e do Reino Unido para identificar e mitigar as consequências não intencionais dos modelos de IA e contribuir para o desenvolvimento de conjuntos de dados compartilhados e métodos de avaliação para a segurança e o desempenho dos modelos".
Um exemplo desse tipo de colaboração é, A Microsoft assinou um acordo este mês com o Instituto de Segurança de IA do Reino Unido. Colaborar com autoridades de ambos os países para trabalhar em conjunto na gestão dos riscos da IA. Isso sugere que o tema tem relevância para além dos limites da capital americana.
A CAISI não está partindo do zero. A agência afirma já ter realizado mais de 40 avaliações, incluindo as de modelos de ponta ainda não lançados; desenvolvedores às vezes compartilham versões com proteções removidas ou reduzidas para expor os piores riscos à segurança nacional. Sim, isso soa ameaçador, e é essa a intenção; afinal, você não confirma a eficácia de uma fechadura simplesmente implorando para que a porta permaneça fechada.
Além disso, os novos acordos ampliam o acesso governamental anterior aos modelos disponibilizados pela OpenAI e pela Anthropic; separadamente, A OpenAI entregou o GPT-5.5 ao governo dos EUA para avaliação em contextos de segurança nacional.De acordo com Chris Lehane, da OpenAI, ao reunir esses elementos, um quadro distinto começa a surgir: os laboratórios de IA mais capazes estão sendo submetidos a um processo de avaliação governamental antes mesmo de suas tecnologias serem implementadas.
Há uma política interessante (e complexa) em jogo aqui. Em grande parte, o governo Trump centrou sua estratégia de IA na aceleração, na desregulamentação e na hegemonia americana no cenário mundial. Mas qualquer estratégia de IA voltada para o futuro também precisa lidar com a complexa realidade de que os modelos de ponta não são apenas ferramentas de produtividade.
A administração do Trump Plano de Ação de IA da América O objetivo principal é impulsionar a inovação, construir a infraestrutura necessária para sustentá-la e promover a liderança dos EUA na diplomacia e segurança internacional em IA. Essa última parte é que realmente carrega o fardo.
Há também um componente de defesa que não pode ser ignorado. Apenas alguns dias antes do anúncio desses acordos de revisão de modelos, o Pentágono estava fechando contratos com empresas líderes em IA e tecnologia para acessar os melhores sistemas em redes classificadas, de acordo com reportagens da [nome da agência de notícias]. Esforço das forças armadas para integrar IA comercial às operações governamentais.
A IA em fluxos de trabalho militares traz uma série de novos desafios e consequências. Um erro não precisa ser apenas um erro; uma saída incorreta pode ser muito mais do que um incômodo. Pode ser operacional e pode ser custosa.
Naturalmente, o problema é que isso pode impedir a inovação. As empresas de tecnologia argumentarão que precisam de liberdade; e certamente têm razão ao afirmar que a IA é atualmente uma luta de facas em uma cabine telefônica, com iterações rápidas, rivalidades agressivas, custos massivos de infraestrutura computacional e um desafio global para a China.
Se cada novo modelo de IA for retido por meses antes de ser apresentado, as empresas de tecnologia americanas certamente acusarão Washington de presentear nossos adversários com um presente extremamente generoso.
Mas pode-se dizer que os EUA gostariam de evitar que a primeira demonstração pública significativa de uma capacidade particularmente ameaçadora ou perigosa da IA seja um lançamento público, pois é assim que se acaba governando por meio de pedidos de desculpas.
A avaliação antes da implementação e lançamento não será empolgante e provavelmente será irritante para alguns ou todos, o que normalmente é um bom sinal de que a regulamentação encontrou um equilíbrio.
O desafio será manter o foco. Verificar cada lançamento de chatbot não faria sentido, mas analisar minuciosamente os modelos de ponta mais avançados, principalmente aqueles com implicações militares, cibernéticas, biológicas ou químicas, é outra questão.
Não se trata de um funcionário do governo aprovando seu recurso de preenchimento automático, mas sim de um engenheiro revisando o foguete antes do lançamento. Provavelmente não é tão dramático, mas é semelhante.
Há também um problema de confiança envolvido. As gigantes da tecnologia afirmaram aos órgãos reguladores que podem se autorregular, enquanto estes, por sua vez, disseram às empresas de tecnologia que elas não conseguiram acompanhar a rápida evolução tecnológica.
O resultado é esse meio-termo instável, no qual as empresas oferecem acesso antecipado a modelos de IA, pesquisadores federais realizam testes independentes e todos esperam que o procedimento filtre os piores resultados, mas não acabe atolado em burocracia.
É difícil não sentir que este momento era inevitável. Uma vez que os modelos de IA atingiram um nível de poder suficiente para influenciar setores como cibersegurança, segurança nacional e infraestrutura, nunca mais faria sentido para essas empresas simplesmente testarem seus modelos por conta própria para sempre.
A pessoa comum pode não conhecer as complexidades de um benchmark ou de um relatório de equipe vermelha, mas certamente sabe que a mera capacidade desses sistemas de causar danos tangíveis já os torna dignos de análise minuciosa antes de serem comercializados.
E embora as grandes empresas de tecnologia ainda queiram avançar rapidamente e Washington ainda queira evitar ser pega de surpresa, os dois lados aparentemente se alinharam, pelo menos por enquanto, em um curso de ação viável: abrir os modelos de IA antes que o motor entre em ação.
Qual é a sua reação?
Sugestões para você
