Casa Branca avalia verificações de IA antes da divulgação pública, alerta o Vale do Silício.
A Casa Branca do presidente Donald Trump está considerando se o governo dos EUA deveria ter permissão para analisar os modelos de IA mais poderosos antes que eles sejam disponibilizados ao público, uma mudança significativa em relação à sua abordagem anterior de laissez-faire em relação à indústria de IA.
Na maioria Uma notícia recente sobre a avaliação de modelos de IA da Casa BrancaO debate se resume a saber se o governo deve intervir antes que sistemas de ponta com capacidades de programação ou cibernéticas sejam distribuídos ao público. Essa não é uma mudança sutil. É Washington questionando se a corrida armamentista da IA evoluiu a ponto de a simples ideia de "lançar e ver o que acontece" não ser mais suficiente.
A proposta em análise envolve uma ordem executiva que poderá criar um grupo de trabalho composto por funcionários públicos e executivos de tecnologia para estudar como a regulamentação poderia funcionar.
De acordo com outras reportagens sobre as negociações da administração.A conversa tem se concentrado principalmente em modelos sofisticados que poderiam viabilizar ataques cibernéticos ou ajudar a identificar vulnerabilidades de software.
É uma mudança brusca, sem dúvida. O governo que prometeu desmantelar as barreiras ao desenvolvimento da IA agora parece disposto a criar uma. Talvez não um muro, talvez apenas um portão.
Isso ocorre após a preocupação com o mais recente sistema da Anthropic, o Mythos, que, segundo relatos, deixou especialistas em segurança cibernética apreensivos devido à sua sofisticada programação e capacidade de detecção de vulnerabilidades. A mídia também noticiou que a empresa considerou uma abordagem para avaliar modelos com implicações para a segurança nacional antes de seu lançamento geral.
A preocupação é bastante lógica: se um modelo pode ser usado para ajudar a encontrar bugs mais cedo, provavelmente também ajudará os hackers a encontrá-los ainda mais cedo. Esse é o nó incômodo dessa discussão.
Para Trump, trata-se de uma importante mudança de rumo. Quando assinou uma ordem executiva para reduzir os entraves ao domínio da IA em janeiro de 2025, ele desmantelou as políticas sobre IA anteriormente instituídas por seu governo, que, segundo ele, obstruíam a inovação.
Na época, ele nos disse: construam rápido, limitem a supervisão do governo e vocês serão vitoriosos. Desta vez, a mensagem parece mais complexa: construam rápido, sim, mas não entreguem a todos um maçarico cibernético sem antes verificar o interruptor de segurança.
Essa fricção é precisamente a razão pela qual este artigo é importante. As empresas de IA desejam velocidade, pois isso atrai usuários, dinheiro e influência geopolítica. As autoridades de segurança querem prudência porque, cada vez mais, os modelos de IA mais inteligentes se assemelham a sistemas de codificação e análise de propósito geral e, talvez, a sistemas de guerra cibernética. Ambos têm razão. E é por isso, infelizmente, que criar regras é difícil.
A estratégia mais ampla do governo para IA concentra-se principalmente em acelerar os processos. O Plano de Ação para IA dos EUA divide a política americana de IA em três categorias:
- impulsionar a inovação
- construir infraestrutura de IA
- Liderar na diplomacia e segurança globais
O último item está carregando um fardo considerável no momento. Quando os modelos de IA são importantes para a proteção cibernética, armamentos, inteligência e infraestrutura crítica, eles se tornam mais do que apenas uma tecnologia de consumo. Eles se tornam ativos de segurança nacional e problemas de segurança nacional.
Já existem algumas bases tecnológicas para pensar em termos de risco. Washington está apenas debatendo a escala apropriada de fiscalização. O Instituto Nacional de Padrões e Tecnologia (NIST) divulgou um Estrutura de gerenciamento de risco de IA Ajudar as organizações a lidar com os riscos para pessoas, empresas e comunidades.
Não é obrigatório. Não há necessidade de licenças. No entanto, essa estrutura oferece aos funcionários do governo uma nova linguagem para discutir a complexa tarefa de mapear danos, avaliar riscos, mitigar falhas e determinar a responsabilidade quando as coisas dão errado.
Tudo isso também está acontecendo em paralelo com a crescente integração da IA no governo e na defesa. Dias antes da recente conversa sobre a verificação de antecedentes, o Pentágono concordou em incorporar tecnologias de IA em sistemas confidenciais como parte de acordos com várias grandes empresas de tecnologia, conforme relatado em Exército dos EUA anuncia novas parcerias em IA.
Quando os modelos de vanguarda são integrados às operações governamentais sensíveis, o jogo muda. Um erro se torna mais do que apenas uma demonstração malsucedida. Um contratempo se torna mais do que apenas uma notícia ruim. A realidade se impõe rapidamente.
O setor de tecnologia não vai gostar dessa incerteza. É verdade que, quando Washington começa a falar sobre comissões de revisão, não se ouve muita comemoração.
Alguns argumentarão que as verificações prévias ao lançamento podem resultar em inovação lenta, vazamento de informações técnicas sensíveis ou na entrada de um concorrente estrangeiro com incentivos diferentes. A verdade é que nenhuma dessas preocupações é infundada. Em IA, um atraso de vários meses pode ser comparável a chegar à corrida de Fórmula 1 de bicicleta.
Ainda assim, esse argumento está se tornando cada vez mais difícil de ignorar. Se a próxima geração de modelos for usada para facilitar ataques cibernéticos, acelerar pesquisas biológicas, fabricar fraudes mais sofisticadas ou automatizar campanhas de desinformação, então o argumento "confie em nós, nós mesmos testamos em laboratório" pode não convencer o público por muito mais tempo. A demanda não se baseia em uma paixão pela burocracia. Ela se refere à dimensão do impacto.
Isso é o que provavelmente acontecerá, pelo menos nos próximos anos, em vez de um sistema de licenciamento governamental para todos os modelos de IA, o que seria impossível de implementar na prática.
Em vez disso, as autoridades poderiam concentrar a regulamentação apenas nos sistemas mais avançados, incluindo aqueles com capacidade para realizar ciberataques em larga escala ou para serem usados diretamente pelo governo. Considere a exigência de que os desenvolvedores de IA respondam a algumas perguntas antes de poderem vender sistemas de alta potência para qualquer pessoa com cartão de crédito.
Ainda assim, é um marco. A Casa Branca está enviando uma mensagem forte ao setor privado de que a IA de ponta pode ter ultrapassado a fase em que representava apenas uma ferramenta tecnológica promissora, tornando-se um risco estratégico, o que, é claro, não significa o fim do boom da IA. Em vez disso, sinaliza que a IA desenvolveu algumas desvantagens.
O Vale do Silício há muito tempo vem dizendo a Washington que os EUA precisam acelerar para manter sua liderança. Parece que Washington quer responder: "OK, mostrem-nos seus freios primeiro."
Qual é a sua reação?
Sugestões para você
