미국 정부 관계자들이 첨단 인공지능 기술에 대한 조기 접근을 원하고 있으며, 대기업들도 이에 동의했다.
마이크로소프트, 구글 딥마인드, 그리고 일론 머스크의 xAI는 미국 정부에 새로운 AI 모델을 일반 출시 전에 제공하겠다고 제안했습니다. 이는 실리콘 밸리와 미국 정부 사이의 종종 마찰을 빚어온 AI 위협에 대한 우려에 새로운 국면을 예고합니다. 최근 보도에 따르면 AI 기업들이 안보 검토를 명목으로 미국 관리들에게 모델을 제공하고 있다고 합니다.이는 정부 분석가들이 첨단 AI 시스템이 개발자와 사용자에게 공개되기 전에 사이버 공격이나 군사적 용도와 같은 안보 위협을 검증하고, 필연적으로 무기화된 AI 모델에 접근해서는 안 될 사람들이 이를 손에 넣는 것을 막기 위한 것입니다.
이번 검토는 미국 상무부 산하 인공지능 표준혁신센터(CAISI)에서 진행할 예정이며, CAISI는 해당 회사의 구글, 딥마인드, 마이크로소프트, xAI와 거래 이를 통해 배포 전 단계에서 AI 모델을 검증하고, 특정 분야에 대한 연구를 수행하며, 실제 운영 환경에 배포된 후 검토할 수 있는 기회를 제공합니다.
지루하게 들릴 수도 있지만, 그렇지 않습니다. 정부가 차량이 도로에 나가기 전에 보닛을 걷어내 달라고 요구하는 것이고, 그 보닛은 날이 갈수록 뜨거워지고 있습니다.
두고 봐야겠지만, 고도로 발달된 인공지능이 사이버 범죄자들이 더욱 효과적으로 범죄를 저지를 수 있도록 도울 것이라는 우려는 충분히 이해할 만하다. 로이터 통신은 "미국 관리들은 초기 단계의 신흥 모델들을 의심과 불안의 시선으로 바라보기 시작했으며, 일부 모델은 최고위 정부 관리들의 스트레스 수준을 높였다는 점에 주목했다"고 보도했다.
최근 공개된 앤트로픽의 미토스(Mythos) 모델이 가장 큰 우려를 불러일으키고 있습니다. 문제는 AI가 사람이 알아채지 못하는 보안 취약점을 찾아낼 수 있다는 점이 아닙니다. 문제는 하나의 도구가 보안 담당자가 취약점을 발견하게 만드는 동시에 공격자 또한 취약점을 찾아낼 수 있게 만들 수 있다는 점입니다.
마이크로소프트가 인공지능(AI) 논쟁에 뛰어들었다. 마이크로소프트는 보도자료를 통해 "미국 및 영국 과학자들과 협력하여 AI 모델의 의도치 않은 결과를 파악하고 완화하며, 모델의 안전성과 성능을 위한 공유 데이터 세트 및 평가 방법 개발에 기여하겠다"고 약속했다.
이러한 유형의 협업의 한 예로, 마이크로소프트는 이번 달 영국 AI 보안 연구소와 협약을 체결했습니다. 양국 관계자들과 협력하여 인공지능 위험을 공동으로 관리하자는 것입니다. 이는 이 주제가 미국 수도의 범위를 넘어 중요한 의미를 지닌다는 것을 시사합니다.
CAISI는 백지 상태에서 시작하는 것이 아닙니다. 이 기관은 최첨단 미공개 모델을 포함하여 이미 40건 이상의 평가를 수행했다고 주장합니다. 개발자들은 때때로 최악의 국가 안보 위험을 드러내기 위해 보안 기능을 일부 제거하거나 축소한 버전을 공유하기도 합니다. 네, 다소 불길하게 들리지만, 의도된 것입니다. 결국, 단순히 문이 닫혀 있기를 바라는 것만으로는 자물쇠의 효능을 확인할 수 없으니까요.
또한, 새로운 협약은 OpenAI와 Anthropic이 별도로 제공하는 모델에 대한 정부의 기존 접근 권한을 확대합니다. OpenAI는 미국 정부에 국가 안보 맥락에서의 평가를 위해 GPT-5.5를 제공했습니다.오픈AI의 크리스 레한에 따르면, 이러한 요소들을 종합해 보면 분명한 그림이 드러납니다. 가장 뛰어난 AI 연구소들이 기술을 실전에 적용하기 전에 정부의 검증 과정을 거치게 되는 것입니다.
여기에는 흥미롭고도 복잡한 정치적 상황이 얽혀 있습니다. 트럼프 행정부는 대체로 인공지능 전략을 가속화, 규제 완화, 그리고 세계 무대에서 미국의 주도권 강화에 초점을 맞춰왔습니다. 하지만 미래지향적인 인공지능 전략은 최첨단 모델이 단순히 생산성 도구에 그치지 않는다는 복잡한 현실을 직시해야 합니다.
트럼프 행정부의 미국의 AI 행동 계획 이 정책의 주된 목표는 혁신을 촉진하고, 혁신을 지속하기 위한 인프라를 구축하며, 국제 AI 외교 및 안보 분야에서 미국의 리더십을 강화하는 것입니다. 특히 마지막 부분이 핵심적인 역할을 담당하고 있습니다.
국방 측면 또한 간과할 수 없습니다. 이러한 모델 검토 계약이 발표되기 불과 며칠 전, 미 국방부는 주요 AI 및 기술 기업들과 기밀 네트워크에서 최고의 시스템에 접근하기 위한 계약을 체결했다고 보도되었습니다. 군대가 상용 인공지능을 정부 업무에 접목시키려는 노력.
군사 업무 흐름에 인공지능을 도입하면 수많은 새로운 도전과 결과가 따릅니다. 단순한 오류가 아니라, 잘못된 출력은 훨씬 더 심각한 문제를 야기할 수 있습니다. 작전 수행에 지장을 줄 뿐만 아니라 막대한 비용 손실로 이어질 수 있습니다.
물론 문제는 이것이 혁신을 저해할 수 있다는 점입니다. 기술 기업들은 자율성이 필요하다고 주장할 것이고, 실제로 인공지능 분야는 현재 매우 치열한 경쟁과 빠른 속도의 발전, 막대한 컴퓨팅 인프라 투자, 그리고 중국과의 세계적인 경쟁이라는 점에서 마치 좁은 공간에서 벌어지는 칼싸움과 같습니다.
만약 새로운 AI 모델이 도입되기까지 몇 달씩 보류된다면, 미국의 기술 기업들은 워싱턴이 적들에게 예쁜 선물을 주는 꼴이 될 것이라고 비난할 것이 분명합니다.
하지만 미국은 인공지능의 특히 위협적이거나 위험한 능력을 보여주는 첫 번째 의미 있는 공개 시연이 공개 발표로 이루어지는 것을 피하고 싶어할 것이라고 말할 수 있습니다. 왜냐하면 그렇게 되면 결국 사과를 통한 통치로 이어지기 때문입니다.
배포 및 출시 전 평가는 흥미롭지 않을 것이며, 일부 또는 모두에게 성가신 일이 될 가능성이 높습니다. 이는 일반적으로 규제가 중간 지점에 도달했다는 좋은 신호입니다.
관건은 핵심에 집중하는 것입니다. 모든 챗봇 출시 버전을 일일이 확인하는 것은 의미가 없지만, 특히 군사, 사이버, 생물학 또는 화학적 함의를 지닌 최첨단 모델들을 면밀히 검토하는 것은 또 다른 문제입니다.
이건 정부 관료가 자동 완성 기능을 승인하는 것과는 전혀 다른 이야기입니다. 오히려 엔지니어가 로켓 발사 전에 검토하는 것과 비슷하죠. 그렇게 극적인 상황은 아니지만, 본질적으로는 유사한 개념입니다.
여기에는 신뢰 문제도 있습니다. 거대 기술 기업들은 규제 당국에 자체 규제가 가능하다고 주장하는 반면, 규제 당국은 기술 기업들이 빠르게 발전하는 기술에 발맞추지 못했다고 지적해 왔습니다.
그 결과, 기업들은 AI 모델에 대한 조기 접근권을 제공하고, 연방 연구원들은 독립적인 테스트를 수행하며, 모두가 이 절차가 최악의 결과를 걸러내되 관료주의에 얽매이지 않기를 바라는 불안정한 중간 지대가 형성되었습니다.
이 순간이 필연적이었다는 느낌을 지울 수 없습니다. AI 모델이 사이버 보안, 국가 안보, 인프라와 같은 분야에 영향을 미칠 만큼 강력해진 시점에서, 기업들이 영원히 자체적으로 모델을 테스트하는 것만으로는 충분하지 않았을 것입니다.
일반인들은 벤치마크나 레드팀 보고서의 복잡한 내용을 알지 못할 수도 있지만, 이러한 시스템들이 실질적인 피해를 야기할 수 있다는 사실만으로도 시장 출시 전에 면밀히 검토할 가치가 있다는 점은 분명히 알고 있을 것입니다.
거대 기술 기업들은 여전히 앞서나가기를 원하고, 워싱턴은 여전히 불시에 공격당하는 것을 피하고 싶어 하지만, 양측은 적어도 지금으로서는 실행 가능한 방안에 대해 의견 일치를 본 것으로 보입니다. 바로 인공지능 엔진이 본격적으로 가동되기 전에 인공지능 모델을 개방하는 것입니다.
당신의 반응은 무엇입니까?
