백악관, AI 공개 전 검증 검토…실리콘밸리 경고
도널드 트럼프 대통령의 백악관은 미국 정부가 가장 강력한 인공지능 모델들이 대중에게 공개되기 전에 이를 검토할 수 있도록 허용해야 하는지 여부를 검토하고 있는데, 이는 인공지능 산업에 대한 그의 기존 자유방임주의적 접근 방식에서 크게 벗어난 변화입니다.
가장 최근 백악관의 AI 모델 검증에 관한 기사논쟁의 핵심은 코딩이나 사이버 기능을 갖춘 첨단 시스템이 대중에게 배포되기 전에 정부가 개입해야 하는지 여부입니다. 이는 미묘한 변화가 아닙니다. 워싱턴은 인공지능 군비 경쟁이 '일단 출시하고 결과를 지켜보자'는 식으로는 더 이상 충분하지 않은 단계에 이르렀는지 묻고 있는 것입니다.
검토 중인 제안은 규제 운영 방식을 조사하기 위해 공무원과 기술 업계 임원으로 구성된 실무 그룹을 설립하는 행정 명령을 포함합니다.
행정부의 회담에 대한 다른 보도에 따르면논의는 주로 사이버 공격을 가능하게 하거나 소프트웨어 취약점을 식별하는 데 도움이 될 수 있는 정교한 모델에 집중되어 왔습니다.
이건 분명히 좀 어이없는 변화죠. 인공지능 개발의 장벽을 허물겠다고 공언했던 행정부가 이제는 오히려 장벽을 세우려는 것 같으니까요. 벽까지는 아니더라도, 그냥 문이라도 걸어놓겠다는 듯이 말입니다.
이는 앤트로픽의 최신 시스템인 미토스(Mythos)에 대한 우려에 따른 것으로, 미토스는 정교한 코딩과 취약점 탐지 기능으로 사이버 전문가들을 불안하게 만들었다는 보도가 나왔습니다. 언론은 또한 국가 안보에 영향을 미칠 수 있는 모델들을 일반에 공개하기 전에 검증하는 방안에 대한 논의도 포함되었다고 보도했습니다.
이러한 불안감은 상당히 논리적입니다. 만약 어떤 모델이 버그를 더 빨리 찾는 데 도움이 된다면, 해커들도 그 버그를 훨씬 더 빨리 찾아낼 가능성이 높기 때문입니다. 이것이 바로 이 논쟁의 불편한 핵심입니다.
트럼프에게 있어 이는 중요한 방향 전환입니다. 그는 2025년 1월 인공지능(AI)의 지배력 확대를 가로막는 장애물을 줄이기 위한 행정 명령에 서명하면서, 혁신을 저해한다고 주장했던 기존 정부의 AI 정책을 폐지했습니다.
그는 당시 우리에게 "빠르게 구축하고 정부의 감독을 최소화하면 승리할 수 있다"고 말했습니다. 이번 메시지는 좀 더 복잡해 보입니다. 빠르게 구축하는 것은 맞지만, 안전장치를 확인하지 않고 모두에게 사이버 공격 도구를 건네주지는 말라는 것입니다.
바로 그러한 마찰 때문에 이 기사가 중요한 것입니다. AI 기업들은 속도를 중시합니다. 속도가 빠를수록 사용자, 자금, 그리고 지정학적 영향력을 확보할 수 있기 때문입니다. 반면 안보 당국은 신중함을 추구합니다. 점점 더 똑똑한 AI 모델들이 범용 코딩 및 분석 도구, 나아가 사이버 전쟁 시스템과 유사해지고 있기 때문입니다. 양쪽 모두 옳습니다. 그리고 바로 그 점 때문에 규칙을 만드는 것이 어려운 것입니다.
행정부의 전반적인 AI 전략은 주로 진행 속도를 높이는 데 중점을 두고 있습니다. 미국의 AI 행동 계획은 미국의 AI 정책을 세 가지 범주로 분류합니다.
- 혁신을 촉진하다
- AI 인프라 구축
- 글로벌 외교 및 안보 분야를 선도하다
마지막 항목은 현재 상당한 부담을 안고 있습니다. 인공지능 모델이 사이버 보안, 무기, 정보 및 중요 기반 시설에 중요해지면, 그것은 단순한 소비자 기술을 넘어 국가 안보 자산이자 국가 안보 문제로 여겨지게 됩니다.
위험 인식을 위한 기술적 기반은 이미 어느 정도 마련되어 있습니다. 워싱턴에서는 적절한 집행 규모에 대해 논의 중입니다. 미국 국립표준기술연구소(NIST)는 관련 보고서를 발표했습니다. AI 리스크 관리 프레임워크 조직이 사람, 기업 및 지역 사회에 대한 위험에 대처할 수 있도록 지원합니다.
의무 사항은 아닙니다. 면허도 필요하지 않습니다. 하지만 이 체계는 정부 관계자들이 피해 규모를 파악하고, 위험을 평가하고, 실패를 완화하고, 문제가 발생했을 때 책임 소재를 규명하는 복잡한 과정에 대해 논의할 수 있는 새로운 언어를 제공합니다.
이 모든 것은 인공지능(AI)이 정부와 국방 분야에 점점 더 깊숙이 자리 잡는 추세와 맞물려 일어나고 있습니다. 최근 검증 회의가 있기 며칠 전, 미 국방부는 여러 대형 기술 기업과의 계약의 일환으로 기밀 시스템에 AI 기술을 도입하기로 합의했다고 보도되었습니다. 미국 군, 새로운 AI 파트너십 발표.
첨단 모델이 민감한 정부 업무에 통합되면 상황은 완전히 달라집니다. 오류는 단순한 데모 실패 이상의 의미를 갖게 되고, 사고는 단순한 악재 이상의 문제가 됩니다. 현실이 빠르게 다가오기 때문입니다.
기술 업계는 그러한 불확실성을 달가워하지 않을 것입니다. 솔직히 말해서, 워싱턴에서 심사위원회에 대한 이야기가 나오기 시작하면 환영하는 목소리는 거의 들리지 않습니다.
일부에서는 사전 검토로 인해 혁신이 지연되거나, 민감한 기술 정보가 유출되거나, 다른 동기를 가진 해외 경쟁업체가 등장할 수 있다고 주장합니다. 하지만 이러한 우려는 결코 사소한 것이 아닙니다. 인공지능 분야에서 몇 달의 지연은 마치 포뮬러 원 경주에 자전거를 타고 나타나는 것과 같을 수 있습니다.
하지만 이러한 주장을 더 이상 무시하기는 점점 더 어려워지고 있습니다. 차세대 모델이 사이버 공격을 용이하게 하고, 생명공학 연구를 가속화하며, 더욱 정교한 사기를 조작하거나, 허위 정보 유포 캠페인을 자동화하는 데 사용된다면, "저희 연구실에서 직접 검증했으니 믿으셔도 됩니다"라는 말은 더 이상 대중의 신뢰를 얻기 어려울 것입니다. 이러한 요구는 관료주의에 대한 반감이 아니라, 그 파급 효과의 규모에 대한 우려에서 비롯된 것입니다.
적어도 향후 몇 년 동안은 모든 AI 모델에 대한 정부 라이선스 시스템보다는 이러한 방식이 더 가능성이 높습니다. 정부 라이선스 시스템은 현실적으로 실행이 불가능할 것이기 때문입니다.
대신, 관계자들은 대규모 사이버 공격을 실행하거나 정부가 직접 사용할 수 있는 기능을 갖춘 시스템을 포함하여 가장 발전된 시스템에만 규제를 집중할 수 있습니다. 예를 들어, 인공지능 개발자들이 신용카드를 소지한 누구에게든 고성능 시스템을 판매하기 전에 몇 가지 질문에 답하도록 요구하는 방안을 생각해 볼 수 있습니다.
그럼에도 불구하고 이는 여전히 중요한 이정표입니다. 백악관은 민간 부문에 첨단 AI가 단순한 기술 도구의 단계를 넘어 전략적 위험 요소가 될 수 있다는 강력한 메시지를 보내고 있습니다. 물론 이것이 AI 붐의 종말을 의미하는 것은 아니라는 점을 분명히 말씀드립니다. 다만 AI가 몇 가지 약점을 드러내기 시작했다는 것을 시사하는 것입니다.
실리콘 밸리는 오랫동안 미국이 리더십을 유지하려면 빠르게 발전해야 한다고 워싱턴에 주장해 왔습니다. 이에 대해 워싱턴은 "좋습니다, 먼저 브레이크부터 밟아보세요"라고 답하려는 듯합니다.
당신의 반응은 무엇입니까?
