남아프리카공화국의 AI 정책이 어떻게 스스로를 망치고 있는가
남아프리카공화국에서 처음으로 작성된 국가 인공지능 정책 초안이 삭제되었습니다. 인공지능이 생성한 것으로 보이는 허위 인용문이 문서에서 발견된 후,
정책 초안의 허위 언급이 폭로된 후 불거진 이번 리콜은 단순한 행정적 오류 이상의 문제입니다. 마치 사람이 마시던 머그잔을 입술로 가져가다 떨어뜨릴 만큼 심각한 실수입니다.
스스로에게 이런 질문을 던져봐야 합니다. "인공지능을 규제하기 위해 만들어진 정책이 오히려 인공지능 때문에 무력화되었다고?" 이는 분명 당황스러운 일이지만, 동시에 우리에게 경각심을 일깨워주는 교훈적인 사례이기도 합니다.
남아프리카공화국 통신디지털기술부 장관 솔리 말라치는 청중에게 이렇게 말했다. 지난주 그는 AI가 생성한 인용문이 적절한 검증 및 검토 없이 정책 초안에 실수로 포함되었을 가능성이 있다고 의심한다고 밝혔습니다.
"정책 초안의 진정성이 훼손되었습니다."라고 말라치는 성명에서 밝혔는데, 이는 인공지능이 없어도 인간의 감독 없이 무언가를 사용하는 것이 좋지 않다는 것을 알 수 있다는 것을 보여줍니다. 그러한 감독은 안전벨트와 같습니다. 자동차 사고를 당하고 나서야 비로소 안전벨트를 매고 있었다는 사실을 깨닫게 되는 것처럼 말입니다.
이 정책 초안은 상당한 포부를 담고 있었습니다. 이달 초, 남아프리카공화국은 다양한 새로운 제도와 인센티브를 제안했습니다. 이는 국가 인공지능 위원회, 인공지능 윤리 위원회, 인공지능 규제 기관 설립을 비롯하여 국내 인공지능 개발 및 혁신을 촉진하기 위한 세제 혜택, 보조금 및 지원금 제공 등을 목표로 한다.
다시 말해, 프리토리아는 아프리카에서 인공지능 도입의 선두에 서고자 했으며, 이를 위해서는 정부가 철저한 준비를 갖추는 것뿐만 아니라 적절한 검증 없이 성급하게 움직이는 것처럼 보이는 것을 피해야 했습니다.
그 후에 경보가 울렸다 News24는 초안에 포함된 일부 인용문이 조작된 것으로 보인다고 보도했습니다.이는 매우 중요한 문제입니다. 왜냐하면 허위 참고문헌은 인용문을 찾거나 검증하는 것을 더 어렵게 만들 뿐 아니라, 오히려 문제를 더욱 악화시키기 때문입니다.
오히려 그들은 허황된 주장에 학문적 신뢰성을 부여하고, 잘못된 행동에 대한 변명을 제공하며, 실제로는 눈속임에 불과한 정책이 사실에 근거한 것처럼 대중을 오도합니다.
윤리, 편견, 데이터 주권 및 디지털 권리에 관한 정책에 있어서 이는 결코 사소한 흠집이 아니라, 많은 사람들의 기억에 지울 수 없는 오점이 될 것입니다.
더 중요한 점은 남아프리카공화국이 인공지능을 규제하려는 노력을 중단해야 한다는 것이 아닙니다. 오히려 그 반대입니다. 남아프리카공화국은 이미 필요한 제도적 역량과 인프라를 구축하기 시작했습니다. 국가 인공지능 정책 프레임워크2024년에 인공지능의 경제적 기회와 거버넌스 문제를 논의하기 위해 공개 의견 수렴 절차가 시작되었다는 점을 잊어서는 안 됩니다.
철회된 법안 초안을 둘러싼 여러 문제점에도 불구하고, 인공지능(AI) 규제의 필요성은 여전히 유효합니다. AI는 이미 금융, 교육, 공공 부문, 그리고 언론에 영향을 미치고 있으며, 규제 마련을 미룰 수 있다는 생각은 인내심이라는 가면을 쓴 환상에 불과할 것입니다.
이는 생성형 AI 사용을 고려하는 모든 정부 기관, 로펌, 대학 및 언론사에 중요한 고려 사항을 강조합니다. 제출하는 모든 결과물에 대해 최종 검토 단계까지 직접 나서야 합니다. 너무 당연한 말처럼 들리겠지만, 바로 그 마지막 단계에서 문제가 발생하기 마련입니다.
초안이 보기 좋고, 참고 문헌이 학술적으로 보이며, 표현이 세련되어 보이면 모두가 검토를 거쳤을 거라고 생각하기 쉽습니다. 그리고 바로 그 순간 모든 것이 당신에게 불리하게 작용할 것입니다.
신뢰성은 쉽게 무너지며, 정책 초안이 허구에 기반한 것으로 의심되는 순간 논쟁은 정책의 "내용"뿐만 아니라 "누가 자료를 검증했는지"에 대한 것으로까지 확대됩니다.
무엇이 발각되지 않았을까요? 그렇다면 문제는 정치적 난처함 그 자체라기보다는 신뢰성의 문제입니다. 물론 정치적으로 난처한 부분도 많지만 말입니다.
그럼에도 불구하고, 말라치 대통령이 정책 제안 초안을 철회한 것은 비록 그로 인해 곤란과 정치적 고통을 겪었을지라도 올바른 결정이었습니다. 더 나은 접근 방식은 국가 인공지능(AI) 전략을 아무도 검증하지 않은 잘못된 인용문이 아닌, 확실한 근거에 기반하여 수립하는 것입니다. 물론, 위의 사례에서 알 수 있듯이 그러한 인용문들은 명백히 잘못된 것이었습니다.
남아프리카공화국은 정책 초안에 대한 독립적인 검토를 의무화하고 정책 수정 이력 기록을 공개함으로써 이러한 난처한 상황을 오히려 유리하게 활용할 기회를 가질 수 있습니다.
또한, 최종 문서가 대중에게 공개되기 전에 정확성을 확보하기 위해 초안 작성 과정의 최종 단계에서 인간의 개입이 의무적으로 이루어지도록 해야 합니다.
남아프리카공화국은 정책 제안에 인공지능을 언제, 어떻게 활용할 수 있는지에 대한 더욱 엄격한 지침을 마련해야 합니다. 이는 언론의 주목을 받지는 못할지라도 정책 거버넌스, 특히 인공지능 거버넌스에 필수적인 사항입니다.
당신의 반응은 무엇입니까?
