OpenAI, ChatGPT 보안을 위한 버그 바운티 프로그램 출시

인공지능(AI) 분야를 선도하는 연구실인 OpenAI가 최근 소개 된 자체 언어 모델과 같은 강력한 언어 모델과 관련된 증가하는 사이버 보안 위험을 해결하기 위한 버그 현상금 프로그램 ChatGPT. 크라우드소싱 사이버보안 회사 Bugcrowd와 협력하여 운영되는 이 프로그램은 독립 연구자들을 초대하여 OpenAI 시스템의 취약성을 파악하고 문제의 심각도에 따라 200달러에서 20,000달러까지의 금전적 보상을 제공합니다.

OpenAI는 이 프로그램이 안전하고 진보된 AI를 개발하려는 노력의 일환이며, 합성 텍스트, 이미지 및 기타 미디어를 생성할 수 있는 AI 시스템의 취약성에 대한 우려에 대응하기 위한 것이라고 밝혔습니다. AI 사이버 보안 회사 DarkTrace에 따르면 135월에 ChatGPT를 도입한 이후 AI 기반 소셜 엔지니어링 공격이 XNUMX% 증가했습니다.

일부 전문가들은 OpenAI의 발표를 환영했지만, 다른 전문가들은 버그 바운티 프로그램이 점점 더 정교해지는 AI 기술로 인한 사이버 보안 위험 범위를 완전히 해결하지 못할 것이라고 생각합니다. 이 프로그램은 범위가 제한되어 있으며 OpenAI의 시스템과 파트너에게 직접 영향을 미칠 수 있는 취약성만 다루고, 사칭, 합성 미디어 또는 자동 해킹 도구와 같은 이러한 기술의 악의적 사용에 대한 더 광범위한 우려는 다루지 않습니다.

제한에도 불구하고 버그 바운티 프로그램은 OpenAI가 제품 생태계의 취약성을 해결하고 생성 AI가 도입한 보안 위험을 해결하기 위해 적극적으로 노력하는 조직으로 자리매김할 수 있는 기회를 제공합니다. 사용자가 컴퓨터를 해킹하는 방법에 대한 지침을 개발할 수 있게 해주는 GPT4 탈옥과 "비기술적" 사용자가 맬웨어와 피싱 이메일을 만들 수 있는 해결책을 발견하는 연구원의 최근 등장은 이러한 이니셔티브의 필요성을 더욱 강조했습니다.

그러나 버그 바운티 프로그램의 공식 페이지에는 모델 프롬프트 및 응답의 내용과 관련된 문제는 범위 내 서비스에 직접적으로 검증 가능한 추가 보안 영향이 없는 한 엄격히 범위 밖이라고 명시되어 있다는 점에 유의하는 것이 중요합니다. 따라서 이 프로그램은 다음과 관련된 광범위한 보안 위험을 해결하는 데 효과적이지 않을 수 있습니다. 생성 적 AI 그리고 사회 전반을 위한 GPT-4.

결론적으로 OpenAI의 버그 바운티 프로그램은 AI 시스템의 보안을 개선하기 위한 올바른 방향으로 나아가는 한 걸음입니다. 그러나 범위가 제한되어 있으며 이러한 기술의 악의적 사용을 둘러싼 더 광범위한 우려 사항을 완전히 해결하지 못할 수 있습니다. 안전하고 진보된 AI의 개발을 위해서는 이와 같은 이니셔티브를 지원하고 생성 AI가 초래하는 광범위한 사이버 보안 위험을 해결하기 위한 보다 포괄적인 노력이 필수적입니다.