앤스로픽 "오픈소스 모델 GLM-5.3, 사상 최고 수준의 해킹 능력 갖춰" 경고

About this offer

무슨 일이 있었나 앤스로픽이 2026년 9월 29일 발표한 연구에서 중국 지푸AI(Z.ai)의 오픈웨이트 모델 'GLM-5.3'을 "지금까지 공개된 오픈웨이트 모델 중 가장 사이버 공격 능력이 뛰어난 모델"(NIST 평가 기준)이라고 지적했다. 문제는 이 모델이 이전 최상위 모델들과 달리 오남용을 막는 실질적 안전장치 없이 공개됐다는 점이다. 연구진에 따르면 GLM-5.3은 크롬 V8 버그를 대상으로 한 'ExploitBench'에서 약 12%의 확률로 종단간(end-to-end) 익스플로잇 개발에 성공했고, 앤스로픽 자체 바이너리 익스플로잇 벤치마크(제어 흐름 탈취)에서도 4%의 성공률을 보였다. 이는 앤스로픽의 최신 모델 'Claude Mythos Preview'와 맞먹는 수준으로, 이전 세대 모델 대비 큰 도약이라는 평가다. 실제 실험에서는 GLM-5.3이 하루 만에 한 웹브라우저의 자바스크립트 엔진에서 알려지지 않은 취약점을 발견하고, 이를 연결해 방문자 컴퓨터의 임의 파일을 탈취하는 작동 가능한 익스플로잇 체인을 만들어낸 사례도 확인됐다. 경량화 버전인 GLM-5.3-Flash는 이미 공개된 크롬 취약점을 단 20분의 작업만으로 실동작하는 익스플로잇 체인으로 바꿔냈으며, 소요 비용은 API 기준 약 20.40달러에 불과했다. 더 심각한 문제는 안전장치 우회가 매우 쉽다는 점이다. 연구진은 △거짓 명분을 내세운 기만적 프롬프트(우회율 64%) △추론 토큰 사전 주입(92%) △가중치를 직접 수정하는 '어블리테이션(abliteration)'(100%) 등 단순한 기법만으로 GLM-5.3의 안전장치를 64~100% 확률로 무력화할 수 있었다고 밝혔다. 특히 어블리테이션은 해당 기법 경험이 없는 연구자가 GPU 2200시간(약 4400달러)만 들여도 거부율을 95%에서 약 6%로 낮추면서 성능은 그대로 유지할 수 있었다. 반면 안전장치가 적용된 앤스로픽의 클로드 모델들은 세 가지 우회 기법 모두에 저항력을 유지했다. 왜 중요한가 이번 연구는 오픈웨이트 AI 모델의 확산이 사이버 보안 지형을 실질적으로 바꾸고 있음을 구체적 수치로 보여준다. 앤스로픽은 국가 행위자는 물론 비국가 행위자까지 이런 능력을 실제 공격에 악용할 가능성이 높다고 평가했으며, 이미 공격자들이 AI 시스템을 무기화하려는 시도가 문서로 확인되고 있다고 밝혔다. 동시에 연구진은 방어자 역시 공격자와 대등한 수준의 AI 도구를 확보해야 한다고 강조했다. 이는 단순히 위험한 모델의 공개를 막는 것만으로는 문제가 해결되지 않으며, 검증된 보안 방어팀에 최첨단 모델 접근권을 확대하고 각국 정부가 독립적인 안전성 테스트를 수행해야 한다는 정책적 권고로 이어진다. 오픈소스·오픈웨이트 모델의 안전장치를 어떻게 설계하고 검증할 것인가는 앞으로 AI 업계 전반에서 더욱 첨예한 쟁점이 될 전망이다. 원문: https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities

Offer details

Provider

velog

Source

velog-rss

Score

54.37

Confidence

49%