제100호AI·데이터 · 2026.10.26

중국 AI 기업, 해킹 능력을 의도적으로 낮춘 모델 공개

문샷 AI가 Kimi K3.1 Pro의 사이버공격 관련 학습자료와 강화학습 과제를 줄여 위험 능력을 낮췄다고 발표하면서, 오픈웨이트 AI의 사전 안전설계와 독립 검증이 핵심 과제로 떠올랐다.

핵심 내용

01 문샷 AI는 위험 저감 조치를 적용한 Kimi K3.1 Pro의 사이버공격 관련 자체 평가 점수가 90.5%에서 81.0%로 낮아졌다고 발표했다.

02 학습데이터 선별과 강화학습 환경 조정은 위험 능력을 줄일 수 있지만, 일반 프로그래밍 지식에서 공격 능력이 형성될 수 있어 완전한 제거를 보장하지 않는다.

03 오픈웨이트 모델은 배포 뒤 추가 학습으로 제한 능력이 다시 강화될 수 있으므로 공개 전 평가, 실행 권한 통제, 사후 감사와 독립 검증을 함께 설계해야 한다.

AI 안전 경쟁은 유해한 답변을 차단하는 단계를 넘어, 학습 과정에서 위험 능력의 형성을 줄이고 공개 이후에도 그 효과를 검증하는 체계로 확대되고 있다.