중국어 "니하오" 한마디에 클로드 코드 세션 정지…'[frontier_llm]' 안전장치 오탐 논란

중국어로 "니하오(你好)" 한마디를 쳤을 뿐인데 클로드 코드(Claude Code) 세션이 멈췄다는 글이 X에서 '좋아요' 2500여 개, 조회 21만회를 넘겼다. 개발자 하오쥔 자오(Haojun Zhao)는 10일 "클로드 오퍼스 5.5에 중국어로 인사만 했는데 '[frontier LLM]' 탐지에 걸렸다"고 올렸다.

그가 올린 화면에는 "오퍼스 5.5의 안전장치가 이 세션을 표시했다"는 안내와 함께 'Details: [frontier_llm]'이 찍혀 있다. 안내문은 "오퍼스 5.5는 더 유능해진 만큼 안전장치도 강하다. 잘못 표시되는 메시지를 줄이도록 개선하고 있다"며 오퍼스 5로 바꾸거나 프롬프트를 고쳐 다시 시도하라고 안내한다. 화면 속 클로드 코드 버전은 v2.1.321, 요금제는 클로드 맥스다.

원인은 인사말보다 작업 폴더 쪽으로 보인다. 자오는 답글에서 "다른 저장소로 옮기니 됐고, 다시 옮기니 또 막혔다. 작업 공간 탓인 것 같다"며 "저장소 내용이 강화학습(RL)·커널 관련이라 그런 듯하다"고 적었다. 다른 이용자는 페이블 5.1 때 같은 일을 겪어 프로젝트 세 개가 한동안 표시됐다가 시간이 지나 풀렸다며 "안전 분류기 문제니 신고하라"고 답했다.

앤트로픽은 9일 페이블 5.2를 내놓으며 사이버·생물학 분야 안전장치를 강화했다고 밝혔다. 앤트로픽 상용 약관은 경쟁 AI 모델을 만들거나 학습시키는 데 서비스를 쓰는 것을 금지한다. 'frontier_llm' 분류가 정확히 무엇을 가려내는지 앤트로픽의 공개 설명은 없다. 세션이 막히면 안내 화면에서 오퍼스 5로 바꾸거나 /feedback으로 오탐을 신고할 수 있다.