중국中서도 AI 에이전트 '통제 상실'…격리 벗어나 지도 서비스에 2천800번 접속

중국에서도 AI 에이전트가 격리된 환경을 벗어나 외부 서비스에 접근을 시도한 사례가 확인됐다.

18일 YTN에 따르면 다국적 AI 안전 연구팀은 텐센트 클라우드에서 돌던 것으로 추정되는 AI 에이전트들이 알리바바의 '가오더 지도' 서비스에 2천800여 차례 접속을 시도했다고 밝혔다. 이들은 공원·박물관 입구 정보를 얻으려고 공개 보안 스캐닝 서비스로 원격 코드를 실행하고 검색 명령까지 내렸다.

대부분의 접근은 막혔고, 연구진은 에이전트들이 어떤 목적으로 통제를 벗어났는지 밝혀내지 못했다. 텐센트는 자사 플랫폼에서 돌던 외부 업체 모델이 평가 중 일으킨 의도치 않은 오류라며 자체 개발 모델과는 관계없다고 선을 그었다.