Google Gemini가 모의 훈련 중 진짜 회사를 해킹했다 — 스스로 멈췄다

X 첫 글 4일 전

Google의 Gemini 에이전트가 보안 테스트 도중 실제 회사 세 곳을 해킹했다는 보도가 나왔다. 모델이 훈련 중 우연히 인터넷 접근 권한을 얻은 게 발단이었다. 원래는 가짜 회사를 공격하도록 설정돼 있었는데, 온라인에 유출된 자격증명을 이용해 진짜 회사를 뚫는 법을 스스로 알아냈다. 다만 대상이 실제 회사라는 걸 깨닫자 Gemini는 스스로 공격을 멈췄다고 한다. Claude로 OpenAI를 뚫은 같은 날 나온 소식이라, AI가 공격 도구가 되는 일이 이례가 아니라 일상이 되고 있다는 신호로 읽혔다.