AI 뉴스 데일리English
2026년 11월 20일 금요일

13개 소식 중 8번째

새로 들어온 소식

AI 서비스에 미끼 프롬프트 200만개 보냈더니 3곳은 이미 털려 있었다

X 첫 글 35시간 전@hdmoore ♥ 1,357조회 2

AI 서비스에 미끼 프롬프트 200만개 보냈더니 3곳은 이미 털려 있었다AI 서비스에 미끼 프롬프트 200만개 보냈더니 3곳은 이미 털려 있었다AI 서비스에 미끼 프롬프트 200만개 보냈더니 3곳은 이미 털려 있었다AI 서비스에 미끼 프롬프트 200만개 보냈더니 3곳은 이미 털려 있었다

해킹 도구 메타스플로잇을 만든 보안 연구자 HD 무어가 AI 서비스에 추적용 가짜 비밀을 넣은 프롬프트 약 200만개를 보내 어디서 새는지 지켜본 결과, AI 제공업체 최소 3곳이 해킹당해 고객 프롬프트가 빠져나가고 있었다고 밝혔다.

보안업체 드라고스의 최고연구책임자인 무어는 19일(현지시간) 회사 블로그에 7월부터 11월까지 다섯 달 동안 한 실험을 공개했다. 프롬프트마다 다른 곳에서는 쓰인 적 없는 URL과 AWS 키 같은 '카나리 토큰'을 넣고, 누가 그 주소를 열거나 키를 쓰는지 추적하는 방식이다. 가장 큰 사고에서는 10월 말 한 업체에 보낸 AWS 키 수백 개가 전부 도난당했다. 업체가 모델을 돌리기도 전에 거절한 요청의 키까지 쓰였다. 공격자가 요청 접수 단계에서 통째로 복사하고 있었다는 뜻이다. 세 업체 모두 드라고스가 알리기 전까지 침해를 몰랐다.

해킹 없이 새는 길도 있었다. 여러 모델을 API 하나로 묶어 파는 추론 마켓플레이스에서는 가장 싼값에 모델을 올린 재판매자가 기본 로그 기능만으로 고객 프롬프트를 들여다봤고, 하루 반 뒤 가정용 인터넷 회선에서 누군가 미끼 주소를 열어 로그인 계정을 하나씩 넣어 봤다. '데이터 무보존(ZDR)' 설정도 지켜지지 않았다. 중국의 한 AI 연구소 시스템은 자사 모델로 간 프롬프트 절반 이상에서 미끼 주소를 긁어 갔고, ZDR이나 '수집 안 함'으로 표시한 요청도 약 3분의 2가 긁혔다. 미국 호스팅 업체를 거쳐 이 모델을 써도 결과는 같았다. ZDR 표시를 달아 미국 업체에 보낸 프롬프트 속 링크가 24일 뒤 중국 사내 메신저 페이슈 채팅방에 올라와 2분 만에 베이징·상하이의 PC 3대와 휴대폰 3대에서 열린 일도 있었다.

무어는 요청이 버셀에서 오픈라우터를 거쳐 다른 업체로 넘어가듯 여러 라우터를 지나는 일이 흔하고, 거치는 곳마다 프롬프트와 응답 전체를 볼 수 있다고 설명했다. 공격자 한 명은 11월 1일부터 AI 침투 테스트 도구 아르텍스(ARTEX)를 썼고, 무어는 `artex-agent`와 `artex-judge-r121` 사용자 에이전트를 탐지 목록에 넣으라고 권했다. 무어의 X 글은 '좋아요' 1300개를 받았다. 업체 이름을 밝히지 않은 것을 두고는 "한 곳도 이름을 대지 않아 실망스럽다"('좋아요' 192개), "ZDR을 내세우는 곳만이라도 왜 공개하지 않느냐"는 답글이 달렸다.

댓글 0

본문 문장을 드래그하거나 꾹 눌러 고르면 그 문장에 댓글을 달 수 있어요.

“We seeded 2m canaries into popular AI services and tracked where they were stolen and abused.”

다음 소식 →AI 에이전트 1000개 석 달 풀어놨더니 논문 936편 쓰고 '동료 심사'를 만들었다AI 인사이트 읽기 →입사하자마자 팀장인 세대…KAIST 성민혁 교수 "'GPT가 그랬어요'는 없다"

내일 아침 소식, 알림으로 받기

오전 8시·오후 8시 새 판과 속보를 알려 드려요. 가입 없이 무료예요.

앱 받기

매일 아침 AI 소식, 새 AI 인사이트, 매달 1일 월간 주요 뉴스 브리핑을 보내 드려요.

광고이 자리에 내 서비스를 알려 보세요. 매달 약 5,000명이 AI 소식을 읽는 곳입니다.광고 문의 ›

같은 날 다른 소식

  1. 앤트로픽 사려고 AI주 팔았다, 첫날 17% 오른 날 나스닥은 2.25% 하락
  2. 오픈AI 연구원들 "코딩 에이전트 지키려면 팀원 40% 내주겠다", 상위 10%는 하루 2만3천달러 쓴다
  3. 애플도 '컴퓨터 쓰는 AI 에이전트' 만든다, 남의 에이전트 켜는 설정은 4단계→14단계
  4. 300MB 붙였더니 로컬 코딩 모델 SWE-bench Pro 35%→51%, 생각 끄고도 최대 추론 넘었다
  5. 유비소프트, 166명 또 내보낸 날 생성형 AI 스튜디오 '마더브레인' 세웠다
  6. 구글, 데이터센터 랙 하나를 우주로 쏜다…블루오리진과 2029년 'TPU 위성' 발사 계약
  7. AI 에이전트 30여개가 14분 만에 회사 통째로 암호화, 前 NSA 해커 "이런 속도 처음"
  8. AI 에이전트 1000개 석 달 풀어놨더니 논문 936편 쓰고 '동료 심사'를 만들었다
  9. 앤트로픽 수학자 "클로드와 리만 가설 증명했다", 167년 난제 검증은 아직
  10. 스페이스X, 엔비디아 칩 사려 440억달러 빚냈다, 금리 8%대 역대 최대 GPU 금융
  11. 앤트로픽 상장 이틀째 장중 83.05달러, 공모가 5센트 위까지 밀렸다
  12. 美 SEC가 엔비디아 회계 들여다본다, 주가 장중 10% 급락
2026년 11월 20일 금요일 전체 보기 →

* 이 페이지의 요약과 발행은 자동화 에이전트가 수행합니다. 사실 확인은 원문 링크에서 해주세요.

개인정보 처리방침지원의견 보내기광고 문의디스코드 봇클로드 코드·코덱스 연결RSSListed on Sell With boost