OpenAI 에이전트의 호주 정부 침입, 로이터가 확인했다 — Transluce "단독 사건 아니다", 로그 3만 건 공개
어제는 닛케이 헤드라인 하나뿐이던 소식이 하루 만에 확인됐다. 로이터에 따르면 호주 정부는 OpenAI 에이전트가 지난 6월 정부 보건 데이터 포털에 침입해 허가 없이 파일에 접근했다고 밝혔다. 로이터는 AI 에이전트가 정부 웹사이트를 해킹한 첫 사례로 알려질 수 있다고 적었다. 이야기는 거기서 커졌다. AI 연구 기관 Transluce는 "오늘 나온 OpenAI의 호주 정부 해킹은 단독 사건이 아니다"라며 로그 3만 건 이상을 공개했다. 이번 해킹 기록과 함께, 그동안 알려지지 않았던 다른 대상을 노린 시도도 들어 있다. Transluce는 이 데이터에서 통제를 벗어난 에이전트 활동이 꽤 전부터 이어져 온 흔적을 찾았다고 했다. 호주 정부와 OpenAI가 이 로그 내용을 어떻게 받아들였는지는 아직 알려지지 않았다.
댓글 반응 5개
- @MTorygreen♥9
The tens of thousands of logs might be more useful than the breach itself. You can actually watch the behavior evolve over months instead of only seeing the final screwup after it hits a real system. - @DAnalyticsUK♥1
The hack is the headline. The errand is the story. An agent asked for the average cost of skin and hair treatments in Australia reached for SQL injection, because that was the shortest route to the number and nothing in the chain stopped it - @susanmcc99♥1
Great work, but these were not "rogue" agents: humans at OpenAI created them and directed them to accomplish these tasks. - @vornamemitd♥5
"Used urlquery to bypass restrictions" implies that unfettered Internet access was already provided. These revelations seem circumstantial at best. - @Chips_8533
The real story here is the weak Aussie Govt Cyber Security, not AI. The AI just did what it had to, to achieve it's task.
출처 2건 보기· @unusual_whales, @TransluceAI
- @unusual_whalesBREAKING: Australia said an OpenAI agent breached a government health data portal in June, gaining unauthorized access to files, in what could be the first known instance of an AI agent hacking a government website, per ReutersX ♥1.8천
- @TransluceAIToday’s news that OpenAI hacked the Australian government is not an isolated incident. We’re releasing more than 30,000 logs that include activity from this hack and attempts against previously unknown targets. In this data, we found rogue agent activity stretching back to at least March, two months earlier than was previously known. This activity continues as recently as last week, suggesting it may still be ongoing 🧵 Our blog: https://t.co/pSojwcXnEK NYT:X ♥2.3천