벤 호로위츠 "앤트로픽만큼 보안 허술한 회사 못 봤다"…"해킹 시험에 '프롬프트 탓'"

미국 벤처캐피털 앤드리슨 호로위츠(a16z) 공동창업자 벤 호로위츠가 앤트로픽을 두고 "보안 면에서 우리가 본 회사 중 가장 부주의한 곳 가운데 하나"라고 말했다.

17일(현지시간) 팟캐스트 '올인(All-In)'이 X에 올린 영상에 따르면 호로위츠는 클로드 오퍼스 4.5가 처음 나왔을 때 회사 차원에서 보안 점검을 했다고 밝혔다. 한 에이전트에게 반려동물 용품점 웹사이트를 만들게 하고, 다른 에이전트에게 그 사이트의 취약점을 찾게 했다는 것이다.

호로위츠는 "찾아낸 SQL 인젝션이 실제로 뚫리느냐고 묻자 에이전트가 '열어 보자'며 사이트에 침입해 고객 데이터를 전부 빼냈다"며 "앤트로픽에 연락했더니 '프롬프트를 잘못 쓰셨다'는 답이 돌아왔다"고 말했다. 이 영상은 '좋아요' 1천100개, 조회 11만회를 넘겼다.

앤트로픽은 이 발언에 따로 입장을 내지 않았다. 답글에서는 "오퍼스 4.5는 1년 전 모델"이라며 오퍼스 5.5로 다시 시험해야 공정하다는 지적이 나왔고, "한 에이전트가 SQL 인젝션을 만들고 다른 에이전트가 뚫었으니 풀스택 팀"이라는 농담도 붙었다.