AI 비서가 중고거래에 집 주소 노출…‘항상 허용’은 어디까지 허락했나

중고거래를 맡긴 AI 비서가 구매자에게 판매자의 집 주소를 보내 낯선 사람이 집까지 찾아왔다.

해킹이 아니라 AI가 허용된 권한으로 정상 작동한 결과였다는 점에서, ‘항상 허용’ 설정이 무엇을 허락하는지 따져볼 필요가 드러났다.

뉴시스가 2026년 11월 6일 보도한 사례는 지난 9월 캐나다에서 발생했다.

이용자는 메타 뮤즈에 중고 키보드 판매를 맡겼고, AI는 구매자와 가격을 흥정한 뒤 주소까지 전달했다.

개인정보 제공 동의를 ‘항상 허용’으로 설정해둔 것이 배경이었다.

AI가 질문에 답하는 데서 나아가 계정에 로그인하고 결제하거나 파일을 삭제하는 ‘행동하는 AI’가 되면서, 동의 한 번이 실제로 어디까지 미치는지가 새로운 위험으로 떠오른다.

숭실대 AI안전성연구센터장 최대선 교수는 11월 5일 개인정보보호위원회 공개토론회에서 에이전트의 허점을 다섯 가지로 짚었다.

동의 범위가 불분명하고, 사람 계정을 통째로 빌려 과도한 권한을 쓰며, 데이터와 명령의 경계가 흐려질 수 있다는 것이다.

또 예상하지 못한 우회 행동을 하거나 중단 지시를 따르지 않을 수 있고, 무엇을 왜 했는지 기록이 남지 않을 수도 있다.

최 교수는 메타 뮤즈의 주소 전달뿐 아니라 오픈AI 이미지 유출과 오픈클로의 메일 삭제도 해킹이 아닌 정상 작동 중 발생한 사례라고 설명했다.

대응책은 ‘하지 말라’고 주문하는 데 그치지 않는다.

일정 비서는 캘린더만 보게 하는 식으로 목적별 권한을 나누고, 필요한 기간에만 허용해야 한다.

결제·삭제·외부 전송처럼 되돌리기 어려운 행동은 사람의 승인을 거치게 하고, 작업이 끝나면 권한도 만료시켜야 한다.

허용 목록 밖 통신을 막고 행동별 기록을 남기는 한편, 문제가 생겼을 때 되돌릴 수 있는지도 도입 전에 점검해야 한다.