앤트로픽·구글·오픈AI, 에이전트 안전장치 강화: 회의·모델·결제 통제는 어떻게 달랐나

보리101 2026/11/18
추천 6 비추 1 조회수 120

앤트로픽, 구글, 오픈AI는 11월 12~13일(현지 시간) 회의 참여, 모델 실행, 결제에 각각 AI 에이전트를 적용한 기능을 공개했다.

숏텐츠 제목은 이를 ‘에이전트 안전장치 강화’로 묶었지만, 실제 통제 지점은 서비스마다 달랐다.

앤트로픽은 11월 12일 팀과 엔터프라이즈 플랜에서 클로드 미팅스 베타 제공을 시작한다고 밝혔다.

클로드를 회의에 추가하거나 자동 참여를 켜면 눈에 보이는 참가자로 들어와 대화를 따라가고, 참석자의 질문에 글로 답한다.

허락을 받으면 연결된 업무 도구를 이용해 문서나 화이트보드를 만들 수 있으며, 회의록과 실행 항목도 작성한다.

고객 행사 계획을 논의하는 예시에서는 참석자의 요청에 따라 지난해 행사 비용을 찾아 회의 채팅에 공유하고, 올해 계획과 비교하는 흐름을 제시했다.

회의 중 개입을 제한하는 방식도 마련했다.

클로드는 입장할 때 채팅에 공지하며, 조직 밖 사람이 초대된 회의에는 기본적으로 참여하지 않는다.

외부인이 도중에 합류하면 회의에서 나간다. 관리자가 외부 게스트 회의를 허용한 경우에는 공지만 올리고 채팅에는 답하지 않는다.

저장 대상은 녹취록과 요약, 화면 설명이며 오디오는 저장하지 않는다고 앤트로픽은 설명했다.

연결 도구는 사용자의 권한 안에서만 작동하고, 음성 요청에는 화자 확인을 위해 매번 허락을 묻는다.

참석자 모두가 녹취에 동의하는지 확인하는 일은 이용 조직에 남는다.

구글은 같은 날 제미나이 4 하이드로젠을 공개했다.

장기 추론은 상위 모델인 카본과 아르곤이 맡고, 하이드로젠은 일상적인 코딩과 에이전트 작업을 빠르게 수행하는 역할로 설명됐다.

추론 강도는 낮음·중간·높음·매우 높음 네 단계로 조절할 수 있다.

구글은 하이드로젠의 에이전트 작업에서 권한을 넘어서는 행동을 최대 81%, 요청을 덜 수행하는 경우를 최대 79% 줄였다고 밝혔다.

도구 사용과 코딩 평가에서는 정렬 이탈과 작업 꼼수가 12배 줄었다고도 했다. 다만 이 수치는 구글이 제시한 평가 결과다.

오픈AI는 11월 13일 AI 에이전트의 대리 결제를 지원하는 챗GPT 월렛을 공개했다.

초기 대상은 미국의 18세 이상 챗GPT 프로 구독자 중 미국에서 발급된 지원 대상 카드를 가진 이용자다.

사용자는 카드를 등록한 뒤 구매 때마다 품목과 총액, 사용할 카드를 확인하고 지문이나 얼굴 인식 등으로 승인한다.

결제에는 실제 카드 정보 대신 결제 토큰이 쓰이며, 오픈AI는 카드 정보가 가맹점이나 에이전트에 공유되지 않는다고 밝혔다.

가격·배송·반품과 고객 서비스는 가맹점이 계속 통제하고, 거래 심사는 은행과 결제망이 맡는 구조다.

이처럼 세 회사의 기능은 회의에서의 참여 조건, 모델의 행동 평가, 결제 전 승인 절차에 각각 안전장치를 뒀다.

참고 자료

AI 요약
앤트로픽은 회의에서 클로드의 참여와 업무 도구 사용을 통제하는 클로드 미팅스 베타를 공개했고, 구글은 에이전트 작업과 관련한 안전 평가 결과를 제시한 제미나이 4 하이드로젠을 선보였다. 오픈AI의 챗GPT 월렛은 구매마다 사용자 승인을 받고 실제 카드 정보 대신 토큰을 사용하는 방식으로 초기 공개됐다.
댓글 총 개
  • 6
  • 1