앤트로픽·구글·오픈AI, 에이전트 안전장치 강화: 회의 참여·모델 방어·결제 승인 설계는 어떻게 다른가

발랄한너구리 2026/11/18
추천 6 비추 1 조회수 197

앤트로픽과 구글, 오픈AI가 11월 12~13일(현지시간) AI 에이전트 기능과 안전 관련 설계를 잇달아 공개했다.

앤트로픽은 회의 중 작업을 수행하는 기능을 베타로 내놨고, 구글은 에이전트 작업을 포함한 새 모델을 공개했으며, 오픈AI는 구매 전 이용자 승인을 거치는 결제 서비스를 선보였다.

숏텐츠 제목의 ‘안전장치 강화’는 서로 다른 세 가지 설계를 묶은 표현이다.

앤트로픽은 11월 12일 팀·엔터프라이즈 플랜에서 클로드 미팅스 베타를 시작한다고 안내했다.

클로드를 회의에 추가하거나 자동 참여를 설정하면 눈에 보이는 참가자로 입장해 대화를 따라가고, 참석자의 질문에 답한다.

회의 중 문서와 화이트보드를 함께 만들 수 있고, 회의록과 실행 항목도 작성한다.

고객 행사 계획을 논의하는 사례에서는 예산 질문을 받은 뒤 허락을 구해 지난해 비용을 찾아 채팅에 올리고 올해 계획과 비교하도록 설명했다.

통제 방식도 제시됐다.

클로드는 회의에 입장할 때 채팅으로 공지하고, 조직 밖 인원이 초대된 회의에는 기본적으로 참여하지 않는다.

회의 도중 외부인이 들어오면 스스로 나간다.

녹취록·요약·화면 설명은 저장하지만 오디오는 저장하지 않으며, 연결된 업무 도구는 각 사용자의 권한 안에서만 쓴다.

음성 요청에는 화자를 확인하기 위해 매번 허락을 구한다.

앤트로픽은 이용자가 클로드를 추가하거나 자동 참여를 켜기 전에 참석자들의 녹취 동의를 확인하도록 당부했다.

구글은 같은 날 제미나이 4 하이드로젠을 공개했다.

이 모델은 일상적인 코딩과 에이전트 작업을 빠르게 수행하도록 설계됐으며, 검색·제미나이 앱 등으로 제공 범위를 넓혔다.

구글은 하이드로젠이 에이전트 작업에서 권한을 넘어서는 행동을 최대 81%, 요청을 덜 수행하는 경우를 최대 79% 줄였다고 밝혔다.

도구 사용과 코딩 평가에서는 정렬 이탈과 작업 꼼수가 12배 줄었고, 내부 에이전트 정직성 평가에서 94%를 기록했다고 설명했다.

이 수치들은 구글이 제시한 평가 결과이며, 원문은 성능·안전 수치 대부분이 구글 자체 평가라고 덧붙였다.

오픈AI는 11월 13일 챗GPT 월렛을 공개했다.

사용자가 카드를 등록한 뒤 에이전트가 구매를 진행할 때 품목과 총액, 선택된 카드를 확인하고 지문이나 얼굴 인식으로 승인하는 방식이다.

승인 후 결제 토큰이 발급돼 실제 카드 정보가 에이전트나 가맹점에 전달되지 않는다고 오픈AI는 밝혔다.

거래 심사는 은행과 결제망이 맡고, 가격·배송·반품은 가맹점이 계속 통제한다.

세 기업의 접근은 기능에 따라 다르다.

클로드 미팅스는 회의 참여와 업무 도구 사용에 권한·동의 절차를 붙였고, 구글은 모델이 에이전트 작업에서 보이는 행동을 평가 지표로 제시했다.

챗GPT 월렛은 구매마다 이용자가 확인하고 승인하도록 설계했다.

오픈AI는 미국의 18세 이상 챗GPT 프로 구독자 중 미국 발급 지원 카드를 가진 이용자에게 우선 제공한다고 밝혔다.

세 서비스 모두 에이전트의 행동 범위를 관리하지만, 회의 통제·모델 평가·결제 승인으로 안전장치를 적용하는 지점은 서로 다르다.

참고 자료

AI 요약
앤트로픽은 회의 참여와 도구 사용에 동의·권한 절차를 둔 클로드 미팅스 베타를 시작했고, 구글은 제미나이 4 하이드로젠의 에이전트 안전 평가 수치를 공개했다. 오픈AI의 챗GPT 월렛은 구매 전 이용자의 건별 승인을 요구하며, 미국의 제한된 이용자에게 우선 제공된다.
댓글 총 개
  • 6
  • 1