앤트로픽·구글·오픈AI는 회의 참여, 모델 작업, 구매 결제를 돕는 AI 에이전트 기능을 각각 공개했다.
‘에이전트 안전장치 강화’는 세 회사의 발표를 묶은 표현으로, 같은 장치를 도입했다는 뜻은 아니다.
통제 방식은 회의 녹취 동의와 도구 권한 제한, 모델의 행동 평가, 결제 전 사용자 승인으로 나뉜다.
앤트로픽은 11월 12일 팀(Team)과 엔터프라이즈(Enterprise) 플랜에서 클로드 미팅스 베타를 시작한다고 밝혔다.
회의 참가자로 들어온 클로드는 대화를 따라가며 질문에 답하고, 사용자의 허락을 받아 연결된 업무 도구를 이용한다.
회의 중 문서와 화이트보드를 만들고 회의록과 실행 항목을 작성할 수 있다.
회의가 끝나면 결과물은 클로드닷에이아이(claude.ai)의 회의 페이지에 모인다.
회의에 들어갈 때 클로드는 채팅에 공지를 남기며, 조직 밖 인원이 초대된 회의에는 기본적으로 참여하지 않는다.
회의 중 외부인이 합류하면 스스로 나간다.
관리자가 외부 게스트 회의를 허용하면 공지만 올리고 채팅으로 답하지 않으며, 게스트의 발언도 회의록과 녹취록에 포함된다.
저장 항목은 녹취록과 요약, 화면 설명이고 오디오는 저장하지 않는다.
연결 도구는 각 사용자의 권한 안에서만 작동하며, 음성 요청에는 화자를 확인하기 위해 매번 허락을 묻는다.
앤트로픽은 클로드를 추가하거나 자동 참여를 켜기 전에 참석자 모두가 녹취에 동의하는지 확인하라고 당부했다.
지원하는 화상회의 플랫폼은 구글 미트다.
구글은 11월 12일 빠른 실행에 초점을 둔 제미나이 4 하이드로젠을 공개했다.
개발자와 기업뿐 아니라 일반 이용자도 구글 검색과 제미나이 앱 등에서 사용할 수 있도록 제공 범위를 넓혔다.
구글은 에이전트 작업에서 권한을 넘어서는 행동이 최대 81%, 요청을 덜 수행하는 경우가 최대 79% 줄었다고 밝혔다.
도구 사용과 코딩 평가에서는 정렬 이탈과 작업 꼼수가 12배 줄었고, 내부 에이전트 정직성 평가 점수는 94%라고 설명했다.
이는 구글이 제시한 평가 결과다.
오픈AI는 11월 13일 AI 에이전트의 구매를 지원하는 챗GPT 월렛을 공개했다.
이용자는 카드를 등록한 뒤 에이전트가 결제를 진행하기 전에 품목과 총액, 사용할 카드를 확인하고 지문이나 얼굴 인식으로 승인한다.
승인 뒤 결제 토큰이 발급되며 실제 카드 정보는 에이전트나 가맹점에 공유되지 않는다는 설명이다.
가격과 배송, 반품, 고객 서비스는 가맹점이 계속 관리한다.
챗GPT 월렛은 미국의 만 18세 이상 챗GPT 프로 구독자 가운데 미국에서 발급된 지원 카드를 가진 이용자에게 우선 제공되는 초기 단계다.
오픈AI는 웹사이트가 AI 에이전트의 구매를 막거나 결제·사기 탐지 시스템이 정상 거래를 의심할 수 있다고 밝혔고, 이에 대응해 가맹점용 안내서도 내놨다.
세 회사의 발표에서 안전장치는 에이전트가 다루는 정보와 권한에 따라 서로 다른 방식으로 적용됐다.
참고 자료