네이버 AI 안전성 보고서, 위험 분류와 서비스 점검은 어떻게 이뤄졌나

네이버는 2026년 9월 16일 첫 ‘AI Safety Progress Report’를 발간하고 자체 AI 안전성 체계의 서비스 적용 사례를 공개했다.

네이버는 보고서 발간 배경으로 AI 에이전트와 여러 모델·도구의 결합으로 사회적 영향이 복합해지고, 2026년 1월 인공지능기본법이 시행되면서 기업의 자체 위험 관리가 중요해진 점을 들었다.

보고서의 중심인 ‘ASF 2.0’은 AI 모델의 성능과 위험뿐 아니라 이용자와 서비스 보호까지 다루는 네이버의 안전성 관리 체계다.

서비스 설계·개발부터 출시와 운영까지 전 과정에서 안전성을 관리하는 것이 목표다.

실행 체계인 ‘CHEC 2.0’은 ASF 2.0을 바탕으로 안전 관리가 실제 서비스에 적용되는 과정을 뒷받침한다.

위험을 찾고 분류하는 도구는 ‘N-ARTI’다.

법률·사회·산업 사례를 바탕으로 AI 서비스에서 발생할 수 있는 위험을 110개 세부 항목으로 분류한다.

서비스별 특성을 반영하면서도 회사 전체에 일관된 안전 기준을 적용하도록 설계됐다.

이 분류를 바탕으로 생성형 AI 답변이 사전에 설정된 안전 기준을 벗어나지 않도록 가드레일을 구축할 수 있다.

답변 평가 도구인 ‘N-ASET’은 유해성과 사용성을 함께 살핀다.

해로운 내용이 있는지만 확인하는 데 그치지 않고, 이용자 질문에 적절히 답했는지와 필요한 면책 문구·전문가 안내를 갖췄는지도 평가한다.

네이버는 이를 통해 안전성과 서비스 유용성을 함께 평가하도록 했다고 설명했다.

보고서에는 AI 쇼핑 에이전트와 날씨 서비스에서 AI 활용 사실을 이용자에게 표시·고지한 사례가 담겼다.

별도로 2026년 6월 출시된 AI탭은 CHEC 2.0을 기반으로 설계부터 출시까지 안전성을 점검한 사례로 소개됐다.

네이버는 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등과 협력을 확대해 AI 위험을 파악하고 예방·완화하는 연구와 실천을 이어갈 계획이라고 밝혔다.