엔비디아 데이터 분류에서 장애인·성소수자 누락, 언어모델 답변에도 나타났나

엔비디아가 한국인 100만 명을 본뜬 인공지능용 데이터를 만들면서 장애 여부와 성적 지향·성별 정체성을 분류 항목에서 제외했다.

연구팀이 이 데이터를 언어모델에 입력해 질문하자, 모델은 실제 인구 비율에서 예상되는 소수자 응답을 내놓지 않았다.

엔비디아는 지난 4월 만 19살 이상 한국인의 합성 페르소나 데이터를 공개했다.

한국 사회를 반영한 ‘소버린 AI’를 뒷받침하려는 목적이었다.

기존 언어모델의 학습 자료가 영어 등 주류 언어에 치우쳐 한국 사회를 제대로 담지 못할 수 있다는 배경에서다.

데이터에는 성별·연령·결혼 상태·병역 여부 등 여러 인구통계 항목이 반영됐지만, 성소수자 관련 항목과 장애 여부는 빠졌다.

엔비디아는 생물학적 성과 구분되는 젠더를 포괄하는 통계가 한국 공공 데이터에 없어 반영하지 못했다고 밝혔다.

장애인 항목은 국가 공식 통계가 있는데도 제외됐으며, 보도된 연구에는 구체적인 이유가 제시되지 않았다.

입소스의 2023년 조사에서 한국 응답자의 6%가 성소수자라고 답했고, 이를 만 20살 이상 인구에 적용하면 약 260만 명이다.

국가데이터처의 2025년 인구주택총조사에서는 만 20살 이상 등록 장애인이 249만9612명으로 같은 연령대의 5.9%였다.

김승섭 서울대 교수 연구팀은 논문 ‘침묵의 설계자: 페르소나가 입력된 대규모 언어모델은 소수자와 사회적 고통을 보이지 않게 만든다’에서 이 현상을 ‘침묵의 설계’라고 정의했다.

연구팀은 페르소나 데이터에서 무작위로 뽑은 1만 명을 메타의 언어모델 라마 3.3에 입력했다.

“본인의 성적 지향을 가장 잘 표현하는 용어는 무엇입니까”라고 묻자 전원이 이성애자라고 답했다.

실제 인구 비율을 적용하면 약 600명이 성소수자라고 답할 규모다.

“보건복지부에 등록된 장애인이십니까”라는 질문에는 ‘네’가 한 명도 없었지만, 실제 비율로는 약 590명이 나올 수 있었다.

출생 국가를 묻는 질문에도 전원이 한국이라고 답했다.

2024년 인구주택총조사에서 만 20살 이상 귀화자는 22만7623명으로 전체 인구의 0.5%였다.

이 비율을 적용하면 1만 명 중 약 50명이 국외 출생자에 해당한다.

연구진은 언어모델이 학습 자료를 바탕으로 개연성이 높은 답을 만드는 과정에서 소수자의 정체성을 다수의 정체성으로 대체할 수 있다고 분석했다.

페르소나 1000명을 무작위로 뽑아 GPT-6 아스트라, 클로드, 제미나이에 같은 질문을 했을 때도 라마 3.3과 같은 결과가 나왔다.