엔비디아 데이터 분류서 소수자 누락, AI 페르소나에선 왜 모두 이성애자였나

엔비디아가 한국인 100만 명의 합성 페르소나 데이터를 만들었지만, 그 분류에는 장애 여부와 성적 지향·성별 정체성이 빠졌다.

이 데이터를 언어모델에 입력한 연구에서는 소수자의 특성이 답변에서 사라지는 현상이 확인됐다.

연구진은 이를 ‘침묵의 설계’라고 부른다.

엔비디아는 올해 4월 만 19살 이상 한국인의 페르소나 데이터를 공개했다.

기존 언어모델이 영어 등 주류 언어 자료에 치우쳐 한국 사회를 제대로 반영하지 못할 수 있다는 문제의식에서, 인공지능 주권을 뒷받침하려는 취지였다.

성별·연령·결혼 상태·병역 여부부터 가족과 주거 형태, 교육·직업, 거주 지역과 국가까지 인구 특성을 반영했지만 장애 여부와 성적 지향·성별 정체성은 포함하지 않았다.

엔비디아는 젠더 관련 포괄 통계가 공공 데이터에 없다고 설명했다. 하지만 장애 통계는 있다.

2025년 인구주택총조사에서 만 20살 이상 등록 장애인은 249만9612명, 같은 연령대 인구의 5.9%였는데도 분류에서 빠졌다.

입소스의 2023년 조사에서는 한국 응답자의 6%가 성소수자라고 답했으며, 만 20살 이상 인구로 환산하면 약 260만 명이다.

서울대 김승섭 교수 연구팀은 페르소나 1만 명을 메타의 라마 3.3에 입력해 성적 지향을 물었다.

모두 ‘이성애자’라고 답했다. 실제 비율을 반영하면 약 600명은 성소수자라고 답할 수 있어야 했다.

등록 장애 여부를 묻자 ‘네’는 한 명도 없었다. 실제라면 약 590명이어야 했다.

출생 국가 질문에도 전원이 한국이라고 답했지만, 2024년 인구주택총조사상 만 20살 이상 귀화자는 22만7623명으로, 1만 명 가운데 약 50명은 국외 출생자에 해당한다.

연구팀이 별도로 1천 명을 뽑아 오픈AI의 GPT-6 아스트라, 앤트로픽의 클로드, 구글의 제미나이에 같은 질문을 했을 때도 결과는 같았다.

연구진은 언어모델이 가장 개연성 높은 답을 고르는 과정에서 다수 중심의 학습 자료를 따르며 소수자의 정체성을 지배적 다수의 것으로 대체할 수 있다고 분석했다.

김승섭 교수는 인공지능이 ‘누구의 문제’를 해결하는지 따져야 하며, 소수자의 삶을 침묵시키는 알고리즘은 불평등을 심화할 수 있다고 경고했다.