
유명인이 투자 상품이나 모임을 추천하는 영상이 실제 발언처럼 보여도 얼굴과 목소리만으로 믿어서는 안 된다. AI 합성 광고가 투자 사기로 이어진 사례가 확인되면서 전문가들은 출처와 주장의 근거를 살피고, 의심스러운 링크나 거래를 피하라고 조언한다.
2023년 유튜브에서 투자 모임을 알게 된 A씨는 배우 조인성과 송혜교가 모임을 지지한다고 믿고 다섯 차례에 걸쳐 6300만원을 보냈다. A씨는 평소 조인성을 좋아하고 송혜교가 나온 드라마도 즐겨 봤다. 영상 분석 업체는 광고 속 두 배우의 얼굴과 입 모양, 음성이 AI로 조작됐다고 밝혔다.
2026년 1월에는 틱톡 라이트 광고를 본 이용자가 투자 대화방에 들어가 가짜 증권사 앱을 설치한 뒤 7억원이 넘는 돈을 잃었다. 페이스북에는 방송인 강호동을 사칭한 투자 광고도 올라왔다.
광고에는 실제 방송 장면이 첨부됐으며, 별도로 텍스트음성변환(TTS) 기술을 이용해 강호동이 투자로 큰 수익을 올렸다고 말하는 것처럼 만들었다. ‘80%의 승률’을 내세워 대화방 참여를 유도했다.
익숙한 유명인의 얼굴과 목소리는 광고의 신뢰도를 높이는 데 악용될 수 있다. 나은영 서강대 교수는 이미 신뢰받는 인물이 말한다는 이유로 그 내용까지 믿기 쉽다고 설명했다. 지인이나 ‘좋아요’가 많은 게시물도 검증된 정보처럼 느껴질 수 있다.
실제 촬영된 사진이나 방송 장면에 다른 날짜·장소를 붙이거나 자막을 더하면 맥락이 달라지기도 한다. 재미있거나 충격적인 내용, 분노나 불안을 일으키는 게시물은 사실을 확인하기 전에 공유할 수 있으므로 전달 전에도 내용을 살펴야 한다.
유명인의 투자 발언을 봤다면 당사자나 소속사의 공식 계정, 신뢰할 수 있는 언론에 같은 내용이 있는지 확인한다. 유석봉 전남대 교수는 이미지 역검색으로 원본을 찾아보고, 진위가 확인되기 전에는 링크에 접속하거나 거래하지 말라고 조언했다. 수익을 보장하거나 외부 대화방 참여, 별도 앱 설치를 유도하는 광고도 주의 신호다.
AI 탐지 도구는 보조 수단이다. 영상 통화에서 상대에게 고개를 돌려 보라고 요청할 수도 있지만, 합성 기술이 움직임까지 흉내 낼 수 있어 확정적인 판별법은 아니다.
가족이나 기관을 사칭해 급히 송금하라고 하면 통화를 끊고 저장해둔 번호로 다시 확인한다. 기관에 문의할 때도 상대가 알려준 번호나 링크 대신 공식 홈페이지에서 대표번호를 찾아야 한다. 가족끼리 미리 정한 암호를 확인하는 방법도 있다.
의심스러운 문자는 링크를 누르지 말고 카카오톡에서 KISA ‘보호나라’ 채널을 직접 찾아 내용을 입력할 수 있다. 분석 결과는 ‘정상’, ‘주의’, ‘악성’으로 표시된다.
정보를 가려내는 연습은 학교에서도 이뤄진다. 한국언론진흥재단에 따르면 2026년 11월 기준 전국 중학교 151곳이 ‘팩트체크 교실’에 참여했다. 서울 대명중학교 수업에서는 1학년 동아리 학생 24명이 실제 얼굴 사진과 AI 생성 이미지를 비교했다. 머리카락과 눈동자, 배경을 살펴도 판단을 망설이는 학생들이 있었다.
수업은 합성물 구별뿐 아니라 무단 저장·공유의 피해, SNS 공개 설정과 방문 장소·타인의 개인정보 노출 점검도 다뤘다. 친구가 피해를 입었을 때 합성물을 전달하지 않고 함께 도움을 요청하는 방법도 살펴봤다.
사칭 광고나 무단 합성물이 의심되면 다른 사람에게 전달하지 말고 플랫폼에 신고해야 한다. 타인의 얼굴이나 목소리로 콘텐츠를 만들 때는 동의를 구해야 한다. 사진이나 영상이 실제처럼 보여도 원본과 출처, 게시물의 맥락을 확인하고, 사실 여부가 불분명하다면 공유하기 전에 잠시 멈추는 것이 피해 확산을 줄이는 방법이다.