
유명 배우나 방송인이 투자 기회를 권하는 것처럼 보여도 얼굴과 목소리만으로 진짜라고 판단해선 안 된다. AI로 조작한 광고가 실제 투자 피해로 이어진 사례가 있다. 영상의 그럴듯함보다 발언의 출처와 투자 제안의 근거를 따로 확인하는 것이 중요하다.
2023년 한 이용자는 유튜브 투자 모임 광고에서 조인성과 송혜교가 모임을 지지하는 듯한 영상을 봤다. 조인성을 좋아하고 송혜교가 출연한 드라마를 즐겨 보던 그는 이를 믿고 다섯 차례에 걸쳐 6300만원을 보냈다. 영상 분석 업체는 두 배우의 얼굴과 입 모양, 음성이 AI로 조작됐다고 분석했다.
2026년 1월에도 틱톡 라이트 광고를 보고 투자 대화방에 들어간 이용자가 추천받은 가짜 증권사 앱을 설치해 7억원이 넘는 피해를 봤다.
페이스북에는 방송인 강호동이 투자로 큰 수익을 얻었다고 주장하는 광고도 올라왔다. 실제 방송 장면을 붙이고 텍스트를 음성으로 바꾸는 기술을 써 강호동이 말하는 것처럼 꾸몄으며, ‘80%의 승률’을 내세워 대화방 참여를 유도했다. 유명인의 얼굴과 목소리, 익숙한 방송 장면은 신뢰를 끌어내는 데 쓰일 수 있다.
수익을 보장하거나 외부 대화방·별도 앱 설치를 요구하는 게시물은 특히 주의해야 한다.
나은영 서강대 교수는 이미 신뢰를 얻은 유명인이 말하면 내용을 더 쉽게 받아들일 수 있다고 설명했다. 지인이 공유했거나 ‘좋아요’가 많은 게시물도 내용의 사실성을 보장하지 않는다.
사진이나 영상이 실제 촬영된 것이더라도 설명에 다른 날짜나 장소가 붙거나, 자막이 발언을 왜곡했을 수 있어 게시물의 주장과 맥락도 살펴야 한다.
확인할 때는 유명인이나 소속사의 공식 계정에 같은 내용이 있는지 먼저 살핀다. 신뢰할 수 있는 언론 보도와 대조하고, 이미지 역검색으로 원본을 찾아보는 방법도 있다. 유석봉 전남대 교수는 진위가 확인되기 전에는 링크에 접속하거나 거래하지 말라고 조언했다.
AI 탐지 도구는 보조 수단으로 활용할 수 있지만, 합성 기술이 발전하면 영상 통화에서 고개를 돌려보게 하는 확인법도 완벽하지 않다.
가족 목소리로 급히 송금을 요구하는 전화가 오면 통화를 끊고, 상대가 알려준 번호가 아니라 평소 저장해 둔 번호로 다시 확인한다. 기관을 사칭한 연락도 문자 속 링크나 번호를 이용하지 말고 공식 홈페이지에서 대표번호를 찾아 문의하는 편이 안전하다. 가족끼리 미리 정한 암호를 확인하는 방법도 제안됐다.
의심스러운 문자는 카카오톡에서 한국인터넷진흥원(KISA)의 ‘보호나라’ 채널을 직접 찾아 내용을 입력하면 ‘정상’, ‘주의’, ‘악성’으로 분석 결과를 볼 수 있다.
한국언론진흥재단의 ‘팩트체크 교실’은 2026년 11월 기준 전국 중학교 151곳이 참여했다. 서울 대명중학교 1학년 동아리 학생 24명은 실제 얼굴 사진과 AI 생성 이미지를 비교했지만, 문제를 풀수록 판단을 망설였다.
수업에서는 합성물 구별뿐 아니라 저장·공유가 피해를 키울 수 있다는 점과 SNS 공개 설정, 게시물에 드러난 위치·개인정보도 살폈다. 나은영 교수는 게시물을 공유하기 전 ‘사실일까요?’라고 잠시 멈추고 여러 출처를 확인하는 태도를 제안했다. 사칭 광고나 무단 합성물은 퍼 나르지 말고 플랫폼에 신고하는 것이 좋다.