- AI가 전 세계 선거 캠페인에 도입되어 유권자 타겟팅과 메시지 전달을 자동화하고 가속화하며 개인화하고 있음.
- 영향력 행사는 소셜 미디어, 검색 엔진 결과, 추천 시스템, 왓츠앱과 같은 메시지 앱을 통해 이루어짐.
- 500개 이상의 기술 기반 정치 설득 기업이 활동 중이며, AI를 활용하여 콘텐츠 생성과 타겟팅을 자동화하고 있음.
- AI로 생성된 이미지, 음성 복제, 아바타 등은 실제 정치적 의사소통과 조작된 콘텐츠 사이의 경계를 허물고 있음.
AI 기반 설득 기법
- 마이크로 타겟팅: 개인의 검색 데이터와 행동 패턴을 바탕으로 특정 개인에게 맞춤형 메시지를 자동으로 전달함.
- 캠페인 자동화: AI를 사용하여 후보자 연설문, 유권자 메시지, 전체 캠페인 전략을 작성하며, 이 과정에서 인간의 감독이 부족할 위험이 있음.
- 디지털 아바타: 유권자의 모국어나 방언으로 개인화된 메시지를 전달하기 위해 후보자의 AI 아바타를 생성함.
최근 선거 사례
- 미국: 마틴 루터 킹 목사나 조 바이든 대통령의 음성을 복제한 가짜 콘텐츠와 테일러 스위프트의 허위 이미지가 선거에 활용됨.
- 파키스탄: 수감 중인 임란 칸 정치인의 과거 영상과 복제된 음성을 사용하여 마치 그가 직접 연설하는 것처럼 꾸민 영상이 배포됨.
- 인도네시아: 프라보워 수비안토 후보는 틱톡 등에서 '귀여운' 디지털 아바타를 활용해 이미지를 쇄신하고 대통령에 당선되었으며, 이 과정에서 과거의 인권 침해 의혹이 가려짐.
확인 및 대응 방안
- 공포, 분노, 불안 등 강한 감정을 유발하는 콘텐츠는 바이럴을 노린 AI 생성 허위 정보일 가능성이 높음.
- 자극적인 미디어 콘텐츠를 접할 경우 즉각적인 반응을 멈추고 정보의 진위를 확인해야 함.
- 국제 팩트체크 네트워크(International Fact-Checking Network)와 같은 공신력 있는 기구를 통해 출처를 검증할 수 있음.