허위 정보와의 전쟁: AI를 이용한 AI 탐지

• 생성형 AI 도구가 현실적이지만 가짜인 콘텐츠를 생성하는 데 악용되면서 정보 환경의 불확실성이 커짐.
• EU가 지원하는 AI4Media와 AI4Trust 프로젝트는 언론인과 팩트체커를 돕기 위한 탐지 및 분석 도구를 개발 중임.
• 허위 정보 캠페인에 대응하기 위해 기술적 도구, 법적 규제(EU AI법 등), 대중의 인식 제고를 아우르는 다각적인 접근이 필요함.

AI 기반 탐지 이니셔티브

• AI4Media: 뉴스룸에서 이미지, 영상, 텍스트의 진위 여부를 확인할 수 있는 도구를 구축하여 Deutsche Welle 및 VRT 등에서 시험함.
• AI4Trust: 소셜 미디어 내 허위 정보 전파 방식을 모니터링하는 하이브리드(인간-기계) 시스템을 개발하여 대규모 분석을 수행함.
• 상호 보완성: AI4Media는 조작된 미디어를 탐지하는 '현미경' 역할을 하고, AI4Trust는 허위 정보가 확산되는 경로를 파악하는 '광각 렌즈' 역할을 수행함.

기술적 군비 경쟁

• 생성형 AI 기술이 급격히 진화함에 따라, 연구자들은 새로운 조작 콘텐츠를 탐지하기 위해 모델을 지속적으로 업데이트해야 하는 기술적 추격전 상태에 있음.
• 온라인상의 방대한 콘텐츠 양과 정교한 합성 미디어로 인해 AI를 사용한 탐지는 필수적임.

규제 프레임워크

• 디지털 서비스법(DSA): 대형 온라인 플랫폼이 체계적인 위험을 완화하고 투명성을 강화하도록 규정함.
• 인공지능법(AI Act): 생성형 AI 콘텐츠에 대한 라벨링 의무화 및 투명성 요건을 도입함.
• 유럽 미디어 자유법: 주요 플랫폼에서 전문 언론 콘텐츠가 부당하게 삭제되지 않도록 보호 조치를 마련함.