Täuschende Transparenz: Was die neuen KI-Kennzeichnungspflichten bewirken

• 유럽연합(EU)의 AI 법(AI Act) 시행에 따라 AI 생성 콘텐츠에 대한 의무적 식별 표시가 도입됨
• 텍스트, 이미지, 영상, 오디오 등 생성형 AI 결과물에 AI 사용 여부를 명시해야 함
• 챗봇과의 대화나 감정 인식 및 생체 데이터 기반 분석 시에도 투명성 고지 의무 부과
• 단순한 편집 기능 사용이나 현실성 없는 창작물은 표시 의무에서 제외됨

규정의 적용 대상 및 범위

• 개인 사용자가 사적으로 AI 도구를 활용하는 경우는 제외됨
• AI 모델 공급자(Provider)와 이를 실무에 도입한 사용자(Deployer)가 주된 규제 대상
• 유럽연합은 상세 가이드라인을 통해 인위적인 조작물(딥페이크 등)과 단순 지원 기능을 구분함

효과와 한계

• AI 라벨은 사용자의 정보 평가를 돕는 도구일 뿐, 정보의 진위나 공정성을 보장하지는 않음
• 전문가들은 표준화된 아이콘이 아닌 기업별 자율 표기 허용이 오히려 혼란을 초래할 수 있다고 경고함
• AI 생성물이라는 표시가 오히려 표시되지 않은 거짓 정보를 더 신뢰하게 만드는 부작용이 발견됨

정책적 평가

• 연구자들은 단순 투명성 확보보다 책임 있는 기술 활용과 미디어 리터러시 교육이 더욱 중요하다고 강조함
• 이번 규제는 기술의 사회적 통합을 위한 일종의 실험적 성격이 강하며, 향후 실제 적용 결과를 지켜봐야 함