AI 포르노와 규제 사각지대에 놓인 퀴어 신체 표현

• AI 생성 포르노의 급증은 퀴어 공동체에 상당한 위험을 초래하고 있으며, AI 모델이 유해한 고정관념과 잠재적으로 불법적인 이미지를 포함하는 데이터셋으로 학습되는 경우가 많음.
• AI 생성 콘텐츠는 대개 특정 개인의 딥페이크가 아닌 '비현실적 성인물'로 분류되는 경우가 많아, 현재의 법적 규제로는 실질적인 대응이 어려움.
• 전문가들은 AI 도구가 퀴어의 개별성을 지우고 신체 왜곡을 심화하며, 아동 성적 학대물(CSAM)을 포함한 불법 콘텐츠 생성의 경로가 될 수 있다고 경고함.

법적 및 윤리적 사각지대

• AI 포르노는 특정 개인의 초상이 아닌 방대한 데이터셋에서 생성되므로 일반적인 딥페이크와는 성격이 달라, 관할 구역마다 규제가 불분명한 '법적 회색 지대'에 놓여 있음.
• 미국 등에서 딥페이크 방지법이 도입되고 있으나, AI 생성 음란물 전반을 다루는 일관된 정책은 부재함.
• 기술 기업들은 학습 데이터의 출처를 철저히 비공개로 관리하므로, 소비자는 자신이 소비하는 콘텐츠가 학대나 비동의 이미지에 기반했는지 확인할 수 없음.

퀴어 공동체에 미치는 영향

• 트랜스젠더 여성: AI 생성물은 트랜스젠더를 성적 대상화하고 혐오적인 비유를 강화하며, 해부학적으로 불가능한 신체 특징을 가진 트랜스 여성을 묘사함.
• 게이 남성: '펨보이'나 '트윙크' 카테고리의 인기로 인해 섭식 장애나 신체 이형 장애를 유발할 수 있는 지나치게 마른 체형의 이미지가 양산됨.
• 레즈비언: AI는 여성들을 동일한 외모로 생성하거나, 여성 간의 성관계에 남성 중심적 페티시나 불필요한 남성적 요소를 개입시켜 여성의 개별성을 지우는 결과를 초래함.

안전 및 향후 대응 방안

• AI 기업들이 도입한 안전 필터는 악의적인 이용자들에 의해 우회되고 있으며, Grok과 같은 플랫폼에서의 사례처럼 명백히 유해한 이미지 생성을 완전히 차단하는 것은 기술적으로 여전히 미해결 상태임.
• 전문가들은 기업들이 레드팀(red teaming, 모델의 취약점과 유해성을 공격적으로 테스트하는 방식)을 도입하고, 학습 데이터의 투명성을 공개하는 '모델 카드'를 의무화해야 한다고 지적함.
• AI 포르노의 효과적인 규제를 위해서는 정책 입안자와 기술 기업뿐만 아니라 성 노동자 및 성인 배우 등 직접적인 당사자들의 의견 수렴이 필수적임.