기술이 여성을 저버릴 때: 온라인 괴롭힘과 나이지리아의 디지털 취약점

• xAI의 Grok과 같은 생성형 AI 도구는 비동의 성적 이미지 생성 및 무기화를 가속화하여 기존의 온라인 성별 기반 폭력(OGBV)을 심화시키고 있음.
• 나이지리아의 경우 전체 온라인 괴롭힘 사례 중 58%가 여성을 표적으로 삼고 있으며, 플랫폼인 X의 신고 대응 체계에 만족하는 비율은 24%에 불과함.
• 연구 보고서에 따르면 2030년까지 매년 최대 3천만 명의 나이지리아 여성과 소녀들이 AI를 활용한 온라인 폭력의 직접적인 표적이 될 것으로 전망됨.

구조적 취약점과 AI의 영향

• 나이지리아의 AI 규제 환경은 여러 기관에 분산되어 있어 책임 소재가 불분명하고 플랫폼에 대한 실질적인 제재가 어려움.
• X의 수익화 정책은 높은 조회수와 참여를 유도하는 콘텐츠에 보상을 제공하므로, 가해자들이 수익을 목적으로 AI 생성 괴롭힘 콘텐츠를 확산시킬 위험이 있음.
• 인간에 의한 기존 괴롭힘 문제에 생성형 AI가 더해지면서 폭력의 체계화와 대규모 확산이 가능해짐.

안전을 위한 설계의 필요성

• 사용자 경험(UX) 설계의 선택은 플랫폼의 투명성과 사용자 보호 수준을 결정하며, 이는 온라인 안전에 중대한 영향을 미침.
• 슈퍼블룸(Superbloom)과 테크소사이어탈(TechSocietal)이 제안한 '성별 프라이버시 평가 프레임워크(Gendered Privacy Evaluation Framework)'는 AI 시스템이 성별 기반 위해를 강화하는지 평가하는 도구로 활용될 수 있음.
• 플랫폼 기업은 단순한 안전 기능 도입을 넘어 데이터 최소화, 암호화, 여성 인권 단체와의 실질적인 협업 등 시스템 전반의 개선에 나서야 함.