격차 메우기: AI 거버넌스 내 기술 기반 젠더 폭력 해결 방안

• 현재의 AI 거버넌스 프레임워크와 젠더 폭력 관련 규범은 서로 분리되어 운영되고 있으며, 이로 인해 취약 계층이 디지털 위험에 무방비로 노출됨.
• AI는 괴롭힘, 딥페이크, 성별 편향적 허위 정보의 규모와 속도, 지속성을 극적으로 증폭시킴.
• 온라인상의 괴롭힘으로 인해 여성과 소수자가 공적 영역에서 퇴출되는 구조적 문제가 발생하며, 이는 기존의 사회적 불평등을 더욱 고착화함.
• 현행 AI 정책은 젠더 평등을 실질적인 의무 사항이 아닌 부차적인 원칙으로만 다루는 경우가 많음.

주요 연구 내용

• APC(진보적 통신 협회)의 보고서 '격차 메우기: 글로벌 AI 거버넌스 내 기술 기반 젠더 폭력(TFGBV) 해결'은 AI 거버넌스의 젠더 위험, AI에 의한 폭력 심화, 거버넌스 공백 문제를 다룸.
• AI는 새로운 형태의 폭력을 만드는 것이 아니라, 과거에는 조직적인 인적 노력이 필요했던 괴롭힘 캠페인을 저비용으로 대량 자동화할 수 있게 함.
• 공공 정책 결정 과정에서 여성과 성소수자의 목소리가 배제되면서, 그들의 실생활에 영향을 미치는 AI 기술의 위험성이 거버넌스에서 충분히 다뤄지지 않음.

정책적 한계

• 기존의 젠더 폭력 방지 수단들은 현재의 AI 기술을 반영하지 못하며, 딥페이크나 알고리즘 편향과 같은 최신 위협에 대응하기 어려움.
• 단순히 여성 패널을 구성하는 것을 넘어, AI 거버넌스의 전 과정에서 누가 이익을 얻고 누가 위험을 감수하는지, 누구의 노동이 시스템을 지탱하는지를 평가하는 '젠더 주류화'가 필수적임.
• 정책 도입 시 '공정성'과 같은 추상적인 원칙에 그치지 않고, 구체적이고 강제력 있는 운영 조항을 마련하는 것이 중요함.

정책 제언

• AI 개발 생애 주기 전반에 걸쳐 젠더 대응적인 인권 영향 평가를 의무화해야 함.
• 기술 기반 젠더 폭력을 공식적인 AI 위험 범주로 명시해야 함.
• 젠더 정책 부처, 인권 기구, AI 규제 당국 간의 칸막이를 없애고 정보 공유와 협력 기제를 마련해야 함.
• 여성, 성소수자, 시민 사회 활동가들의 참여를 모든 단계의 AI 거버넌스 결정 과정에서 보장해야 함.