자동화된 콘텐츠 조정 시스템: 기술 발전과 책임의 병행

• 자동화된 콘텐츠 조정 시스템은 편향성을 재생산하고 맥락을 이해하지 못하며, 언론인, 활동가 및 소수자 집단에게 불균형적인 피해를 입힘.
• 메타의 내부 문서와 연구에 따르면, 특정 언어와 방언에 대한 알고리즘의 오류율이 매우 높고 언어적 맥락 파악 능력이 부족함.
• 기업과 정책 입안자들은 인간의 권리와 적법 절차를 보장하기 위해 '산타클라라 원칙 2.0(Santa Clara Principles 2.0)'을 준수하고 책임 체계를 강화해야 함.

주요 문제점

• 언어적 편향성: 마그레브 아랍어, 스와힐리어 등 자원이 부족한 언어에서 알고리즘의 비일관성과 정확도 저하가 심각함.
• 과도한 검열: 폭력적 콘텐츠 탐지 시스템이 비폭력적 표현까지 삭제하는 오류가 빈번함.
• 시스템적 차별: 팔레스타인 관련 콘텐츠의 억압이나 LGBTQ+ 콘텐츠의 부적절한 차단 사례가 보고됨.

정책 및 기업을 위한 8대 권고 사항

• 자동화는 인간 조절자를 보조하는 역할에 그쳐야 하며, 최종 판단은 인간이 수행해야 함.
• 플랫폼은 자동화 사용 범위와 방식에 대해 투명하게 공개해야 함.
• 저자원 언어, 취약 계층, 분쟁 지역에 대한 정기적인 편향성 감사 실시.
• 사용자가 잘못된 삭제 결정에 대해 이의를 제기하고 맥락을 소명할 권리 보장.
• 콘텐츠 조정 결정이 인권에 미치는 영향을 정기적으로 평가하고 공개.
• 외부 제3자 업체를 활용할 경우, 해당 업체에도 동일한 책임 기준 적용.
• 정부는 자동화 조정 시스템을 의무화하는 법안 제정을 지양해야 함.
• 정책 입안자들은 특정 표현을 편향적으로 다루도록 플랫폼의 기술적 설계를 강제해서는 안 됨.