메타의 AI 야망과 남아시아의 플랫폼 무결성

• 메타(Meta)가 AI 개발에 집중하기 위해 무결성 팀을 감축하고 콘텐츠 모니터링의 90%를 AI로 대체할 계획을 세우면서 취약 계층의 안전에 대한 우려가 커짐.
• 글로벌 사우스(Global South) 지역에서의 플랫폼 관리 소홀은 역사적으로 실질적인 폭력, 괴롭힘, 사회적 갈등을 유발함.
• AI 기반 모니터링은 혐오 표현, 카스트 기반 폭력, 젠더 관련 학대 등을 판별하는 데 필요한 문화적, 맥락적 이해도가 부족함.
• 이러한 자동화 전환은 진정한 안전 개선이 아닌 기업의 비용 절감 및 확장 가능한 시스템 구축이라는 경제적 요구에 의해 추진됨.

글로벌 사우스에 미치는 영향

• 미얀마: 2017년 메타는 로힝야족에 대한 증오 선동을 적절히 제어하지 못해 대규모 이주와 폭력을 방치했으며, UN은 페이스북이 이 사태에 "결정적인 역할"을 했다고 지적함.
• 인도: 메타는 무슬림을 겨냥한 선동적 광고를 승인하고, 정부와의 우호적 관계 유지를 위해 특정 정치인의 혐오 발언에 대한 규칙 집행을 회피했다는 비판을 받음.
• 파키스탄: 언론인과 활동가들은 온라인 플랫폼에서 유포되는 조직적인 비방과 종교적 박해로 인해 오프라인에서 실제 생명의 위협을 겪고 있음.
• 스리랑카: 2018년 신할라어 모니터링 인력 부족으로 반무슬림 선동이 방치되어 실제 폭동으로 번졌고, 이로 인해 사망자와 주택 파괴가 발생함.
• 방글라데시: 페이스북을 통해 유포된 종교적 모독 허위 사실이 소수 종교 공동체에 대한 집단 폭력으로 이어지는 사례가 반복됨.

X(구 트위터)의 사례

• 2022년 일론 머스크 인수 이후 신뢰 및 안전 팀이 해체되면서 혐오 표현이 급격히 증가함.
• 디지털 증오 대응 센터(CCDH) 등의 조사에 따르면, 성소수자와 흑인을 겨냥한 혐오 발언이 크게 늘어난 것으로 확인됨.
• X의 사례는 플랫폼 기업이 안전 관리 체계를 이윤 추구의 장애물로 간주할 때 디지털 공간이 얼마나 빠르게 적대적인 곳으로 변할 수 있는지를 보여줌.