- 아판 오로모어로 활동하던 에티오피아의 인기 콘텐츠 크리에이터 보니가 2026년 4월 29일 자살로 사망함.
- 보니는 사망 전 틱톡에서 지속적인 사이버 괴롭힘에 시달렸으며, 이 콘텐츠들은 플랫폼의 혐오 발언 금지 정책을 위반하는 내용이었음.
- 페이스북과 틱톡에 경고성 메시지와 영상을 게시했음에도 불구하고, 두 플랫폼의 자동화된 모니터링 시스템은 이를 사전에 감지하거나 개입하지 못함.
- 틱톡은 사후에 해당 영상을 삭제했으나 이미 수많은 리포스트와 스티치(이어찍기)를 통해 확산된 상태이며, 메타(페이스북)는 여전히 원본 영상을 삭제하지 않고 방치함.
플랫폼의 실패와 정책적 허점
- 틱톡과 메타는 다국어 AI 중재 기능을 핵심 역량으로 내세우지만, 보니의 사례에서는 명확한 위기 징후조차 포착하지 못함.
- 틱톡은 보니의 죽음과 유산 등을 언급하며 괴롭히는 영상들을 삭제하지 않아 정책 위반을 방조함.
- 저작권 음악이나 테러 콘텐츠 차단에 사용되는 '해시 매칭' 기술이 보니의 마지막 모습이 담긴 영상의 확산을 막는 데에는 제대로 적용되지 않음.
- 자살 및 자해에 관한 메타의 커뮤니티 규정에도 불구하고 해당 콘텐츠가 삭제되지 않는 것은 기업 자체 규정 위반임.
에티오피아 내 잘못된 논의
- 에티오피아 크리에이터들 사이에서는 보니를 죽음으로 내몬 것이 시청자의 괴롭힘인지 개인적인 상황인지에 대한 논쟁이 오가고 있으나, 플랫폼의 책임은 간과됨.
- 플랫폼은 중립적인 도구가 아니며, 알고리즘을 통해 특정 행동을 수익화하고 증폭시키는 주체임.
- 에티오피아와 같은 시장에서 수익을 창출하면서도 충분한 현지화된 모니터링 시스템을 구축하지 않는 것은 기업의 선택적 태도임.
도움을 받을 수 있는 곳