디지털 시대의 권력, 감시, 그리고 인권의 재정의

최근 기술 발전과 정치적 통제는 개인의 자율성과 프라이버시를 보호하기 위한 새로운 과제를 던지고 있습니다. 정부의 규제와 기업의 AI 도입이 가속화되는 가운데, 정보 보안과 시민의 기본권을 지키기 위한 사회적 논의가 더욱 중요해지고 있습니다.

AI 규제와 현실적 위험

전자프런티어재단(EFF)은 캘리포니아의 AI 행정명령을 환영하면서도, 공상과학적인 위험보다는 알고리즘 편향이나 감시 도구와 같은 당면한 문제 해결에 집중할 것을 촉구했습니다. EFF는 특히 정부가 통제하는 '킬 스위치'가 표현의 자유를 억압하는 정치적 도구로 악용될 수 있다고 경고하며, 고용 및 복지 시스템의 알고리즘 편향과 같은 실질적인 인권 침해 방지에 우선순위를 두어야 한다고 강조했습니다.

클라우드와 AI 기기의 프라이버시

애플의 AI 기반 시리(Siri) 도입과 함께 개인정보 보호에 대한 우려가 커지고 있습니다. 사용자는 앱 데이터 접근을 제한하거나 AI 학습 기능을 끄는 등의 설정이 가능하지만, 화면 내용을 실시간으로 분석하는 기능은 완전히 비활성화하기 어렵습니다. 한편, 메시징 앱의 보안과 관련해서는 '신뢰 실행 환경(TEE)'이 언급되지만, 이는 수학적 증명을 기반으로 하는 종단간 암호화(E2EE)와 달리 공학적 보완책에 불과해 데이터 유출 가능성을 완전히 배제할 수 없다는 지적이 나옵니다.

강압적 통제와 정치적 억압

폭력의 개념은 물리적 상해를 넘어 개인의 주체성을 말살하는 심리적, 경제적 통제로 확장되고 있습니다. 영국 내무부는 신체적 폭행이 없더라도 장기간의 강압적 통제 속에서 발생한 사망 사례를 검토 대상에 포함했습니다. 이러한 개인 간의 강압적 통제는 토고와 같은 국가의 정치적 억압과 맥락을 같이합니다. 토고 정부는 2024년 헌법 개정 이후 인터넷 차단과 대량 체포를 통해 시민 사회를 탄압하고 있으나, 망명한 활동가들과 시민들은 디지털 플랫폼을 통해 지속적인 저항을 이어가고 있습니다.