- 인공지능(AI)은 중립적이지 않으며, 기존의 가부장적·식민주의적 권력 구조와 편향된 데이터를 그대로 재생산함.
- 기업의 이익을 우선시하는 AI 모델은 인류의 존엄성이나 삶의 가치보다 효율성과 예측 가능성을 앞세워 인간을 데이터 포인트로 전락시킴.
- 기술은 인간을 대체할 수 없으며, 인간의 경험과 공감, 책임을 기계적 연산으로 시뮬레이션하려는 시도는 인간 관계를 왜곡함.
- AI에 대한 인권 중심의 접근은 기술이 필연적이라는 생각을 거부하고, 개발 초기 단계부터 권력과 책임 소재를 명확히 묻는 데서 시작됨.
기술의 비중립성 및 편향성
- AI는 세상의 불평등, 인종차별, 성차별 등을 학습하고 이를 고도로 효율화된 방식으로 증폭함.
- 거대 기술 기업은 사회적 책임보다 주주 이익과 성장 목표를 우선시하며, 데이터 센터 설립 과정에서 발생하는 생태적 파괴와 인권 침해에 대해 책임을 회피함.
- 군사적 맥락에서 AI를 통한 자동화된 의사 결정은 인간을 단순히 타격 대상으로 치부하게 하여 생명에 대한 가치를 저하시킴.
인간 대체 불가능성
- AI가 생성하는 결과물은 패턴 인식과 통계적 예측에 기반할 뿐이며, 상황적 맥락이나 공감, 실존적 책임을 이해하지 못함.
- 인간을 대체할 수 있다는 서사는 인간을 소모품으로 다루는 비인간화 과정을 정당화함.
- 진정한 인간적 가치인 돌봄 노동, 연대, 저항, 기쁨 등은 데이터로 최적화하거나 자동화할 수 없는 영역임.
책임 있는 AI를 위한 변화
- 인간의 삶과 존엄성을 최우선에 두는 AI를 설계하려면 개발 단계에서부터 근본적인 질문을 던져야 함.
- 기술의 도입이 필연적인 것이 아니라 하나의 '선택'임을 인식하고, 기술 권력의 불균형을 해체하는 것이 인권적 접근의 핵심임.