- 흑인 이민자 정의 연합(BAJI)과 UC 어바인 법대 클리닉은 미국의 AI 기반 국경 통제 정책이 인종차별 철폐 협약(ICERD) 등 국제 인권법을 위반하고 있다고 비판함.
- 자율 감시탑과 드론 등 국경 감시 기술은 유색인종 이민자를 보안 위협으로 간주하여 더 위험한 경로로 내몰고 사망률을 높이는 결과를 초래함.
- CBP One 앱, 자동 타겟팅 시스템(ATS), ICE의 예측 모델 등은 심각한 인종적 편향성과 투명성 결여, 통제 장치 부재라는 문제점을 안고 있음.
- 활동가들은 AI 개발 과정에서 다양한 인류의 관점을 반영하고 책임을 강화하기 위해 아프리카의 '코스모 우분투(Cosmo uBuntu)' 철학에 기반한 탈식민적 접근을 제안함.
감시 및 알고리즘 편향
- 국경 감시: 안두릴(Anduril) 감시탑과 무인 항공기(sUAS)는 인간 순찰을 대체하며, 이민자들을 위험한 지형으로 밀어 넣어 사망률을 역사적으로 높은 수준으로 끌어올림.
- 입국 심사: CBP One 앱은 어두운 피부색 식별에 실패하거나 언어 지원이 부족한 사례가 빈번함. ATS 시스템은 특정 국가(예: 나이지리아) 출신 여행자를 부당하게 고위험군으로 분류함.
- 내부 단속: ICE는 민간 기업 B.I. Incorporated의 '허리케인 점수'와 데이터 분석 플랫폼 'RAVEn'을 사용해 이민자를 감시하며, 편향된 현지 및 국제 법 집행 데이터를 활용함.
심사 과정의 위험성
- 망명 심사: USCIS의 망명 텍스트 분석(ATA) 도구는 비영어권 신청자의 서술이 다른 신청자와 유사할 경우 부정적인 결과로 이어질 위험이 있음.
- 증거 분류: AI 기반 증거 분류기는 수백만 페이지의 서류를 처리하는데, 비정형화된 서류를 제출한 이민자들에게 불리하게 작용할 가능성이 큼.
정책 권고 사항
- 투명성 및 구제: AI가 결정을 내릴 경우 즉시 당사자에게 통보하고 시스템 거부권을 보장해야 함.
- 법적 안전장치: 구조적 인종차별을 조장하는 AI 사용을 금지하고 독립적인 감시와 공공 공개를 의무화하는 연방 법안이 필요함.
- 지역 사회 대응: 각 도시는 국경안보부(DHS)의 AI 개발 및 배포에 기여하지 않도록 정보 공유를 거부하는 정책을 도입해야 함.