KI in der deutschen Migrationsverwaltung: Kritik an Gesetzesplänen

• 독일 정부는 난민 및 비자 신청 절차에 AI를 도입하는 법안을 추진 중임.
• 주요 내용은 AI 모델 학습을 위한 개인정보 활용, 자동화된 절차 모니터링, 인터넷 데이터를 활용한 신청자 정보 검증임.
• 시민단체와 관련 기관들은 차별 방지책 부족, 개인정보 침해, 기술적 오류 위험을 이유로 강하게 반발함.

법안의 주요 변화

• 개인정보 활용: 아질 및 거주법 관련 기관들이 AI 학습 및 테스트를 위해 신청자의 개인 데이터를 사용할 수 있게 됨.
• 절차 모니터링: 신청자 특성에 따른 거부율 등을 분석하는 자동화된 모니터링 시스템 구축.
• 온라인 데이터 대조: 당국의 판단에 따라 공개된 인터넷 정보를 자동으로 대조하여 신청자의 진술을 검증.
• 예외 사항: 생체 정보는 자동 데이터 대조에 사용하지 않기로 제한됨.

비판 및 우려 사항

• 차별 방지책 미흡: 페르다 아타만 연방 차별금지 위원장 등은 "차별적 알고리즘을 사용하지 말아야 한다"는 원칙적인 서술만으로는 부족하며, 투명성 보고서 의무화 등이 필요하다고 지적함.
• 근본적 권리 침해: 데이터 보호 책임자(BfDI)는 데이터 처리 단계의 엄격한 제한과 알고리즘이 아닌 인간의 판단이 선행되어야 함을 강조함.
• 전문 기관의 우려: '프로 아질(Pro Asyl)'은 AI 도입이 인간의 생명이 걸린 결정에 위험한 백지수표가 될 수 있다며 전면 재검토를 요구함.

해외 사례와 위험성

• 네덜란드: 비자 신청자 분류 시스템이 특정 국적의 남성을 위험군으로 오분류하는 등 차별적 결과를 초래함.
• 영국: AI의 '환각' 현상으로 인해 존재하지 않는 문서를 근거로 망명 신청이 거부된 사례가 발생함.
• 기술 신뢰도: 연령 측정 기술 등이 미성년 난민을 성인으로 잘못 분류할 가능성에 대한 우려가 큼.