Niedersachsens geplantes Polizeigesetz: Massive Ausweitung der KI-Überwachung stößt auf Widerstand

• 니더작센주 의회에서 인공지능(AI) 기반 감시 도구를 대폭 확대하는 새로운 경찰법안이 논의 중임.
• 주요 내용에는 Palantir 방식의 데이터 분석, 인터넷 생체 정보 검색, 자동 행동 분석 및 실시간 얼굴 인식 기능 등이 포함됨.
• 시민사회 연대체 'NoNPOG2'가 결성되어 감시 강화에 반대하는 활동을 시작함.
• 데이터 보호 책임자(LfD) 데니스 렘켐퍼는 개인정보 보호 및 EU AI 규정 위반 가능성을 강력히 경고함.

계획된 감시 기술

• AI 기반 비디오 감시: 실시간 얼굴 인식, 행동 분석, 드론 활용 감시 포함.
• Palantir형 데이터 분석: 경찰의 모든 기록 데이터를 통합하여 목적 외 이용 가능성 제기.
• 생체 정보 수집: 인터넷상의 biometrics 검색을 통해 집회 및 일상적 공공장소에서의 위축 효과(chilling effect) 발생 우려.

정치적 지형

• 주 정부(SPD, 녹색당)가 추진 중인 가운데, 야당인 CDU와 AfD는 오히려 감시 조치가 부족하다며 더 강한 대책을 요구함.
• 의회 내 실질적인 견제 세력이 전무하여 시민사회가 직접 정보 전달 및 비판 활동을 전개함.

주요 우려 사항

• 알고리즘의 편향성: 인종차별적 데이터 및 훈련 데이터의 중립성 부재.
• 목적 외 사용 및 남용: 경찰에 의한 개인정보 악용 가능성 및 프라이버시 침해.
• 투명성 부재: 기술적 한계에 따른 AI 판단의 비가역성 및 설명 불가능성.
• 데이터 보호 위반: 니더작센주 데이터 보호 책임자는 법안이 EU AI 법과 상충하며, 데이터 통합으로 인한 목적 구속 원칙이 훼손된다고 지적함.