Mannheim: Polizei setzt jahrelange KI-Überwachungstests fort

• 만하임 경찰은 8년째 인공지능 기반의 '행동 인식 소프트웨어'를 테스트 중이며, 이를 위해 경찰관들이 범죄 상황을 연기한 1만 개의 학습용 영상을 제작하고 있음.
• 해당 소프트웨어의 실제 효과, 오류율, 신뢰성에 대한 공식 데이터는 8년이 지난 지금까지 공개되지 않았음.
• 바덴뷔르템베르크주 정부는 이 모델을 다른 지역으로 확대하고, 향후 '생체 인식 원격 식별' 기능까지 추가할 계획임.

프로젝트 현황 및 논란

• '스마트 영상 감시'에서 'AI 영상 보호'로 명칭을 변경한 이 프로젝트는 칼스루에 소재 프라운호퍼 IOSB와 공동 개발 중임.
• 현재 만하임 시내 72대의 카메라 중 59대가 소프트웨어와 연결되어 있으며, 시스템이 이상 행동을 감지하면 관제실의 담당자에게 경보를 전송함.
• 경찰은 17가지의 감지 패턴을 정의했다고 밝혔으나, 구체적인 기준이나 성공적인 판단 지표는 공개를 거부함.

실효성 의문

• 경찰관들이 대본에 따라 연기하는 1만 개의 영상이 실제 혼잡한 공공장소의 범죄 상황을 얼마나 정확하게 시뮬레이션할 수 있는지에 대해 회의적인 시각이 많음.
• 테스트 초기부터 언급된 매일 발생하는 오경보 문제에 대해 경찰 측은 구체적인 수치 대신 '낮은 두 자릿수 백분율'이라는 모호한 답변만 반복함.
• 경찰은 2026년 말에 최종 평가를 진행할 예정이나, 외부 평가나 투명한 데이터 공개가 이루어지지 않아 감시 체계에 대한 우려가 커지고 있음.