Überwachung im ÖPNV: Wie Bremen zum Verhaltensscanner kam

• 브레멘 교통공사(BSAG)는 당초 기물 파손 방지를 목적으로 도입하려던 소프트웨어가 실패하자, 업체인 'Just Add AI'의 제안에 따라 '공격성 인식' 시스템을 도입함.
• 해당 프로젝트는 테스트 단계의 의문스러운 성과에도 불구하고 브레멘 시내 트램 43대(전체 차량의 3분의 1)에 배치됨.
• 데이터 보호 당국은 해당 기술이 개인정보보호 및 시민 권리에 미치는 영향과 실질적인 범죄 예방 효과에 대해 지속적으로 의문을 제기하고 있음.

프로젝트의 기원과 실태

• BSAG는 기물 파손 감지를 원했으나, 업체는 이를 불가능하다고 판단하고 대신 '공격성 인식' 소프트웨어를 제공함.
• 2025년 3월 시작된 이 파일럿 프로젝트는 데이터 보호 당국의 검토 과정에서 부적절한 데이터 보호 평가와 실질적인 대응 매뉴얼 부재 등의 문제점이 지적됨.
• 초기 5개월간 시스템이 보고한 16건의 위험 사례 중 실제 기록된 사건은 4건에 불과해 높은 오탐률을 보임.

기술적 우려와 프라이버시

• 업체 측은 영상 내 얼굴을 픽셀화한다고 주장하나, 데이터 보호 당국은 문신이나 복장으로 개인 식별이 가능하며 기술적으로 복원될 수 있어 완전한 익명화가 아니라고 반박함.
• 시스템은 '도움을 필요로 하는 사람'을 감지한다는 명목으로 단순히 잠을 자는 노숙인 등을 위험 요소로 분류할 위험이 있어 사회적 차별 우려가 제기됨.

독일 내 확산 및 향후 과제

• 독일 내 만하임, 함부르크 등 여러 도시에서 유사한 AI 기반 감시 체계가 도입되거나 논의 중임.
• 브레멘 데이터 보호 책임자는 시스템 도입 1년 후, 시스템이 실제로 범죄 예방에 기여하는지 혹은 오탐이 과다한지 엄격히 평가할 것을 요구함.
• 만하임의 경우 8년간 유사 시스템을 운영했으나 범죄 방지나 해결에 기여한 사례가 전무함.