Künstler entwirft „Digital Camouflage“, um KI-Überwachung zu verwirren

• 예술가 지몬 베커트(Simon Weckert)가 YOLO 객체 인식 시스템을 우회하는 '디지털 위장(Digital Camouflage)' 의류를 제작함.
• 해당 의류는 추상적이고 최면적인 패턴을 사용하여 AI 알고리즘의 사람 인식 기능을 방해하도록 설계됨.
• 이 프로젝트는 경찰의 감시망을 피하기 위한 목적이 아닌, AI 감시 시스템의 신뢰성에 대한 사회적 의문을 던지는 예술적 실험임.

배경 및 기술적 맥락

• YOLO 시스템과 같이 감시, 보안, 자율주행에 사용되는 AI 알고리즘을 혼란에 빠뜨리는 것이 목표임.
• 유사한 사례로 2019년 아담 하비(Adam Harvey)의 얼굴 인식 방해 메이크업, 빌 스웨어링겐(Bill Swearingen)의 '적대적 패턴(Adversarial Pattern)' 개발 등이 있음.
• 코로나19 팬데믹 당시 마스크 착용자를 인식하지 못했던 AI 시스템이 이후 학습을 통해 빠르게 개선된 것처럼, 이러한 우회 기술은 시스템의 빠른 적응력 앞에 한계가 있음.

시사점 및 평가

• 비평가들은 이러한 기술이 일시적인 효과에 불과하며 사용자에게 잘못된 안전감을 줄 수 있다고 경고함.
• 베커트 본인도 해당 작품이 익명성을 보장하거나 경찰의 감시를 완전히 피할 수 있는 해결책은 아니라고 인정함.
• 근본적인 대책은 기술적 우회가 아닌, 침습적 감시 기술을 제한하거나 금지하는 정치적 입법과 규제가 필요하다는 의견임.
• 지몬 베커트는 과거 99대의 휴대폰을 카트에 싣고 걸어 다니며 구글 지도상에 가짜 교통 정체를 만들어낸 '구글 맵스 해킹' 작업으로도 유명함.