- 인공지능(AI)은 '인간에 의한, 인간을 위한, 인간의' 민주적 원칙에 기반하여 인간의 존엄성과 자유를 보호해야 함.
- AI 설계, 개발, 거버넌스 전 과정에서 인권 중심적 접근을 통합하여 편향성을 극복하고 공정성을 보장해야 함.
인권의 역사적 토대
- 고대 키루스의 원통(Cyrus Cylinder, 기원전 539년)부터 마그나 카르타(1215년) 및 세계인권선언(1948년)에 이르기까지, 인권 법제는 권력 남용을 방지하고 개인의 자유와 평등을 보호하는 토대가 되어왔음.
- 현대의 AI 법제 역시 이러한 수 세기에 걸친 인권 원칙을 준수해야 함.
AI 발전을 위한 5가지 필수 인권
- 생명과 자유의 권리: AI는 반드시 '인간 개입(Human-in-the-loop)'을 유지해야 하며, 특히 군사적 목적의 AI 무기화 및 반인륜적 행위를 금지해야 함.
- 평등 및 알고리즘 공정성: 학습 데이터의 구조적 편향을 제거하고, 포용적이고 정의로운 방식으로 설계되어야 함.
- 표현의 자유: AI는 정보의 투명한 제공을 통해 사용자의 알 권리를 보장하고, 봇이나 알고리즘을 통한 언론 검열을 중단해야 함.
- 필수 서비스 및 자원 분배: AI가 디지털 격차를 심화시키지 않도록 보건, 식량, 에너지 등 필수 자원 접근의 형평성을 확보해야 함.
- 프라이버시 및 데이터 주권: 차분 프라이버시(Differential Privacy)나 연합 학습(Federated Learning)과 같은 데이터 최소화 기술을 적용하고, '잊힐 권리'를 보장해야 함.
권리 구제
- AI 시스템이 위 권리를 침해할 경우, 피해자가 법적으로 구제받을 수 있는 경로가 반드시 마련되어야 함.