- 인도의 현행 AI 거버넌스는 강제성이 없는 "연성법" 지침에 의존하고 있어 투명성이나 인권 영향 평가에 대한 의무가 결여되어 있음.
- 감시 및 복지 분야에서의 국가 주도 AI 배포가 소외 계층과 시민의 공간을 위협하고 있다는 비판이 제기됨.
- 전문가와 인권 단체들은 편향성, 책임성, 디지털 권위주의 문제를 해결하기 위한 구속력 있는 법안 제정을 촉구함.
현재의 AI 거버넌스
- 인도는 아직 구속력 있는 별도의 AI 법안을 마련하지 않았으며, 정보기술(IT)법 및 2025년 데이터 보호 규칙 등 기존 법적 체계에 의존함.
- 2025년 발의된 "인공지능(윤리 및 책임) 법안"은 윤리 위원회 설치와 강제적 윤리 검토를 제안했으나 아직 입법되지 않음.
- 인도 전자정보통신부(MeitY)의 "IndiaAI 미션"은 자발적인 프로젝트에 의존하고 있어 실질적인 감독 권한이 부족하다는 지적을 받음.
전방위적 감시 인프라
- 2026년 2월 열린 인도 AI 임팩트 서밋 기간 동안 델리는 4,000개 이상의 AI 카메라와 32개의 통제실을 통해 "디지털 요새"로 운영됨.
- 인터넷 자유 재단(IFF)의 "프로젝트 파놉틱"은 인도 내에서 120건 이상의 정부 안면 인식 기술 계약을 추적함.
- 항공 여행용 앱인 "디지야트라(DigiYatra)"는 데이터 보안의 불투명성과 사기업 주도의 운영 구조로 인해 정보 공개법 적용 대상에서 제외되는 등 책임성 논란이 큼.
취약 계층에 미치는 영향
- 정부 복지 앱 "포샨 트래커(Poshan Tracker)"에 적용된 안면 인식 기술은 임신, 질병, 노화 등으로 얼굴이 변한 수백만 명의 여성과 아동의 식량 수급을 차단하는 부작용을 낳음.
- 해당 시스템은 어두운 피부톤이나 저사양 단말기에서 인식률이 떨어지는 편향성을 보이며, 이는 취약 계층의 불평등을 심화시킴.
- 교육 분야에서는 시험장 감시 시스템으로 AI가 도입되어 학생들의 일거수일투족을 상시 감시하는 등 사생활 침해 우려가 커지고 있음.
향후 과제 및 개선 방향
- 앰네스티 인터내셔널 및 자유 온라인 연합 등은 인권 영향 평가의 의무화와 침해적 생체 인식 감시 기술의 금지를 요구함.
- AI 시스템 설계 단계부터 인권 보호 원칙을 통합해야 하며, 학습 데이터와 오류율 공개, 책임 소재에 대한 구체적인 법적 틀이 필요함.
- 디지털 권위주의를 방지하기 위해 알고리즘 투명성과 실질적인 구제 수단을 보장하는 강력한 법적 기반 마련이 시급함.