EFF, 미 의회서 정부의 AI 도입에 따른 시민권 보호 증언

• EFF 선임 정책 분석가 매튜 과릴리아 박사가 하원 국토안보 소위원회에서 정부의 인공지능(AI) 도입에 따른 권리 보호 방안에 대해 증언함.
• 주요 우려 사항으로 AI를 활용한 대규모 감시, 헌법상 시민 자유 침해 가능성, 사유 기술의 불투명성 등이 지적됨.
• 정부의 비공개 정책과 '블랙박스' 형태의 독점적 기술 사용으로 인해 AI 오류 발생 시 의회와 대중이 이를 확인하고 책임을 묻기 어렵다는 점이 강조됨.

증언 주요 내용

• 과릴리아 박사는 AI 기술 자체의 통제보다는 이를 도입하는 정부 기관에 대한 감시와 통제가 시급하다고 주장함.
• 법률 서류의 허위 인용이나 국토안보부(DHS) 신입 요원들의 부적절한 훈련 사례 등 이미 AI의 오류 사례가 존재하며, 기밀 분류 정책으로 인해 더 심각한 사례들이 가려져 있을 수 있다고 지적함.
• 독점적인 AI 모델과 정부의 기밀 유지 관행이 결합되어 국가 주요 인프라와 개인의 삶에 미칠 수 있는 위험성을 파악하는 데 방해가 됨.

향후 과제

• 정부는 AI 도입 시 강력하고 명확한 헌법적 보호 장치를 우선적으로 마련해야 함.
• 정부 비밀주의를 타파하여 AI 모델의 오류와 그로 인한 책임을 투명하게 검증할 수 있는 환경이 조성되어야 함.