KI in der öffentlichen Verwaltung: Kritik am Projekt Spark Workflow

• 독일 연방 디지털부(BMDS)는 생성형 AI 기반 'Spark Workflow'를 통해 행정 절차를 최대 50% 가속화하겠다는 목표를 제시함.
• 전문가 스테판 카우프만은 이 프로젝트가 구체적인 검증 기준과 문서화 없이 추진되고 있어 신뢰성 문제가 있다고 지적함.

기술적 우려 사항

• Spark Workflow는 Word, PDF, PPT를 마크다운으로 변환한 뒤 언어 모델에 입력하여 처리함.
• 카우프만은 생성형 AI의 확률적 성격상 일관된 결과 도출이 어려우므로 행정 업무에는 100% 신뢰성이 담보되어야 한다고 강조함.
• 시스템이 동일 파일명을 처리할 때 중복 삭제 등의 오류가 발생할 수 있으며, 운영자가 이를 인지하기 어려운 기술적 한계가 존재함.

구조적 대안

• 전문가는 생성형 AI 도입보다 데이터의 기계 가독성을 높이는 '의미론적 데이터 관리(Semantic data management)'가 더 전략적이고 지속 가능한 해결책이라고 주장함.
• 마크다운이나 구조화된 데이터(Linked Data)를 기본으로 활용하면 확률적 모델 없이도 논리적이고 정확한 처리가 가능함.

행정적 한계

• 'Human in the loop'(인간이 최종 결정)라는 주장에 대해, AI 결과가 불확실한 상황에서 인간이 이를 검증하는 것이 실질적으로 가능한지 의문임.
• 현 코드 구조상 환경 인허가라는 특정 사례에만 맞춰져 있어, 일반적인 행정 영역으로 확장하려면 상당한 수정 비용이 발생함.