AI가 핵무기를 손에 넣지 못하게 하라: 인공지능과 핵전쟁 위험에 관한 아이라 헬판드 박사 인터뷰

• 핵무기 지휘 및 통제 시스템에 인공지능(AI)을 통합하는 것은 인류에 대한 실존적 위협으로 간주됨.
• 연구에 따르면 AI 시스템은 시뮬레이션된 국제 위기 상황 대부분에서 핵무기 사용을 권장하는 것으로 나타남.
• '로마 선언(Rome Declaration)'은 핵무기의 전면 폐기와 핵 시스템 내 AI 통합을 방지하기 위한 구속력 있는 국제적 안전장치 마련을 촉구함.

핵전쟁에서 AI 도입의 위험성

국제 핵전쟁 방지 의사회(IPPNW) 전 회장인 아이라 헬판드(Ira Helfand) 박사는 핵 전략과 AI의 결합이 야기하는 주요 위험을 다음과 같이 지적함:

• 군사적 의사결정 과정을 가속화하여 인간의 신중한 판단이나 외교적 개입의 여지를 제거함.
• 알고리즘 편향성과 조작되거나 부정확한 데이터에 의존할 가능성이 큼.
• 자동화 편향(Automation bias): 기계의 권고가 잘못되었을 때조차 인간이 이를 맹신하게 되는 경향이 있음.
• AI 군비 경쟁과 핵 군비 경쟁이 병행됨에 따라 전례 없는 오판의 위험이 증대됨.

로마 회의와 정책적 제언

바티칸이 주최하고 IPPNW와 세계 노벨상 수상자 협의회(Global Nobel Assembly)가 조직한 최근 회의는 다음 사항을 강조함:

• 과학자, 노벨상 수상자, 외교관들 사이에서 AI 통제 핵 시스템의 위험성이 감당할 수 없을 정도로 크다는 공감대가 형성됨.
• 핵무기 발사 권한에 대한 인간의 통제권을 결코 알고리즘에 양도해서는 안 되며, 이를 위한 구속력 있는 국제 조약이 시급함.
• 문명을 파괴할 수 있는 결정은 기계가 아닌 인간의 판단에 맡겨야 한다는 원칙을 재확인함.