로마 선언, 인공지능과 핵무기에 관한 새로운 글로벌 윤리 촉구

• 노벨상 수상자들과 국제 전문가들이 인공지능(AI)과 핵무기의 결합 문제에 대응하기 위해 '로마 선언'을 채택함.
• 이 선언은 살상 무기 사용에 대한 인간의 통제권을 보장하고 완전 자율적 핵 지휘 체계를 거부할 것을 촉구함.
• AI의 빠른 정보 처리 속도가 의사결정 시간을 단축시켜 의도치 않은 파국적 충돌의 위험을 높인다는 점을 강조함.

로마 선언

• 7월 14일부터 16일까지 열린 '인공지능과 핵전쟁에 관한 글로벌 노벨상 수상자 총회'에서 채택됨.
• 주요 원칙은 다음과 같음:
  • AI 기반 무기 및 살상 결정에 대한 유의미한 인간 통제권 유지.
  • 국제적인 핵 군축 노력의 재개.
  • 기술 개발 모델을 지정학적 경쟁보다는 인간의 존엄성 중심으로 재편.
  • 과학적 진보가 윤리적 책임 및 공동선에 종속되도록 보장.

상호 연결된 위기

• AI와 핵무기는 더 이상 별개의 안보 문제가 아님을 지적함.
• AI가 군사 정보를 처리하고 자율 시스템을 인간의 반응 속도를 넘어 운용함으로써 핵 위기 시 인간의 판단을 배제할 위험이 있음.
• 기존의 핵 교리는 인간의 판단 시간을 전제로 설계되었으나, AI는 대응 시간을 초 단위로 압축시켜 우발적인 핵전쟁 위험을 높임.

윤리적 거버넌스

• 이번 선언은 핵무기의 실존적 위험을 경고했던 1955년 '마이나우 선언'의 전통을 계승함.
• 전문가들은 AI 거버넌스가 단순한 기술적 규제를 넘어 문명 사회의 근본적인 가치에 대한 책임 있는 선택이어야 한다고 주장함.
• 기술 혁신이 윤리적 방향성을 잃을 경우 평화에 대한 가장 큰 위협이 될 수 있음을 경고하며, AI가 협력과 인간 존엄성을 보존하는 방식으로 발전해야 한다고 강조함.