AI, 외계 생명체 탐색 과정에서 쉽게 속을 수 있음이 확인됨

• AI 시스템은 훈련 데이터 범위를 벗어난 데이터(out-of-distribution)를 만날 경우 잘못된 판단을 확신하는 경향이 있어, 미래 우주 생명체 탐사 임무에 중대한 위험 요소로 작용함.
• 미시간 주립대학교(MSU) 연구진은 생명체 탐지를 위해 훈련된 신경망이 분자 패턴의 사소한 수정만으로도 100%의 확률로 속을 수 있음을 발견함.
• 관련 연구인 "AI가 생명체를 탐지할 수 있는가? 인공 생명으로부터의 교훈(Can AI Detect Life? Lessons from Artificial Life)"은 2026년 인공 생명 학회(Conference on Artificial Life)에서 발표될 예정임.

연구 방법론

• 안킷 굽타(Ankit Gupta)와 크리스토프 아다미(Christoph Adami) 연구진은 '아비다(Avida)' 인공 생명 플랫폼을 사용하여 자기 복제가 가능한 디지털 유기체와 불가능한 유기체를 생성함.
• 신경망은 이 데이터를 통해 생명체와 비생명체를 99.7%의 정확도로 구분하도록 훈련됨.
• 연구진이 훈련 데이터에 포함되지 않은 'out-of-distribution' 샘플을 도입하고 코드 일부를 수정하자, AI는 생명체가 아님에도 불구하고 150번의 코드 조정만으로 생명체라고 확신하는 오류를 범함.

우주 탐사에 미치는 영향

• AI에 의존하여 생체 신호를 식별하는 미래 우주 임무는 빈번한 위양성(false positive) 결과를 초래할 위험이 큼.
• 외계 샘플은 지구상의 생명체 데이터와 본질적으로 다른 범주에 속하므로, AI가 정확한 판단을 내리기에는 정보적 맥락이 부족함.
• 검증 없는 AI의 생명체 탐지는 과학 임무에 대한 대중의 신뢰를 무너뜨릴 수 있음.

인간 감독의 필요성

• 아다미 교수는 AI의 패턴 인식 능력이 치명적인 약점을 가지고 있다고 지적하며, 독립적인 검증 수단이 필수적임을 강조함.
• 연구진은 무인 탐사선이 발견한 외계 생명체 증거를 검증하기 위해서는 반드시 인간이 개입하는 '휴먼 인 더 루프(human-in-the-loop)' 체계가 필요하다고 제언함.