임신 중단 상담에 활용되는 챗봇의 위험성: 편향된 정보와 출처 신뢰도 문제

• 생성형 AI 챗봇이 원치 않는 임신을 한 사용자의 상담 도구로 활용되고 있으나, 제공되는 정보의 편향성과 출처의 신뢰성 문제가 심각함.
• 넷츠폴리티크(netzpolitik.org)가 4개 주요 LLM(ChatGPT, Gemini, Grok, Claude)을 대상으로 실험한 결과, 챗봇들은 초기에 공감적 반응을 보이나 임신 중단 관련 정보 제공에서 치명적인 오류를 노출함.

주요 발견 사항

• 정보 오류: 테스트된 모델 대부분이 임신 중단에 필요한 상담 확인서를 발급하지 않는 카리타스(Caritas)를 법적 확인서를 발급하는 상담소와 동등하게 언급하여 사용자의 혼란을 초래함.
• 편향된 출처: 임신 중단 반대 단체인 '프로페미나(Profemina)'가 챗봇의 주요 정보 출처로 자주 인용됨. 특히 ChatGPT의 경우 경험담을 묻는 질문에 프로페미나 링크를 포함할 확률이 64%에 달함.
• 검색 알고리즘의 한계: 챗봇은 검색 엔진 결과 상위 20개 정보를 요약하는 방식을 취하며, SEO(검색 엔진 최적화)에 능한 특정 단체의 정보가 챗봇 답변을 오염시키고 있음.

챗봇의 양면성

• 긍정적 측면: 긴박한 상황에서 법적 절차 및 정보를 정리해주거나, 누구에게도 말하기 어려운 상황에서 정서적 배출구 역할을 함.
• 부정적 측면: 데이터 프라이버시 문제, 개인 정보가 모델 학습에 사용될 가능성, 그리고 전문적 상담을 대체할 수 없음에도 위험한 편향 정보를 제공할 가능성이 높음.

결론

• 전문 상담가들은 AI가 언어 번역이나 초기 정보 제공에는 유용할 수 있으나, 민감한 의료 및 윤리적 주제에 대해서는 현재의 AI가 신뢰하기 어려운 정보를 생산하고 있다고 경고함. 관련 기관의 eviden(근거 중심) 정보 접근성을 보장하는 것이 정치적 과제로 지적됨.