Google의 선거 관련 AI 요약 기능, 정보 투명성 및 중립성 논란

• 알고리즘워치(AlgorithmWatch)는 구글의 AI 검색 요약 기능이 독일 지방 선거 정보를 제공하는 방식에 대해 투명성과 중립성 문제를 제기함.
• AI 요약은 사용자가 원문 링크를 클릭하지 않고도 정보를 습득하게 하여 언론사의 수익 모델과 정보 접근성에 영향을 미침.

주요 조사 결과

• 선거 관련 질문 시 AI 요약 노출 빈도가 비정치적 질문보다 낮아 구글이 특정 배경 조치를 취하고 있음을 시사함.
• 질문 유형에 따라 AI 요약 노출률이 차이를 보임: 여론조사 관련 질문은 요약이 제공되지 않았으나, 정당 및 후보자 관련 질문은 40~50%의 사례에서 요약이 생성됨.
• 출처 편향: 요약에 인용되는 출처의 범위가 좁으며, 구글 소유 플랫폼인 유튜브의 비중이 과도하게 높음.
• 답변의 비중립성: 생성형 AI 모델이 사용자의 의견을 따르는 '아첨(Sycophancy)' 경향을 보여 정치적 후보자의 입장을 긍정적으로만 묘사하는 사례가 빈번함.

문제점 및 요구사항

• 구글은 AI 요약의 노출 기준, 데이터 처리 방식, 콘텐츠 형성 과정을 투명하게 공개하지 않음.
• 전문가들은 이러한 '정보 룰렛' 현상이 유권자의 공정한 정보 접근권을 저해하고 민주주의에 악영향을 줄 수 있다고 경고함.
• 알고리즘워치는 생성형 AI 제공 기업들이 콘텐츠 생성 방식에 대해 투명성을 확보하고 그 결과에 대한 법적 책임을 질 것을 요구함.