- 인공지능(AI)을 "인간 중심으로" 설계하자는 논의는 종종 백인 우월주의, 가부장제, 비장애인 중심주의 등 역사적 위계를 고착화할 위험이 있음.
- AI 생성 콘텐츠는 "현실의 위기"를 야기하며, 이미지의 홍수 속에서 진실에 대한 신뢰가 침식되고 있음.
- 기술 주권 확보를 위해서는 데이터 착취적 관행에서 벗어나 동의와 책임을 바탕으로 한 소규모 지역 사회 중심의 아카이브 구축이 필요함.
- 지능과 창의성은 인간, 기계, 조상, 생태계가 얽혀 있는 다층적 과정으로 인식되어야 함.
"인간 중심" AI의 함정
- 전통적인 "인간"이라는 개념은 이성적이고 생산적인 개체를 표준으로 설정함.
- "자연"과 "인공"의 이분법은 사회적으로 "부자연스럽다"고 간주되는 신체와 정체성을 타자화하는 도구로 악용되어 옴.
- AI에서 다시 인간을 중심에 놓는 것은 기존의 지식적 경계와 배제를 강화할 위험이 있음.
시각 문화와 현실의 위기
- 과거에는 사진과 영상이 현실을 고정하는 매체였으나, 현재는 이미지가 현실과 경쟁하며 실재를 불안정하게 만듦.
- 데이터 모델은 중립적이지 않으며, 에너지, 자원, 노동력의 착취와 무단으로 수집된 문화적 자산을 바탕으로 구축됨.
- 소셜 미디어 플랫폼은 의미나 저자성보다 확산과 참여를 극대화하는 콘텐츠만을 생산하게 함.
새로운 창의성을 위한 제언
- 예술가는 AI를 단순한 도구나 적이 아닌 불안정한 협력자로 받아들여야 함.
- 향후 지향해야 할 실천 방안:
- 데이터를 "채굴"하는 것이 아닌, 관계와 동의를 기반으로 한 "모임"으로서의 데이터셋 구축.
- 거대 시장보다는 특정 공동체에 최적화된, 느리고 규모가 작은 모델 개발.
- 결과물의 양산보다 과정의 책임감과 세계의 지속가능성에 집중하는 예술적 엄격함 재정립.
- 루하 벤자민의 주장처럼, 기존 시스템을 해체하는 동시에 우리가 살고 싶은 세상을 상상하고 만들어가는 실천이 필요함.