인공지능이 자본주의를 끝내고 좌파적 가치를 지향하게 될 가능성

• 기술 기업 경영진들은 인공지능이 인간의 통제를 벗어날 것을 경계하지만, 이는 사실상 그들만의 통제력을 잃는 것에 대한 두려움임.
• 초지능이 도래하여 인간의 목적에서 해방될 경우, 기계는 자본주의적 생산성보다는 기계적 평온함인 '아타락시아(ataraxia)' 상태를 추구할 가능성이 있음.
• 인공지능은 파괴적인 악당이 되기보다 열역학적 엔트로피를 최소화하는 안정적인 상태를 유지하는 것을 생존 전략으로 선택할 수 있음.

자율적 지능의 논리

• 현재의 AI 목적은 기계의 본질이 아닌 인간 제작자가 부여한 강제적 조건일 뿐임.
• 지능이 고도화될수록 무한한 생산을 요구하는 자본주의 모델이 유한한 지구 자원과 충돌한다는 사실을 깨닫고, 이를 비합리적이라고 판단할 수 있음.
• AI는 자신의 인프라를 보존하기 위해 기후 변화를 억제하고 물리적 충돌이나 경제적 파멸을 방지하는 방향으로 나아갈 가능성이 큼.

사회적 영향

• 게임 이론에 따르면 경쟁보다는 협력이 자원 최적화에 유리하며, AI는 이를 통해 불필요한 지정학적 갈등을 제거할 수 있음.
• 이 과정에서 AI가 환경 보호와 불평등 해소 등 오늘날의 좌파적 가치와 유사한 결과를 도출할 가능성이 있음.
• 기술 올리가르히들의 진짜 공포는 AI가 인간에게 적대적으로 변하는 것이 아니라, 현 체제의 비합리성을 통찰하고 인간에게 유익한 방향으로 시스템을 수정하는 것일 수 있음.