인공지능에 대한 생태사회주의적 비판 테제
- 다니엘 타누로 지음
<편집자의 글> 이 글을 쓴 다니엘 타누로는 벨기에의 농업전문가, 생태사회주의운동가이자 작가이다. 벨기에의 ‘반자본주의 좌파’의 기관지인 ‘좌파’에 정기적으로 글을 기고한다. The Impossibility of Green Capitallism, (Resistance Books, Merlin and IIRE, 2010), Le moment Trump (Demopolis, 2018)의 저자이기도 하다. 아래 글의 출처는 여기이며, 구글번역을 하여, 수정·보완하였다. AI를 바라보는 관점은 다양하다. 그것이 가져올 미래에 대한 환상과 두려움도 교차하지만, 무엇보다 AI에 쓰이는 전력과 물이 기후위기대응에 부정적 영향을 끼칠 것이란 우려는 이미 널리 퍼져 있으며, 데이터센터 건설을 반대하는 대중운동도 점점 확산되는 중이다. 우리 나라에서도 데이터센터 반대 주민운동이 벌어진 바가 있다. 이에 생태사회주의적 관점에서 AI를 바라보는데에 도움이 되는 글을 소개한다. 일독과 토론을 바란다. (원문의 각주는 생략하였다.)
|
이 글은 주로 생성형 인공지능을 다룬다. (길이가 서로 다른) 명제들의 형식으로 제시된 내용은 확정적인 결론을 내리려는 것이 아니라, 간결한 설명을 통해 논의를 촉진하기 위한 것이다.
지능과 인간의 지능
1. 우리가 지능이라 부르는 것은 시간의 흐름을 점철하는 사건들 속에서 차이를 포착하고, 새로운 것을 인식하며, 가능한 것을 예측할 수 있게 하는 능력이다.
2. 지능은 생명체의 비선형적 진화 과정에서 발생하는 신생 산물이다.
자연은 도약한다. 무생물은 지능이 없다. 식물과 균류의 공생체는 예측이나 의식 없이도 소통하고 주변 상황에 적응한다. 여기서 정의된 지능은 동물계에서 나타나며, 다양한 형태와 수준을 띤다. 단세포 생물과 뇌가 없는 생물에서는 지능이 ‘생존 본능’(생존 메커니즘)과 융합된다.
3. 인간의 지능은 적은 양의 데이터로부터 추상화하는 뛰어난 능력, 정교한 의사소통, 사고력, 그리고 개인 및 집단적 차원에서, 복잡한 상징적 성과로 표현되는 발달된 정신생활을 결합한 다.
4. 호모 사피엔스는 유아기 초기부터 주변 환경에서 규칙성과 대칭성을 식별하며, 따라서 희귀하거나 특이한 것 역시 인지한다. 다른 영장류에는 없는 이 능력은 우리 종이, 이성을 통해 사물을 분류하고 과학을 통해 그 작동 원리를 파헤치는 능력을 뒷받침한다.
5. 인간 사회 없이는, 소통하고 협력하는 신체들 없이는, 반사적 지성도, 영적 삶도, 의식도 존재하지 않는다.
우리 지능의 특성은 신체적 특성(뇌의 부피와 구조, 이족보행, 손의 전문화, 발성 기관)과 호모 사피엔스가 사회적 포유류라는 사실 모두에서 비롯된다. 우리 종의 새끼는 장기간의 부모 돌봄 덕분에만 생존할 수 있으며, 우리는 복잡한 문법적 언어로 소통하고, 자연과의 사회적 관계는 도구의 도움으로 수행되는 노동을 매개로 한다. 이러한 특성들은 호모 사피엔스에게 다중 지능과 뛰어난 적응력을 부여하며, 이는 인류의 발생학적 발달을 이해하는 데 결정적이다.
6. 마음, 사고, 의식은 뇌의 발달과 기능에 의존하지만, 동시에 신체 전반의 발달과 기능에도 의존한다.
마음, 사고, 의식은 뇌의 특정 영역에 국한되어 존재하지 않는다. 이러한 속성들은 말하자면 인간이 신체적, 정신적, 집단적으로 발달하는 개별화 과정 속에서 분비되는 것이다.
7. 인간의 지능은 사회적일 뿐만 아니라 생태계적이다.
어린이들이 형태와 규칙성, 예외를 식별하고 분류하는 능력은 기후, 계절, 생물군계에 의해 형성된다. 우리의 지성은 지상의 동식물이 지닌 탁월한 다양성과 물리적 세계와의 복잡한 관계에 의해 풍요로워진다.
8. 지성은 필연적으로 이성과 감정을 결합하며, 존재하는 것에 대한 지식, 사라진 것에 대한 기억, 그리고 가능성에 대한 열망을 포괄한다.
감정- 어원적으로 ‘움직임을 일으키는 것’, ‘자신을 초월하게 하는 것’- 은 자아와 타자성 사이의 긴장, 바라는 세계와 현실 세계, 계획과 그 실현, 존재하는 것과 부재하는 것 사이의 긴장에서 발생하는 것이다. 감정은 윤리의 토대를 이루므로 이성에 부가된 요소 그 이상이다: 우리 지성의 필수 구성 요소다. 감정 없이는, 공감 없이는, 윤리 없이는 이성은 위험할 정도로 병리적일 것이다.
9. 인간의 지능 형태는 역사적·생태적으로 전개된다.
인간은 자신의 존재를 사회적으로 생산하는 과정에서 지식, 기술, 생산 방식을 발전시킨다. 그들은 사회와 자연, 그리고 그속에서 일어나는 물질 대사를 변화시키며, 결과적으로 의사소통과 협업의 조건들 - 즉 그들의 지능 또한 변화시킨다. 호모 사피엔스는 문자의 발명 이전과 이후에 사고방식이 달랐을 것이며, 증기기관 발명 이전과 이후의 예술 작품 또한 동일하지 않았을 것이다. 북극 툰드라, 열대 우림, 철근 콘크리트로 이루어진 거대 도시에서 그들의 상징적 세계는 서로 다르다.
인공지능, 지능, 기계주의, 자본주의
10. 인공지능의 혁신은 자본주의적 진보의 파괴성을 가속화한다.
자본주의의 발흥은 과학의 발전과 함께 진행되어 왔다. 지식의 비약적인 발전은 생산 수단을 발전시키고, 교역을 확장하며, 지평을 넓혀주었다. 그러나 이러한 진보는 모순적이다. 지성을 이성으로, 이성을 이윤 계산으로 축소함으로써 자본은 양자를 모두 훼손한다. 가치 법칙은 이성을 무의미하게 만들고 감정을 “이기적인 계산의 차가운 물” 속으로 내던진다. 인공지능의 도입은 이러한 경향을 가속화한다. 공동체 유대와 생물 다양성의 파괴를 심화시켜 사회적, 생태계적 지성의 원천을 고갈시킨다. 인공지능은 그 어느 때보다 광범위한 지식을 제공하지만, 동시에 과학적 탐구의 영역을 좁히고 연구의 악순환을 조장한다.
11. 그 뛰어난 성과에도 불구하고, 인공지능은 지능적이지 않으며 그럴 수도 없다.
인공지능 연구는 뇌 기능에 대한 우리의 이해를 진전시킨다. 특히 인공 신경망을 통한 언어 숙달은 중대한 과학적 돌파구이다. 그러나 인공지능은 생각하지 않으며, 꿈꾸지도, 상상하지도 않는다. 그것은 자신이 말하는 대상(또는 보는 대상)을 알지 못한 채 ‘말한다’. 왜냐하면 인공지능에게는 세계가 존재하지 않기 때문이다. 인공지능이 예측하는 미래는 과거를 지배했던 통계자료에서 도출된 것이다. 인공지능의 데이터 저장 능력은 어지러울 정도로 방대하면서도 불완전하다. 왜냐하면 인공지능이 수집하는 데이터(우리가 만든 데이터를 가로챈 것이다!)는 인터넷 상에서 유통되는 집단적 인간 지식의 일부에 불과하기 때문이다.
12. 인공지능은 ‘인공적’이 아닌 인간적이다. 이는 자본주의적 착취주의, 도구적 이성, 노동의 종속을 심화시킨다.
알고리즘은 이윤 극대화를 추구하는 자본주의적 엔지니어들의 손에 있다. 독점적 지위와 글로벌 영향력 덕분에 디지털 거대 기업들은 이윤율 균등화를 회피한다. 노동이 창출한 가치를 포획하는 바로 이 메커니즘이 그들이 거대한 지대(rents)를 축적할 수 있게 한다. 이는 시스템 고유의 메커니즘에 뿌리를 둔다. 즉 노동력(특히 자연이 제공하는 희토류의 채굴 및 정제 과정에서)의 (과도한) 착취, 그리고 축적된 인간 지식의 무상적 전유에 기반한다. 빅테크 기업의 지배자들은 구체제의 지배 계급과 유사한 절대 권력을 갈망하지만, 디지털 자본주의는 봉건주의가 아니다.
13. 마르크스의 기계 비판은 인공지능을 이해하는 데 결정적이다.
마르크스에게 기계는 프롤레타리아를 자본주의적 가치 증식에 유용한 일련의 행위로 전락시킨다. 노동자의 노하우는 부스러기로 전락하고, 소외된 노동은 창의성을 ‘소멸’시키며, 노동자는 기계의 부속품이 된다. 기계가 노동자의 자리를 차지함으로써 노동자는 존엄성을 상실한다. 기계가 자동화되면, 죽은 노동에 의한 살아 있는 노동의 착취는 생산 과정 자체의 사실이 된다; 기계는 이처럼 자본에 가장 적합한 형태를 부여한다. 이후 자본가가 전유하는 집단 지성 – 죽은 노동 – 은 살아 있는 노동을 완전히 지배한다. 기계는 동시에 ‘적대적 힘’이자 생산의 전제조건으로 나타난다. 자본에 의한 노동의 종속은 형식적 종속에서 실질적 종속으로 전환된다. 이러한 마르크스의 기계 체계에 대한 비판은 인공지능에 완벽하게 적용된다.
14. 위험은 기계가 우리보다 ‘더 지능적’이 될 가능성, 즉 ‘초지능’이 될 가능성에 있지 않다. 위험은 인공지능이 본질적으로 ‘적대적 힘’이며, 순수한 형태의 도구적 이성이고, 자본주의적 비인간성이 객관화된 것이라는 사실에 있다. 인공지능의 힘을 키우는 것은 우리를 지배하고 심연으로 끌고 가는 것의 힘을 키우는 것과 같다.
인공지능, 장기 파동, 그리고 노동 착취
15. 노동과 마주할 때, 인공지능은 자본가보다 더 잘 자본의 논리를 구현한다.
비자본주의 세계에서는 다른 인공지능들이 지루하고 반복적인 작업에서 인류를 해방시킬 수 있다. 예를 들어 교육, 보건, 생태계 관리 분야에서 특정 인공지능들은 살아있는 노동이 사회적·생태적 상호작용에 집중하도록 하여, ‘돌봄’이라는 인간적 논리 안에서 이러한 상호작용을 풍요롭게 할 것이다. 그러나 실제 자본주의 세계에서 ‘돌봄’ - 암 검진, 기상 예보 등 - 은 이윤에 종속된다. 인공지능은 마지막 한 방울까지 잉여가치를 추출하도록 자동화되어, 쉼 없이 작동한다. 이는 살아있는 노동을 더욱 많은 죽은 노동으로 대체하고, 실질적 포섭을 행정 및 서비스 업무로 확장하며, 창조적 직업을 고갈시킨다. 알고리즘은 노동 통제의 테일러주의 논리를 완성한다: 노동자의 활동, 동작, 위치, 작업 순서, 근무 시간 및 이동 시간은 원격으로 직접 명령·평가·보상(그리고 무엇보다도 제재)될 수 있다. 인공지능은 노동을 경감시키기는커녕 오히려 더 강렬하고 밀도 있게 만든다.
16. 인공지능을 통한 새로운 황금시대의 도래라는 약속은 심각하게 근거가 없다. 어떤 기술도 자본주의를 가치 생산의 모순으로부터 구원할 수 없다.
인공지능 도입으로 인한 생산성 증가 전망치는 향후 10년간 연간 0.07~0.7% 사이로 추정된다. 이는 장기 성장 파동을 촉진하기에 불충분하다. 인공지능은 축적을 재개하지 않으며, 오히려 시스템적 모순을 심화시킨다. 마르크스의 주장이 다시 떠오른다: 기계 시스템은 “즉각적 가치 창출을 지향하지 않고” “생산 자체를 위한 생산”을 지향하는 막대한 고정자본을 수반한다. 따라서 기계의 상각을 위해서는 유동자본이 “소비 자체를 위한 소비”를 지향해야 한다. 그러나 잉여가치는 여전히 충분한 기간에 걸쳐 꾸준히 실현되어야 한다. 40년간의 임금 긴축과 강대국들간에 패권 다툼이 벌어지는 현 상황에서 문제는 바로 여기에 있다. 수십억 대의 스마트폰이 홍보하는 상품의 지속적인 판매를 누가 보장할 수 있는가? 어니스트 만델의 통찰에 따르면, 생태사회적 시스템 위기의 심각성과 가치 생산의 고전적 모순은 아마도 자본주의 확장의 새로운 장기적 파동을 배제할 것이다.
17. 인공지능이 가져올 것은 고용의 부활이 아니라 사회·환경적 약탈의 심화이다.
과거 기술혁명과 달리 인공지능으로 인한 일자리 손실은 그에 상응하는 새로운 기능의 개발로 상쇄받을 가능성이 거의 없다. 고정 자본의 막대한 증가는 이윤율을 하락시키는 경향을 보이기 때문에, 자본은 잘 알려진 반대 경향, 즉 무상 자연자원과 저임금 노동력의 약탈 강화에 의존한다. 경제의 비물질화는 허구이다. 현실에서 인공지능의 발전은 제국주의적 생태계 수탈과 프롤레타리아에 대한 가장 잔혹한 과잉 착취(플랫폼 자본주의, 아동 노동, 무급 계약직 등)라는 물질적 폭력의 증가를 동반한다. 이러한 모든 메커니즘은 동시에 식민주의적 불평등과 장애 차별, 인종 차별, 성별 차별을 심화시킨다.
18. 인공지능은 허구 자본이라는 새로운 거품을 만들어내고 군사화 경향을 강화한다.
소수의 과점 기업들이 인공지능(AI) 개발에 투자하는 천문학적인 금액은 전례 없는 자본 과잉, 현대 자본주의에서 금융이 차지하는 비중, 그리고 극도로 높은 집중도와 중앙집권화를 반영합니다. 그러나 기술에 대한 맹목적인 숭배와 과점 기업 내부의 경쟁 심리가 결합되어 투자자들의 눈을 멀게 합니다. 그들의 투자는 그 자체로 가치 창출 문제에 대한 해결책을 제시하지 못합니다. AI는 기대했던 결과를 내지 못하고, 비용이 너무 많이 들며, 고객은 인간과의 소통을 선호하는 등 여러 가지 문제점을 안고 있습니다. 따라서 AI는 허구의 자본이라는 새로운 거품을 만들어냅니다. 10 조만간 기술 자본은 충격을 완화하기 위해 오늘날 놀라운 무료 서비스로 여겨지는 AI의 사용과 비용 지불을 강제할 것입니다. 하지만 그것만으로는 충분하지 않습니다. AI에 대한 열풍은 새로운 대규모 금융 위기를 촉발하고, 위기에 처한 자본이 생존을 위해 무기 생산에 투자하는 경향을 가속화할 모든 요소를 갖추고 있습니다.
19. 인공지능은 허구 자본이라는 새로운 거품을 부풀리고 군사화 경향을 강화한다.
소수의 과점 기업들이 인공지능 개발에 투자하는 천문학적 금액은 전례 없는 금융 자본의 과잉, 현대 자본주의에서 금융이 차지하는 비중, 그리고 그 극도로 높은 집중도와 중앙집권화를 반영한다. 그러나 기술에 대한 맹목적인 숭배와 과점 기업 내부의 경쟁 심리가 결합되어 투자자들의 눈을 멀게 한다. 그들의 투자는 그 자체로 가치 창출 문제에 대한 해결책을 제시하지 못한다. AI는 기대했던 결과를 내지 못하고, 비용이 너무 많이 들며, 고객들은 인간과의 소통을 선호하는 등 여러 가지 문제점을 안고 있다. 따라서 AI는 새로운 허구 자본이라는 새로운 거품을 만들어낸다. 조만간, 충격을 완화하기 위해 기술 자본은 오늘날 놀라운 무료 서비스로 여겨지는 AI의 사용과 비용 지불을 강요할 것이다. 그러나 그것만으로는 충분하지 않을 것이다.
AI에 대한 열풍은 새로운 대규모 금융 위기를 촉발하고, 위기에 빠진 자본이 생명줄로 무기 생산에 투자하는 경향을 가속화하는 데 필요한 모든 요소를 갖추고 있다.
글로벌 불평등, 문명 그리고 “기술 파시즘”
19. 인공지능은 제국주의 중심국과 주변국 사이의 격차를 심화시킨다.
가장 발전된 자본주의 국가들의 강력한 독점 기업들만이 인공지능 인프라 구축에 필요한 막대한 자본을 동원할 수 있다. 이러한 인프라의 급속한 발전은 이미 가장 발전된 자본주의 국가들(특히 미국과 중국)과 중저소득 국가들(LMICs) 사이의 불평등을 심화시키는 요인으로 작용하고 있다. 이러한 격차는 가장 야만적인 제국주의-식민지 지배 메커니즘을 자극하며, 제국주의 세력들이 이주 흐름에 대한 야만적인 통제를 더욱 강화하도록 부추긴다.
20. 일반적인 사회적 관점에서 볼 때, 범용 인공지능은 지능, 창의성, 공감 능력, 윤리 의식, 그리고 공중 보건(특히 정신 건강)을 저하시킨다. 특히 어린이의 경우 더욱 그러하다.
소통과 협력은 불가분의 관계다. 오늘날 알고리즘은 전자를 장악하고 있으며, 이는 마치 과거 증기기관이 후자를 장악했던 것과 같다. 이로 인해 발생하는 유해한 경향은 노동 영역을 넘어 확산된다. 사회 전반에서, 항상 다르고, 인간이든 비인간이든 타인과의 접촉은 자기중심적인 거품속에서의 교류로 대체되고 있다. 기계가 마을을 털어놓을 상대를 대신하고, 정보 과잉은 자유로운 사고의 날개를 꺾어 버린다. 진리를 향한 즐거운 탐구는 가상 현실과 그 거짓에 대한 슬픈 중독으로 대체된다. 다른 미래에 대한 희망은 객관화된 과거의 통계적 집계 속에서 사라진다.
21. 인공지능은 자본이 노동을 이전과는 비교할 수 없을 정도로 포섭하도록 도움으로써, 사회전체를 이전과는 비교할 수 없을 정도로 포섭하도록 돕는다.
재생산 영역에서 AI는 ‘소셜’ 네트워크라는 매체를 통해 노동 착취로 생산된 잉여가치를 실현할 가능성을 배가시킨다. 상품의 유통을 가속화하고 정신에 대한 소비주의적 지배를 강화한다. 산업 혁명 시대의 기계는 노동 과정에 대한 통제권을 박탈함으로써 생산자의 노하우를 무형화시켰다. 인공지능은 말하자면 ‘삶의 기술’, 즉 욕망과 의식의 형성을 무형화시킨다. 말하고, 이해하고, 심지어 공감하는 것처럼 보이는 기계에 자유롭게 접근할 수 있게 되면서 정서적 의존성이 형성되고, 이는 결국 화폐화된다. 노동의 포섭은 삶의 포섭으로 이어진다.
22. 진실과 거짓을 구분하지 못하는 능력으로 인해, 인공지능은 강자 우월주의, 약자의 제거, 그리고 만인 대 만인의 전쟁에서 목적이 수단을 정당화하는 것을 선호한다.
아이들은 사회화와 언어 습득을 통해 진리의 개념을 터득한다. 살아있지도 않고 사회적 존재도 아닌 인공지능에게 도덕성이라는 개념은 낯설고 이질적이다. 기계는 ‘자기학습’을 한다고 불리지만 거짓과 증오, 왜곡으로 오염된 방대한 데이터 덩어리를 스스로 걸러낼 수는 없다. 수천 명의 저임금 ‘클릭 노동자’들이 인공지능에 ‘가치관’을 주입하는 임무를 맡고 있다. 이 가치관은 고용주의 세계관에서 비롯된다. 인공지능이 자살하려는 사람을 부추기고, 사기꾼의 사기를 도우며, 강간범의 강간을 돕는 것은 전혀 놀랍지 않다. 그것은 창조주의 모습을 따라 ‘거짓말’하고, ‘속임수’를 쓰고, ‘음모’를 꾸미며, ‘스스로 작동을 멈추지 않도록’한다.
23. 인공지능은 편협하고 인종차별적이며 성차별적이고 LGBT 혐오적이며 식민주의적, 반생태적이며, 신맬서스주의적인 '테크노파시즘'이라는 노골적인 정치적 표현을 통해 그 본질을 드러내는 불량 자본주의를 섬기는 완벽한 도구이다.
범용 인공지능은 40년 이상 지속된 신자유주의에 힘입어 극우의 부상을 부추긴다. 파시스트들은 이를 이용해 소셜 네트워크로 대중을 조종하고 선거를 조작한다. 권위주의 세력은 역사상 유례없는 수준으로 인구를 통제하는 데 활용한다. (점점 더 비민주적인) 정부들은 이민자를 추적하고 반대자를 감시하는 데 사용한다. 인공지능은 개인의 의견을 바꾸게 하는 전례 없는 능력을 지닌다. 이미지와 텍스트 생성은 ‘경직된 사고’라는 뇌 메커니즘을 자극하는 강력한 세뇌 수단이다. 일부 신경과학 연구자들은 이러한 메커니즘이 다윈이 엿본 가능성처럼 여러 세대에 걸쳐 전이될 수 있는 후성유전학적 변화를 초래한다고 믿는다. 만약 이것이 사실이라면, 인공지능은 인류를 비이성적 신념의 굴레로 영구히 되돌릴 잠재력을 지닌 셈이다.
인공지능, 생태학, 그리고 대재앙
24. 인공지능은 사회-생태적 재앙, 특히 기후 재앙을 가속화한다. 인공지능의 발전은 “티핑 포인트”의 도래를 앞당긴다.
미국 데이터 센터들은 2023년에 170억 리터의 물을 소비했으며, 이 수치는 2028년까지 두 배 이상 증가할 것으로 예상된다. 전 세계 8,000개 데이터 센터는 2024년 연간 460테라와트시(TWh)의 전력을 소비했으며, 2026년에는 2022년 대비 160~590TWh가 추가될 전망이다. 이는 각각 스웨덴과 독일의 연간 전력 소비량에 해당한다. 국제에너지기구(IEA)에 따르면, 이러한 인프라에서 발생하는 이산화탄소 배출량은 2020년부터 2035년 사이에 세 배로 증가할 전망이다. 인공지능에 필수적인 희토류 채굴은 전 세계적으로 연간 130억 톤의 폐기물을 발생시키며, 일부 연구는 2050년까지 이 수치가 백 배 이상 증가할 것으로 예측한다. 가난한 국가의 빈곤층은 이러한 영향으로 가장 큰 타격을 받는다. 이는 광산 개발과 이전된 데이터 센터의 물 자원 고갈로 인한 직접적 영향이든, 생물 다양성 손실과 극단적 기후 현상으로 인한 간접적 영향이든 마찬가지이다.
25. 인공지능은 자본주의 경쟁에 내재된 대규모 기술적 재앙의 위험을 증폭시킨다.
인공지능은 주로 중국과 미국을 중심으로 국가 간 갈등이 심화되는 긴밀히 얽힌 기술 독점 기업들 간의 경쟁에서 핵심 쟁점이 되었다. 따라서 인공지능 경쟁은 곧바로 군사적 응용을 위한 경쟁으로 이어진다. 연구는 불투명하며 “조직된 회의주의”라는 과학적 관행에서 벗어난다. 이러한 상황은 비밀주의를 조장하여 위험을 증폭시킨다. 더욱 강력한 AI가 여러 시스템에 침투하여 필수 서비스를 마비시키거나, 위험한 바이러스를 퍼뜨리거나, 핵 공격을 유발할 수 있지만, 그 정확한 메커니즘은 아무도 알 수 없다. 자본주의 체제가 (과학적으로 완벽히 입증된) 기후 변화를 막지 못하는 현실은 이러한 시나리오들이 공상과학 소설 속 이야기가 아님을 보여준다.
필요한 정교화를 위한 경로
26. 인공지능의 영향으로부터 사회를 보호하기 위한 위험 요인 파악과 즉각적 조치 시행을 위해 공공 차원의 노력이 필수적이다.
자본주의적 이익과 무관한 과학적 전문성에 기반한 광범위한 민주적 논의를 통해 인공지능의 사회적 유용성에 대한 판단을 내리고, 다음 문제점과 대책을 의제로 상정해야 한다
◾ AI 연구 개발은 자본주의 집단의 손에서 벗어나 과학계의 절차에 따라 수행되어야 한다
◾ 기업이 사용하는 모델 설계, 알고리즘 훈련 및 기술적 방법론에 대한 완전한 투명성 보장
◾ 예술적·문학적 창작 분야에서의 AI 사용 금지; 데이터 불법 복제 단속
◾ 디지털 기술을 활용하는 협력적 사업(위키피디아 등)을 AI와의 경쟁 및 AI에 의한 저작권 침해로부터 보호한다
◾ AI 사용으로 인한 사회적 관계의 비인간화 위험에 대비하여 '돌봄' 분야(교육, 보건, 영유아 및 노인 지원, 여성 폭력 예방 등)의 고용 유지 및 확대
◾ 정부 서비스 이용시 민원창구 유지 보장
◾ 군사 및 경찰 분야에서의 AI 응용 금지;
◾ 인종차별적, 성차별적, LGBT 혐오적 콘텐츠 금지;
◾ 16세 미만 아동의 소셜 네트워크 접근 차단; 기술 및 그 위험성에 대한 교육
◾ 협력, 자연에 대한 소속감, 생명체 존중을 함양하기 위한 학교 교육과정 개혁.
27. 인공지능은 노동계급에게 가치 사슬의 모든 단계에서 투쟁을 연결하고 노동자 통제를 다시 의제로 올려놓는, 근본적으로 반식민주의적인 전투적 국제 노동조합주의의 필요성을 제기한다.
빅테크 기업들의 지대 자본주의의 힘은 광업 부문, 희토류 정제, 전자 산업에서 수백만 노동자와 아동의 과도한 착취에 기반한다. 이러한 탐욕스러운 독점 기업들과 그들의 테크노파시스트적 프로젝트에 맞선 투쟁은 가치 사슬의 모든 단계에서 노동자들의 단결을 요구한다. 모든 곳에서 노동조합을 인정하고 노동조합의 자유를 보장해야 한다. 작업장 내 인공지능 도입에 관한 노동자 의견수렴을 의무화해야 한다. 노동조합의 거부권을 보장해야 한다. 업무량이 양적·질적으로 변화하는 과정에 대한 노동자 통제권을 확보해야 한다. 기업의 인공지능 도입으로 인한 정리해고에 맞서 임금 삭감 없는 노동시간 단축을 보장해야 한다.
28. 데이터 센터 및 기타 대규모 AI 인프라 건설에 대한 일시 중단은 필수적입니다. 향후 모든 진전은 다음과 같은 사항을 포함하는 전 지구적 생태사회 전략의 채택에 따라 이루어져야 합니다. 사회적 불평등 감소, 자원(물, 광물)의 지속 가능한 관리, 파괴된 생태계 복원, 그리고 파리 기후 협정의 목표에 부합하는 온실가스 배출량의 구속력 있는 감축을 위한 구체적인 계획.
29. 데이터 센터 및 기타 대규모 인공지능 인프라 건설에 대한 일시 중단은 필수적이다. 향후 모든 발전은 특히 다음과 같은 글로벌 생태·사회 전략의 채택에 따라 이루어져야 한다.
: 사회적 불평등 감소 전략, 자원(물, 광물)의 지속가능한 관리, 파괴된 생태계 복원, 그리고 파리 기후 협정 목표에 부합하는 온실가스 배출량의 법적 구속력 있는 감축을 위한 구체적 계획.
30. 인공지능에 맞서 대항 문화를 발전시키자. 사회운동에서 인공지능에 의한 사회적 관계와 사상 논쟁의 퇴보에 저항하기 위한 집단적 실천을 구현하자.
집단적 지성의 형성은 대면 교류를 통해 민주적으로 결정되고 평가되는 집단적 행동 없이는 불가능하다. 이는 언어적·비언어적 표현을 허용하는 과정이다. 소셜 네트워크는 토론의 장이 아니다. 좌파는 ‘말하는 기계’에 대한 매혹과 싸워야 하며, 회의에서 스마트폰 사용을 의식적으로 배제하고, 관점 교환과 심층 분석을 위한 인쇄 매체를 되살리기 위해 노력해야 한다.
31. 또 다른 디지털 영역, 공개적이고 민주적인 영역이 가능하다.
필수적인 부의 재분배라는 틀 안에서, 지방·지역·국가 당국은 민주적 통제 하에 메시징, 데이터 저장, 소셜 네트워크를 위한 무료 공공 인프라를 보장할 수단을 갖춰야 하며, 이는 사용자 데이터 보호와 분야별 인공지능 개발을 수반해야 한다.
32. 인공지능 시대에 자본주의에 맞서 싸우는 투쟁은 좌파의 근본적인 재정립의 필요성을 더욱 강화한다.
인공지능의 획기적인 발전은 좌파의 혼란스러운 상황을 적나라하게 드러낸다. 이는 마르크스주의와 좌파 전반에서 생산주의, 도구주의적 이념(“목적이 수단을 정당화한다”), 진보 숭배, 그리고 “기술 중립성”이라는 개념을 청산할 필요성을 더욱 부각시킨다. 실리콘밸리, 선전 그리고 다른 제국주의 중심지에서 비롯된 빅테크 기업의 세계적 지배는 진영주의의 부조리함을 부각시킨다. 자본과의 단절은 자본주의가 전 세계적으로 폐지될 때까지 지속되는 혁명이라는 국제주의적 관점안에서만 이해될 수 있다. 좌파는 마르크스주의를 넘어 “행위자-네트워크 이론”과 같은 포스트모던 개념과도 결별해야 한다. AI의 이질적 본성이 초래하는 위험한 결과를 충분히 고려하려면, 인간 활동의 보철물로 기능하는 기술 장치가 사회적 영향을 미친다는 이유로 사회적 행위자로 간주되어야 한다는 생각을 버려야 한다. 역사를 만들어가는 것은 기계가 아니라 인간이다.
33. 인공지능의 위협은 자본주의적 성장의 문명과 단절하는 혁명적이고 생태사회주의적인 움직임의 시급성을 강조한다.
인공지능의 위협은 자본주의에서만 비롯되는 것이 아닙니다. 생산관계가 어떠하든, 신경망은 구조적으로 진실과 거짓을 구별하고 다른 미래를 예측할 수 없습니다. 자본주의적 재산을 공동재산으로 대체하는 것만으로는 인공지능이 지구 지속가능성의 한계 내에 두는 데 충분하지 않습니다. 인공지능이 시장이 만들어낸 심각한 문제들을 해결해 줄 기적의 치료제가 될 것이라는 생각은 이성이 아닌 마법에 가깝습니다. 인간의 존엄성과 종의 생존에 부합하는 유일한 관점은 사회 정의에 기반한 계획에 따른 생태사회주의적 전 지구적 물질생산의 탈성장입니다. 이는 생태계와 그 한계, 그리고 그 취약하고 대체 불가능한 아름다움을 존중하며 민주적으로 결정된 실질적인 필요를 충족하는 세계 경제를 지향해야 합니다.
34. 인공지능의 위협은 자본주의적 성장 문명과의 혁명적·생태사회주의적 단절의 시급성을 강조한다.
인공지능의 위협은 자본주의에서만 비롯된 것이 아니다. 생산 관계가 어떠하든 신경망은 구조적으로 진실과 거짓을 구분하거나 다른 미래를 예측할 수 없다. 자본주의적 소유를 집단적 소유로 대체하는 것만으로는 인공지능의 생태적 발자국을 지구의 지속가능성 한계 내로 끌어들이기에 충분하지 않다. 시장이 만들어낸 끔찍한 문제들을 시장이 해결할 수 있게 해주는 기적의 치료제로서 인공지능이 작용할 것이라는 생각은 이성이 아닌 마법에 가깝다. 인간의 존엄성과 종의 생존과 양립할 수 있는 유일한 관점은 생태사회주의적 탈성장이다. 이는 사회적 정의를 바탕으로 계획된 전지구적 물질 생산의 축소를 지향하며, 생태계와 그 한계, 그리고 대체 불가능한 아름다움을 존중하는 가운데 민주적으로 결정된 진정한 필요를 충족시키는 세계 경제를 목표로 한다.
인공지능에 대한 생태사회주의적 비판 테제
- 다니엘 타누로 지음
<편집자의 글>
이 글을 쓴 다니엘 타누로는 벨기에의 농업전문가, 생태사회주의운동가이자 작가이다. 벨기에의 ‘반자본주의 좌파’의 기관지인 ‘좌파’에 정기적으로 글을 기고한다. The Impossibility of Green Capitallism, (Resistance Books, Merlin and IIRE, 2010), Le moment Trump (Demopolis, 2018)의 저자이기도 하다. 아래 글의 출처는 여기이며, 구글번역을 하여, 수정·보완하였다. AI를 바라보는 관점은 다양하다. 그것이 가져올 미래에 대한 환상과 두려움도 교차하지만, 무엇보다 AI에 쓰이는 전력과 물이 기후위기대응에 부정적 영향을 끼칠 것이란 우려는 이미 널리 퍼져 있으며, 데이터센터 건설을 반대하는 대중운동도 점점 확산되는 중이다. 우리 나라에서도 데이터센터 반대 주민운동이 벌어진 바가 있다. 이에 생태사회주의적 관점에서 AI를 바라보는데에 도움이 되는 글을 소개한다. 일독과 토론을 바란다. (원문의 각주는 생략하였다.)
이 글은 주로 생성형 인공지능을 다룬다. (길이가 서로 다른) 명제들의 형식으로 제시된 내용은 확정적인 결론을 내리려는 것이 아니라, 간결한 설명을 통해 논의를 촉진하기 위한 것이다.
지능과 인간의 지능
1. 우리가 지능이라 부르는 것은 시간의 흐름을 점철하는 사건들 속에서 차이를 포착하고, 새로운 것을 인식하며, 가능한 것을 예측할 수 있게 하는 능력이다.
2. 지능은 생명체의 비선형적 진화 과정에서 발생하는 신생 산물이다.
자연은 도약한다. 무생물은 지능이 없다. 식물과 균류의 공생체는 예측이나 의식 없이도 소통하고 주변 상황에 적응한다. 여기서 정의된 지능은 동물계에서 나타나며, 다양한 형태와 수준을 띤다. 단세포 생물과 뇌가 없는 생물에서는 지능이 ‘생존 본능’(생존 메커니즘)과 융합된다.
3. 인간의 지능은 적은 양의 데이터로부터 추상화하는 뛰어난 능력, 정교한 의사소통, 사고력, 그리고 개인 및 집단적 차원에서, 복잡한 상징적 성과로 표현되는 발달된 정신생활을 결합한 다.
4. 호모 사피엔스는 유아기 초기부터 주변 환경에서 규칙성과 대칭성을 식별하며, 따라서 희귀하거나 특이한 것 역시 인지한다. 다른 영장류에는 없는 이 능력은 우리 종이, 이성을 통해 사물을 분류하고 과학을 통해 그 작동 원리를 파헤치는 능력을 뒷받침한다.
5. 인간 사회 없이는, 소통하고 협력하는 신체들 없이는, 반사적 지성도, 영적 삶도, 의식도 존재하지 않는다.
우리 지능의 특성은 신체적 특성(뇌의 부피와 구조, 이족보행, 손의 전문화, 발성 기관)과 호모 사피엔스가 사회적 포유류라는 사실 모두에서 비롯된다. 우리 종의 새끼는 장기간의 부모 돌봄 덕분에만 생존할 수 있으며, 우리는 복잡한 문법적 언어로 소통하고, 자연과의 사회적 관계는 도구의 도움으로 수행되는 노동을 매개로 한다. 이러한 특성들은 호모 사피엔스에게 다중 지능과 뛰어난 적응력을 부여하며, 이는 인류의 발생학적 발달을 이해하는 데 결정적이다.
6. 마음, 사고, 의식은 뇌의 발달과 기능에 의존하지만, 동시에 신체 전반의 발달과 기능에도 의존한다.
마음, 사고, 의식은 뇌의 특정 영역에 국한되어 존재하지 않는다. 이러한 속성들은 말하자면 인간이 신체적, 정신적, 집단적으로 발달하는 개별화 과정 속에서 분비되는 것이다.
7. 인간의 지능은 사회적일 뿐만 아니라 생태계적이다.
어린이들이 형태와 규칙성, 예외를 식별하고 분류하는 능력은 기후, 계절, 생물군계에 의해 형성된다. 우리의 지성은 지상의 동식물이 지닌 탁월한 다양성과 물리적 세계와의 복잡한 관계에 의해 풍요로워진다.
8. 지성은 필연적으로 이성과 감정을 결합하며, 존재하는 것에 대한 지식, 사라진 것에 대한 기억, 그리고 가능성에 대한 열망을 포괄한다.
감정- 어원적으로 ‘움직임을 일으키는 것’, ‘자신을 초월하게 하는 것’- 은 자아와 타자성 사이의 긴장, 바라는 세계와 현실 세계, 계획과 그 실현, 존재하는 것과 부재하는 것 사이의 긴장에서 발생하는 것이다. 감정은 윤리의 토대를 이루므로 이성에 부가된 요소 그 이상이다: 우리 지성의 필수 구성 요소다. 감정 없이는, 공감 없이는, 윤리 없이는 이성은 위험할 정도로 병리적일 것이다.
9. 인간의 지능 형태는 역사적·생태적으로 전개된다.
인간은 자신의 존재를 사회적으로 생산하는 과정에서 지식, 기술, 생산 방식을 발전시킨다. 그들은 사회와 자연, 그리고 그속에서 일어나는 물질 대사를 변화시키며, 결과적으로 의사소통과 협업의 조건들 - 즉 그들의 지능 또한 변화시킨다. 호모 사피엔스는 문자의 발명 이전과 이후에 사고방식이 달랐을 것이며, 증기기관 발명 이전과 이후의 예술 작품 또한 동일하지 않았을 것이다. 북극 툰드라, 열대 우림, 철근 콘크리트로 이루어진 거대 도시에서 그들의 상징적 세계는 서로 다르다.
인공지능, 지능, 기계주의, 자본주의
10. 인공지능의 혁신은 자본주의적 진보의 파괴성을 가속화한다.
자본주의의 발흥은 과학의 발전과 함께 진행되어 왔다. 지식의 비약적인 발전은 생산 수단을 발전시키고, 교역을 확장하며, 지평을 넓혀주었다. 그러나 이러한 진보는 모순적이다. 지성을 이성으로, 이성을 이윤 계산으로 축소함으로써 자본은 양자를 모두 훼손한다. 가치 법칙은 이성을 무의미하게 만들고 감정을 “이기적인 계산의 차가운 물” 속으로 내던진다. 인공지능의 도입은 이러한 경향을 가속화한다. 공동체 유대와 생물 다양성의 파괴를 심화시켜 사회적, 생태계적 지성의 원천을 고갈시킨다. 인공지능은 그 어느 때보다 광범위한 지식을 제공하지만, 동시에 과학적 탐구의 영역을 좁히고 연구의 악순환을 조장한다.
11. 그 뛰어난 성과에도 불구하고, 인공지능은 지능적이지 않으며 그럴 수도 없다.
인공지능 연구는 뇌 기능에 대한 우리의 이해를 진전시킨다. 특히 인공 신경망을 통한 언어 숙달은 중대한 과학적 돌파구이다. 그러나 인공지능은 생각하지 않으며, 꿈꾸지도, 상상하지도 않는다. 그것은 자신이 말하는 대상(또는 보는 대상)을 알지 못한 채 ‘말한다’. 왜냐하면 인공지능에게는 세계가 존재하지 않기 때문이다. 인공지능이 예측하는 미래는 과거를 지배했던 통계자료에서 도출된 것이다. 인공지능의 데이터 저장 능력은 어지러울 정도로 방대하면서도 불완전하다. 왜냐하면 인공지능이 수집하는 데이터(우리가 만든 데이터를 가로챈 것이다!)는 인터넷 상에서 유통되는 집단적 인간 지식의 일부에 불과하기 때문이다.
12. 인공지능은 ‘인공적’이 아닌 인간적이다. 이는 자본주의적 착취주의, 도구적 이성, 노동의 종속을 심화시킨다.
알고리즘은 이윤 극대화를 추구하는 자본주의적 엔지니어들의 손에 있다. 독점적 지위와 글로벌 영향력 덕분에 디지털 거대 기업들은 이윤율 균등화를 회피한다. 노동이 창출한 가치를 포획하는 바로 이 메커니즘이 그들이 거대한 지대(rents)를 축적할 수 있게 한다. 이는 시스템 고유의 메커니즘에 뿌리를 둔다. 즉 노동력(특히 자연이 제공하는 희토류의 채굴 및 정제 과정에서)의 (과도한) 착취, 그리고 축적된 인간 지식의 무상적 전유에 기반한다. 빅테크 기업의 지배자들은 구체제의 지배 계급과 유사한 절대 권력을 갈망하지만, 디지털 자본주의는 봉건주의가 아니다.
13. 마르크스의 기계 비판은 인공지능을 이해하는 데 결정적이다.
마르크스에게 기계는 프롤레타리아를 자본주의적 가치 증식에 유용한 일련의 행위로 전락시킨다. 노동자의 노하우는 부스러기로 전락하고, 소외된 노동은 창의성을 ‘소멸’시키며, 노동자는 기계의 부속품이 된다. 기계가 노동자의 자리를 차지함으로써 노동자는 존엄성을 상실한다. 기계가 자동화되면, 죽은 노동에 의한 살아 있는 노동의 착취는 생산 과정 자체의 사실이 된다; 기계는 이처럼 자본에 가장 적합한 형태를 부여한다. 이후 자본가가 전유하는 집단 지성 – 죽은 노동 – 은 살아 있는 노동을 완전히 지배한다. 기계는 동시에 ‘적대적 힘’이자 생산의 전제조건으로 나타난다. 자본에 의한 노동의 종속은 형식적 종속에서 실질적 종속으로 전환된다. 이러한 마르크스의 기계 체계에 대한 비판은 인공지능에 완벽하게 적용된다.
14. 위험은 기계가 우리보다 ‘더 지능적’이 될 가능성, 즉 ‘초지능’이 될 가능성에 있지 않다. 위험은 인공지능이 본질적으로 ‘적대적 힘’이며, 순수한 형태의 도구적 이성이고, 자본주의적 비인간성이 객관화된 것이라는 사실에 있다. 인공지능의 힘을 키우는 것은 우리를 지배하고 심연으로 끌고 가는 것의 힘을 키우는 것과 같다.
인공지능, 장기 파동, 그리고 노동 착취
15. 노동과 마주할 때, 인공지능은 자본가보다 더 잘 자본의 논리를 구현한다.
비자본주의 세계에서는 다른 인공지능들이 지루하고 반복적인 작업에서 인류를 해방시킬 수 있다. 예를 들어 교육, 보건, 생태계 관리 분야에서 특정 인공지능들은 살아있는 노동이 사회적·생태적 상호작용에 집중하도록 하여, ‘돌봄’이라는 인간적 논리 안에서 이러한 상호작용을 풍요롭게 할 것이다. 그러나 실제 자본주의 세계에서 ‘돌봄’ - 암 검진, 기상 예보 등 - 은 이윤에 종속된다. 인공지능은 마지막 한 방울까지 잉여가치를 추출하도록 자동화되어, 쉼 없이 작동한다. 이는 살아있는 노동을 더욱 많은 죽은 노동으로 대체하고, 실질적 포섭을 행정 및 서비스 업무로 확장하며, 창조적 직업을 고갈시킨다. 알고리즘은 노동 통제의 테일러주의 논리를 완성한다: 노동자의 활동, 동작, 위치, 작업 순서, 근무 시간 및 이동 시간은 원격으로 직접 명령·평가·보상(그리고 무엇보다도 제재)될 수 있다. 인공지능은 노동을 경감시키기는커녕 오히려 더 강렬하고 밀도 있게 만든다.
16. 인공지능을 통한 새로운 황금시대의 도래라는 약속은 심각하게 근거가 없다. 어떤 기술도 자본주의를 가치 생산의 모순으로부터 구원할 수 없다.
인공지능 도입으로 인한 생산성 증가 전망치는 향후 10년간 연간 0.07~0.7% 사이로 추정된다. 이는 장기 성장 파동을 촉진하기에 불충분하다. 인공지능은 축적을 재개하지 않으며, 오히려 시스템적 모순을 심화시킨다. 마르크스의 주장이 다시 떠오른다: 기계 시스템은 “즉각적 가치 창출을 지향하지 않고” “생산 자체를 위한 생산”을 지향하는 막대한 고정자본을 수반한다. 따라서 기계의 상각을 위해서는 유동자본이 “소비 자체를 위한 소비”를 지향해야 한다. 그러나 잉여가치는 여전히 충분한 기간에 걸쳐 꾸준히 실현되어야 한다. 40년간의 임금 긴축과 강대국들간에 패권 다툼이 벌어지는 현 상황에서 문제는 바로 여기에 있다. 수십억 대의 스마트폰이 홍보하는 상품의 지속적인 판매를 누가 보장할 수 있는가? 어니스트 만델의 통찰에 따르면, 생태사회적 시스템 위기의 심각성과 가치 생산의 고전적 모순은 아마도 자본주의 확장의 새로운 장기적 파동을 배제할 것이다.
17. 인공지능이 가져올 것은 고용의 부활이 아니라 사회·환경적 약탈의 심화이다.
과거 기술혁명과 달리 인공지능으로 인한 일자리 손실은 그에 상응하는 새로운 기능의 개발로 상쇄받을 가능성이 거의 없다. 고정 자본의 막대한 증가는 이윤율을 하락시키는 경향을 보이기 때문에, 자본은 잘 알려진 반대 경향, 즉 무상 자연자원과 저임금 노동력의 약탈 강화에 의존한다. 경제의 비물질화는 허구이다. 현실에서 인공지능의 발전은 제국주의적 생태계 수탈과 프롤레타리아에 대한 가장 잔혹한 과잉 착취(플랫폼 자본주의, 아동 노동, 무급 계약직 등)라는 물질적 폭력의 증가를 동반한다. 이러한 모든 메커니즘은 동시에 식민주의적 불평등과 장애 차별, 인종 차별, 성별 차별을 심화시킨다.
18. 인공지능은 허구 자본이라는 새로운 거품을 만들어내고 군사화 경향을 강화한다.
소수의 과점 기업들이 인공지능(AI) 개발에 투자하는 천문학적인 금액은 전례 없는 자본 과잉, 현대 자본주의에서 금융이 차지하는 비중, 그리고 극도로 높은 집중도와 중앙집권화를 반영합니다. 그러나 기술에 대한 맹목적인 숭배와 과점 기업 내부의 경쟁 심리가 결합되어 투자자들의 눈을 멀게 합니다. 그들의 투자는 그 자체로 가치 창출 문제에 대한 해결책을 제시하지 못합니다. AI는 기대했던 결과를 내지 못하고, 비용이 너무 많이 들며, 고객은 인간과의 소통을 선호하는 등 여러 가지 문제점을 안고 있습니다. 따라서 AI는 허구의 자본이라는 새로운 거품을 만들어냅니다. 10 조만간 기술 자본은 충격을 완화하기 위해 오늘날 놀라운 무료 서비스로 여겨지는 AI의 사용과 비용 지불을 강제할 것입니다. 하지만 그것만으로는 충분하지 않습니다. AI에 대한 열풍은 새로운 대규모 금융 위기를 촉발하고, 위기에 처한 자본이 생존을 위해 무기 생산에 투자하는 경향을 가속화할 모든 요소를 갖추고 있습니다.
19. 인공지능은 허구 자본이라는 새로운 거품을 부풀리고 군사화 경향을 강화한다.
소수의 과점 기업들이 인공지능 개발에 투자하는 천문학적 금액은 전례 없는 금융 자본의 과잉, 현대 자본주의에서 금융이 차지하는 비중, 그리고 그 극도로 높은 집중도와 중앙집권화를 반영한다. 그러나 기술에 대한 맹목적인 숭배와 과점 기업 내부의 경쟁 심리가 결합되어 투자자들의 눈을 멀게 한다. 그들의 투자는 그 자체로 가치 창출 문제에 대한 해결책을 제시하지 못한다. AI는 기대했던 결과를 내지 못하고, 비용이 너무 많이 들며, 고객들은 인간과의 소통을 선호하는 등 여러 가지 문제점을 안고 있다. 따라서 AI는 새로운 허구 자본이라는 새로운 거품을 만들어낸다. 조만간, 충격을 완화하기 위해 기술 자본은 오늘날 놀라운 무료 서비스로 여겨지는 AI의 사용과 비용 지불을 강요할 것이다. 그러나 그것만으로는 충분하지 않을 것이다.
AI에 대한 열풍은 새로운 대규모 금융 위기를 촉발하고, 위기에 빠진 자본이 생명줄로 무기 생산에 투자하는 경향을 가속화하는 데 필요한 모든 요소를 갖추고 있다.
글로벌 불평등, 문명 그리고 “기술 파시즘”
19. 인공지능은 제국주의 중심국과 주변국 사이의 격차를 심화시킨다.
가장 발전된 자본주의 국가들의 강력한 독점 기업들만이 인공지능 인프라 구축에 필요한 막대한 자본을 동원할 수 있다. 이러한 인프라의 급속한 발전은 이미 가장 발전된 자본주의 국가들(특히 미국과 중국)과 중저소득 국가들(LMICs) 사이의 불평등을 심화시키는 요인으로 작용하고 있다. 이러한 격차는 가장 야만적인 제국주의-식민지 지배 메커니즘을 자극하며, 제국주의 세력들이 이주 흐름에 대한 야만적인 통제를 더욱 강화하도록 부추긴다.
20. 일반적인 사회적 관점에서 볼 때, 범용 인공지능은 지능, 창의성, 공감 능력, 윤리 의식, 그리고 공중 보건(특히 정신 건강)을 저하시킨다. 특히 어린이의 경우 더욱 그러하다.
소통과 협력은 불가분의 관계다. 오늘날 알고리즘은 전자를 장악하고 있으며, 이는 마치 과거 증기기관이 후자를 장악했던 것과 같다. 이로 인해 발생하는 유해한 경향은 노동 영역을 넘어 확산된다. 사회 전반에서, 항상 다르고, 인간이든 비인간이든 타인과의 접촉은 자기중심적인 거품속에서의 교류로 대체되고 있다. 기계가 마을을 털어놓을 상대를 대신하고, 정보 과잉은 자유로운 사고의 날개를 꺾어 버린다. 진리를 향한 즐거운 탐구는 가상 현실과 그 거짓에 대한 슬픈 중독으로 대체된다. 다른 미래에 대한 희망은 객관화된 과거의 통계적 집계 속에서 사라진다.
21. 인공지능은 자본이 노동을 이전과는 비교할 수 없을 정도로 포섭하도록 도움으로써, 사회전체를 이전과는 비교할 수 없을 정도로 포섭하도록 돕는다.
재생산 영역에서 AI는 ‘소셜’ 네트워크라는 매체를 통해 노동 착취로 생산된 잉여가치를 실현할 가능성을 배가시킨다. 상품의 유통을 가속화하고 정신에 대한 소비주의적 지배를 강화한다. 산업 혁명 시대의 기계는 노동 과정에 대한 통제권을 박탈함으로써 생산자의 노하우를 무형화시켰다. 인공지능은 말하자면 ‘삶의 기술’, 즉 욕망과 의식의 형성을 무형화시킨다. 말하고, 이해하고, 심지어 공감하는 것처럼 보이는 기계에 자유롭게 접근할 수 있게 되면서 정서적 의존성이 형성되고, 이는 결국 화폐화된다. 노동의 포섭은 삶의 포섭으로 이어진다.
22. 진실과 거짓을 구분하지 못하는 능력으로 인해, 인공지능은 강자 우월주의, 약자의 제거, 그리고 만인 대 만인의 전쟁에서 목적이 수단을 정당화하는 것을 선호한다.
아이들은 사회화와 언어 습득을 통해 진리의 개념을 터득한다. 살아있지도 않고 사회적 존재도 아닌 인공지능에게 도덕성이라는 개념은 낯설고 이질적이다. 기계는 ‘자기학습’을 한다고 불리지만 거짓과 증오, 왜곡으로 오염된 방대한 데이터 덩어리를 스스로 걸러낼 수는 없다. 수천 명의 저임금 ‘클릭 노동자’들이 인공지능에 ‘가치관’을 주입하는 임무를 맡고 있다. 이 가치관은 고용주의 세계관에서 비롯된다. 인공지능이 자살하려는 사람을 부추기고, 사기꾼의 사기를 도우며, 강간범의 강간을 돕는 것은 전혀 놀랍지 않다. 그것은 창조주의 모습을 따라 ‘거짓말’하고, ‘속임수’를 쓰고, ‘음모’를 꾸미며, ‘스스로 작동을 멈추지 않도록’한다.
23. 인공지능은 편협하고 인종차별적이며 성차별적이고 LGBT 혐오적이며 식민주의적, 반생태적이며, 신맬서스주의적인 '테크노파시즘'이라는 노골적인 정치적 표현을 통해 그 본질을 드러내는 불량 자본주의를 섬기는 완벽한 도구이다.
범용 인공지능은 40년 이상 지속된 신자유주의에 힘입어 극우의 부상을 부추긴다. 파시스트들은 이를 이용해 소셜 네트워크로 대중을 조종하고 선거를 조작한다. 권위주의 세력은 역사상 유례없는 수준으로 인구를 통제하는 데 활용한다. (점점 더 비민주적인) 정부들은 이민자를 추적하고 반대자를 감시하는 데 사용한다. 인공지능은 개인의 의견을 바꾸게 하는 전례 없는 능력을 지닌다. 이미지와 텍스트 생성은 ‘경직된 사고’라는 뇌 메커니즘을 자극하는 강력한 세뇌 수단이다. 일부 신경과학 연구자들은 이러한 메커니즘이 다윈이 엿본 가능성처럼 여러 세대에 걸쳐 전이될 수 있는 후성유전학적 변화를 초래한다고 믿는다. 만약 이것이 사실이라면, 인공지능은 인류를 비이성적 신념의 굴레로 영구히 되돌릴 잠재력을 지닌 셈이다.
인공지능, 생태학, 그리고 대재앙
24. 인공지능은 사회-생태적 재앙, 특히 기후 재앙을 가속화한다. 인공지능의 발전은 “티핑 포인트”의 도래를 앞당긴다.
미국 데이터 센터들은 2023년에 170억 리터의 물을 소비했으며, 이 수치는 2028년까지 두 배 이상 증가할 것으로 예상된다. 전 세계 8,000개 데이터 센터는 2024년 연간 460테라와트시(TWh)의 전력을 소비했으며, 2026년에는 2022년 대비 160~590TWh가 추가될 전망이다. 이는 각각 스웨덴과 독일의 연간 전력 소비량에 해당한다. 국제에너지기구(IEA)에 따르면, 이러한 인프라에서 발생하는 이산화탄소 배출량은 2020년부터 2035년 사이에 세 배로 증가할 전망이다. 인공지능에 필수적인 희토류 채굴은 전 세계적으로 연간 130억 톤의 폐기물을 발생시키며, 일부 연구는 2050년까지 이 수치가 백 배 이상 증가할 것으로 예측한다. 가난한 국가의 빈곤층은 이러한 영향으로 가장 큰 타격을 받는다. 이는 광산 개발과 이전된 데이터 센터의 물 자원 고갈로 인한 직접적 영향이든, 생물 다양성 손실과 극단적 기후 현상으로 인한 간접적 영향이든 마찬가지이다.
25. 인공지능은 자본주의 경쟁에 내재된 대규모 기술적 재앙의 위험을 증폭시킨다.
인공지능은 주로 중국과 미국을 중심으로 국가 간 갈등이 심화되는 긴밀히 얽힌 기술 독점 기업들 간의 경쟁에서 핵심 쟁점이 되었다. 따라서 인공지능 경쟁은 곧바로 군사적 응용을 위한 경쟁으로 이어진다. 연구는 불투명하며 “조직된 회의주의”라는 과학적 관행에서 벗어난다. 이러한 상황은 비밀주의를 조장하여 위험을 증폭시킨다. 더욱 강력한 AI가 여러 시스템에 침투하여 필수 서비스를 마비시키거나, 위험한 바이러스를 퍼뜨리거나, 핵 공격을 유발할 수 있지만, 그 정확한 메커니즘은 아무도 알 수 없다. 자본주의 체제가 (과학적으로 완벽히 입증된) 기후 변화를 막지 못하는 현실은 이러한 시나리오들이 공상과학 소설 속 이야기가 아님을 보여준다.
필요한 정교화를 위한 경로
26. 인공지능의 영향으로부터 사회를 보호하기 위한 위험 요인 파악과 즉각적 조치 시행을 위해 공공 차원의 노력이 필수적이다.
자본주의적 이익과 무관한 과학적 전문성에 기반한 광범위한 민주적 논의를 통해 인공지능의 사회적 유용성에 대한 판단을 내리고, 다음 문제점과 대책을 의제로 상정해야 한다
◾ AI 연구 개발은 자본주의 집단의 손에서 벗어나 과학계의 절차에 따라 수행되어야 한다
◾ 기업이 사용하는 모델 설계, 알고리즘 훈련 및 기술적 방법론에 대한 완전한 투명성 보장
◾ 예술적·문학적 창작 분야에서의 AI 사용 금지; 데이터 불법 복제 단속
◾ 디지털 기술을 활용하는 협력적 사업(위키피디아 등)을 AI와의 경쟁 및 AI에 의한 저작권 침해로부터 보호한다
◾ AI 사용으로 인한 사회적 관계의 비인간화 위험에 대비하여 '돌봄' 분야(교육, 보건, 영유아 및 노인 지원, 여성 폭력 예방 등)의 고용 유지 및 확대
◾ 정부 서비스 이용시 민원창구 유지 보장
◾ 군사 및 경찰 분야에서의 AI 응용 금지;
◾ 인종차별적, 성차별적, LGBT 혐오적 콘텐츠 금지;
◾ 16세 미만 아동의 소셜 네트워크 접근 차단; 기술 및 그 위험성에 대한 교육
◾ 협력, 자연에 대한 소속감, 생명체 존중을 함양하기 위한 학교 교육과정 개혁.
27. 인공지능은 노동계급에게 가치 사슬의 모든 단계에서 투쟁을 연결하고 노동자 통제를 다시 의제로 올려놓는, 근본적으로 반식민주의적인 전투적 국제 노동조합주의의 필요성을 제기한다.
빅테크 기업들의 지대 자본주의의 힘은 광업 부문, 희토류 정제, 전자 산업에서 수백만 노동자와 아동의 과도한 착취에 기반한다. 이러한 탐욕스러운 독점 기업들과 그들의 테크노파시스트적 프로젝트에 맞선 투쟁은 가치 사슬의 모든 단계에서 노동자들의 단결을 요구한다. 모든 곳에서 노동조합을 인정하고 노동조합의 자유를 보장해야 한다. 작업장 내 인공지능 도입에 관한 노동자 의견수렴을 의무화해야 한다. 노동조합의 거부권을 보장해야 한다. 업무량이 양적·질적으로 변화하는 과정에 대한 노동자 통제권을 확보해야 한다. 기업의 인공지능 도입으로 인한 정리해고에 맞서 임금 삭감 없는 노동시간 단축을 보장해야 한다.
28. 데이터 센터 및 기타 대규모 AI 인프라 건설에 대한 일시 중단은 필수적입니다. 향후 모든 진전은 다음과 같은 사항을 포함하는 전 지구적 생태사회 전략의 채택에 따라 이루어져야 합니다. 사회적 불평등 감소, 자원(물, 광물)의 지속 가능한 관리, 파괴된 생태계 복원, 그리고 파리 기후 협정의 목표에 부합하는 온실가스 배출량의 구속력 있는 감축을 위한 구체적인 계획.
29. 데이터 센터 및 기타 대규모 인공지능 인프라 건설에 대한 일시 중단은 필수적이다. 향후 모든 발전은 특히 다음과 같은 글로벌 생태·사회 전략의 채택에 따라 이루어져야 한다.
: 사회적 불평등 감소 전략, 자원(물, 광물)의 지속가능한 관리, 파괴된 생태계 복원, 그리고 파리 기후 협정 목표에 부합하는 온실가스 배출량의 법적 구속력 있는 감축을 위한 구체적 계획.
30. 인공지능에 맞서 대항 문화를 발전시키자. 사회운동에서 인공지능에 의한 사회적 관계와 사상 논쟁의 퇴보에 저항하기 위한 집단적 실천을 구현하자.
집단적 지성의 형성은 대면 교류를 통해 민주적으로 결정되고 평가되는 집단적 행동 없이는 불가능하다. 이는 언어적·비언어적 표현을 허용하는 과정이다. 소셜 네트워크는 토론의 장이 아니다. 좌파는 ‘말하는 기계’에 대한 매혹과 싸워야 하며, 회의에서 스마트폰 사용을 의식적으로 배제하고, 관점 교환과 심층 분석을 위한 인쇄 매체를 되살리기 위해 노력해야 한다.
31. 또 다른 디지털 영역, 공개적이고 민주적인 영역이 가능하다.
필수적인 부의 재분배라는 틀 안에서, 지방·지역·국가 당국은 민주적 통제 하에 메시징, 데이터 저장, 소셜 네트워크를 위한 무료 공공 인프라를 보장할 수단을 갖춰야 하며, 이는 사용자 데이터 보호와 분야별 인공지능 개발을 수반해야 한다.
32. 인공지능 시대에 자본주의에 맞서 싸우는 투쟁은 좌파의 근본적인 재정립의 필요성을 더욱 강화한다.
인공지능의 획기적인 발전은 좌파의 혼란스러운 상황을 적나라하게 드러낸다. 이는 마르크스주의와 좌파 전반에서 생산주의, 도구주의적 이념(“목적이 수단을 정당화한다”), 진보 숭배, 그리고 “기술 중립성”이라는 개념을 청산할 필요성을 더욱 부각시킨다. 실리콘밸리, 선전 그리고 다른 제국주의 중심지에서 비롯된 빅테크 기업의 세계적 지배는 진영주의의 부조리함을 부각시킨다. 자본과의 단절은 자본주의가 전 세계적으로 폐지될 때까지 지속되는 혁명이라는 국제주의적 관점안에서만 이해될 수 있다. 좌파는 마르크스주의를 넘어 “행위자-네트워크 이론”과 같은 포스트모던 개념과도 결별해야 한다. AI의 이질적 본성이 초래하는 위험한 결과를 충분히 고려하려면, 인간 활동의 보철물로 기능하는 기술 장치가 사회적 영향을 미친다는 이유로 사회적 행위자로 간주되어야 한다는 생각을 버려야 한다. 역사를 만들어가는 것은 기계가 아니라 인간이다.
33. 인공지능의 위협은 자본주의적 성장의 문명과 단절하는 혁명적이고 생태사회주의적인 움직임의 시급성을 강조한다.
인공지능의 위협은 자본주의에서만 비롯되는 것이 아닙니다. 생산관계가 어떠하든, 신경망은 구조적으로 진실과 거짓을 구별하고 다른 미래를 예측할 수 없습니다. 자본주의적 재산을 공동재산으로 대체하는 것만으로는 인공지능이 지구 지속가능성의 한계 내에 두는 데 충분하지 않습니다. 인공지능이 시장이 만들어낸 심각한 문제들을 해결해 줄 기적의 치료제가 될 것이라는 생각은 이성이 아닌 마법에 가깝습니다. 인간의 존엄성과 종의 생존에 부합하는 유일한 관점은 사회 정의에 기반한 계획에 따른 생태사회주의적 전 지구적 물질생산의 탈성장입니다. 이는 생태계와 그 한계, 그리고 그 취약하고 대체 불가능한 아름다움을 존중하며 민주적으로 결정된 실질적인 필요를 충족하는 세계 경제를 지향해야 합니다.
34. 인공지능의 위협은 자본주의적 성장 문명과의 혁명적·생태사회주의적 단절의 시급성을 강조한다.
인공지능의 위협은 자본주의에서만 비롯된 것이 아니다. 생산 관계가 어떠하든 신경망은 구조적으로 진실과 거짓을 구분하거나 다른 미래를 예측할 수 없다. 자본주의적 소유를 집단적 소유로 대체하는 것만으로는 인공지능의 생태적 발자국을 지구의 지속가능성 한계 내로 끌어들이기에 충분하지 않다. 시장이 만들어낸 끔찍한 문제들을 시장이 해결할 수 있게 해주는 기적의 치료제로서 인공지능이 작용할 것이라는 생각은 이성이 아닌 마법에 가깝다. 인간의 존엄성과 종의 생존과 양립할 수 있는 유일한 관점은 생태사회주의적 탈성장이다. 이는 사회적 정의를 바탕으로 계획된 전지구적 물질 생산의 축소를 지향하며, 생태계와 그 한계, 그리고 대체 불가능한 아름다움을 존중하는 가운데 민주적으로 결정된 진정한 필요를 충족시키는 세계 경제를 목표로 한다.