우리는 AI에 대해 얼마나 알고 있을까?
바야흐로 AI의 시대이다. 어느덧 AI가 우리 곁에 자리잡고, 문서작업에서부터, 연구보고서, 지방자치단체의 정책과제까지, 심지어는 정부가 ‘속도전’과 ‘전격전’을 얘기하면서 ‘국가 총력지원체계’를 구축하자는 말까지 나온 상황이다. 또한 업무와 문서작업을 하는데 도움을 얻는 효율적인 도구로 삼는 것부터 경제성장의 핵심동력으로까지, 인간의 일자리를 대체하고, 인간의 지능을 넘어 세상을 지배할 수 있다는 ‘종말론적’ 상황 예측에 이르기까지 AI에 대한 기대와 우려가 동시에 존재한다.
여기에 소개하는 두 개의 글은 AI에 대해 많이 제기되는 질문에 대한 답변과 AI기업이 주장하는 내용에 대해 비판하는 글이다. AI 시대에 제대로 대응하려면, 무엇보다 AI에 대해 제대로 알아야 한다. AI 개발자 스스로도 모른다고 하는데, 전문가가 아닌 사람들이 더더욱 알기는 힘들다. 하지만, 우리의 삶과 미래에 지대한 영향을 끼칠 것이라 생각되는 AI에 대해 기본적인 시각과 입장을 갖추는 데에 도움이 될 것이라 판된해 소개한다.
이 두 개의 글의 출처는 여기와 여기이며 기계번역의 도움을 받아 수정·보완하여 싣는다.(원문에 표시된 글 내용의 링크 설정은 편집자가 각주를 단 것 말고는 생략하였다.) 물론 여기에 실린 글이 AI에 대해 극도로 비판적인 견해일 뿐이라는 비판도 있을 것이다. 하지만 분명한 것은 AI에 대한 기존의 지배적인 통념을 뒤집는 견해이기도 하다. 생산적인 결론을 도출해 낼 수 있는 비판과 논쟁은 열려있음을 밝힌다. |
[글 하나] AI에 관해 자주 묻는 질문
AI가 내 일자리를 빼앗아 갈까요?
통계적으로 보면… 아니요, 하지만 여러분은 그 사실을 알면 안 된다.
AI가 일자리를 없앨 수 있다는 주장은 기술 기업 엘리트들에 의해 지나치게 과장되어 왔으며, 정치인과 주류 언론 모두에 의해 비판적 검토 없이 대체로 받아들여져 왔지만, 실제로 이를 뒷받침할 증거는 전혀 없다. 사실, AI기술이 이 점에서 지속적으로 실패하고 있다는 증거가 점점 더 많아지고 있다.
AI 지지자들이 내세운 전망(혹은 위협)은 대규모 언어 모델(LLM)과 같은 생성형 도구가 출력을 만들어내는 데 너무나도 능숙하여 인간의 노동을 불필요하게 만들 것이라는 것이었다. 그러나 이러한 전망은 여러 측면에서 실패로 돌아갔다. 그중 가장 기본적인 이유는 생성형 시스템이 자신이 만들어내는 대상에 대해 실질적인 이해를 전혀 가지고 있지 않다는 점이다. 이들은 단순히 입력을 스캔하고, 이에 대한 계산을 수행한 뒤, 인간이 만든 실제 사물을 분석하여 인간이 내놓을 가능성이 가장 높은 응답을 추정해 그 결과를 반환하는 ‘숫자 처리 기계’에 불과하다.
충분한 데이터와 처리 능력이 축적되면, 실제 내용을 분석하지 않는 한 계산 과정이 매우 정교해져 설득력 있게 보이는 결과를 도출해 낼 수 있는 경우가 많다. 하지만 이러한 프로젝트가 실제 검증을 거치지 않는다면 별다른 의미가 없으며, 바로 여기에 한계가 있다.
LLM을 활용해 사무직, 행정직 또는 전문직 직원의 업무를 수행하려다 보면 종종 터무니없는 결과가 나오곤 한다. 예를 들어, 변호사를 대신해 LLM에게 법률 문서를 작성하도록 요청하면, 겉보기에는 적절한 언어로 작성된 것처럼 보이지만 잘못된 인용과 허구적인 세부 사항으로 가득 찬 문서가 생성될 것이다. 이는 LLM이 진실을 전달하는 것과 거짓말을 쓰는 것의 차이를 알지 못하기 때문인데, LLM에게 있어 단어는 그저 데이터 포인트의 연속일 뿐이기 때문이다. 따라서 LLM을 이용해 공식 문서를 작성하는 사람은 출력물을 꼼꼼히 검토하여 소위 ‘환각’(오류라고 표현하는 것이 더 적절함)을 걸러내야 하며, 이로 인해 시스템이 애초에 제공했을 것으로 기대되던 생산성 향상 효과는 크게 줄어들거나 사라지게 된다. 그 결과, AI는 기업 생산성에 눈에 띄게 미미한 영향만을 미쳤으며, 기업이 이를 활용해 장기적으로 일자리를 감축할 수 있을지 예측하기 어렵게 되었다.
문화 및 엔터테인먼트 분야에서도 고용주들의 상황은 별반 나을 게 없다. AI로 생성된 콘텐츠는 소비자들에게 종종 한눈에 드러나며, 이들은 이에 대해 극도로 부정적인 반응을 보인다. 시장 조사 결과에 따르면, 관객들은 생성형 AI를 사용해 제작된 영화, 책, TV 프로그램, 비디오 게임을 일관되게 외면하고 있다. 사실, 미디어 제작에 AI가 사용되었다는 소문만으로도 잠재적 소비자들의 흥미를 완전히 꺾어버릴 정도이며, 이는 대중이 ‘저질 콘텐츠’를 얼마나 혐오하는지를 여실히 보여준다. 몇 년 전 기업들이 노동자 없이도 수익성 있는 제품을 양산할 수 있을 것이라는 희망은 완전히 허상임이 드러났다.
AI 기술이 주로 사용된 목적은 노동자들에게 개인 생산량을 늘리도록 강요하는 것이었으며, ‘일자리 대재앙’은 실제 현실이라기보다는 직원들을 위협하여 복종시키려는 공포의 수단에 불과했다.
AI는 인류에게 어떤 가치가 있을까?
이 질문에 답하기가 까다로운 이유는, 사실 ‘AI’라고 할 수 있는 구체적인 기술이나 제품이 실제로 존재하지 않기 때문이다. AI는 검색 엔진, 추천 알고리즘, 음성 인식 시스템, 자율 로봇, 생성형 도구, 게임 플레이 지능 등을 포함하는 다양한 데이터 기반 시스템을 묶어 지칭하는 마케팅 용어일 뿐이다. 이들 기술은 ‘AI’라는 이름으로 마케팅된다는 점을 제외하면 서로 거의 관련이 없다.
이 중 어떤 것이 인류에게 도움이 될 수 있을까? 그렇다. 상상력이 풍부한 사람이라면 이 모든 기술에 실용적인 용도를 찾아낼 수 있을 것이다. 자본가들이 주장한 바(위 참조)를 충족시키지 못하는 LLM(대규모 언어 모델)과 같은 생성형 시스템조차도 빅데이터 연구 및 분석에 적용될 때 실제로 매우 유용한 용도를 가지고 있다. 단지 마케팅에서 내세운 목적에 대해서는 그다지 뛰어나지 않을 뿐입니다.
기술은 근본적으로 사회적이다. 기술이 미치는 영향은 누가 그것을 사용하고, 그들의 의도가 무엇인지에 따라 결정된다. 우리가 현재 기술과 관련해 겪고 있는 문제들은, 기술이 억만장자 계층이 운영하는 지나치게 강력한 기업들의 통제 하에 있다는 사실에서 비롯된다.
AI가 스스로 의식을 발달시킬 수 있을까?
아니요. 다음 질문?
아, 알겠습니다. 이 주제가 자주 거론되는 개념이니, 역시 답을 해줘야 할 것 같네요. 의식, 혹은 ‘일반’ 지능은 소프트웨어 기반의 의사결정 시스템이 인간의 마음이 작동하는 방식과 유사할 수 있다는 이론에서 비롯된, 널리 논의되지만 전혀 입증되지 않은 개념이다. 우리가 뇌의 작동 원리를 이해하는 수준은 여전히 매우 미흡하여, 설령 그것이 사실이라 해도 이를 확인할 실질적인 방법은 없을 것이다. 하지만 우리는 컴퓨터가 어떻게 작동하는지는 알고 있으며, 컴퓨터는 뇌와는 매우, 매우 다르다.
설령 인공 지능이 매우 정교하여 어느 정도 의식처럼 행동한다고 주장한다 해도, 이것이 인간의 의식과 동등하거나 심지어 비교 대상이 될 수 있다고 말하는 것은 자세히 들여다볼수록 더욱 터무니없는 생각일 뿐이다. 인간의 의식은 단순히 자극에 대한 반응 그 이상의 것이다. 인간의 지능은 창의적이며, 우리가 아는 한 독창적인 아이디어를 연역하고 귀납할 수 있는 유일무이한 현상이다. 다작의 기술 비평가 에밀리 벤더(Emily Bender)가 유명하게 지적했듯이, AI는 실제로 독창적인 어떤 것도 하지 않으며, 단순한 수학적 계산을 바탕으로 인간이 내는 소리를 재현하는 ‘확률적 앵무새’라고 묘사하는 것이 더 적절하다. 마치 진짜 앵무새가 그 소리가 무엇을 의미하는지 조금도 모른 채 인간처럼 들리는 소리를 내는 것과 마찬가지다.
첨단 컴퓨터 시스템이 의식을 갖게 되고 있다는 생각이 계속 유지되는 데에는 사실 두 가지 요인이 작용한다. 그중 하나는 구식인 ‘소망 충족’이다. AI 시스템 설계자들은 대중문화에서 ‘자아를 인식하는 기계’라는 개념을 받아들였기 때문에, 자신도 모르게 마치 의식을 가진 것처럼 시스템을 설계하게 되며, 결과적으로 자신의 선입견을 바탕으로 작업 대상에 일종의 환상을 투영하게 되는 것이다. 이것이 바로 수많은 AI 플랫폼의 인터페이스가 마치 사용자와 대화를 나누는 것처럼 행동하게 만드는 주된 원인이며, 사실 인터페이스를 더 직접적이고 명백하게 기계처럼 만드는 편이 훨씬 더 효율적일 텐데도 말이다.
그러나 또 다른 요인은 선전이다. 기술 업계는 AI가 어떤 능력을 지녔는지, 혹은 미래 어느 시점에 무엇을 할 수 있을지에 대한 대중의 불안을 무기로 삼아, AI가 현재 무엇을 하고 있는지에 대한 논의를 완전히 무마하고 있다. 엘론 머스크와 샘 알트만은 자신들의 사업 계획에 있어, AI 프로젝트에 대한 논의를 ‘터미네이터’ 스타일의 자의식을 가진 기계가 초래할 공상과학 소설 속의 위험으로 돌리는 것이, 현재 현실에서 그들의 거대한 데이터 센터 단지가 초래하는 경제적·환경적 피해에 대해 우리가 공개적이고 진지한 논의를 나누도록 허용하는 것보다 훨씬 더 유용하다고 여긴다.
AI를 규제할 수 있을까?
AI와 관련된 모든 기술은 규제될 수 있지만, 이는 정치적 싸움이며 현재 우리 측은 이 싸움에서 밀리고 있다.
기술 업계는 막대한 부와 기성 정치인들과의 깊은 유대를 이용해 정부가 자신들을 규제하지 못하도록 막고 있다. 실제로 현재 정부들은 극단적인 민영화 조치로 국가의 핵심 기능을 기술 기업들에게 기꺼이 넘겨주고 있다.
영국에서는 최근 이와 관련해 특히 터무니없는 사례가 발생했다. 사디크 칸 런던 시장은 극도로 불쾌한 기술 기업인 팔란티어가 런던 경찰청과 대규모 계약을 체결하는 것을 막으려 했다. 칸 시장의 다른 단점이 무엇이든 간에, 이번 사안에 대한 그의 동기는 지극히 옳았다. 팔란티어는 미국 군산복합체와 깊은 유대를 맺고 있는 기업으로, 악명 높은 괴짜이자 인종차별주의자이자 권위주의자인 피터 틸을 필두로 한 악명 높은 경영진들이 운영하고 있다.
정치권, 언론, 기득권층의 전방위적인 압력이 칸에게 가해졌고, 그는 결국 굴복하여 팔란티어가 계약을 따내도록 허용함으로써, 이 불길한 기업이 수백만 명의 런던 시민을 감시하고 면밀히 조사할 수 있는 권한을 부여해 버렸다. 우리 사회 기관으로 끊임없이 확장되는 이 기업들의 영향력에 맞서 싸울 정치적 운동이 시급히 필요하다.
AI 붐은 붕괴될 것인가?
AI 분야가 전형적인 자본주의 거품이며, 조만간 붕괴될 것이 거의 확실하다는 점은 널리 인정되고 있다. 자본주의는 수세기 동안 거품을 만들어 왔으며, 그 대부분은 비슷한 특징을 보인다. 즉, 특정 상품이 자본주의 거래자들에 의해 과대평가되다가, 결국 그 상품에 투입된 자금을 실제 측정 가능한 이익으로 회수할 수 없는 지점에 도달하게 되는 것이다.
그러나 AI 분야는 시장 붕괴에 대한 취약성을 특히 심화시키는 몇 가지 특이한 특징을 지니고 있다. 그중 하나는 환경적 지속 불가능성이다. 즉, 기술 기업들이 추가 투자를 유치하기 위해 끊임없이 확장해야 하는 요구가 현실의 물리적 한계에 부딪히고 있는 것이다. 지난해 ‘빅 식스(Big Six)’ 기업들은 새로운 컴퓨팅 용량 확충 계획을 발표했는데, 그 규모가 워낙 방대하여 전 세계에서 생산되는 전력을 모두 합쳐도 이를 감당하기에 턱없이 부족할 정도였다!
첫 번째 문제와 관련해, 두 번째 문제는 AI가 끊임없이 규모를 확대하고자 하는 욕구가, 대부분의 기존 산업은 할 수 있지만 AI는 할 수 없는 한 가지 요인 때문에 부정적인 영향을 받는다는 점이다. 바로 AI는 규모의 경제를 실현하지 못한다는 것이다. 거의 모든 다른 유형의 제품은 생산량이 늘어날수록 단가가 낮아진다. 이는 생산에 드는 총비용과 한계비용이 다른 비용에 비해 상대적으로 점점 덜 중요해지기 때문이다. 이는 물리적 제품을 생산할 때 매우 명백하게 드러난다. 예를 들어, 클립을 만드는 기계를 만들었다면, 그 기계를 사용하여 클립을 100개 만드는 것보다 10만 개를 만드는 편이 투자 비용이 훨씬 저렴해 보인다. 그리고 이는 일반적으로 소프트웨어 제품에도 적용된다. 마이크로소프트는 윈도우가 설치된 개별 컴퓨터마다 윈도우를 다시 개발할 필요가 없기 때문에, 윈도우 라이선스를 하나 판매할 때마다 추가 비용은 거의 들지 않으면서 더 많은 수익을 올릴 수 있다.
반면, AI 제품의 생산 비용은 생성되는 결과물의 양에 비례하는 경향을 고집스럽게 유지한다. 누군가가 AI 요청을 할 때마다, 설령 그 중 상당수나 대다수가 똑같은 요청을 하고 있다 하더라도, 시스템은 매번 동일한 범위와 강도로 완전히 가동되어야 하며, 이 과정에서 에너지를 소비하고 하드웨어에 부하를 가하게 된다. 이는 해당 산업이 무한히 성장하려 할수록, 그 규모 확대에 맞춰 비용도 그만큼 증가한다는 것을 의미한다. 이로 인해 2000년대의 닷컴 버블이나 부동산 버블을 비롯한 과거 과열된 산업들보다 훨씬 더 빠르게 ‘완전한 지속 불가능성’이라는 위기가 코앞으로 다가오고 있다.
따라서 기술 기업들이 지금까지 해왔던 방식대로 계속 운영해 나갈 수는 없다. 실제로 대기업들은 이미 가장 과도한 제품들을 조용히 축소하기 시작했다. 예를 들어, OpenAI의 대대적으로 홍보되었던 동영상 생성 앱 ‘Sora 2’는 출시 불과 6개월 만에 서비스가 중단되었는데, 이는 대중이 이 앱을 이용해 제작한 극도로 어이없는 동영상 하나하나가 회사에 직접적인 비용으로 돌아갔기 때문이다.
막대한 부채와 제로에 가까운 이익률을 안고 있는 OpenAI와 같은 기업들은 이 세상에 더 이상 오래 버티지 못할지도 모른다. 우려되는 점은, 관련 자본가들이 국가, 정부 및 기타 기관에서 장악한 권력을 이용해 우리 지구와 사회에 계속해서 해를 끼칠 것이라는 점이다.
[글 둘] 러셀의 찻주전자: AI 버블의 막바지 현장 보고서
시장에 선전되고 있는 AI의 미래가 면밀한 검증을 견디지 못할 주장에 기반을 두고 있다면 어떨까? 초지능에서 대규모 일자리 손실에 이르기까지, 생성형 AI를 둘러싼 가장 거창한 약속들은 예지력이라기보다는 필연성이라는 외피를 두른 과대광고에 가깝게 보이기 시작한다.
선도적인 생성형 인공지능(AI) 기업들은 이른바 ‘초지능’이라는 개념을 추구한다는 명목으로 알고리즘 개발, 훈련 및 운영에 수십억 달러를 쏟아붓고 있다. 이러한 과대광고를 유지하고 금융 투자자들의 관심을 사로잡기 위해, 이들 기업의 CEO들은 증거와 무관한, 반증 불가능한 예측들을 쏟아내고 있다. 그 내용은 대규모 기술적 실업부터 유드코프스키식(Yudkowskian)1) 인류 멸종 혹은 유비쿼터스 자동화가 가져올 풍요의 뿔, 전례 없는 과학적 진보, 생산성의 기하급수적 성장과 같은 유토피아적 전망에 이르기까지 다양하다.
INET의 새로운 워킹 페이퍼2)에서 저는 실리콘밸리 CEO들이 내놓은 가장 주목받지만 동시에 가장 터무니없는 예측들을 실증적으로 면밀히 분석해 보았다. 이성에서 벗어난 예측들이 쓰나미처럼 밀려오는 상황에서 정신을 차리기 위해, 저는 버트런드 러셀(1952)의 ‘찻주전자 비유’에 의지했다. 러셀은 반증 불가능한 주장을 하는 측에 증명 책임이 있으며, 다른 사람들이 이를 반증해야 할 의무는 없다고 주장했다.
“만약 내가 지구와 화성 사이에 태양을 중심으로 타원 궤도를 돌고 있는 도자기 찻주전자가 있다고 주장한다면, 그 찻주전자가 아무리 강력한 망원경으로도 포착될 수 없을 만큼 작다는 점을 신중하게 덧붙인다면, 아무도 내 주장을 반증할 수 없을 것이다. 하지만 만약 내가 ‘내 주장은 반증될 수 없으므로, 이를 의심하는 것은 인간 이성의 용납할 수 없는 오만이다’라고까지 말한다면, 나는 당연히 헛소리를 하고 있다고 여겨질 것이다.”
본 논문에서 검토한 AI의 경제적 영향에 대한 수많은 예측을 모두 제대로 다루기는 어렵다. 따라서 이 블로그 게시물에서는 대신 널리 논의되고 있는 여덟 가지 예측을 간략히 평가해 보겠다. 이를 통해 독자들이 보다 포괄적인 평가를 위해 해당 논문을 직접 읽어보시기를 바란다. 명확히 말씀드리자면, 본 글 전반에 걸쳐 초점은 상용 폐쇄형 대규모 언어 모델(LLM)의 하위 집합으로 대표되는 생성형 AI에 맞춰져 있으며, 소규모의 도메인 특화 AI 도구나 다른 기계 학습 접근 방식에는 초점을 두지 않는다.
주장 1: AI ‘초지능’이 코앞에 다가왔다
모든 기술 기업 CEO들은 한목소리로, 초지능형 생성형 AI가 인류의 가장 큰 문제들을 해결하고 정리해 줄 것이며, 이를 통해 극도의 풍요와 과학적 진보가 이루어지는 황금기를 가져올 임박한 ‘초지능’에 대한 터무니없는 비전을 약속하고 있다. 바로 이 주장 위에 전체 AI 과잉 투자 사이클이 구축되어 있다. 엘론 머스크에 따르면(2025년 12월 기준), AGI는 이미 2026년에 도래할 수 있다고 한다. 오픈AI의 샘 알트먼도 이에 동의한다. 앤트로픽의 다리오 아모데이, 구글의 레이 커즈와일, 엔비디아의 젠슨 황은 2029년경에야 그 단계에 도달할 것이라고 보고 있으며, 마이크로소프트의 무스타파 술레이만, 에릭 슈미트, 그리고 구글의 세르게이 브린은 2030년경에 ‘지능 폭발’이 일어날 것으로 예측한다. 이러한 예측이 빗나가더라도 상관없다. 인공 일반 지능(AGI)은 언제나 ‘코앞’에 있는 상태이기 때문이다.
찻주전자 알림 #1: AI ‘초지능’은 아직 도래하지 않았으며, 머지않아 등장할 전망도 아니다
AGI가 임박했다는 예측은 강한 데자뷰를 불러일으킨다. 우리 대부분은 실리콘밸리의 리더들이 자율주행차, 양자 컴퓨팅, 증강현실, 휴머노이드 로봇의 도래가 임박했다고 몇 번이나 약속했는지3) 세어보기도 지칠 지경이다. 또한 실리콘밸리가 제시한 일정이 기술적 현실보다는 반복되는 자금 조달 필요성을 반영한다는 사실은 공공연한 비밀이다. 그러나 AGI가 임박했다는 주장은 틀렸다. 이는 일정이 과장되었기 때문이 아니라, 더 근본적인 구조적 문제 때문이다. 즉, 생성형 AI에 대한 확장 접근 방식은 AGI는커녕 ‘지능’조차 생성해 낼 수 없기 때문이다.
대규모 언어 모델(LLM)은 지능적이지 않으며, 인과적 추론을 할 수 없고, ‘세계에 대한 개념적 모델’을 갖추지 않았으며, 지각 능력도 없다. 오히려 이는 예측적 패턴 매칭 도구이자 강력한 정보 검색 및 표절 생성 기계에 불과하다. 선도적인 모델들(GPT-5, Claude Opus 4.6, Gemini 3.1 Pro)은 훈련 데이터와 중복되는 통제된 평가 환경에서 일반적인 사실 기반 ‘폐쇄 세계’ 질문에 대해 약 3~8%의 비율로 ‘환각’을 일으키지만, 분포 외 데이터에서는 ‘환각’ 발생률이 현저히 증가한다. 복잡한 추론 과제의 경우 오류율이 30~50%에 달할 수도 있다. LLM의 ‘환각’ 문제는 규모 확대를 통해 해결될 수 없으며, 이는 LLM의 구조적 특성이다.
게리 마커스, 에밀리 M. 벤더, 알렉스 한나, 팀닛 게브루, 아이리스 반 루이, 올리비아 게스트, 에릭 J. 라슨, 멜라니 미첼을 비롯한 수많은 비판적 (인지)과학자들은 오랫동안 이 점을 주장해 왔다. 이제 얀 르쿤(전 메타 AI 소속), 일리아 수츠케버(전 오픈AI 소속), 구글 딥마인드 CEO 데미스 하사비스와 같은 저명한 업계 인사들도 이 주장에 동참하고 있다. 이 업계 인사들은 대규모 언어 모델(LLM)을 더 크고 빠르게 만들어 ‘초지능’에 도달하려는 실리콘밸리의 전략을 포기했다. 그 전략은 효과가 없을 뿐만 아니라, 결코 성공할 수도 없기 때문이다. 오늘날의 LLM은 막대한 경제적·환경적 비용을 치르고 항상 ‘환각’을 동반하긴 하지만, 패턴 매칭과 인식에는 능할지 몰라도 인과관계를 이해하지 못하며 제대로 작동하는 ‘세계 모델’을 가지고 있지 않다. 생성형 AI 업계가 ‘초지능 LLM’을 향해 나아가던 확장 경로는 막다른 골목에 다다랐다.
주장 #2: AI 붐은 거품이 아니다
빅테크 기업 리더들은 한목소리로 다음과 같이 주장한다. 천문학적 규모에 달하는 AI 데이터센터 투자는 풍요로운 미래를 가능하게 할 (컴퓨팅) 인프라를 구축하고 있다. 이 컴퓨팅 인프라는 (그들의 주장대로) 비즈니스 모델을 변화시키고, 노동의 세계를 혁신하며, 과학 발전을 가속화하고, 노동 생산성을 향상시키며, 더 빠른 경제 성장에 기여할 ‘주체성 있는’ 기계 학습 알고리즘을 수용할 것이다. 이러한 막대한 투자는 결실을 맺을 것이며, AI 산업의 ‘기초’는 탄탄하다. 엔비디아, 오라클, AI 연구소, 네오클라우드 기업, 빅테크 플랫폼 기업들간의 순환적인 공급업체 계약에 대해 너무 걱정할 필요는 없다. 이는 결코 모래성 같은 구조가 아니다! 또한 소프트웨어 기업과 AI 데이터 센터 생태계에 깊이 관여하고 있는 ‘섀도우’ 사모 신용 펀드에 대한 느린 속도의 자금 유출에 대해서도 우려할 필요가 없다. 대규모 언어 모델(LLM)이 가져올 변혁을 고려할 때, 도대체 무엇이 잘못될 수 있겠습니까?
찻주전자 알림 #2: 죄송하지만, AI 붐은 거품이다
사실, 특히 대규모 언어 모델(LLM)이 과대광고만큼 혁신적이지 않다는 사실이 드러날 경우 여러 가지 문제가 발생할 수 있다. 게다가 미국 경제는 주로 트럼프의 이란 전쟁과 호르무즈 해협 봉쇄로 인한 에너지 가격 충격으로 인해 스태그플레이션이라는 역풍에 직면해 있다. 금리는 높은 수준을 유지할 가능성이 높으며 오히려 더 오를 수도 있는 반면, 경기 침체에 대한 우려는 급속히 커지고 있다. 호르무즈 해협 봉쇄는 미국 AI 산업에 필수적인 컴퓨터 칩 및 부품의 중요한 글로벌 공급망을 교란시키고 있을 뿐만 아니라, 걸프 지역 국부펀드에서 유입되는 필수적인 자금 흐름도 위축시키고 있다. 민간 신용 시장이 위축되면서 AI 연구소들은 자금 조달에 더욱 큰 압박을 받고 있다. AI 데이터 센터와 소프트웨어 기업에 크게 노출된 민간 신용 펀드들은 고객들이 서둘러 자금을 회수하려 하면서 자금 인출 사태를 막기 위해 고군분투하고 있다. 골드만삭스의 전 CEO 로이드 블랭크페인은 “다시 [위기]의 냄새가 나는 것 같다”고 말했다. 그는 “아직 폭풍은 느껴지지 않지만, 목장에서 말들이 울부짖기 시작했다”며 불길하게도 “우리는 이 사이클의 막바지에 다다르고 있으며, 이제 어떤 식으로든 결산을 해야 할 시점이 다가오고 있다”고 덧붙였다.
그러나 AI 과잉 투자 사이클이 지속 가능하지 않은 가장 큰 이유는, 어떤 AI 기업도 수익성을 달성할 수 있는 현실적인 길을 찾지 못하고 있기 때문이다. 문제는 간단하지만 해결할 수 없다. AI 연구소들은 급증하는 훈련 비용, 늘어나는 추론 비용, 그리고 법적 분쟁으로 인한 추가 비용에 직면해 있다. 이들에게는 매출 성장이 시급하다. 사용자를 유치하고 시장 점유율을 확보하기 위해 AI 연구소들은 LLM 서비스를 무료로 제공하거나 월 정액 요금제(예: 비전문가 사용자에게는 월 20달러, 코더 및 기타 전문가 사용자에게는 월 200달러)로 제공해 왔다. 사용자들은 정액 요금을 지불하고 있기 때문에 AI 모델을 최대한 활용하려는 유인이 있어, 이러한 요금으로는 운영(추론) 비용조차 충당하지 못한다. 이것이 바로 LLM 연구소들이 계속해서 적자를 기록하는 주된 이유이다. AI 기업들은 단순히 구독 요금을 인상할 수 없다. 대략 비슷한 성능을 제공하면서도 비용은 더 낮은 중국 경쟁사들로부터 치열한 (가격) 경쟁을 겪고 있기 때문이다. 대신, AI 기업들은 피크 시간대에 LLM 사용량에 대한 제한을 도입하는 방안을 택하고 있다.
정액 요금을 부과하는 대신, 사용자에게 실제 토큰 비용(또는 API에 상응하는 사용자 비용)을 청구하는 방법도 있다. 하지만 이러한 종량제 시스템에서는 사용자가 LLM 서비스의 가격을 알지 못한 채 서비스를 구매해야만 한다. 그 이유는 특정 프롬프트가 얼마나 많은 토큰을 소모할지 예측할 방법이 없기 때문이다. LLM이 실수를 하거나 몇 분 동안 제자리걸음을 하며 점점 더 많은 토큰을 소모할 때마다 사용자는 비용을 지불해야 하며, 이는 LLM 사용을 위축시킬 것이다. 대부분의 사용자, 특히 개발자들은 실제 토큰 소비량에 따른 비용을 감당할 준비가 전혀 되어 있지 않다. 따라서 계량제 시스템으로는 이 문제를 해결하기 어려우며, AI 연구소들은 여전히 지속 불가능한 비즈니스 모델에 갇혀 있을 수밖에 없다.
주장 #3: AI는 사무직 일자리의 대재앙을 초래할 것이다
자율적 AI는 ‘사무직 대재앙’을 초래할 것이다(다리오 아모데이); AI 에이전트는 18개월 안에 모든 사무직 일자리를 대체할 수 있다(마이크로소프트 AI 최고경영자 무스타파 술레이만); AI로 인해 전체 직업군이 사라질 수도 있다(샘 알트먼); 미국 내 7,000만 명의 사무직 근로자 중 20%에서 50%가 일자리를 잃게 될 것이며, 이는 사무직 노동자들을 대상으로 한 “대대적인 해체”가 될 것이다(앤드류 양); AI는 민주당 성향의 학력 계층에 속하는, 고등 교육을 받고 인문학을 전공한, 대개 여성인 화이트칼라 전문가들에게 ‘종말’을 초래할 것이며, AI 도구는 이들의 경제적 권력을 박탈하고 그 권력을 노동 계급의 우파 성향 남성들에게 이전하고 있다(팔란티어 CEO 알렉스 카프).
찻주전자 알림 #3: AI는 대부분의 사무직 일자리를 없애지 않고, 그 형태를 바꿀 것이다
이러한 기이한 예측들의 목적은 노동자들에게 AI에 대한 두려움을 심어주는 동시에, 금융 투자자들에게 대규모 언어 모델(LLM)이 지닌 전례 없는 변혁적 힘을 어필하기 위함이다. 하지만 ‘AI 일자리 대재앙’에 대한 예측은 압도적인 데자뷰를 불러일으킨다. 얼마 전, 칼 베네딕트 프레이와 마이클 오스본(2013)은 미국 일자리의 약 47%가 “미정인 기간, 아마도 10년에서 20년 내에” 자동화될 가능성이 70% 이상이라고 결론지었다. 그러나 600개 이상의 직종에 대한 상세한 고용 데이터(2013~2024년)를 분석한 결과, 프레이와 오스본이 예측한 블루칼라 일자리 소멸에 대한 전망은 현실과 크게 빗나간 것으로 드러났다.
왜 AI시대가 다르겠는가? 실제로 미국의 대부분의 직업은 AI 혁명의 위협을 받지 않은 채 안락한 상태를 유지하고 있다. 앤트로픽(Anthropic)이 발표한 직업별 AI 노출도에 관한 최신 데이터에 따르면, 미국 직업의 약 40%에 해당하는 업무는 AI 사용 데이터에 유의미한 수준으로 나타나지 않는 것으로 보인다. 나머지 29%의 직업군에서는 AI 노출도가 낮거나 중간 수준이며(해당 직업과 관련된 업무의 최대 15%를 AI가 수행함), 이를 합치면 현재 미국 직업의 3분의 2 이상이 이 신기술의 영향을 전혀 받지 않거나 중간 정도의 노출 수준에 그치고 있다.
AI 노출도가 높은 미국 직업의 3분의 1을 자세히 살펴보면, AI 도구가 대부분의 일자리를 대체하기보다는 그 형태를 재편할 것임을 시사한다. 앤트로픽(Anthropic)의 AI 노출도 지표는 향후 10년 동안의 일자리 성장에 대한 미국 노동통계국(BLS)의 전망을 바탕으로 볼 때, 직업별 예상 일자리 성장에 대한 예측력을 가지고 있지 않다. 예를 들어, AI 때문에 일자리를 잃은 방사선과 전문의는 단 한 명도 없다. 구조 생물학자들의 고용도 지금까지 AI 단백질 접힘 기술로 인해 감소하지 않았다. 실제로 일어난 변화는 구조 생물학자들이 단백질 구조를 규명하는 데 소요되는 시간을 줄이고, 이를 해석하고 검증하며 활용하는 데 더 많은 시간을 할애하게 되었다는 점이다. 사실, 알파폴드(AlphaFold)와 같은 AI 도구는 전산 구조 생물학자, 생물정보학 전문가, 극저온 전자 현미경 전문가, 제약 생물학자들을 위한 새로운 일자리를 창출했다.
주장 #4: AI는 노동 생산성을 높일 것이다
이 주장은 주장 #3의 파생 주장이다. AI 투자로 인해 발생할 것으로 예견되는 일자리 감소는, 이번 자동화 물결이 미국 내 7,000만 명의 사무직 노동자 중 20% 이상을 일자리를 잃게 만들 것이라는 과장된 주장을 믿을 용의가 있다면, 자율적 AI 도구의 사용이 노동 생산성을 크게 향상시킬 것이라는 전제를 바탕으로 한다. 에릭 브린욜프손과 제이슨 퍼먼은 AI가 이미 미국 비농업 부문의 노동 생산성에 측정 가능한 영향을 미치고 있다고 공개적으로 주장한 바 있다.
찻주전자 알림 #4: AI가 생산성에 미치는 순 영향은 미미할 것으로 보인다
Anthropic의 AI 노출 지표에 따르면, 미국 직업의 3분의 2는 새로운 기계 학습 도구의 영향을 전혀 받지 않거나 거의 받지 않을 것으로 나타난다. 이는 AI가 생산성에 미치는 영향이 미국 직업의 3분의 1에 집중될 것임을 의미한다. 따라서 AI 시대가 당분간 총생산성 성장률의 대폭적인 증가로 이어지지는 않을 것으로 예상된다. 대부분의 경제학자들은 이 점에 동의한다. 최근 69명의 경제학자, 27명의 AI 업계 전문가, 25명의 AI 정책 전문가를 대상으로 실시한 설문조사에 따르면, 다가올 AI 시대(2025~2035년) 동안의 생산성 성장에 대한 대부분의 무조건적 경제 전망은 역사적 추세와 상당히 근접한 것으로 나타났다. 이 설문조사에 참여한 경제학자들은 2030년 미국 생산성 증가율이 약 0.2%포인트 정도 소폭 상승할 것으로 예측했다. 이는 펜 와튼 예산 모델(Penn Wharton Budget Model)을 위해 글을 쓴 알렉산더 아논(Alexander Arnon, 2025)의 추정치와 유사하지만, 다론 아세모글루(Daron Acemoglu, 2025)가 제시한 의도적으로 보수적(이자 합리적인)인 추정치보다는 두 배 이상 높은 수치이다.
AI가 생산성에 미칠 것으로 추정되는 총체적 영향은 매우 실망스럽다. 아르논(Arnon)의 추정을 바탕으로 계산해 보면, 2025년부터 2035년까지 AI가 미국 경제의 기준선인 C.B.O. 성장 경로에 누적 총 2조 9천억 달러(2017년 고정 달러 기준)를 추가할 것으로 보인다. 이 수조 달러의 추가 효과는 2025년부터 2035년까지 AI 산업이 4.5조 달러(2017년 고정 환율 기준)를 누적 투자할 것으로 예상됨에 따라 발생한다.
이 수치를 곰곰이 생각해 보세요. 향후 10년 동안 막대한 AI 자본 지출에 대한 거시경제적 수익률은 마이너스가 될 가능성이 매우 높다. AI로 인한 순 비용 절감률이 일반적으로 가정되는 수준보다 낮을 수 있으므로, AI 자본 지출에 대한 거시경제적 수익은 이보다 더 적을 수도 있다. 요점은 이렇다. AI 도구의 사용은 이익을 창출할 뿐만 아니라 비용도 발생시키며, 이러한 비용의 상당 부분은 부수적 피해와 생산성 저하라는 형태로 외부화된다.
우선, AI가 만들어내는 ‘무의미한 업무’가 노동자의 의욕과 생산성을 저해하고 있다. 최고 경영진은 AI를 비즈니스 생산성을 높이는 도구로 여기지만, 직원들의 반응은 사뭇 다르다. 월스트리트저널(WSJ)은 직원 수 1,000명 이상의 기업에 근무하는 사무직 노동자 5,000명을 대상으로 설문조사를 실시한 리서치 업체 ‘섹션(Section)’의 조사 결과를 보도했다(그림 1). 설문에 참여한 기업 임원 중 70% 이상이 AI에 대해 “기대감을 느낀다”고 답했으며, 이 중 43%는 AI 도구가 주당 8시간 이상의 업무 시간을 절약해 주었다고 말했다. 그러나 관리직이 아닌 직원들은 AI에 대해 전혀 다른 견해를 보였다. 이 그룹의 거의 70%는 AI로 인해 “불안하거나 압도당하는” 느낌을 받았다고 답했으며, 40%는 AI 도구가 시간을 전혀 절약해 주지 않았다고 말했다. 비관리직 노동자의 27%는 AI 도구를 사용해 주당 2시간 미만을 절약했다. 많은 직원들은 AI 사용으로 절약된 시간이 AI의 산출물을 수정하거나 혼란을 해소하고 재작업하는 데 소요되는 시간으로 상쇄된다고 보고했다. 직원 10명 중 4명은 앞으로 다시는 AI를 사용하지 않아도 괜찮다고 답했다. 업무상의 부실함을 처리하는 일은 의욕을 꺾고 근로자의 생산성을 떨어뜨린다. 또한 조직 내 불신을 조장하기도 한다. 동료가 AI를 이용해 보고서를 작성하면, 당신은 실수를 수정하고, 누락된 부분을 채우며, 존재하지 않는 참고 문헌을 제거하기 위해 야근을 해야 하기 때문이다.
소프트웨어 기업 WalkMe가 임원 및 직원 3,750명을 대상으로 실시한 설문조사에 따르면, 임원의 81%가 자사가 사용하는 AI 도구가 “생산성을 크게 향상시켰다”고 생각하지만, 실제로 직원들은 AI가 남긴 엉망진창을 정리하는 데 매주 8시간을 낭비하고 있으며, 이는 연간 51일분의 근무일에 해당한다. AI는 기대에 부응하지 못하고 있다.
AI는 그 밖에도 수많은 부수적 피해를 초래하고 있다. AI 슬롭(AI-slop)이 미국 법원을 마비시키고 있어 막대한 시간과 비용의 낭비를 초래하고 있다. AI 웹 크롤러들은 대규모 언어 모델(LLM) 시스템에 공급할 콘텐츠를 확보하기 위해 웹을 샅샅이 뒤지고 있으며, 공공 이익 웹사이트에 몇 분 만에 평소 수준의 10배, 심지어 20배에 달하는 트래픽 급증을 일으켜 성능 저하와 서비스 중단을 유발하고 운영 비용을 증가시키고 있다. 생성형 AI 도구에 대한 의존은 분석적 추론과 비판적 사고의 약화, 역량 유지 및 성과 평가의 저하로 이어지는 것으로 밝혀졌다. 의료 분야에서는 AI 의존이 진단적 추론과 임상적 판단력을 저하시키고, 암묵적 지식의 유지율을 떨어뜨리며, 윤리적 민감성과 도덕적 판단력을 약화시키는 것으로 나타났다(Ferdman 2025). 과학계는 AI 슬롭에 파묻혀 가고 있다. AI 도구 자체가 기업의 수익성에 타격을 줄 수 있는 새로운 사이버 보안 위협을 야기하고 있다.
AI 코드 어시스턴트의 사용은 코드의 품질을 저하시킨다. GitClear는 주요 기술 기업들의 코드 2억 1,100만 줄을 분석한 결과, 복사-붙여넣기 코드가 4배 증가한 것으로 나타났다. 이는 AI도구가 새로운 로직을 생성하기보다는 기존 로직을 복제하고 있음을 의미하며, 코드의 수명이 단축되었고, 코드의 장기적인 유지보수에 필수적인 리팩토링이 감소한 것으로 보고되었다. 최근 한 연구에서는 18개의 AI 코딩 에이전트를 대상으로, 각각 233일에 걸쳐 100개의 실제 코드베이스를 유지 관리하는 능력을 테스트했다. AI 에이전트는 정적 버그 수정과 같은 일회성 정적 소프트웨어 엔지니어링 작업에 대한 벤치마크 테스트를 통과하는 코드를 생성할 수 있지만, Cursor, Claude Code, Devin을 포함한 테스트 대상 모델의 75%는 장기 유지보수 작업 과정에서 이전에 정상적으로 작동하던 코드를 손상시키는 것으로 나타났다. AI가 생성한 코드는 장기적인 설계보다는 단기적인 복사-붙여넣기식 해결책을 선호하며, 아키텍처의 일관성을 무시한다. 그 결과, 오늘은 작동하지만 내일이 되면 변경하기가 매우 어려워지는 소프트웨어가 만들어진다.
아마도 가장 위험한 결과는 기업들이 AI가 초급 업무를 처리할 수 있다고 믿어 신입 채용 규모를 대폭 줄인다는 점일 것이다. 하지만 신입 개발자들은 단순히 코드를 작성하는 데 그치지 않고, 미래의 선임 엔지니어로 성장해 나간다. 이러한 인재 공급망이 단절되면 소프트웨어 업계 전체가 그 타격을 입게 될 것이다. 약 5~7년 후에는 시니어 개발자 부족 현상이 발생할 것이며, 이는 그야말로 재앙적인 수준이 될 것이다. 그리고 이는 전적으로 자초한 결과이다. 주니어 엔지니어를 대체하는 것은 AI 도구가 아니라, 잘못된 경영진의 리더십이기 때문이다.
주장 #5: AI는 이미 AI 도입 비중이 높은 산업 분야에서 일자리를 잠식하고 있다
골드만삭스 경제학자들의 새로운 연구에 따르면, AI가 이미 미국 고용 시장에 측정 가능한 부정적 영향을 미치고 있는 것으로 나타났으며, 지난 1년 동안 매달 순 16,000개의 일자리가 사라졌고, 특히 Z세대와 신입 노동자들이 가장 큰 타격을 입은 것으로 밝혀졌다. 소프트웨어 개발 관련 채용 공고는 정점 대비 급격히 감소했으며, 여전히 팬데믹 이전 수준보다 훨씬 낮은 상태를 유지하고 있다. 미국 전체 고용은 증가했음에도 불구하고, 2022년 말 이후 AI에 가장 많이 노출된 상위 10% 직종에서는 고용이 감소했다. AI에 노출된 부문의 고용 감소는 특히 25세 미만 연령대에서 두드러지게 나타난다. 25세 미만 연령대의 고용 감소는 해고 때문이 아니라, 노동 시장에 진입하는 청년 노동자에 대한 채용률이 낮기 때문이다.
찻주전자 알림 #5: 제비 한 마리가 여름을 만들지는 않는다
최근 대학 졸업생 및 기타 신입직원의 낮은 채용률을 오로지 AI 탓으로만 돌리기에는 아직 이르다. 거시경제적 맥락도 중요하기 때문이다. 2020년 3월, 연방준비제도(Fed)는 금리를 거의 0% 수준으로 인하하고 2년 동안 그 수준을 유지했다. 대출 비용이 거의 없었기에 기업들은 그에 맞춰 지출을 늘렸다. 대형 기술 기업들은 전체적으로 수백만 명에 달하는 직원을 채용했다. 이 기간 이후 40년 만에 가장 빠른 속도로 진행된 통화 긴축 사이클이 이어졌고, 이로 인해 기업의 자본 조달 비용이 상승했다. 따라서 기술 업계의 낮은 채용률과 정리해고는 AI로 인한 일자리 대체라기보다는 (통화 긴축에 대응하여) “지난 5년 동안 이루어진 과도한 채용의 축소”를 반영한 것이다.
2021년 11월에 정점을 찍었던 민간 부문 채용률은 AI의 영향을 받는 산업(예: ‘정보’, ‘금융, 보험 및 부동산’, ‘전문 및 비즈니스 서비스’)뿐만 아니라 미국의 모든 산업에서 감소세를 보였다(그림 2). Resume.org(2026)가 조사한 미국 채용 담당자 중 거의 60%는 채용 축소나 감원의 진정한 이유(즉, 재정적 제약)를 강조하는 것보다 AI의 역할을 강조하는 편이 더 호의적으로 받아들여지기 때문에 그렇게 한다고 답했다. 2026년 3월 연방준비제도(Fed)의 한 연구는 100만 개 이상의 기업 데이터를 분석한 결과,
채용 공고 감소가 AI 도입 때문이라는 증거를 찾지 못했다. 심지어 샘 알트만(Sam Altman)조차도 재정적 이유로 인한 해고를 은폐하기 위한 기업의 ‘AI 워싱’을 지적한 바 있다.
주장 6: AI는 대부분 쓸모없는 일자리를 없애고 더 나은 일자리를 만들어낼 것이다.
미국 노동자 5명 중 1명은 자신의 직업이 세상에 의미 있는 기여를 하지 못한다고 생각한다 . 이는 주로 사무직, 특히 관리직(보조직)에서 나타나는 현상으로, 이러한 직종의 지위는 실제 업무량보다는 관리자에게 보고하는 직원 수로 결정되는 경우가 많다. 고(故) 데이비드 그래버는 이러한 사무직, 심지어 본인조차 무의미하다고 생각하는 직종을 ‘헛소리 일자리(bullshit jobs)’이라고 불렀다. 일각에서는 LLM(Learning Leadership Machine)이 이러한 ‘헛소리 일자리’을 구성하는 단조롭고 지루한 업무들을 자동화할 수 있다고 주장한다. AI 도구는 사무직 업무의 수행적인 부분을 모방하는 데 사용될 수 있다. 이메일 작성, 업무 현황 업데이트, 보고서 수정, 프레젠테이션 다듬기, 심지어 애초에 필요 없었을지도 모르는 회의록 작성 및 요약 등이 그 예이다. 샘 알트만은 AI에 의해 곧 변화되거나 사라질 수 있는 업무는 ‘진정한 업무’가 아니라고 주장했다 .
이런 무의미하고 쓸모없는 사무직이 사라지면, 남은 노동자들은 의미 있고 창의적인 일에 집중할 수 있게 될 것이다.
찻주전자 알림 #6: 아니오, AI는 쓸모없는 일자리를 많이 만들어낼 것이다.
인공지능(AI)의 사용은 새로운 일자리를 창출할 것이다. AI 도구는 중요한 오류를 발생시키고, 합성어, 과학적 오류, 법률적 오류, 의학적 오류, 마케팅 오류, 소셜 미디어 오류, 새로운 사이버 보안 위험, 취약한 코드, 그리고 기업과 기관의 핵심 활동을 위협할 수 있는 누적된 기술 부채를 초래하기 때문에, AI 도구에 대한 모니터링, 감독, 관리 및 검증이 필수적이다. 따라서 AI 도입은 ‘AI 동료’를 감독하는 유능한 엔지니어와 관리자 계층을 만들어낼 것이다. 이들은 새로운 허황된 업무를 수행하며, 오류를 수정하고, 코드를 유지 관리하고, 디지털 시스템의 무결점을 보호하고, ‘환상’과 가짜 뉴스를 식별하고, 더 나아가 직장, 인터넷, 그리고 사회 전반의 ‘오류 확산’에 맞서 싸울 것이다.
기업들은 또한 도입된 AI모델을 ‘세탁’하거나 ‘감시’하기 위해 AI 윤리 위원회를 설치할 것이며, AI와 그 산출물을 이해하지 못하는 순진하고 무지한 경영진에게 이를 설명해 줄 새로운 중간 관리직 역할이 등장할 것이다. AI 전략의 ‘정합성’을 위한 ‘‘하수인’ 같은 위원회와 태스크포스, 프롬프트 무결성을 담당하는 수석 이사, AI 사이버보안을 담당하는 부사장 등이 등장할 것이며, 기업들이 자사의 AI 도구가 초래할 모든 오류와 손해에 대한 책임을 회피하기 위해 온갖 수단을 동원할 것이기 때문에 법무 부서와 법무 관련 직책은 기하급수적으로 늘어날 것이다. 그 결과 일자리가 줄어들기는커녕, 전혀 다른 종류의 일자리들이 생겨날 것이다. 이 모든 것은 ‘간접비’ 성격의 일자리로, 주된 기능은 생산이 아니라 보험과 안심 제공이다. 즉, “계층 구조가 그대로 유지되고, 인간이 여전히 ‘결정 과정에 참여’하며, 어딘가에 누군가가 명목상으로는 여전히 책임을 지고 있다는 사실에 대한 안심”을 제공하는 것이다.
이 모든 것에 더해, AI 기반의 테일러주의는 직원 감시를 위한 불필요한 업무까지 더욱 양산할 것이다. 결국 감시 기술의 ‘철칙’은 ‘사용할 수 있다면 반드시 사용하게 된다’는 것이다. 감시 수단이 훨씬 더 다양해짐에 따라 고용주들은 PC 화면을 모니터링하고, 키 입력을 기록하며, 내부 커뮤니케이션을 분석하고, 심지어 피로 징후를 파악하기 위해 직원의 얼굴을 스캔하기까지 한다. AI 기반 시스템은 내부 커뮤니케이션의 어조를 모니터링하고, 메시지 발송 빈도를 추적하며, 다양한 디지털 플랫폼에서의 애플리케이션 사용 내역을 기록한다. 업무 완료, 웹 검색, 응답 시간은 알고리즘을 통해 필터링되어 개별 근로자의 생산성 점수가 산출되며, 이 점수는 승진 및 (보너스) 급여 결정에 활용된다. AI 도구는 (직원과 구직자에 대한) 자동화된 신원 조사를 수행하는 데 사용되는데, 이는 사생활과 인간적 존엄성을 완전히 무시한 채 공공 기록, 재무 데이터, 소셜 미디어 활동을 무차별적으로 수집하여 고용주에게 미치는 ‘위험’을 평가한다. 그 결과 사생활과 신뢰가 사라진 디스토피아적인 직장이 만들어진다. ‘깡패’ 같은 직원들에 의한 상시 감시는 위축 효과를 초래하며, 특히 심리적 안정감, 신뢰, 자유가 혁신의 핵심인 협업 및 창의적인 환경에서 생산성을 저해한다.
주장 #7: 앤트로픽의 ‘마이토스(Mythos)’는 공개하기에는 너무 위험하다
마이토스는 앤트로픽이 개발한 새로운 AI 모델로, 기존 운영 체제와 웹 브라우저에서 수천 건의 취약점을 발견할 정도로 강력하다고 알려져 있다. 뜻밖에도 ‘마이토스 프리뷰(Mythos Preview)’는 인터넷에 접속하기 위해 상당히 정교한 다단계 익스플로잇을 개발했는데, 이는 원래 코딩 상으로는 불가능하도록 설계된 기능이었다. 마이토스는 상당한 격차로 “가장 윤리적으로 정렬된” AI 모델로 평가되며, “소프트웨어 취약점을 발견하고 악용하는 데 있어 가장 숙련된 인간을 제외한 모든 사람을 능가할 수 있는” 수준의 코딩 능력을 갖추고 있다고 한다. 책임 있는 AI 관리를 최우선으로 삼는 세계 유일의 ‘책임 있는 AI 기업’으로 자리매김한 앤트로픽은, 인터넷 전반의 사이버 보안을 위험에 빠뜨릴 수 있다는 이유로 마이토스를 일반 대중에게 공개하지 않기로 결정했다. 그러나 이러한 윤리적 입장에는 대가가 따른다. 앤트로픽은 사이버 보안 방어 프로젝트인 ‘프로젝트 글래스윙(Project Glasswing)’을 출범시키기로 결정했는데, 이 프로젝트를 통해 마이토스 모델을 아마존, 애플, 구글, 마이크로소프트, 엔비디아, 크라우드스트라이크, JP모건 체이스, 시스코, 브로드컴, 팔로알토 네트웍스, 리눅스 재단 등 고액 지불 고객사들에게만 독점적으로 제공하며, 그 대가로 현금(직접 기부금 400만 달러 및 클로드(Claude) 사용 크레딧 1억 달러)을 받기로 했다.
찻주전자 알림 #7: 마이토스(Mythos) 문제가 아니다. 취약한 현실 세계의 사이버 보안 시스템을 시급히 강화해야 한다.
Mythos 모델의 등장은 실제 사이버 보안 시스템이 취약하여 뚫릴 수 있으며, 평범한 공격자라도 AI 도구를 대규모로 활용하면 효과적인 공격을 가할 수 있음을 보여준다. 하지만 Anthropic은 Mythos의 능력을 교묘하게 과대포장하고 있다. 첫째, Mythos Preview의 성공적인 해킹 시도는 파이어폭스의 자바스크립트 셸, 즉 브라우저의 실제 보안 방어 기능이 포함되지 않은 간소화된 디버깅 환경을 대상으로 한 것이었다. 실제 파이어폭스 브라우저는 악성 코드에 대항하는 다층적인 방어 체계를 갖추고 있으나, 앤트로픽은 그중 단 한 층에만 집중했다. 검증을 집중적으로 수행하기 위해 미토스에는 추가적인 시스템 프롬프트가 제공되었다. 이 모든 것은 테스트 환경과 공격자가 실제로 마주하게 될 실제 방어 체계 사이에 상당한 격차가 있음을 시사한다. 둘째, 마이토스 프리뷰는 방화벽과 같은 중요 인프라에 사용되는 오픈소스 운영 체제인 OpenBSD를 원격으로 다운시키는, 현재 패치된 버그를 발견했다. AI 사이버 보안 스타트업인 AISLE은 8개의 저렴하고 소규모이며 오픈 웨이트 LLM을 테스트하여 이 27년 된 버그를 찾아낼 수 있는지 확인했다. 테스트된 모든 모델이 이 버그를 찾아냈다. 여기에는 토큰 100만 개당 0.11달러에 불과한 모델도 포함되었는데, 이는 Anthropic의 토큰 비용의 극히 일부에 불과하다. 기본적인 보안 추론 과제에서, 저렴하고 소형이며 오픈 웨이트 모델들은 Anthropic을 포함한 모든 주요 연구소의 가장 비싼 최첨단 모델들보다 우수한 성능을 보였다. 효과적인 AI 사이버 보안 역량의 핵심은 AI 모델의 규모가 아니라 취약점을 찾아내는 시스템에 있다.
주장 #8: 우리는 ‘노동자 친화적’ AI를 향해 한 걸음 더 나아가야 한다
MIT의 경제학자 다론 아세모글루, 데이비드 오토르, 사이먼 존슨(2026)은 이러한 변화가 일어나기를 희망한다. 이 MIT 경제학자 3인방은 ‘나쁜’ AI와 ‘좋은’(노동자 친화적) AI를 구분하며, 정부(트럼프?)가 AI 정책과 규제를 명백히 ‘노동자 친화적’ 방향으로 추진하여, 새로운 업무를 창출함으로써 인간의 기술과 전문성을 더욱 가치 있게 만드는 기술을 장려하기를 원한다. 이를 달성하기 위해 그들은 정부 내 AI 전문성 구축, 경쟁 촉진, 노동자에게 ‘발언권’ 부여(정확히 어떤 분야에서?), 세제 개혁, 전문성 도용 방지, 직업 면허제 폐지 등을 포함한 일련의 신자유주의적 정책 개입 방안을 제안한다. 그들은 주주 자본주의와 금융 시스템에 대한 더 근본적인 개혁은 제안하지 않는다.
찻주전자 알림 #8: 상업용 AI는 노동자 친화적이지 않을 것이다, 죄송합니다
‘노동자 친화적’ AI를 요구하는 목소리는 몇 가지 핵심적이고 불편한 진실을 외면하고 있다. 바로 (주주) 자본주의에 내재된 자동화, 노동자 착취 및 통제에 대한 본질적인 추동력, 노동조합의 역사적 쇠퇴, 전자 테일러주의의 부상, 빅테크 기업들에 의한 정부의 규제 장악, 그리고 인건비 절감을 압박하는 글로벌 경쟁 등이다. ‘노동자 친화적’ AI를 쉽게 주장하는 목소리는 제프 베조스가 아마존의 알고리즘 감시 도구를 무기화하여 노동자들의 조직화를 막고, 창고 내 노조 지지 운동을 짓밟는 현실을 직시하지 않는다. 엘론 머스크는 직원들에게 무급으로 수면도 취하지 못한 채 장시간 초과 근무를 강요하는 한편, 정작 본인은 한가롭게 지내며 트윗만 올리고 있다; 샘 알트먼은 ‘안전 문제’보다 ‘성장’을 우선시하면서, 인권 기록이 좋지 않은 걸프 지역의 부유한 독재자들과 친분을 쌓고 있으며; 마크 저커버그는 자사 노동자들에게 적대적인 태도를 취하고, 기업 내 표현의 자유를 탄압하며, 노동자의 의사 결정 참여를 차단하고, 모든 다양성 이니셔티브를 폐지하고 있다.
기업들은 AI를 노동자들을 통제하거나 해고하기 위한 위협 수단으로 활용하지만, 그 목적은 해고된 노동자들을 긱 노동자로 재고용하거나 공급망 내에서 그 일을 대신할 다른 인력을 찾는 데 있다. “상사가 감시 데이터를 이용해 당신의 임금을 삭감하려 한다”는 말이 이를 잘 요약해 준다. 코리 도크토로우가 제시한 이 소름 끼치는 AI 기반 감시 임금 차별 사례(미국 의료, 고객 서비스, 물류 및 소매 업계에서 흔히 발생)는 다음과 같은 요점을 명확히 일깨워 준다:
“알고리즘에 기반한 임금 차별은 외부 데이터 소스를 활용해 노동의 가치를 책정한다. 이는 계약직 간호사들의 현실이기도 한데, 이들의 경우 기존의 오프라인 인력 파견 업체들이 ‘간호계의 우버’라고 자칭하는 전국적인 앱들로 대체되었다. 이러한 앱들은 규제되지 않은 데이터 중개 업계에서 나온 상업적 감시 데이터를 활용해 간호사의 신용카드 부채 규모와 연체 여부를 확인한 뒤 임금을 책정한다. 부채가 많고 재정 상황이 더 곤란할수록 제안받는 임금은 낮아진다.”
신용카드 대금을 미납하거나, 급여일 대출을 받거나, WhatsApp이나 인스타그램에서 자신의 부채 상황에 대해 이야기하는 것만으로도 임금이 낮아질 수 있다. 분산형 AI 연구소(Distributed AI Research Institute)의 연구 책임자인 알렉스 한나(Alex Hanna)는 “AI가 여러분의 일자리를 빼앗지는 않겠지만, 여러분의 일을 더 끔찍하게 만들 가능성은 높습니다”라고 말한다.
정신을 차리자: 케타민 없는 AI
AI가 경제에 미치는 영향에 대한 현재의 이해는 잘못되었다. AI는 ‘초지능’, 대규모 일자리 감소, 전례 없는 기술적 실업, 경기 침체를 초래하지 않을 것이며, 노동 생산성의 엄청난(총체적) 증가나 전례 없는 기술 진보 및 경제 성장의 가속화도 가져오지 않을 것이다. AI가 총체적 차원에서 미치는 영향은 오히려 평범할 것이다. 일부 직업은 자동화로 인해 사라지고, 기존 일자리는 AI에 의해 재편되며, AI 도구를 감독하고 관리하기 위한 새로운 직업, 업무, 역할이 생겨날 것이다. 이러한 새로운 일자리 중 상당수는 ‘헛일’이 될 것이며, 그러나 대부분의 직업은 영향을 받지 않을 것이다. 총체적 노동 생산성 성장률은 (AI 도구가 노동력을 보강하기 때문에) 다소 증가할 수 있겠지만, 동시에 AI로 인한 막대한 부수적 피해는 시간이 지남에 따라 기하급수적으로 증가하여 생산성 성장을 저해할 것이다. AI로 인한 엉망진창이 더 많이 발생할수록, 그 혼란을 수습하기 위해 필요한 간접 노동력은 더 많아질 것이며, 결과적으로 생산성 통계상으로는 AI 시대를 제대로 파악하지 못하게 될 가능성이 높아질 것이다. 이상의 모든 점을 고려할 때, 현재의 AI 과잉 투자 사이클은 지속될 수 없다.
[각주]
1) https://www.nytimes.com/2025/09/12/technology/ai-eliezer-yudkowsky-book.html
2) https://www.ineteconomics.org/research/research-papers/russells-teapot-dispatches-from-the-final-stage-of-the-ai-bubble
3) https://chierhu.medium.com/stalled-technological-promises-1aef77df8969
우리는 AI에 대해 얼마나 알고 있을까?
바야흐로 AI의 시대이다. 어느덧 AI가 우리 곁에 자리잡고, 문서작업에서부터, 연구보고서, 지방자치단체의 정책과제까지, 심지어는 정부가 ‘속도전’과 ‘전격전’을 얘기하면서 ‘국가 총력지원체계’를 구축하자는 말까지 나온 상황이다. 또한 업무와 문서작업을 하는데 도움을 얻는 효율적인 도구로 삼는 것부터 경제성장의 핵심동력으로까지, 인간의 일자리를 대체하고, 인간의 지능을 넘어 세상을 지배할 수 있다는 ‘종말론적’ 상황 예측에 이르기까지 AI에 대한 기대와 우려가 동시에 존재한다.
여기에 소개하는 두 개의 글은 AI에 대해 많이 제기되는 질문에 대한 답변과 AI기업이 주장하는 내용에 대해 비판하는 글이다. AI 시대에 제대로 대응하려면, 무엇보다 AI에 대해 제대로 알아야 한다. AI 개발자 스스로도 모른다고 하는데, 전문가가 아닌 사람들이 더더욱 알기는 힘들다. 하지만, 우리의 삶과 미래에 지대한 영향을 끼칠 것이라 생각되는 AI에 대해 기본적인 시각과 입장을 갖추는 데에 도움이 될 것이라 판된해 소개한다.
이 두 개의 글의 출처는 여기와 여기이며 기계번역의 도움을 받아 수정·보완하여 싣는다.(원문에 표시된 글 내용의 링크 설정은 편집자가 각주를 단 것 말고는 생략하였다.) 물론 여기에 실린 글이 AI에 대해 극도로 비판적인 견해일 뿐이라는 비판도 있을 것이다. 하지만 분명한 것은 AI에 대한 기존의 지배적인 통념을 뒤집는 견해이기도 하다. 생산적인 결론을 도출해 낼 수 있는 비판과 논쟁은 열려있음을 밝힌다.
[글 하나] AI에 관해 자주 묻는 질문
AI가 내 일자리를 빼앗아 갈까요?
통계적으로 보면… 아니요, 하지만 여러분은 그 사실을 알면 안 된다.
AI가 일자리를 없앨 수 있다는 주장은 기술 기업 엘리트들에 의해 지나치게 과장되어 왔으며, 정치인과 주류 언론 모두에 의해 비판적 검토 없이 대체로 받아들여져 왔지만, 실제로 이를 뒷받침할 증거는 전혀 없다. 사실, AI기술이 이 점에서 지속적으로 실패하고 있다는 증거가 점점 더 많아지고 있다.
AI 지지자들이 내세운 전망(혹은 위협)은 대규모 언어 모델(LLM)과 같은 생성형 도구가 출력을 만들어내는 데 너무나도 능숙하여 인간의 노동을 불필요하게 만들 것이라는 것이었다. 그러나 이러한 전망은 여러 측면에서 실패로 돌아갔다. 그중 가장 기본적인 이유는 생성형 시스템이 자신이 만들어내는 대상에 대해 실질적인 이해를 전혀 가지고 있지 않다는 점이다. 이들은 단순히 입력을 스캔하고, 이에 대한 계산을 수행한 뒤, 인간이 만든 실제 사물을 분석하여 인간이 내놓을 가능성이 가장 높은 응답을 추정해 그 결과를 반환하는 ‘숫자 처리 기계’에 불과하다.
충분한 데이터와 처리 능력이 축적되면, 실제 내용을 분석하지 않는 한 계산 과정이 매우 정교해져 설득력 있게 보이는 결과를 도출해 낼 수 있는 경우가 많다. 하지만 이러한 프로젝트가 실제 검증을 거치지 않는다면 별다른 의미가 없으며, 바로 여기에 한계가 있다.
LLM을 활용해 사무직, 행정직 또는 전문직 직원의 업무를 수행하려다 보면 종종 터무니없는 결과가 나오곤 한다. 예를 들어, 변호사를 대신해 LLM에게 법률 문서를 작성하도록 요청하면, 겉보기에는 적절한 언어로 작성된 것처럼 보이지만 잘못된 인용과 허구적인 세부 사항으로 가득 찬 문서가 생성될 것이다. 이는 LLM이 진실을 전달하는 것과 거짓말을 쓰는 것의 차이를 알지 못하기 때문인데, LLM에게 있어 단어는 그저 데이터 포인트의 연속일 뿐이기 때문이다. 따라서 LLM을 이용해 공식 문서를 작성하는 사람은 출력물을 꼼꼼히 검토하여 소위 ‘환각’(오류라고 표현하는 것이 더 적절함)을 걸러내야 하며, 이로 인해 시스템이 애초에 제공했을 것으로 기대되던 생산성 향상 효과는 크게 줄어들거나 사라지게 된다. 그 결과, AI는 기업 생산성에 눈에 띄게 미미한 영향만을 미쳤으며, 기업이 이를 활용해 장기적으로 일자리를 감축할 수 있을지 예측하기 어렵게 되었다.
문화 및 엔터테인먼트 분야에서도 고용주들의 상황은 별반 나을 게 없다. AI로 생성된 콘텐츠는 소비자들에게 종종 한눈에 드러나며, 이들은 이에 대해 극도로 부정적인 반응을 보인다. 시장 조사 결과에 따르면, 관객들은 생성형 AI를 사용해 제작된 영화, 책, TV 프로그램, 비디오 게임을 일관되게 외면하고 있다. 사실, 미디어 제작에 AI가 사용되었다는 소문만으로도 잠재적 소비자들의 흥미를 완전히 꺾어버릴 정도이며, 이는 대중이 ‘저질 콘텐츠’를 얼마나 혐오하는지를 여실히 보여준다. 몇 년 전 기업들이 노동자 없이도 수익성 있는 제품을 양산할 수 있을 것이라는 희망은 완전히 허상임이 드러났다.
AI 기술이 주로 사용된 목적은 노동자들에게 개인 생산량을 늘리도록 강요하는 것이었으며, ‘일자리 대재앙’은 실제 현실이라기보다는 직원들을 위협하여 복종시키려는 공포의 수단에 불과했다.
AI는 인류에게 어떤 가치가 있을까?
이 질문에 답하기가 까다로운 이유는, 사실 ‘AI’라고 할 수 있는 구체적인 기술이나 제품이 실제로 존재하지 않기 때문이다. AI는 검색 엔진, 추천 알고리즘, 음성 인식 시스템, 자율 로봇, 생성형 도구, 게임 플레이 지능 등을 포함하는 다양한 데이터 기반 시스템을 묶어 지칭하는 마케팅 용어일 뿐이다. 이들 기술은 ‘AI’라는 이름으로 마케팅된다는 점을 제외하면 서로 거의 관련이 없다.
이 중 어떤 것이 인류에게 도움이 될 수 있을까? 그렇다. 상상력이 풍부한 사람이라면 이 모든 기술에 실용적인 용도를 찾아낼 수 있을 것이다. 자본가들이 주장한 바(위 참조)를 충족시키지 못하는 LLM(대규모 언어 모델)과 같은 생성형 시스템조차도 빅데이터 연구 및 분석에 적용될 때 실제로 매우 유용한 용도를 가지고 있다. 단지 마케팅에서 내세운 목적에 대해서는 그다지 뛰어나지 않을 뿐입니다.
기술은 근본적으로 사회적이다. 기술이 미치는 영향은 누가 그것을 사용하고, 그들의 의도가 무엇인지에 따라 결정된다. 우리가 현재 기술과 관련해 겪고 있는 문제들은, 기술이 억만장자 계층이 운영하는 지나치게 강력한 기업들의 통제 하에 있다는 사실에서 비롯된다.
AI가 스스로 의식을 발달시킬 수 있을까?
아니요. 다음 질문?
아, 알겠습니다. 이 주제가 자주 거론되는 개념이니, 역시 답을 해줘야 할 것 같네요. 의식, 혹은 ‘일반’ 지능은 소프트웨어 기반의 의사결정 시스템이 인간의 마음이 작동하는 방식과 유사할 수 있다는 이론에서 비롯된, 널리 논의되지만 전혀 입증되지 않은 개념이다. 우리가 뇌의 작동 원리를 이해하는 수준은 여전히 매우 미흡하여, 설령 그것이 사실이라 해도 이를 확인할 실질적인 방법은 없을 것이다. 하지만 우리는 컴퓨터가 어떻게 작동하는지는 알고 있으며, 컴퓨터는 뇌와는 매우, 매우 다르다.
설령 인공 지능이 매우 정교하여 어느 정도 의식처럼 행동한다고 주장한다 해도, 이것이 인간의 의식과 동등하거나 심지어 비교 대상이 될 수 있다고 말하는 것은 자세히 들여다볼수록 더욱 터무니없는 생각일 뿐이다. 인간의 의식은 단순히 자극에 대한 반응 그 이상의 것이다. 인간의 지능은 창의적이며, 우리가 아는 한 독창적인 아이디어를 연역하고 귀납할 수 있는 유일무이한 현상이다. 다작의 기술 비평가 에밀리 벤더(Emily Bender)가 유명하게 지적했듯이, AI는 실제로 독창적인 어떤 것도 하지 않으며, 단순한 수학적 계산을 바탕으로 인간이 내는 소리를 재현하는 ‘확률적 앵무새’라고 묘사하는 것이 더 적절하다. 마치 진짜 앵무새가 그 소리가 무엇을 의미하는지 조금도 모른 채 인간처럼 들리는 소리를 내는 것과 마찬가지다.
첨단 컴퓨터 시스템이 의식을 갖게 되고 있다는 생각이 계속 유지되는 데에는 사실 두 가지 요인이 작용한다. 그중 하나는 구식인 ‘소망 충족’이다. AI 시스템 설계자들은 대중문화에서 ‘자아를 인식하는 기계’라는 개념을 받아들였기 때문에, 자신도 모르게 마치 의식을 가진 것처럼 시스템을 설계하게 되며, 결과적으로 자신의 선입견을 바탕으로 작업 대상에 일종의 환상을 투영하게 되는 것이다. 이것이 바로 수많은 AI 플랫폼의 인터페이스가 마치 사용자와 대화를 나누는 것처럼 행동하게 만드는 주된 원인이며, 사실 인터페이스를 더 직접적이고 명백하게 기계처럼 만드는 편이 훨씬 더 효율적일 텐데도 말이다.
그러나 또 다른 요인은 선전이다. 기술 업계는 AI가 어떤 능력을 지녔는지, 혹은 미래 어느 시점에 무엇을 할 수 있을지에 대한 대중의 불안을 무기로 삼아, AI가 현재 무엇을 하고 있는지에 대한 논의를 완전히 무마하고 있다. 엘론 머스크와 샘 알트만은 자신들의 사업 계획에 있어, AI 프로젝트에 대한 논의를 ‘터미네이터’ 스타일의 자의식을 가진 기계가 초래할 공상과학 소설 속의 위험으로 돌리는 것이, 현재 현실에서 그들의 거대한 데이터 센터 단지가 초래하는 경제적·환경적 피해에 대해 우리가 공개적이고 진지한 논의를 나누도록 허용하는 것보다 훨씬 더 유용하다고 여긴다.
AI를 규제할 수 있을까?
AI와 관련된 모든 기술은 규제될 수 있지만, 이는 정치적 싸움이며 현재 우리 측은 이 싸움에서 밀리고 있다.
기술 업계는 막대한 부와 기성 정치인들과의 깊은 유대를 이용해 정부가 자신들을 규제하지 못하도록 막고 있다. 실제로 현재 정부들은 극단적인 민영화 조치로 국가의 핵심 기능을 기술 기업들에게 기꺼이 넘겨주고 있다.
영국에서는 최근 이와 관련해 특히 터무니없는 사례가 발생했다. 사디크 칸 런던 시장은 극도로 불쾌한 기술 기업인 팔란티어가 런던 경찰청과 대규모 계약을 체결하는 것을 막으려 했다. 칸 시장의 다른 단점이 무엇이든 간에, 이번 사안에 대한 그의 동기는 지극히 옳았다. 팔란티어는 미국 군산복합체와 깊은 유대를 맺고 있는 기업으로, 악명 높은 괴짜이자 인종차별주의자이자 권위주의자인 피터 틸을 필두로 한 악명 높은 경영진들이 운영하고 있다.
정치권, 언론, 기득권층의 전방위적인 압력이 칸에게 가해졌고, 그는 결국 굴복하여 팔란티어가 계약을 따내도록 허용함으로써, 이 불길한 기업이 수백만 명의 런던 시민을 감시하고 면밀히 조사할 수 있는 권한을 부여해 버렸다. 우리 사회 기관으로 끊임없이 확장되는 이 기업들의 영향력에 맞서 싸울 정치적 운동이 시급히 필요하다.
AI 붐은 붕괴될 것인가?
AI 분야가 전형적인 자본주의 거품이며, 조만간 붕괴될 것이 거의 확실하다는 점은 널리 인정되고 있다. 자본주의는 수세기 동안 거품을 만들어 왔으며, 그 대부분은 비슷한 특징을 보인다. 즉, 특정 상품이 자본주의 거래자들에 의해 과대평가되다가, 결국 그 상품에 투입된 자금을 실제 측정 가능한 이익으로 회수할 수 없는 지점에 도달하게 되는 것이다.
그러나 AI 분야는 시장 붕괴에 대한 취약성을 특히 심화시키는 몇 가지 특이한 특징을 지니고 있다. 그중 하나는 환경적 지속 불가능성이다. 즉, 기술 기업들이 추가 투자를 유치하기 위해 끊임없이 확장해야 하는 요구가 현실의 물리적 한계에 부딪히고 있는 것이다. 지난해 ‘빅 식스(Big Six)’ 기업들은 새로운 컴퓨팅 용량 확충 계획을 발표했는데, 그 규모가 워낙 방대하여 전 세계에서 생산되는 전력을 모두 합쳐도 이를 감당하기에 턱없이 부족할 정도였다!
첫 번째 문제와 관련해, 두 번째 문제는 AI가 끊임없이 규모를 확대하고자 하는 욕구가, 대부분의 기존 산업은 할 수 있지만 AI는 할 수 없는 한 가지 요인 때문에 부정적인 영향을 받는다는 점이다. 바로 AI는 규모의 경제를 실현하지 못한다는 것이다. 거의 모든 다른 유형의 제품은 생산량이 늘어날수록 단가가 낮아진다. 이는 생산에 드는 총비용과 한계비용이 다른 비용에 비해 상대적으로 점점 덜 중요해지기 때문이다. 이는 물리적 제품을 생산할 때 매우 명백하게 드러난다. 예를 들어, 클립을 만드는 기계를 만들었다면, 그 기계를 사용하여 클립을 100개 만드는 것보다 10만 개를 만드는 편이 투자 비용이 훨씬 저렴해 보인다. 그리고 이는 일반적으로 소프트웨어 제품에도 적용된다. 마이크로소프트는 윈도우가 설치된 개별 컴퓨터마다 윈도우를 다시 개발할 필요가 없기 때문에, 윈도우 라이선스를 하나 판매할 때마다 추가 비용은 거의 들지 않으면서 더 많은 수익을 올릴 수 있다.
반면, AI 제품의 생산 비용은 생성되는 결과물의 양에 비례하는 경향을 고집스럽게 유지한다. 누군가가 AI 요청을 할 때마다, 설령 그 중 상당수나 대다수가 똑같은 요청을 하고 있다 하더라도, 시스템은 매번 동일한 범위와 강도로 완전히 가동되어야 하며, 이 과정에서 에너지를 소비하고 하드웨어에 부하를 가하게 된다. 이는 해당 산업이 무한히 성장하려 할수록, 그 규모 확대에 맞춰 비용도 그만큼 증가한다는 것을 의미한다. 이로 인해 2000년대의 닷컴 버블이나 부동산 버블을 비롯한 과거 과열된 산업들보다 훨씬 더 빠르게 ‘완전한 지속 불가능성’이라는 위기가 코앞으로 다가오고 있다.
따라서 기술 기업들이 지금까지 해왔던 방식대로 계속 운영해 나갈 수는 없다. 실제로 대기업들은 이미 가장 과도한 제품들을 조용히 축소하기 시작했다. 예를 들어, OpenAI의 대대적으로 홍보되었던 동영상 생성 앱 ‘Sora 2’는 출시 불과 6개월 만에 서비스가 중단되었는데, 이는 대중이 이 앱을 이용해 제작한 극도로 어이없는 동영상 하나하나가 회사에 직접적인 비용으로 돌아갔기 때문이다.
막대한 부채와 제로에 가까운 이익률을 안고 있는 OpenAI와 같은 기업들은 이 세상에 더 이상 오래 버티지 못할지도 모른다. 우려되는 점은, 관련 자본가들이 국가, 정부 및 기타 기관에서 장악한 권력을 이용해 우리 지구와 사회에 계속해서 해를 끼칠 것이라는 점이다.
[글 둘] 러셀의 찻주전자: AI 버블의 막바지 현장 보고서
시장에 선전되고 있는 AI의 미래가 면밀한 검증을 견디지 못할 주장에 기반을 두고 있다면 어떨까? 초지능에서 대규모 일자리 손실에 이르기까지, 생성형 AI를 둘러싼 가장 거창한 약속들은 예지력이라기보다는 필연성이라는 외피를 두른 과대광고에 가깝게 보이기 시작한다.
선도적인 생성형 인공지능(AI) 기업들은 이른바 ‘초지능’이라는 개념을 추구한다는 명목으로 알고리즘 개발, 훈련 및 운영에 수십억 달러를 쏟아붓고 있다. 이러한 과대광고를 유지하고 금융 투자자들의 관심을 사로잡기 위해, 이들 기업의 CEO들은 증거와 무관한, 반증 불가능한 예측들을 쏟아내고 있다. 그 내용은 대규모 기술적 실업부터 유드코프스키식(Yudkowskian)1) 인류 멸종 혹은 유비쿼터스 자동화가 가져올 풍요의 뿔, 전례 없는 과학적 진보, 생산성의 기하급수적 성장과 같은 유토피아적 전망에 이르기까지 다양하다.
INET의 새로운 워킹 페이퍼2)에서 저는 실리콘밸리 CEO들이 내놓은 가장 주목받지만 동시에 가장 터무니없는 예측들을 실증적으로 면밀히 분석해 보았다. 이성에서 벗어난 예측들이 쓰나미처럼 밀려오는 상황에서 정신을 차리기 위해, 저는 버트런드 러셀(1952)의 ‘찻주전자 비유’에 의지했다. 러셀은 반증 불가능한 주장을 하는 측에 증명 책임이 있으며, 다른 사람들이 이를 반증해야 할 의무는 없다고 주장했다.
본 논문에서 검토한 AI의 경제적 영향에 대한 수많은 예측을 모두 제대로 다루기는 어렵다. 따라서 이 블로그 게시물에서는 대신 널리 논의되고 있는 여덟 가지 예측을 간략히 평가해 보겠다. 이를 통해 독자들이 보다 포괄적인 평가를 위해 해당 논문을 직접 읽어보시기를 바란다. 명확히 말씀드리자면, 본 글 전반에 걸쳐 초점은 상용 폐쇄형 대규모 언어 모델(LLM)의 하위 집합으로 대표되는 생성형 AI에 맞춰져 있으며, 소규모의 도메인 특화 AI 도구나 다른 기계 학습 접근 방식에는 초점을 두지 않는다.
주장 1: AI ‘초지능’이 코앞에 다가왔다
찻주전자 알림 #1: AI ‘초지능’은 아직 도래하지 않았으며, 머지않아 등장할 전망도 아니다
AGI가 임박했다는 예측은 강한 데자뷰를 불러일으킨다. 우리 대부분은 실리콘밸리의 리더들이 자율주행차, 양자 컴퓨팅, 증강현실, 휴머노이드 로봇의 도래가 임박했다고 몇 번이나 약속했는지3) 세어보기도 지칠 지경이다. 또한 실리콘밸리가 제시한 일정이 기술적 현실보다는 반복되는 자금 조달 필요성을 반영한다는 사실은 공공연한 비밀이다. 그러나 AGI가 임박했다는 주장은 틀렸다. 이는 일정이 과장되었기 때문이 아니라, 더 근본적인 구조적 문제 때문이다. 즉, 생성형 AI에 대한 확장 접근 방식은 AGI는커녕 ‘지능’조차 생성해 낼 수 없기 때문이다.
대규모 언어 모델(LLM)은 지능적이지 않으며, 인과적 추론을 할 수 없고, ‘세계에 대한 개념적 모델’을 갖추지 않았으며, 지각 능력도 없다. 오히려 이는 예측적 패턴 매칭 도구이자 강력한 정보 검색 및 표절 생성 기계에 불과하다. 선도적인 모델들(GPT-5, Claude Opus 4.6, Gemini 3.1 Pro)은 훈련 데이터와 중복되는 통제된 평가 환경에서 일반적인 사실 기반 ‘폐쇄 세계’ 질문에 대해 약 3~8%의 비율로 ‘환각’을 일으키지만, 분포 외 데이터에서는 ‘환각’ 발생률이 현저히 증가한다. 복잡한 추론 과제의 경우 오류율이 30~50%에 달할 수도 있다. LLM의 ‘환각’ 문제는 규모 확대를 통해 해결될 수 없으며, 이는 LLM의 구조적 특성이다.
게리 마커스, 에밀리 M. 벤더, 알렉스 한나, 팀닛 게브루, 아이리스 반 루이, 올리비아 게스트, 에릭 J. 라슨, 멜라니 미첼을 비롯한 수많은 비판적 (인지)과학자들은 오랫동안 이 점을 주장해 왔다. 이제 얀 르쿤(전 메타 AI 소속), 일리아 수츠케버(전 오픈AI 소속), 구글 딥마인드 CEO 데미스 하사비스와 같은 저명한 업계 인사들도 이 주장에 동참하고 있다. 이 업계 인사들은 대규모 언어 모델(LLM)을 더 크고 빠르게 만들어 ‘초지능’에 도달하려는 실리콘밸리의 전략을 포기했다. 그 전략은 효과가 없을 뿐만 아니라, 결코 성공할 수도 없기 때문이다. 오늘날의 LLM은 막대한 경제적·환경적 비용을 치르고 항상 ‘환각’을 동반하긴 하지만, 패턴 매칭과 인식에는 능할지 몰라도 인과관계를 이해하지 못하며 제대로 작동하는 ‘세계 모델’을 가지고 있지 않다. 생성형 AI 업계가 ‘초지능 LLM’을 향해 나아가던 확장 경로는 막다른 골목에 다다랐다.
주장 #2: AI 붐은 거품이 아니다
찻주전자 알림 #2: 죄송하지만, AI 붐은 거품이다
사실, 특히 대규모 언어 모델(LLM)이 과대광고만큼 혁신적이지 않다는 사실이 드러날 경우 여러 가지 문제가 발생할 수 있다. 게다가 미국 경제는 주로 트럼프의 이란 전쟁과 호르무즈 해협 봉쇄로 인한 에너지 가격 충격으로 인해 스태그플레이션이라는 역풍에 직면해 있다. 금리는 높은 수준을 유지할 가능성이 높으며 오히려 더 오를 수도 있는 반면, 경기 침체에 대한 우려는 급속히 커지고 있다. 호르무즈 해협 봉쇄는 미국 AI 산업에 필수적인 컴퓨터 칩 및 부품의 중요한 글로벌 공급망을 교란시키고 있을 뿐만 아니라, 걸프 지역 국부펀드에서 유입되는 필수적인 자금 흐름도 위축시키고 있다. 민간 신용 시장이 위축되면서 AI 연구소들은 자금 조달에 더욱 큰 압박을 받고 있다. AI 데이터 센터와 소프트웨어 기업에 크게 노출된 민간 신용 펀드들은 고객들이 서둘러 자금을 회수하려 하면서 자금 인출 사태를 막기 위해 고군분투하고 있다. 골드만삭스의 전 CEO 로이드 블랭크페인은 “다시 [위기]의 냄새가 나는 것 같다”고 말했다. 그는 “아직 폭풍은 느껴지지 않지만, 목장에서 말들이 울부짖기 시작했다”며 불길하게도 “우리는 이 사이클의 막바지에 다다르고 있으며, 이제 어떤 식으로든 결산을 해야 할 시점이 다가오고 있다”고 덧붙였다.
그러나 AI 과잉 투자 사이클이 지속 가능하지 않은 가장 큰 이유는, 어떤 AI 기업도 수익성을 달성할 수 있는 현실적인 길을 찾지 못하고 있기 때문이다. 문제는 간단하지만 해결할 수 없다. AI 연구소들은 급증하는 훈련 비용, 늘어나는 추론 비용, 그리고 법적 분쟁으로 인한 추가 비용에 직면해 있다. 이들에게는 매출 성장이 시급하다. 사용자를 유치하고 시장 점유율을 확보하기 위해 AI 연구소들은 LLM 서비스를 무료로 제공하거나 월 정액 요금제(예: 비전문가 사용자에게는 월 20달러, 코더 및 기타 전문가 사용자에게는 월 200달러)로 제공해 왔다. 사용자들은 정액 요금을 지불하고 있기 때문에 AI 모델을 최대한 활용하려는 유인이 있어, 이러한 요금으로는 운영(추론) 비용조차 충당하지 못한다. 이것이 바로 LLM 연구소들이 계속해서 적자를 기록하는 주된 이유이다. AI 기업들은 단순히 구독 요금을 인상할 수 없다. 대략 비슷한 성능을 제공하면서도 비용은 더 낮은 중국 경쟁사들로부터 치열한 (가격) 경쟁을 겪고 있기 때문이다. 대신, AI 기업들은 피크 시간대에 LLM 사용량에 대한 제한을 도입하는 방안을 택하고 있다.
정액 요금을 부과하는 대신, 사용자에게 실제 토큰 비용(또는 API에 상응하는 사용자 비용)을 청구하는 방법도 있다. 하지만 이러한 종량제 시스템에서는 사용자가 LLM 서비스의 가격을 알지 못한 채 서비스를 구매해야만 한다. 그 이유는 특정 프롬프트가 얼마나 많은 토큰을 소모할지 예측할 방법이 없기 때문이다. LLM이 실수를 하거나 몇 분 동안 제자리걸음을 하며 점점 더 많은 토큰을 소모할 때마다 사용자는 비용을 지불해야 하며, 이는 LLM 사용을 위축시킬 것이다. 대부분의 사용자, 특히 개발자들은 실제 토큰 소비량에 따른 비용을 감당할 준비가 전혀 되어 있지 않다. 따라서 계량제 시스템으로는 이 문제를 해결하기 어려우며, AI 연구소들은 여전히 지속 불가능한 비즈니스 모델에 갇혀 있을 수밖에 없다.
주장 #3: AI는 사무직 일자리의 대재앙을 초래할 것이다
찻주전자 알림 #3: AI는 대부분의 사무직 일자리를 없애지 않고, 그 형태를 바꿀 것이다
이러한 기이한 예측들의 목적은 노동자들에게 AI에 대한 두려움을 심어주는 동시에, 금융 투자자들에게 대규모 언어 모델(LLM)이 지닌 전례 없는 변혁적 힘을 어필하기 위함이다. 하지만 ‘AI 일자리 대재앙’에 대한 예측은 압도적인 데자뷰를 불러일으킨다. 얼마 전, 칼 베네딕트 프레이와 마이클 오스본(2013)은 미국 일자리의 약 47%가 “미정인 기간, 아마도 10년에서 20년 내에” 자동화될 가능성이 70% 이상이라고 결론지었다. 그러나 600개 이상의 직종에 대한 상세한 고용 데이터(2013~2024년)를 분석한 결과, 프레이와 오스본이 예측한 블루칼라 일자리 소멸에 대한 전망은 현실과 크게 빗나간 것으로 드러났다.
왜 AI시대가 다르겠는가? 실제로 미국의 대부분의 직업은 AI 혁명의 위협을 받지 않은 채 안락한 상태를 유지하고 있다. 앤트로픽(Anthropic)이 발표한 직업별 AI 노출도에 관한 최신 데이터에 따르면, 미국 직업의 약 40%에 해당하는 업무는 AI 사용 데이터에 유의미한 수준으로 나타나지 않는 것으로 보인다. 나머지 29%의 직업군에서는 AI 노출도가 낮거나 중간 수준이며(해당 직업과 관련된 업무의 최대 15%를 AI가 수행함), 이를 합치면 현재 미국 직업의 3분의 2 이상이 이 신기술의 영향을 전혀 받지 않거나 중간 정도의 노출 수준에 그치고 있다.
AI 노출도가 높은 미국 직업의 3분의 1을 자세히 살펴보면, AI 도구가 대부분의 일자리를 대체하기보다는 그 형태를 재편할 것임을 시사한다. 앤트로픽(Anthropic)의 AI 노출도 지표는 향후 10년 동안의 일자리 성장에 대한 미국 노동통계국(BLS)의 전망을 바탕으로 볼 때, 직업별 예상 일자리 성장에 대한 예측력을 가지고 있지 않다. 예를 들어, AI 때문에 일자리를 잃은 방사선과 전문의는 단 한 명도 없다. 구조 생물학자들의 고용도 지금까지 AI 단백질 접힘 기술로 인해 감소하지 않았다. 실제로 일어난 변화는 구조 생물학자들이 단백질 구조를 규명하는 데 소요되는 시간을 줄이고, 이를 해석하고 검증하며 활용하는 데 더 많은 시간을 할애하게 되었다는 점이다. 사실, 알파폴드(AlphaFold)와 같은 AI 도구는 전산 구조 생물학자, 생물정보학 전문가, 극저온 전자 현미경 전문가, 제약 생물학자들을 위한 새로운 일자리를 창출했다.
주장 #4: AI는 노동 생산성을 높일 것이다
찻주전자 알림 #4: AI가 생산성에 미치는 순 영향은 미미할 것으로 보인다
Anthropic의 AI 노출 지표에 따르면, 미국 직업의 3분의 2는 새로운 기계 학습 도구의 영향을 전혀 받지 않거나 거의 받지 않을 것으로 나타난다. 이는 AI가 생산성에 미치는 영향이 미국 직업의 3분의 1에 집중될 것임을 의미한다. 따라서 AI 시대가 당분간 총생산성 성장률의 대폭적인 증가로 이어지지는 않을 것으로 예상된다. 대부분의 경제학자들은 이 점에 동의한다. 최근 69명의 경제학자, 27명의 AI 업계 전문가, 25명의 AI 정책 전문가를 대상으로 실시한 설문조사에 따르면, 다가올 AI 시대(2025~2035년) 동안의 생산성 성장에 대한 대부분의 무조건적 경제 전망은 역사적 추세와 상당히 근접한 것으로 나타났다. 이 설문조사에 참여한 경제학자들은 2030년 미국 생산성 증가율이 약 0.2%포인트 정도 소폭 상승할 것으로 예측했다. 이는 펜 와튼 예산 모델(Penn Wharton Budget Model)을 위해 글을 쓴 알렉산더 아논(Alexander Arnon, 2025)의 추정치와 유사하지만, 다론 아세모글루(Daron Acemoglu, 2025)가 제시한 의도적으로 보수적(이자 합리적인)인 추정치보다는 두 배 이상 높은 수치이다.
AI가 생산성에 미칠 것으로 추정되는 총체적 영향은 매우 실망스럽다. 아르논(Arnon)의 추정을 바탕으로 계산해 보면, 2025년부터 2035년까지 AI가 미국 경제의 기준선인 C.B.O. 성장 경로에 누적 총 2조 9천억 달러(2017년 고정 달러 기준)를 추가할 것으로 보인다. 이 수조 달러의 추가 효과는 2025년부터 2035년까지 AI 산업이 4.5조 달러(2017년 고정 환율 기준)를 누적 투자할 것으로 예상됨에 따라 발생한다.
이 수치를 곰곰이 생각해 보세요. 향후 10년 동안 막대한 AI 자본 지출에 대한 거시경제적 수익률은 마이너스가 될 가능성이 매우 높다. AI로 인한 순 비용 절감률이 일반적으로 가정되는 수준보다 낮을 수 있으므로, AI 자본 지출에 대한 거시경제적 수익은 이보다 더 적을 수도 있다. 요점은 이렇다. AI 도구의 사용은 이익을 창출할 뿐만 아니라 비용도 발생시키며, 이러한 비용의 상당 부분은 부수적 피해와 생산성 저하라는 형태로 외부화된다.
우선, AI가 만들어내는 ‘무의미한 업무’가 노동자의 의욕과 생산성을 저해하고 있다. 최고 경영진은 AI를 비즈니스 생산성을 높이는 도구로 여기지만, 직원들의 반응은 사뭇 다르다. 월스트리트저널(WSJ)은 직원 수 1,000명 이상의 기업에 근무하는 사무직 노동자 5,000명을 대상으로 설문조사를 실시한 리서치 업체 ‘섹션(Section)’의 조사 결과를 보도했다(그림 1). 설문에 참여한 기업 임원 중 70% 이상이 AI에 대해 “기대감을 느낀다”고 답했으며, 이 중 43%는 AI 도구가 주당 8시간 이상의 업무 시간을 절약해 주었다고 말했다. 그러나 관리직이 아닌 직원들은 AI에 대해 전혀 다른 견해를 보였다. 이 그룹의 거의 70%는 AI로 인해 “불안하거나 압도당하는” 느낌을 받았다고 답했으며, 40%는 AI 도구가 시간을 전혀 절약해 주지 않았다고 말했다. 비관리직 노동자의 27%는 AI 도구를 사용해 주당 2시간 미만을 절약했다. 많은 직원들은 AI 사용으로 절약된 시간이 AI의 산출물을 수정하거나 혼란을 해소하고 재작업하는 데 소요되는 시간으로 상쇄된다고 보고했다. 직원 10명 중 4명은 앞으로 다시는 AI를 사용하지 않아도 괜찮다고 답했다. 업무상의 부실함을 처리하는 일은 의욕을 꺾고 근로자의 생산성을 떨어뜨린다. 또한 조직 내 불신을 조장하기도 한다. 동료가 AI를 이용해 보고서를 작성하면, 당신은 실수를 수정하고, 누락된 부분을 채우며, 존재하지 않는 참고 문헌을 제거하기 위해 야근을 해야 하기 때문이다.
소프트웨어 기업 WalkMe가 임원 및 직원 3,750명을 대상으로 실시한 설문조사에 따르면, 임원의 81%가 자사가 사용하는 AI 도구가 “생산성을 크게 향상시켰다”고 생각하지만, 실제로 직원들은 AI가 남긴 엉망진창을 정리하는 데 매주 8시간을 낭비하고 있으며, 이는 연간 51일분의 근무일에 해당한다. AI는 기대에 부응하지 못하고 있다.
AI는 그 밖에도 수많은 부수적 피해를 초래하고 있다. AI 슬롭(AI-slop)이 미국 법원을 마비시키고 있어 막대한 시간과 비용의 낭비를 초래하고 있다. AI 웹 크롤러들은 대규모 언어 모델(LLM) 시스템에 공급할 콘텐츠를 확보하기 위해 웹을 샅샅이 뒤지고 있으며, 공공 이익 웹사이트에 몇 분 만에 평소 수준의 10배, 심지어 20배에 달하는 트래픽 급증을 일으켜 성능 저하와 서비스 중단을 유발하고 운영 비용을 증가시키고 있다. 생성형 AI 도구에 대한 의존은 분석적 추론과 비판적 사고의 약화, 역량 유지 및 성과 평가의 저하로 이어지는 것으로 밝혀졌다. 의료 분야에서는 AI 의존이 진단적 추론과 임상적 판단력을 저하시키고, 암묵적 지식의 유지율을 떨어뜨리며, 윤리적 민감성과 도덕적 판단력을 약화시키는 것으로 나타났다(Ferdman 2025). 과학계는 AI 슬롭에 파묻혀 가고 있다. AI 도구 자체가 기업의 수익성에 타격을 줄 수 있는 새로운 사이버 보안 위협을 야기하고 있다.
AI 코드 어시스턴트의 사용은 코드의 품질을 저하시킨다. GitClear는 주요 기술 기업들의 코드 2억 1,100만 줄을 분석한 결과, 복사-붙여넣기 코드가 4배 증가한 것으로 나타났다. 이는 AI도구가 새로운 로직을 생성하기보다는 기존 로직을 복제하고 있음을 의미하며, 코드의 수명이 단축되었고, 코드의 장기적인 유지보수에 필수적인 리팩토링이 감소한 것으로 보고되었다. 최근 한 연구에서는 18개의 AI 코딩 에이전트를 대상으로, 각각 233일에 걸쳐 100개의 실제 코드베이스를 유지 관리하는 능력을 테스트했다. AI 에이전트는 정적 버그 수정과 같은 일회성 정적 소프트웨어 엔지니어링 작업에 대한 벤치마크 테스트를 통과하는 코드를 생성할 수 있지만, Cursor, Claude Code, Devin을 포함한 테스트 대상 모델의 75%는 장기 유지보수 작업 과정에서 이전에 정상적으로 작동하던 코드를 손상시키는 것으로 나타났다. AI가 생성한 코드는 장기적인 설계보다는 단기적인 복사-붙여넣기식 해결책을 선호하며, 아키텍처의 일관성을 무시한다. 그 결과, 오늘은 작동하지만 내일이 되면 변경하기가 매우 어려워지는 소프트웨어가 만들어진다.
아마도 가장 위험한 결과는 기업들이 AI가 초급 업무를 처리할 수 있다고 믿어 신입 채용 규모를 대폭 줄인다는 점일 것이다. 하지만 신입 개발자들은 단순히 코드를 작성하는 데 그치지 않고, 미래의 선임 엔지니어로 성장해 나간다. 이러한 인재 공급망이 단절되면 소프트웨어 업계 전체가 그 타격을 입게 될 것이다. 약 5~7년 후에는 시니어 개발자 부족 현상이 발생할 것이며, 이는 그야말로 재앙적인 수준이 될 것이다. 그리고 이는 전적으로 자초한 결과이다. 주니어 엔지니어를 대체하는 것은 AI 도구가 아니라, 잘못된 경영진의 리더십이기 때문이다.
주장 #5: AI는 이미 AI 도입 비중이 높은 산업 분야에서 일자리를 잠식하고 있다
찻주전자 알림 #5: 제비 한 마리가 여름을 만들지는 않는다
최근 대학 졸업생 및 기타 신입직원의 낮은 채용률을 오로지 AI 탓으로만 돌리기에는 아직 이르다. 거시경제적 맥락도 중요하기 때문이다. 2020년 3월, 연방준비제도(Fed)는 금리를 거의 0% 수준으로 인하하고 2년 동안 그 수준을 유지했다. 대출 비용이 거의 없었기에 기업들은 그에 맞춰 지출을 늘렸다. 대형 기술 기업들은 전체적으로 수백만 명에 달하는 직원을 채용했다. 이 기간 이후 40년 만에 가장 빠른 속도로 진행된 통화 긴축 사이클이 이어졌고, 이로 인해 기업의 자본 조달 비용이 상승했다. 따라서 기술 업계의 낮은 채용률과 정리해고는 AI로 인한 일자리 대체라기보다는 (통화 긴축에 대응하여) “지난 5년 동안 이루어진 과도한 채용의 축소”를 반영한 것이다.
2021년 11월에 정점을 찍었던 민간 부문 채용률은 AI의 영향을 받는 산업(예: ‘정보’, ‘금융, 보험 및 부동산’, ‘전문 및 비즈니스 서비스’)뿐만 아니라 미국의 모든 산업에서 감소세를 보였다(그림 2). Resume.org(2026)가 조사한 미국 채용 담당자 중 거의 60%는 채용 축소나 감원의 진정한 이유(즉, 재정적 제약)를 강조하는 것보다 AI의 역할을 강조하는 편이 더 호의적으로 받아들여지기 때문에 그렇게 한다고 답했다. 2026년 3월 연방준비제도(Fed)의 한 연구는 100만 개 이상의 기업 데이터를 분석한 결과,
채용 공고 감소가 AI 도입 때문이라는 증거를 찾지 못했다. 심지어 샘 알트만(Sam Altman)조차도 재정적 이유로 인한 해고를 은폐하기 위한 기업의 ‘AI 워싱’을 지적한 바 있다.
주장 6: AI는 대부분 쓸모없는 일자리를 없애고 더 나은 일자리를 만들어낼 것이다.
찻주전자 알림 #6: 아니오, AI는 쓸모없는 일자리를 많이 만들어낼 것이다.
인공지능(AI)의 사용은 새로운 일자리를 창출할 것이다. AI 도구는 중요한 오류를 발생시키고, 합성어, 과학적 오류, 법률적 오류, 의학적 오류, 마케팅 오류, 소셜 미디어 오류, 새로운 사이버 보안 위험, 취약한 코드, 그리고 기업과 기관의 핵심 활동을 위협할 수 있는 누적된 기술 부채를 초래하기 때문에, AI 도구에 대한 모니터링, 감독, 관리 및 검증이 필수적이다. 따라서 AI 도입은 ‘AI 동료’를 감독하는 유능한 엔지니어와 관리자 계층을 만들어낼 것이다. 이들은 새로운 허황된 업무를 수행하며, 오류를 수정하고, 코드를 유지 관리하고, 디지털 시스템의 무결점을 보호하고, ‘환상’과 가짜 뉴스를 식별하고, 더 나아가 직장, 인터넷, 그리고 사회 전반의 ‘오류 확산’에 맞서 싸울 것이다.
기업들은 또한 도입된 AI모델을 ‘세탁’하거나 ‘감시’하기 위해 AI 윤리 위원회를 설치할 것이며, AI와 그 산출물을 이해하지 못하는 순진하고 무지한 경영진에게 이를 설명해 줄 새로운 중간 관리직 역할이 등장할 것이다. AI 전략의 ‘정합성’을 위한 ‘‘하수인’ 같은 위원회와 태스크포스, 프롬프트 무결성을 담당하는 수석 이사, AI 사이버보안을 담당하는 부사장 등이 등장할 것이며, 기업들이 자사의 AI 도구가 초래할 모든 오류와 손해에 대한 책임을 회피하기 위해 온갖 수단을 동원할 것이기 때문에 법무 부서와 법무 관련 직책은 기하급수적으로 늘어날 것이다. 그 결과 일자리가 줄어들기는커녕, 전혀 다른 종류의 일자리들이 생겨날 것이다. 이 모든 것은 ‘간접비’ 성격의 일자리로, 주된 기능은 생산이 아니라 보험과 안심 제공이다. 즉, “계층 구조가 그대로 유지되고, 인간이 여전히 ‘결정 과정에 참여’하며, 어딘가에 누군가가 명목상으로는 여전히 책임을 지고 있다는 사실에 대한 안심”을 제공하는 것이다.
이 모든 것에 더해, AI 기반의 테일러주의는 직원 감시를 위한 불필요한 업무까지 더욱 양산할 것이다. 결국 감시 기술의 ‘철칙’은 ‘사용할 수 있다면 반드시 사용하게 된다’는 것이다. 감시 수단이 훨씬 더 다양해짐에 따라 고용주들은 PC 화면을 모니터링하고, 키 입력을 기록하며, 내부 커뮤니케이션을 분석하고, 심지어 피로 징후를 파악하기 위해 직원의 얼굴을 스캔하기까지 한다. AI 기반 시스템은 내부 커뮤니케이션의 어조를 모니터링하고, 메시지 발송 빈도를 추적하며, 다양한 디지털 플랫폼에서의 애플리케이션 사용 내역을 기록한다. 업무 완료, 웹 검색, 응답 시간은 알고리즘을 통해 필터링되어 개별 근로자의 생산성 점수가 산출되며, 이 점수는 승진 및 (보너스) 급여 결정에 활용된다. AI 도구는 (직원과 구직자에 대한) 자동화된 신원 조사를 수행하는 데 사용되는데, 이는 사생활과 인간적 존엄성을 완전히 무시한 채 공공 기록, 재무 데이터, 소셜 미디어 활동을 무차별적으로 수집하여 고용주에게 미치는 ‘위험’을 평가한다. 그 결과 사생활과 신뢰가 사라진 디스토피아적인 직장이 만들어진다. ‘깡패’ 같은 직원들에 의한 상시 감시는 위축 효과를 초래하며, 특히 심리적 안정감, 신뢰, 자유가 혁신의 핵심인 협업 및 창의적인 환경에서 생산성을 저해한다.
주장 #7: 앤트로픽의 ‘마이토스(Mythos)’는 공개하기에는 너무 위험하다
찻주전자 알림 #7: 마이토스(Mythos) 문제가 아니다. 취약한 현실 세계의 사이버 보안 시스템을 시급히 강화해야 한다.
Mythos 모델의 등장은 실제 사이버 보안 시스템이 취약하여 뚫릴 수 있으며, 평범한 공격자라도 AI 도구를 대규모로 활용하면 효과적인 공격을 가할 수 있음을 보여준다. 하지만 Anthropic은 Mythos의 능력을 교묘하게 과대포장하고 있다. 첫째, Mythos Preview의 성공적인 해킹 시도는 파이어폭스의 자바스크립트 셸, 즉 브라우저의 실제 보안 방어 기능이 포함되지 않은 간소화된 디버깅 환경을 대상으로 한 것이었다. 실제 파이어폭스 브라우저는 악성 코드에 대항하는 다층적인 방어 체계를 갖추고 있으나, 앤트로픽은 그중 단 한 층에만 집중했다. 검증을 집중적으로 수행하기 위해 미토스에는 추가적인 시스템 프롬프트가 제공되었다. 이 모든 것은 테스트 환경과 공격자가 실제로 마주하게 될 실제 방어 체계 사이에 상당한 격차가 있음을 시사한다. 둘째, 마이토스 프리뷰는 방화벽과 같은 중요 인프라에 사용되는 오픈소스 운영 체제인 OpenBSD를 원격으로 다운시키는, 현재 패치된 버그를 발견했다. AI 사이버 보안 스타트업인 AISLE은 8개의 저렴하고 소규모이며 오픈 웨이트 LLM을 테스트하여 이 27년 된 버그를 찾아낼 수 있는지 확인했다. 테스트된 모든 모델이 이 버그를 찾아냈다. 여기에는 토큰 100만 개당 0.11달러에 불과한 모델도 포함되었는데, 이는 Anthropic의 토큰 비용의 극히 일부에 불과하다. 기본적인 보안 추론 과제에서, 저렴하고 소형이며 오픈 웨이트 모델들은 Anthropic을 포함한 모든 주요 연구소의 가장 비싼 최첨단 모델들보다 우수한 성능을 보였다. 효과적인 AI 사이버 보안 역량의 핵심은 AI 모델의 규모가 아니라 취약점을 찾아내는 시스템에 있다.
주장 #8: 우리는 ‘노동자 친화적’ AI를 향해 한 걸음 더 나아가야 한다
찻주전자 알림 #8: 상업용 AI는 노동자 친화적이지 않을 것이다, 죄송합니다
‘노동자 친화적’ AI를 요구하는 목소리는 몇 가지 핵심적이고 불편한 진실을 외면하고 있다. 바로 (주주) 자본주의에 내재된 자동화, 노동자 착취 및 통제에 대한 본질적인 추동력, 노동조합의 역사적 쇠퇴, 전자 테일러주의의 부상, 빅테크 기업들에 의한 정부의 규제 장악, 그리고 인건비 절감을 압박하는 글로벌 경쟁 등이다. ‘노동자 친화적’ AI를 쉽게 주장하는 목소리는 제프 베조스가 아마존의 알고리즘 감시 도구를 무기화하여 노동자들의 조직화를 막고, 창고 내 노조 지지 운동을 짓밟는 현실을 직시하지 않는다. 엘론 머스크는 직원들에게 무급으로 수면도 취하지 못한 채 장시간 초과 근무를 강요하는 한편, 정작 본인은 한가롭게 지내며 트윗만 올리고 있다; 샘 알트먼은 ‘안전 문제’보다 ‘성장’을 우선시하면서, 인권 기록이 좋지 않은 걸프 지역의 부유한 독재자들과 친분을 쌓고 있으며; 마크 저커버그는 자사 노동자들에게 적대적인 태도를 취하고, 기업 내 표현의 자유를 탄압하며, 노동자의 의사 결정 참여를 차단하고, 모든 다양성 이니셔티브를 폐지하고 있다.
기업들은 AI를 노동자들을 통제하거나 해고하기 위한 위협 수단으로 활용하지만, 그 목적은 해고된 노동자들을 긱 노동자로 재고용하거나 공급망 내에서 그 일을 대신할 다른 인력을 찾는 데 있다. “상사가 감시 데이터를 이용해 당신의 임금을 삭감하려 한다”는 말이 이를 잘 요약해 준다. 코리 도크토로우가 제시한 이 소름 끼치는 AI 기반 감시 임금 차별 사례(미국 의료, 고객 서비스, 물류 및 소매 업계에서 흔히 발생)는 다음과 같은 요점을 명확히 일깨워 준다:
신용카드 대금을 미납하거나, 급여일 대출을 받거나, WhatsApp이나 인스타그램에서 자신의 부채 상황에 대해 이야기하는 것만으로도 임금이 낮아질 수 있다. 분산형 AI 연구소(Distributed AI Research Institute)의 연구 책임자인 알렉스 한나(Alex Hanna)는 “AI가 여러분의 일자리를 빼앗지는 않겠지만, 여러분의 일을 더 끔찍하게 만들 가능성은 높습니다”라고 말한다.
정신을 차리자: 케타민 없는 AI
AI가 경제에 미치는 영향에 대한 현재의 이해는 잘못되었다. AI는 ‘초지능’, 대규모 일자리 감소, 전례 없는 기술적 실업, 경기 침체를 초래하지 않을 것이며, 노동 생산성의 엄청난(총체적) 증가나 전례 없는 기술 진보 및 경제 성장의 가속화도 가져오지 않을 것이다. AI가 총체적 차원에서 미치는 영향은 오히려 평범할 것이다. 일부 직업은 자동화로 인해 사라지고, 기존 일자리는 AI에 의해 재편되며, AI 도구를 감독하고 관리하기 위한 새로운 직업, 업무, 역할이 생겨날 것이다. 이러한 새로운 일자리 중 상당수는 ‘헛일’이 될 것이며, 그러나 대부분의 직업은 영향을 받지 않을 것이다. 총체적 노동 생산성 성장률은 (AI 도구가 노동력을 보강하기 때문에) 다소 증가할 수 있겠지만, 동시에 AI로 인한 막대한 부수적 피해는 시간이 지남에 따라 기하급수적으로 증가하여 생산성 성장을 저해할 것이다. AI로 인한 엉망진창이 더 많이 발생할수록, 그 혼란을 수습하기 위해 필요한 간접 노동력은 더 많아질 것이며, 결과적으로 생산성 통계상으로는 AI 시대를 제대로 파악하지 못하게 될 가능성이 높아질 것이다. 이상의 모든 점을 고려할 때, 현재의 AI 과잉 투자 사이클은 지속될 수 없다.
[각주]
1) https://www.nytimes.com/2025/09/12/technology/ai-eliezer-yudkowsky-book.html
2) https://www.ineteconomics.org/research/research-papers/russells-teapot-dispatches-from-the-final-stage-of-the-ai-bubble
3) https://chierhu.medium.com/stalled-technological-promises-1aef77df8969