대규모 자본 투입 뒤에 숨은 실무 비용과 낮은 투자수익

글로벌 기업들이 AI 인프라에 수천억 달러를 쏟아부었지만, 실제 운영 현장에서는 당초 예상을 크게 웃도는 비용 청구서가 날아들고 있다. 핵심은 총소유비용(TCO·Total Cost of Ownership) 산정의 구조적 실패다.

초기 모델 도입비만 계상하고 데이터 정제·모델 재학습·보안 검증·인력 재교육 같은 반복 비용을 빠뜨린 기업들이 실제 운영 단계에서 예산 초과를 경험하고 있다. The American Prospect의 칼럼니스트 데이비드 데이언은 2026년 7월 8일 기고한 'The Great AI Repricing Isn't Going Well'에서 AI 인프라 투자가 총소유비용 산정 실패로 인해 기대 ROI를 심각하게 훼손하고 있다고 진단했다.

같은 시점에 유출된 것으로 알려진 미 재무부 보고서 초안은 이 같은 과잉 투자가 2000년대 초 닷컴 버블과 유사한 구조적 충격으로 이어질 수 있다고 경고했다고 전해진다. 다만 해당 초안은 공식 발표 문건이 아닌 만큼, 인용된 세부 내용의 독립 교차 검증이 아직 완료되지 않은 상태다. 두 진단이 동시에 터져 나오면서 AI 투자 전략 전반의 재검토가 불가피해졌다.

핵심 문제는 총소유비용 산정의 구조적 오류에 있다. 기업들은 AI가 인력을 대체해 비용을 절감하고 생산성을 급격히 높여줄 것이라는 전제 아래 대규모 자본을 집행했다. 그러나 실제 사업화 단계에서는 초기 모델 개발비 외에도 대규모 데이터 정제, 모델 재학습, 보안·윤리 검증, 인력 재교육 비용이 줄줄이 추가됐다.

고성능 컴퓨팅 자원 확보와 데이터센터 운영비, 전력·냉각비 등 지속 비용 역시 기존 예산 편성에서 누락된 경우가 많았다. 데이언은 기업들이 AI의 총소유비용을 체계적으로 과소평가했다고 지적했고, 미 재무부 초안으로 알려진 문건은 이 과소평가가 금융 취약성과 맞물릴 때 시스템 리스크를 증폭시킬 수 있다고 명시한 것으로 전해진다.

결과적으로 당초 예상한 ROI가 크게 낮아진 사례가 잇따랐다. 구체적 사례들이 비용 리스크의 실체를 드러냈다.

데이언의 칼럼은 포드 사례를 언급하며, AI 도입 과정에서 발생한 예측 오류와 생산 공정 재설계·인력 재배치 비용 등이 수십억 달러 규모의 손실과 연관됐다고 분석했다.

광고

다만 포드 손실의 세부 내역은 AI 투자 비용 외에 전기차 전환 관련 요인이 복합적으로 작용한 결과이며, 'AI 단독 원인'으로 단정하려면 추가 검증이 필요하다. 대형 클라우드 사업자와 기술기업들은 GPU와 특수 하드웨어 확보에 막대한 자본을 투입했고, 업계 관계자들에 따르면 일부 기업은 월간 운영비가 수백만 달러 단위로 증가했다. 다만 이 수치는 공개 재무 공시로 교차 검증된 수치가 아닌 업계 추산임을 감안해야 한다.

데이터 이동·저장, 규제 준수를 위한 추가 비용도 무시하기 어려운 수준에 이르렀다. 특히 모델 성능을 일정 수준으로 유지하기 위한 지속적 재학습과 모니터링 비용이 연간 예산에 상당한 부담을 안겼다. 금융 측면에서는 레버리지와 투자 집중 리스크가 부각됐다.

미 재무부 초안으로 알려진 문건은 특정 기업과 섹터에 대한 과도한 투자 집중과 차입 증가가 결합할 때 신용 경색을 촉발할 수 있다고 경고한 것으로 전해진다. 한국 시장도 예외가 아니다. 중소기업은 자금 여력이 부족해 초기 투자 이후 운영비를 감당하지 못하는 경우가 상대적으로 많다.

수출 중심 제조기업에서 생산성 개선 기대가 실현되지 않으면 실적 악화로 이어져 고용과 임금에 부정적 영향을 줄 수 있다. 이 구조적 취약성은 AI 투자 붐이 정점을 지나는 시점에 한꺼번에 가시화될 위험이 있다.

업계 동향과 경쟁 구도는 재평가 국면의 핵심 변수다. 대형 플랫폼 사업자들은 여전히 대규모 데이터센터와 맞춤형 칩 설계에 투자하면서 시장 지위를 유지하려 한다. 반면 벤처와 스타트업 사이에서는 자금 조달 조건이 엄격해지고, 성장 대신 수익성에 대한 요구가 강화되고 있다.

모델 크기 경쟁을 중심으로 한 레이스는 비용 대비 성과를 재검증받는 단계로 진입했다. 그 결과 기술 차별화, 데이터 품질, 서비스 결합 능력이 시장에서 더 높은 평가를 받게 됐다.

미 재무부 초안과 데이언 칼럼이 제시한 경고와 사례 분석

한국 시장과 사회에 미치는 영향은 다층적이다.

광고

제조업과 서비스업의 AI 도입률이 빠르게 증가하면서 관련 장비·인프라 도입비는 중소기업에 상대적 부담으로 작용했다. 중소 제조업의 경우 초기 투자 비용은 적더라도 데이터 수집·정제와 맞춤형 솔루션 유지·보수에 드는 비용이 장기적으로 누적될 위험이 크다. 금융당국은 기업의 레버리지와 투자 포트폴리오 리스크를 점검할 필요가 있다.

노동시장 측면에서는 일부 직무의 자동화로 인한 전환 수요가 발생하지만, 재교육과 전직 지원 비용을 기업과 정부가 어떻게 분담할지가 핵심 정책 과제로 자리 잡았다. 전문가 진단은 비용 구조의 즉각적 재검토를 촉구하는 방향으로 모인다. 데이언은 칼럼에서 재평가가 순조롭지 못하다고 진단하며 기업들이 비용 항목을 전면 재정비할 것을 주문했다.

미 재무부 초안은 AI 투자 집중에 따른 시스템 리스크 가능성을 제기하며 거시적 관점의 위험 관리를 요구했다고 전해진다. 국내에서도 한국전자통신연구원(ETRI)을 비롯한 여러 AI 관련 연구기관들이 기업 예산 편성 시 클라우드·데이터 관리·인력 재교육을 포함한 총비용 산정이 충분히 이루어지지 않고 있다는 점을 지적해 왔다. 공공 데이터 인프라 투자와 소규모 기업 지원을 통해 시장의 비용 부담을 완화해야 한다는 제언도 꾸준히 나온다.

역사적 맥락을 보면 이번 재평가는 닷컴 버블의 구조적 교훈을 환기시킨다. 2000년대 초 과도한 기대와 자금 유입은 단기간에 주가 급등을 만들었으나, 실물 수익 창출과 단절되면서 급락을 초래했다.

다만 AI는 닷컴 당시와 달리 이미 일부 영역에서 상업적 성과를 내고 있고, 인프라와 인력 생태계도 발달했다는 차이점이 있다. 그럼에도 단순한 기술 채택만으로 지속 가능한 수익을 담보하지 못한다는 점은 두 시대가 다르지 않다. 과거 경험은 실질적 비즈니스 모델과 단위경제(unit economics) 검증의 중요성을 분명히 보여줬다.

한국 정부와 기업이 취해야 할 정책적·실무적 대응 방향은 명확하다. 기업들은 AI 투자 전 단계에서 총비용 산출과 시나리오별 민감도 분석을 의무화해야 한다.

광고

금융당국은 기업의 레버리지와 신용리스크 관리를 강화하고, 필요시 업종별 스트레스 테스트를 도입해야 한다. 중소기업을 위한 데이터 인프라 비용 보조와 인력 재교육 프로그램도 시급하다. 공개적·투명한 성과 지표를 통해 투자 효율성을 검증하는 체계를 갖추는 것이 전제 조건이다.

한국 기업·정책이 취해야 할 현실적 대응 방향

향후 전망은 재평가를 어떻게 관리하느냐에 따라 갈린다. 기업과 정부가 비용 구조를 투명하게 재정비하고 중소기업과 노동시장에 대한 지원을 병행한다면 단기적 충격은 완화될 가능성이 크다.

레버리지 축소 없이 무분별한 투자 확대가 이어지면 금융·산업 전반에 걸친 구조적 조정이 현실화될 위험이 있다. 한국은 수출 중심 제조업과 ICT 인프라를 바탕으로 기회를 살릴 수 있으나, 이를 위해서는 실무적 비용 산정과 정책적 안전장치가 전제돼야 한다. 대응 시점이 늦어질수록 비용 부담은 가중되고 회복 기간은 길어진다.

기업과 소비자에게 필요한 실무적 조언도 분명하다. 기업은 파일럿 단계에서 명확한 KPI와 비용 항목을 설정하고, 단계적 투자로 리스크를 분산해야 한다. 클라우드와 온프레미스의 비용 비교, 데이터 파이프라인 자동화에 대한 현실적 평가, 외부 파트너와의 비용·성과 분담 계약 체결이 필요하다.

소비자는 AI 기반 서비스의 가격과 품질 변동을 예의주시하고, 개인정보 활용과 데이터 보안 정책을 확인해 리스크를 최소화해야 한다. AI 투자 성공은 기술 자체보다 지속 가능한 운영 체계와 비용 관리 능력에 달려 있다는 사실이 이번 재평가 국면에서 다시 한번 확인됐다.

이번 AI 재평가는 단순한 투자 축소가 아니라 구조적 재편을 요구하는 신호다. 기업은 비용 계산의 정교화와 단계적 실행을 통해 위험을 통제해야 하고, 정부는 금융 안정과 중소기업 지원을 병행해야 한다.

학계와 산업계는 실증적 데이터를 바탕으로 비용·효과 분석을 강화해야 한다. 한국 사회는 AI의 잠재력을 유지하면서도 경제적 충격을 최소화할 수 있는 실무적 대책을 서둘러 마련해야 한다.

(김도현 기자)

FAQ

Q. AI 투자 재평가는 한국 중소기업에 어떤 직접적 영향을 주는가?

A. 중소기업은 초기 도입비 외에도 데이터 정제, 모델 재학습, 유지보수에 드는 지속 비용 부담이 크다. 규모의 경제가 작기 때문에 동일한 인프라를 운영해도 단위당 비용이 대기업보다 높게 나타난다. 데이비드 데이언의 칼럼이 지적하듯 총소유비용 과소평가 문제는 자금 여력이 부족한 중소기업에 더 치명적으로 작용한다. 정부의 공공 데이터 인프라 지원이나 비용 보조 정책이 없을 경우 운영비 부담이 채무로 전환될 가능성이 있다. 따라서 중소기업은 파일럿 단계에서 비용 항목을 세밀히 산정하고, 성과가 검증된 이후 단계적으로 도입 범위를 확대하는 전략이 현실적이다.

Q. 일반 소비자는 AI 투자 재평가 국면을 어떻게 받아들여야 하는가?

A. 기업들이 운영비 부담을 서비스 가격에 전가하면 소비자가 이용하는 AI 기반 서비스의 비용이 오르거나 기능이 축소될 수 있다. 소비자는 이용 중인 AI 서비스의 개인정보 처리 방침과 데이터 보안 정책을 주기적으로 확인해 리스크를 최소화해야 한다. 공공·민간의 투명한 성과 보고를 통해 서비스 품질과 비용 효과를 스스로 판단하는 습관이 필요하다. 미 재무부 초안이 경고한 시스템 리스크가 현실화할 경우 일부 AI 서비스 사업자의 서비스 중단이나 요금 급등이 발생할 수 있으므로, 단일 플랫폼 의존도를 낮추는 것도 실용적 방안이다.

Q. 총소유비용(TCO) 과소평가를 막으려면 기업이 먼저 점검해야 할 항목은 무엇인가?

A. 초기 모델 개발비와 라이선스 외에 데이터 수집·정제·레이블링 비용, GPU 임대 또는 구매 비용, 전력·냉각 등 인프라 운영비, 모델 성능 유지를 위한 정기 재학습 비용, 보안·규제 준수 비용, 인력 재교육비를 모두 별도 항목으로 산출해야 한다. 각 항목에 대해 낙관·기준·비관 시나리오를 설정하고 민감도 분석을 수행하는 것이 표준적 접근법이다. 파일럿 프로젝트에서 실제 단위비용을 실측한 뒤 전사 확대 여부를 결정하는 단계적 방식이 총소유비용 오류를 줄이는 데 효과적이다.

광고