
최근 IBM CEO 아빈드 크리슈나는 Business Insider와의 인터뷰에서 “현재 인프라 비용 구조로는 AI 데이터센터 투자가 결코 수익을 낼 수 없다”고 단언했습니다.현재의 인프라 비용 구조로는, 트릴리언(조 단위) 달러의 AI 데이터센터 투자가 수익을 낼 수 있는 방법이 없다는 말입니다. GPU와 HBM 가격이 여전히 높고, 전력·냉각 비용은 폭증하며, 생성형 AI 서비스의 수익모델은 아직 초기 단계라는 현실 때문입니다.
이는 AI 산업 내부에서 나온 드문 회의론으로, 지나치게 낙관적인 ‘AI 만능론’에 중요한 균형점을 제공합니다. AI의 잠재력은 의심할 수 없지만, 지금의 방식—막대한 자본을 투입해 연산력을 키우는 방식—이 지속 가능하다고 보기 어렵다는 메시지입니다. 결국 AI의 미래는 기술 혁신뿐 아니라, 인프라 비용을 어떻게 혁신적으로 줄이는지에 달려 있는 것 같습니다.
핵심 요지 정리
1) AI 인프라 비용은 현재 너무 비싸다
- GPU·HBM 등 핵심 부품 비용이 여전히 과도하게 높다.
- 전력 비용과 냉각 비용이 매년 증가.
- 데이터센터 건설비 또한 인력·소재비 상승으로 급등.
2) ROI(투자 대비 수익)가 맞지 않는다
- 생성형 AI 서비스가 아직 명확한 수익원을 확보하지 못했다.
- 사용자 수는 폭발하지만, 그만큼의 매출이 따라오지 않는다.
- 기업 고객도 아직 “프로덕션 단계 → 대규모 도입”으로 전환하지 않았다.
3) 기술 혁신 없이는 ‘AI 붐’이 지속될 수 없다
IBM CEO가 말한 요점은 이것입니다:
비용 구조의 혁명적 변화(더 싸고 더 효율적인 칩·전력·모델)가 없다면, 지금의 투자 규모는 지속 불가능하다.
다시 말해, AI 자체의 가능성은 인정하지만 현재 방식의 AI 비즈니스 모델은 너무 비싸다는 이야기입니다.
왜 이 발언이 중요한가?
1) 내부자의 ‘이성적 비판’
AI 열풍은 보통 “과대 기대 vs 과소 평가” 사이에서 흔들립니다. IBM CEO는 기술 기업 내부자이면서도 과열된 투자에 대한 이성적 경고를 했다는 점이 중요합니다.
2) AI 시대 초기 과투자 현상과 닮았다
- 철도 시대: 지나친 노선 건설로 버블 붕괴
- 닷컴 버블: ‘트래픽 먼저, 수익은 나중에’ 전략이 한계
- 현재 AI: “GPU 먼저, 수익은 나중에”와 유사
3) “AI는 생각보다 싸지 않다”는 중요한 메시지
AI는 마치 공기처럼 사용할 수 있을 것처럼 보이지만, 막대한 에너지 비용과 데이터센터 인프라 투자가 필수라는 점을 짚어주는 관점입니다.