“우리 팀 AI 도구, 이번 분기엔 예산이 부족해서 유료 전환이 어렵다”는 말을 들어보신 적 있으신가요? 반대로 “AI에 얼마를 더 써야 하는지 아무도 모른다”는 답답함을 느낀 적은요?
최근 딜로이트가 발표한 기업 AI 인프라 조사 결과를 보면, 이 답답함이 개인이나 특정 부서만의 문제가 아니라는 게 드러납니다. 미국 주요 산업 리더 515명을 대상으로 한 이 조사는, 앞으로 3년간 기업의 AI 관련 예산과 조직 운영 방식이 근본적으로 바뀔 것이라고 예고합니다. 이 변화는 IT 부서만의 이야기가 아닙니다. 예산을 배분받는 모든 직장인, 팀의 AI 도구 도입을 결정하는 모든 리더와 관리자, 그리고 관련 정책을 다뤄야 하는 공무원에게도 직접적인 영향을 미칩니다.
이 글에서는 AI 생산성과 조직 운영이라는 관점에서 이 조사 결과가 의미하는 바를 정리하고, 지금 당장 팀 단위에서 무엇을 준비해야 하는지 구체적으로 살펴봅니다.
왜 지금 AI 인프라가 내 문제가 되는가
먼저 원인부터 짚어보겠습니다. 조사에 따르면 응답 기업의 상당수가 이미 매달 상당한 양의 AI 토큰(AI가 텍스트를 처리하고 생성하는 데 쓰는 연산 단위)을 소비하고 있으며, 2028년에는 대규모 사용 기업의 비중이 지금의 약 두 배로 늘어날 전망입니다. 동시에 응답 기업의 대다수가 향후 3년간 AI 관련 예산을 늘리겠다고 답했고, 평균적으로 예산 규모가 지금의 세 배 이상, 대기업은 네 배 가까이 커질 것으로 예상됐습니다.
숫자만 보면 먼 이야기 같지만, 실제로는 아주 가까운 문제입니다. AI 도구 사용량이 늘어날수록 회사는 ‘어떤 부서에 얼마를 배정할지’를 더 정교하게 따지기 시작합니다. 지금까지는 AI 도구 구독료 몇 만 원이 큰 문제가 안 됐다면, 앞으로는 팀 단위의 AI 사용량과 성과가 예산 심사의 근거 자료가 될 가능성이 큽니다.
이 흐름이 조직에 주는 시사점
조사에서 특히 눈에 띄는 대목은 ‘기술보다 사람이 병목’이라는 지적입니다. IT 부서는 AI 확산에 필요한 역량을 갖췄다고 스스로 평가한 비율이 높았던 반면, 사업 부서나 제품 부서는 상대적으로 낮게 평가했습니다. 두 집단 사이에 눈에 띄는 격차가 존재한다는 뜻입니다.
또한 기업들이 앞으로 가장 필요로 하는 인재로 데이터 엔지니어 못지않게 보안·컴플라이언스 전문가와 변화관리 전문가를 꼽았다는 점도 시사하는 바가 큽니다. AI 인프라 확장이 곧 ‘기술 프로젝트’가 아니라 ‘조직 변화 프로젝트’로 다뤄지고 있다는 뜻이기 때문입니다.
관점 전환: ‘속도 경쟁’에서 ‘총소유비용 경쟁’으로
여기서 관점을 하나 바꿔볼 필요가 있습니다. 지금까지 많은 조직이 AI 도입을 ‘얼마나 빠르게 시작했는가’의 문제로 여겨왔습니다. 하지만 이 조사가 강조하는 프레임은 다릅니다. 바로 총소유비용(Total Cost of Ownership)과 토큰 경제(token economics)라는 개념입니다. 초기 도입 속도보다, 장기적으로 AI를 얼마나 효율적이고 지속 가능하게 운영하는지가 진짜 경쟁력이 된다는 관점입니다.
이는 조직개발 관점에서도 익숙한 원리입니다. 새로운 제도나 도구를 도입할 때, 초반의 ‘빠른 도입’보다 중요한 것은 구성원이 그 변화를 ‘지속적으로 체화’하도록 돕는 체계입니다. AI 인프라도 마찬가지입니다. 화려한 도구를 얼마나 빠르게 들여왔는지보다, 그 도구를 둘러싼 사용 규칙과 역량 개발 체계가 얼마나 탄탄한지가 결국 성과를 가릅니다.
지금 팀에서 시작할 수 있는 4단계 솔루션
거창한 AI 팩토리를 구축할 필요는 없습니다. 개인이나 팀 단위에서도 이 흐름에 맞춰 준비할 수 있는 방법이 있습니다.
1단계: 팀의 AI 사용 현황부터 눈에 보이게 만들기
어떤 AI 도구를, 얼마나, 어떤 업무에 쓰고 있는지부터 정리합니다. 아래 프롬프트를 활용해 한 번 정리해보세요.
우리 팀이 현재 사용 중인 AI 도구 목록과 각 도구의 주요 용도, 월 예상 비용을 표로 정리해줘. 그리고 중복되는 기능이 있는지, 사용 빈도가 낮아 재검토가 필요한 도구가 있는지도 짚어줘.
2단계: 부서 간 AI 리터러시 격차 진단하기
우리 팀과 옆 팀의 AI 활용 수준 차이를 짧은 설문이나 대화로 확인합니다. 격차가 크다면 그 자체가 다음 교육 계획의 근거가 됩니다.
3단계: 최소한의 AI 사용 가이드라인 마련하기
민감한 정보를 AI에 입력하지 않기, AI가 만든 초안은 반드시 담당자가 검토하고 수정하기 같은 기본 원칙을 문서 한 장으로 정리해 공유합니다.
4단계: 변화관리 담당자를 명확히 지정하기
AI 도구 관련 질문과 이슈를 누가 총괄할지 정해두면, 도입 초기의 혼선을 크게 줄일 수 있습니다.
주의할 점
이 조사는 연매출 5억 달러 이상인 미국 대기업 리더를 대상으로 했다는 점을 감안해야 합니다. 국내 중소·중견 조직이나 공공기관에 수치를 그대로 적용하면 과잉 투자나 비현실적인 목표 설정으로 이어질 수 있습니다. 조사에 담긴 수치와 전망은 방향성을 참고하는 자료로 활용하고, 실제 예산·인력 계획은 우리 조직의 규모와 상황에 맞게 조정해야 합니다. 특히 이 글에 담긴 통계와 수치는 AI를 활용해 정리한 만큼, 실제 의사결정에 반영하기 전에 원문 보고서와 최신 데이터를 함께 검토하는 인간의 검증 과정이 반드시 필요합니다.
Risk와 대응 방안
AI 인프라 확장 경쟁에 휩쓸리다 보면 몇 가지 위험이 따라옵니다.
- 조급한 도입 리스크: 예산과 거버넌스 없이 도구부터 늘리면 오히려 비용만 커집니다. 소규모 파일럿으로 시작해 효과를 확인한 뒤 확장하는 단계적 접근이 필요합니다.
- 데이터 보안 리스크: 사용량이 늘수록 민감 정보가 AI 도구에 유입될 가능성도 커집니다. 최소한의 사용 가이드라인과 정기 점검을 먼저 마련합니다.
- 인력 소진 리스크: 변화관리 없이 도구만 던져주면 구성원의 피로도가 쌓입니다. 담당자를 지정하고, 작은 성공 사례를 자주 공유해 자발적 참여를 유도합니다.
AI 생산성, 결국은 조직의 준비도가 좌우한다
딜로이트 조사가 전하는 핵심은 명확합니다. AI 경쟁의 다음 국면은 ‘누가 먼저 도입했는가’가 아니라 ‘누가 더 경제적이고 책임 있게 운영하는가’로 옮겨가고 있습니다. 이는 대기업의 AI 팩토리 이야기만이 아니라, 우리 팀의 AI 도구 사용 방식과 예산 관리 습관에도 그대로 적용되는 원리입니다.
오늘 팀 회의에서 딱 한 가지만 시작해보세요. 지금 우리 팀이 쓰고 있는 AI 도구 목록과 사용 이유를 함께 정리해보는 것부터입니다. 그 작은 점검이, 다가올 예산 심사와 조직 변화에 대비하는 첫걸음이 될 것입니다.
참고문헌
- Deloitte Global, “AI 네이티브 시대, 인프라 경쟁 본격화 — 딜로이트 기업 AI 인프라 조사,” Deloitte Insights, 2026년 8월.