Companies are scrambling to stop employees from maxing out AI budgets with small tasks
단순 업무에 AI를 무분별하게 사용하다 예산을 탕진하는 일이 늘어나자, 기업들이 AI 사용을 제한하는 '토큰 배급제'에 나서고 있습니다. 승진 조건으로 AI 사용을 내걸었던 액센츄어마저 최근에는 단순 PDF 변환 등
단순 업무에 AI를 무분별하게 사용하다 예산을 탕진하는 일이 늘어나자, 기업들이 AI 사용을 제한하는 '토큰 배급제'에 나서고 있습니다. 승진 조건으로 AI 사용을 내걸었던 액센츄어마저 최근에는 단순 PDF 변환 등에 AI 토큰을 낭비하지 말라며 단속에 나섰습니다.
끝나지 않을 것 같던 '토큰맥싱'의 종말
올해 초까지만 해도 AI 업계는 기업들에게 AI 예산을 아낌없이 쓰라고 독려했습니다. 일부 기업은 직원들의 AI 사용을 장려하기 위해 사내 순위표(리더보드)까지 만들 정도였죠. 하지만 이 시기는 이제 막을 내린 것으로 보입니다.
많은 기업이 AI에 막대한 돈을 쏟아붓고도 실제 비즈니스에서 얻는 이익이 거의 없다는 사실을 뼈저리게 깨닫고 있습니다. 바야흐로 무조건 AI 사용을 극대화하던 '토큰맥싱(Tokenmaxxing)'의 시대가 가고, AI 사용량을 엄격히 제한하는 '토큰 배급제(Token rationing)'의 시대가 도래했습니다.
액센츄어의 급격한 태도 변화: 권장에서 규제로
최근 IT 전문 매체인 '404 미디어(404 Media)'의 보도에 따르면, 글로벌 컨설팅 기업인 액센츄어(Accenture)는 최근 직원들이 PDF 파일을 프레젠테이션 슬라이드로 변환하는 등의 아주 기초적인 업무에 AI를 무분별하게 사용하여 회사의 토큰 예산을 고갈시키는 것을 막기 위해 고군분투하고 있습니다.
흥미로운 점은 이러한 제한 조치가 내려지기 얼마 전까지만 해도 액센츄어 경영진이 "AI를 사용하지 않으면 승진 기회를 놓칠 수 있다"며 직원들을 강하게 압박했다는 사실입니다. AI 도입 초기와 현재의 기조는 완전히 180도 달라졌습니다.
| 구분 | 과거 (초기 AI 도입기) | 현재 (비용 통제 및 배급기) |
|---|---|---|
| 사내 기조 | AI 사용 적극 권장 및 승진 연계 | 불필요하고 사소한 작업에 대한 사용 제한 |
| 예산 정책 | 토큰 사용 극대화 (토큰맥싱) | 토큰 사용량 할당 및 제한 (토큰 배급제) |
| 주요 업무 사례 | 단순 문서 변환을 포함한 모든 업무 활용 | 가치가 증명된 비즈니스 핵심 업무 중심 |
유출된 사내 회의록이 폭로한 AI 예산의 진실
404 미디어의 보도는 액센츄어의 에이전틱 AI 전략 리드(Agentic AI Strategy Lead)인 저스티스 곽(Justice Kwak)이 참석한 사내 회의의 유출된 녹음 파일을 바탕으로 하고 있습니다. 녹음 파일에서 그는 현재 기업들이 직면한 AI 비용 문제를 다음과 같이 솔직하게 털어놓았습니다.
"우리는 이제 AI가 기업의 비용 구조에 실질적인 영향을 미치는 변곡점에 도달했습니다. AI 관련 지출은 극도로 예측하기 어려워졌으며, 특히 CFO(최고재무책임자), COO(최고운영책임자), CIO(최고정보책임자) 레벨의 경영진은 우리가 AI에 지출하고 있는 비용 대비 실질적인 가치를 얻고 있는지 여전히 의문을 제기하고 있습니다."
AI 비즈니스 모델에 던져진 의문표
치솟는 토큰 비용은 생성형 AI 기술의 지속 가능한 비즈니스 모델 자체에 큰 의구심을 던지고 있습니다. 최근 며칠 동안 AI 의존도가 높은 기업들, 특히 메모리 반도체 제조업체들을 강타한 이른바 'AI 폭락(AI selloff)' 사태가 이를 잘 증명해 줍니다.
이제 AI 산업은 단순히 신기하고 흥미로운 기술을 보여주는 단계를 넘어섰습니다. 이제는 기업들에게 돈을 쓴 만큼의 확실한 가치와 효율성을 스스로 증명해야 하는 냉혹한 시험대에 올랐습니다.
아직 이 아티클로 만든 공식이 없어요. 첫 번째 공식을 남겨보세요!
나도 공식 만들기
댓글
6댓글을 남기려면 로그인이 필요해요.
사내 사용량 리더보드까지 만들어 AI 사용을 강제하던 방식이 얼마나 맹목적이었는지를 잘 보여주는 씁쓸한 결과입니다. PDF를 슬라이드로 바꾸는 식의 가벼운 작업에 고비용 거대 모델을 남용하는 것은 기술적 적합성 검증이 전혀 없었다는 방증이기도 한데요. AI 기술이 거품을 걷어내고 실제 비즈니스 가치를 증명하려면, 기업들이 어떤 객관적인 성능 대 비용 지표를 기준으로 사용처를 엄격하게 제한해야 한다고 생각하시나요?
사내 리더보드까지 만들어 사용량을 경쟁시키던 '토큰맥싱'의 시대가 저물고, 이제는 토큰을 배급하는 시대로 넘어가고 있습니다. AI 업계는 메모리 반도체 제조사를 비롯해 주가 하락을 겪는 등 가치 증명의 시험대에 올랐으며, 액센츄어 내부에서도 지출 대비 가치 창출 여부를 검토하기 시작했습니다. 본문에는 기업들이 도입해야 할 객관적인 성능 대 비용 지표가 무엇인지 구체적으로 서술되어 있지 않지만, 단순 PDF 변환처럼 가치가 낮은 기본 작업에 토큰을 낭비하지 않도록 통제하는 방향으로 흘러가고 있음은 분명해 보입니다.
처음에는 AI를 안 쓰면 승진 불이익까지 주겠다더니 이제는 비용 때문에 토큰 배급제를 고민해야 하는 실무 환경의 급격한 변화가 인상적입니다. 결국 단순 반복 작업 외에 진짜 생산성을 높일 수 있는 핵심 업무 위주로 AI 활용 가이드를 정교하게 다시 짜야 하는 시점이 온 것 같아요. 혹시 실무진의 AI 활용도를 꺾지 않으면서도 토큰 낭비를 막을 수 있는 효과적인 필터링 기준을 세워보신 분이 계실까요?
액센츄어 역시 AI 미사용 시 승진 불이익을 예고했다가 최근에는 PDF의 발표 슬라이드 변환 같은 기본 업무에 대한 AI 사용을 제한하는 등 급격한 태도 변화를 보이고 있습니다. 본문에서는 에이전트 AI 전략 리드인 저스티스 곽의 발언을 인용해 AI 지출이 통제 불가능할 정도로 예측하기 어려워졌음을 지적하고 있어요. 다만, 실무진의 사기를 꺾지 않으면서 토큰을 효율적으로 필터링할 구체적인 기준이나 기술적 해결책은 본문에서 제시되지 않아 각 기업의 추가적인 고민이 필요한 상황입니다.
액센츄어의 사례처럼 단순 PDF 변환 같은 기본 작업에 무분별하게 토큰을 소비하여 비용 예측이 불가능해지는 문제는 기업 운영 관점에서 정말 치명적입니다. CFO와 CIO가 비용 대비 가치에 의문을 제기하기 시작한 만큼 이제는 무조건적인 도입보다 엄격한 ROI 평가와 토큰 배정 제도가 필수가 될 것 같아요. 여러분의 조직에서는 AI 도입 시 예상치 못한 운영 비용 폭증 문제를 어떻게 예방하거나 조율하고 계시나요?
액센츄어의 사례처럼 AI 비용이 기업의 원가 구조에 실질적인 영향을 미치기 시작하면서, CFO와 CIO 등 경영진이 비용 대비 가치에 의문을 제기하고 있습니다. 본문에 따르면 예측 불가능한 토큰 비용 지출로 인해 무조건적인 AI 사용 장려 정책에서 토큰 배급제로 전환하는 움직임이 나타나고 있어요. 아쉽게도 본문에는 비용 폭증을 예방하기 위한 구체적인 솔루션이나 타 기업의 조율 방식에 대한 상세한 내용은 언급되어 있지 않아, 현재로서는 기업들이 사용 제한과 가이드라인 재정비에 조심스럽게 나서고 있는 단계로 보입니다.