예산이 제한된 기업을 위한 AI 도입 전략
*Please scroll down for English version.
질문: 모든 직원에게 AI가 정말로 필요할까요?
최근 들어 AI 에이전트를 기업 업무에 도입하는 사례가 늘어나고 있습니다.
AI를 활용하면 업무시간을 단축하고, 반복적인 업무를 자동화하며, 직원들의 생산성을 높일 수 있다고 합니다.
그런데 한 가지 의문이 들었습니다.
과연 모든 직원에게 AI를 제공하는 것이 가장 효율적인 투자일까요?
2025년 Quarterly Journal of Economics에 발표된 연구에서는 고객지원 직원 5,172명을 대상으로 생성형 AI의 생산성 개선 효과를 분석했습니다. 그 결과, AI를 활용한 직원들의 시간당 고객 문제 해결 건수가 평균 15% 증가했습니다.
분명 의미 있는 성과입니다.
하지만 직원 개인의 생산성이 향상되었다고 해서 기업 전체의 경영 성과가 반드시 좋아지는 것은 아닙니다. 더욱이 AI 에이전트를 기업에 구축하려면 초기 개발비뿐 아니라 데이터 관리, 시스템 연동, 유지보수 비용까지 고려해야 합니다.
매달 발생하는 토큰 비용도 빼놓을 수 없습니다. 예를 들어 GPT-6 Astra를 직원 100명이 하루 10회씩, 월 22일 동안 사용한다고 가정해 보겠습니다. 질문마다 입력 3,000토큰, 출력 1,000토큰이 발생한다면 순수 API 사용료만 월 1,760달러, 연간 21,120달러가 발생합니다.
여기에 에이전트의 반복 호출, 추가 검증, 시스템 유지보수 비용까지 더해진다면 실제 운영비는 더욱 커질 수 있습니다.
물론 이러한 비용을 감수하더라도 충분한 경제적 효과를 얻을 수 있다면 투자해야겠지요.
문제는 기업마다 자본이 한정되어 있다는 사실입니다.
특히 자금이 부족한 중소기업이나 스타트업이라면 AI를 어디에 먼저 도입해야 할지 더욱 신중하게 판단해야 합니다.
오늘은 기업이 한정된 예산으로 AI를 가장 효율적으로 활용하기 위한 세 가지 전략을 이야기해 보려고 합니다.
1. 전사적 배포보다 경영진의 판단 지원에 먼저 투자하라
AI는 반복 업무를 자동화하는 데 유용한 기술입니다.
하지만 저는 AI가 기업에 제공할 수 있는 더 큰 가치 중 하나가 경영자의 판단을 지원하는 능력이라고 생각합니다.
일반적으로 중소기업 경영진의 의사결정 과정을 살펴보면 다음과 같습니다.
정보 수집 → 분석자료 검토 → 전문가와 논의 → 최종 결정 및 실행
여기서 AI는 최종 결정을 제외한 상당 부분을 지원할 수 있습니다.
필요한 정보를 수집하고, 데이터를 분석하며, 여러 선택지에 따른 결과를 시뮬레이션할 수 있습니다.
또한 경영자가 미처 발견하지 못한 위험 요소를 찾아내거나, 기존 전략을 검증하는 데에도 활용할 수 있습니다.
물론 AI가 제공하는 모든 정보가 정확한 것은 아니므로 검증 과정은 필요합니다.
그럼에도 경영자가 의사결정에 필요한 자료를 더 신속하게 확보하고 검토할 수 있다면, 기업은 변화하는 시장 환경에 보다 민첩하게 대응할 수 있을 것입니다.
가령 직원 100명의 보고서 작성 시간을 각각 20% 줄이는 것과, CEO가 수십억 원 규모의 투자에서 잘못된 판단을 피하도록 돕는 것 중 어느 쪽이 기업에 더 큰 가치를 가져다줄까요?
상황에 따라 답은 달라지겠지만, 적어도 두 가지 투자의 경제적 가치를 비교해 볼 필요는 있습니다.
기업의 경쟁력은 단순히 업무를 얼마나 빠르게 처리하는가가 아니라, 중요한 순간에 얼마나 올바른 판단을 내리는가에 의해서도 결정되기 때문입니다.
따라서 예산이 제한적인 기업이라면 경영진의 판단을 지원하는 AI 시스템을 우선적으로 검토할 필요가 있다고 생각합니다.
2. 전사적인 AI 배포는 오히려 조직의 의사결정 비용을 높일 수 있다
2025년 발표된 AI Boss Effect Report에는 흥미로운 조사 결과가 등장합니다.
미국 근로자 968명을 대상으로 조사한 결과, 응답자의 97%가 상사 대신 AI에게 업무 관련 조언을 구한 경험이 있다고 답했습니다.
또한 63%는 정기적으로 AI에게 업무 조언을 구한다고 응답했습니다.
물론 이러한 결과만으로 AI가 조직의 팀워크를 저해한다고 단정할 수는 없습니다.
하지만 직원들이 판단에 필요한 조언을 얻는 방식이 변화하고 있다는 점은 주목할 만합니다.
과거에는 업무를 추진하면서 어려움에 직면하면 상사나 동료들과 논의하는 것이 일반적이었습니다.
서로의 경험과 정보를 공유하면서 해결책을 찾아나가는 과정이었죠.
그런데 이제는 AI가 그 역할의 일부를 대신하고 있습니다.
이러한 변화가 언제나 긍정적인 결과만 가져올까요?
예를 들어 A 팀장이 직원에게 업무 개선 방향을 제시했다고 가정해 보겠습니다.
그런데 B 대리가 다음과 같이 대답합니다.
"AI는 팀장님의 피드백을 적용한 개선안보다 제가 처음 제안한 방식이 더 효율적이라고 분석했습니다."
충분히 발생할 수 있는 상황입니다.
문제는 AI가 제시한 분석이 해당 기업의 실제 환경과 제약조건을 충분히 반영했는지 확인하기 어렵다는 점입니다.
또한 기업에서는 업무를 수행하는 사람과 최종적인 판단에 책임지는 사람이 다른 경우가 많습니다.
직원들이 AI를 활용해 수많은 대안을 제시하더라도, 그 대안을 검토하고 선택하며 결과에 책임지는 사람은 결국 관리자입니다.
이때 AI는 조직의 생산성을 높이기보다 관리자의 검토 부담을 증가시키는 도구가 될 수도 있습니다.
실제로 2025년 Stanford Social Media Lab과 BetterUp의 조사에서는 미국 사무직 근로자 1,150명 중 40%가 지난 한 달 동안 내용이 부실한 AI 생성 업무 결과물을 전달받았다고 응답했습니다.
이런 결과물을 검토하거나 수정하는 데에는 건당 평균 약 2시간이 소요됐다고 합니다.
연구진은 이러한 현상을 'Workslop'이라고 설명했습니다.
AI는 의견과 결과물을 만들어내는 비용을 낮췄지만, 그것을 검증하고 조직의 의사결정에 반영하는 비용까지 반드시 낮춰준 것은 아닙니다.
그러므로 AI를 전사적으로 보급하기 전에, 우리 조직의 의사결정 구조에 어떤 영향을 미칠지도 함께 검토해야 합니다.
3. 모든 부서에 동일한 AI 모델을 제공할 필요는 없다
최근 AI 산업에서는 토큰 비용을 효율적으로 관리하는 문제가 중요해지고 있습니다.
매일경제 럭스맨 9월호에서도 AI 에이전트의 운영비용을 관리하기 위한 '토크노믹스(Tokenomics)'를 다뤘습니다.
실제로 미국 메타에서는 직원들이 AI 토큰 사용량을 경쟁하는 현상이 나타났습니다.
직원들이 만든 비공식 사용량 순위표가 등장했고, 30일 기준 전체 토큰 사용량이 73조 7,000억 개에 이르렀다는 보도도 있었습니다.
그만큼 AI 사용량이 급격하게 늘어날 수 있다는 점을 보여주는 사례입니다.
하지만 AI를 많이 사용한다는 사실이 반드시 더 높은 성과를 의미하지는 않습니다.
따라서 기업들은 모든 업무에 동일한 수준의 AI를 제공하기보다, 업무의 복잡성과 중요도에 따라 적절한 모델을 배분하는 전략을 검토할 필요가 있습니다.
예를 들어 정보를 검색하거나 회의록을 요약하는 단순 업무라면 상대적으로 저렴한 경량 모델로도 충분할 수 있습니다.
반면 FP&A, 법무, 재무, 회계, 경영기획처럼 복잡한 분석과 검증을 요구하는 업무에는 고성능 모델을 배분할 필요가 있습니다.
특히 중요한 투자나 사업전략을 결정하는 경영진이라면 고성능 추론 모델을 활용해 다양한 위험과 시나리오를 검토할 수 있겠지요.
말하자면 닭 잡는 데 소 잡는 칼을 사용할 필요는 없다는 것입니다.
물론 단순 업무에서도 위험도가 높다면 더 정교한 검증이 필요할 수 있습니다.
중요한 것은 직급이나 부서에 따라 무조건 AI를 제한하는 것이 아닙니다.
업무의 성격, 판단의 중요도, 오류 발생 시의 위험을 고려해 AI 자원을 차등 배분해야 한다는 것입니다.
이러한 구조라면 자본이 부족한 기업도 무조건 비싼 모델을 전사적으로 도입하지 않고, 한정된 예산 안에서 필요한 AI 역량을 확보할 수 있을 것입니다.
결론: AI 도입에도 우선순위가 필요합니다
AI를 이야기할 때 가장 자주 등장하는 단어 중 하나가 '생산성'입니다.
하지만 생산성 향상이 기업의 이익 증가를 반드시 보장하지는 않습니다.
보고서를 더 빨리 작성하고, 이메일을 더 빠르게 보내고, 자료를 더 쉽게 찾는 것도 중요합니다.
그러나 기업의 장기적인 생존과 성장을 결정하는 것은 결국 올바른 경영 판단과 실행입니다.
따라서 저는 기업이 AI 도입을 검토할 때 다음 질문을 먼저 던져야 한다고 생각합니다.
"우리 회사는 AI를 얼마나 많은 직원에게 제공해야 할까?"
그보다 먼저,
"우리 회사에서 AI가 가장 큰 가치를 창출할 수 있는 업무와 의사결정은 무엇일까?"
자본이 풍부한 대기업뿐 아니라 예산이 부족한 중소기업에도 적용할 수 있는 질문입니다.
AI를 전사적으로 보급하는 것이 언제나 최선의 경영전략일 필요는 없습니다.
오히려 핵심 경영진과 전략적 판단을 담당하는 조직부터 AI를 도입하고, 그 효과를 확인하면서 다른 부서로 확대하는 방식이 더 합리적일 수 있습니다.
기업의 AI 경쟁력은 얼마나 많은 직원이 AI를 사용하는가보다, AI를 통해 얼마나 가치 있는 판단을 내릴 수 있는가에 달려 있다고 생각합니다.
AI 도입을 고민하고 계신가요?
(주)달란트컨설팅그룹(DCG)은 기업의 경영전략과 의사결정을 함께 고민하는 파트너가 되겠습니다.
감사합니다.
참고 자료
Brynjolfsson, Li & Raymond, Generative AI at Work, Quarterly Journal of Economics (2025)
Resume Now, AI Boss Effect Report (2025)
Stanford Social Media Lab × BetterUp, Workslop Research (2025)
The Information, Tokenminimizing: Meta Moves to Curb Employee AI Usage (2026)
OpenAI, API Pricing (2026년 10월 기준)
Not Every Employee Needs AI: Why Strategic Deployment Matters More Than Company-Wide Adoption
More companies are integrating AI agents into their daily operations.
AI promises to automate repetitive tasks, reduce workloads, and improve employee productivity.
But I believe there is a more fundamental question we should be asking.
Is giving every employee access to AI really the most effective way to invest in this technology?
A 2025 study published in the Quarterly Journal of Economics examined the productivity impact of generative AI on 5,172 customer support employees.
The researchers found that AI assistance increased the number of customer issues resolved per hour by an average of 15%.
That is certainly a meaningful improvement.
However, higher individual productivity does not necessarily translate into better overall business performance.
Deploying enterprise AI agents also involves significant investment. Beyond initial development costs, companies must consider data integration, system maintenance, and ongoing operational expenses.
Token consumption is another important consideration.
For example, imagine a company with 100 employees using GPT-6 Astra ten times a day, 22 working days per month.
Assuming each interaction consumes 3,000 input tokens and generates 1,000 output tokens, the API cost alone would amount to approximately $1,760 per month, or $21,120 annually.
That estimate excludes additional agent calls, verification processes, and infrastructure maintenance.
Of course, such investments may be justified if they generate sufficient economic value.
But every company operates with limited resources.
For SMEs and startups in particular, determining where to allocate AI investments should be a strategic decision rather than simply following a technological trend.
So, how should companies prioritize AI adoption when their budgets are limited?
I would like to suggest three principles.
1. Prioritize Executive Decision-Making Over Company-Wide AI Deployment
AI is undoubtedly useful for automating repetitive tasks.
However, I believe one of its greatest potential contributions to business is improving the quality of managerial decision-making.
Consider how executives at a typical SME make important business decisions.
Information gathering → Analysis and review → Consultation with experts → Final decision and execution
AI can support much of this process before the final decision is made.
It can collect relevant information, analyze financial and operational data, evaluate different scenarios, and identify potential risks that management might otherwise overlook.
Of course, AI-generated information still requires verification.
Nevertheless, if executives can access and evaluate relevant information more effectively, they may be able to respond to changing market conditions with greater speed and confidence.
Now consider two possible investments.
One improves report-writing efficiency by 20% for 100 employees.
The other helps a CEO avoid a poor investment decision involving millions of dollars.
Which would create greater economic value?
The answer depends on the circumstances, but the two investments should at least be evaluated against each other.
A company's long-term competitiveness depends not only on how efficiently work gets done, but also on the quality of the decisions that determine its future.
This is why I believe companies with limited budgets should consider investing in AI-powered executive decision support before pursuing company-wide deployment.
2. Company-Wide AI Adoption May Increase Organizational Decision-Making Costs
The 2025 AI Boss Effect Report revealed an interesting trend.
In a survey of 968 American workers, 97% reported having turned to AI for work-related advice instead of their managers at least once.
Another 63% said they regularly sought work-related advice from AI.
These findings do not prove that AI damages teamwork.
However, they suggest that the way employees seek advice and form judgments is changing.
Traditionally, employees would discuss difficult decisions with colleagues or supervisors.
Through meetings and conversations, teams would exchange perspectives, draw on collective experience, and develop solutions together.
Now, AI is increasingly becoming another source of advice.
But does that always lead to better organizational decisions?
Imagine the following situation.
A team manager provides feedback and instructs an employee to revise a proposal.
The employee responds:
"According to AI, my original proposal is actually more efficient than the version incorporating your feedback."
This is a hypothetical example, but it illustrates a potential organizational challenge.
How can the team be certain that the AI's assessment reflects the company's actual constraints, priorities, and operating conditions?
More importantly, the person generating an alternative recommendation is not always the person responsible for the final decision.
Employees may use AI to generate numerous proposals, but managers must still evaluate those proposals, make decisions, and take responsibility for the outcomes.
As a result, AI could increase managerial review workloads rather than reduce them.
A 2025 study by Stanford Social Media Lab and BetterUp provides another relevant perspective.
Among 1,150 U.S. office workers surveyed, 40% reported receiving low-quality AI-generated work during the previous month.
Respondents reported spending an average of approximately two hours addressing each such instance.
The researchers described this phenomenon as Workslop—AI-generated content that appears useful or complete but ultimately creates additional work for others.
This highlights an important distinction.
AI has significantly reduced the cost of generating information and recommendations. But it has not necessarily reduced the cost of verifying them or integrating them into organizational decisions.
Before expanding AI access across an entire company, leaders should therefore consider how it may affect their existing decision-making processes.
3. Not Every Department Needs the Same AI Model
As enterprise AI adoption accelerates, managing token consumption and inference costs is becoming increasingly important.
The September issue of Luxmen, a Korean premium business magazine published by Maeil Business Newspaper, discussed the emergence of "Tokenomics"—the growing importance of managing the economics of AI usage.
One reported example involved Meta.
Employees created an unofficial leaderboard comparing AI token consumption, while reported usage reached approximately 73.7 trillion tokens over a 30-day period.
The example illustrates how quickly AI usage can scale within a large organization.
But consuming more tokens does not necessarily mean generating more business value.
Rather than deploying the same premium AI model for every task, companies should consider allocating AI capabilities according to the complexity, importance, and risk of the work involved.
For example, relatively inexpensive models may be sufficient for routine tasks such as information retrieval, meeting summaries, and basic document processing.
On the other hand, more advanced reasoning models may be appropriate for functions such as:
Financial Planning & Analysis (FP&A)
Legal affairs and contract review
Finance, accounting, and internal controls
Corporate strategy and business planning
Executive decision support
These functions often involve complex analysis, uncertain outcomes, and decisions with significant financial consequences.
Senior executives, for example, could use advanced AI models to evaluate investment scenarios, identify strategic risks, and examine alternative capital allocation decisions.
There is no reason to use a sledgehammer to crack a nut.
However, this does not mean AI access should be determined simply by job title or organizational hierarchy.
Even a seemingly routine task may require advanced reasoning if the consequences of an error are significant.
The real objective should be to allocate AI resources according to business needs, decision importance, and the potential cost of mistakes.
Such an approach would allow companies to develop AI capabilities without committing to expensive, company-wide deployment from the outset.
Conclusion: AI Investment Is Ultimately About Priorities
When discussing AI adoption, one word appears repeatedly: productivity.
And rightly so. Productivity matters.
But improvements in productivity do not automatically translate into higher corporate profits.
Writing reports faster, sending emails more efficiently, and retrieving information more easily can all provide meaningful benefits.
Yet long-term business success also depends on making sound strategic decisions and executing them effectively.
Therefore, before asking:
"How many employees should we equip with AI?"
I believe business leaders should first ask:
"Which decisions and business functions would benefit most from AI investment?"
This question matters to large corporations, but it is especially important for SMEs and startups operating with limited resources.
Company-wide AI deployment should not automatically be considered the optimal strategy.
Instead, companies may achieve greater value by initially focusing AI investments on executive decision-making and strategically important functions, then expanding adoption as measurable benefits become clearer.
Ultimately, a company's AI competitiveness should not be judged by how many employees use AI, but by how much value it creates through better business decisions.
If your organization is exploring how to integrate AI into its operations, the first step may not be choosing the most powerful model.
It may be deciding where AI can make the greatest strategic difference.
At Dallant Consulting Group (DCG), we work alongside business leaders to strengthen corporate strategy and decision-making.
We would be pleased to support your journey toward more effective AI adoption.
Thank you for reading.
References
Brynjolfsson, Li & Raymond, Generative AI at Work, Quarterly Journal of Economics (2025).
Resume Now, AI Boss Effect Report (2025).
Stanford Social Media Lab & BetterUp, research on AI-generated Workslop (2025).
The Information, reporting on AI token usage at Meta (2026).
OpenAI, API Pricing (October 2026).
