회사에 생성형 AI를 들여온 지 1년쯤 지났다고 해보자. 보고서 초안은 AI가 쓰고, 회의록 정리도 AI가 한다. 직원들한테 물어보면 대부분 일이 편해졌다고 한다. 그런데 연말에 경영진이 “그래서 AI로 얼마를 벌었거나 아꼈냐”고 물으면 대답이 막힌다. 라이선스 비용은 분명히 나갔는데, 실적표 어디에도 AI의 흔적이 잘 보이지 않는다.
이건 몇몇 회사만의 이야기가 아니다. 맥킨지가 2026년 8월 발표한 연례 보고서 ‘The state of AI in 2026’은 97개국 1,719명을 대상으로 한 설문인데, 응답자의 80%가 AI 덕분에 개인 생산성이 올랐다고 답했다. 반면 AI가 회사의 EBIT(이자 및 법인세 차감 전 이익)에 조금이라도 보탬이 됐다고 답한 비율은 37%였다. 더 눈여겨볼 부분은 이 37%가 2025년과 거의 같다는 점이다. AI를 전사로 확대하는 회사는 늘었는데, 실적으로 이어졌다는 응답은 1년 동안 제자리였다.
80%와 37%. 이 두 숫자 사이의 거리가 지금 기업 AI 도입의 현주소다.
직원은 빨라졌는데 회사 실적은 왜 그대로일까
이유를 알려면 ‘아낀 시간이 어디로 갔는지’부터 따라가 봐야 한다.
마케팅 담당자가 주간 보고서를 쓰는 데 3시간 걸리던 걸 AI로 1시간 만에 끝냈다고 치자. 개인 입장에선 분명 2시간을 번 것이다. 그런데 그 2시간은 대개 다른 회의, 밀린 메일, 보고서를 한 번 더 다듬는 일로 흩어진다. 보고서가 빨리 나와도 팀장 결재는 원래 하던 대로 목요일에 몰아서 하고, 그다음 단계인 예산 집행은 또 다른 부서 일정에 묶여 있다. 전체 흐름으로 보면 달라진 게 거의 없다.
공장으로 비유하면 더 잘 보인다. 생산 라인 열 개 공정 중 하나만 두 배 빨라지면 어떻게 될까. 완제품이 두 배로 나오는 게 아니라, 그다음 공정 앞에 반제품이 쌓일 뿐이다. 전체 속도는 가장 느린 공정이 정한다. 사무실 업무도 마찬가지다. 직원 한 명 한 명이 빨라지는 것과 회사가 돈을 더 버는 것 사이에는 ‘일하는 방식’이라는 병목이 끼어 있다.
여기에 측정 문제도 겹친다. 80%라는 숫자는 ‘체감’에 가깝다. 내가 편해졌다는 건 바로 느낄 수 있지만, 그게 매출이나 비용 절감으로 이어졌다는 걸 증명하려면 도입 전후를 비교할 지표가 있어야 한다. 그런 지표를 처음부터 잡아둔 회사는 생각보다 적다.
‘파일럿의 함정’에 빠진 회사들
요즘 화두인 에이전틱 AI(스스로 여러 단계의 업무를 계획하고 실행하는 AI)로 넘어가면 문제가 더 선명해진다. 맥킨지 시니어 파트너 센틸 무티아(Senthil Muthiah)는 2026년 4월 UC Today와의 인터뷰에서, 에이전틱 AI 프로젝트를 진행하는 조직의 3분의 2가 아직 시범 운영(파일럿) 단계를 벗어나지 못했다고 짚었다. 그리고 그 원인이 기술이 아니라 전략에 있다고 봤다.
파일럿이 왜 함정이 되는지 생각해보면 이해가 간다. 파일럿은 원래 범위를 좁게 잡는다. 데이터가 깨끗한 부서 하나, 예외 상황이 적은 업무 하나를 골라 몇 달 돌려본다. 그러니 결과가 잘 나올 수밖에 없고, 사내 발표 자료에 넣기도 좋다. 문제는 실제 업무로 넓히려는 순간 시작된다. 다른 시스템과 연동해야 하고, 데이터 접근 권한을 정리해야 하고, AI가 틀렸을 때 누가 책임지는지 정해야 한다. 파일럿 때 일부러 피해 갔던 문제가 한꺼번에 몰려온다.
그래서 많은 회사가 파일럿 하나를 끝내면 확장 대신 또 다른 파일럿을 시작한다. 실패할 위험은 적고 ‘우리도 AI 한다’는 모양새는 나기 때문이다. 이렇게 파일럿이 다섯 개, 열 개로 늘어나도 손익계산서는 꿈쩍하지 않는다.
우리 회사도 함정에 빠졌는지 알아보는 세 가지 신호
1. “AI를 어디에 쓸 수 있을까”부터 묻는다
무티아가 강조한 것도 이 부분이다. 질문을 ‘AI를 어디에 적용할 수 있나’에서 ‘AI가 어디서 실제로 차이를 만드나’로 바꿔야 한다는 것이다. 앞의 질문으로 시작하면 쓸 곳이 끝없이 나오고, 결국 쉬운 곳부터 손대게 된다. 그리고 쉬운 곳은 대개 돈과 거리가 멀다.
2. 성과 지표가 ‘사용률’이다
라이선스를 몇 개 샀는지, 월간 활성 사용자가 몇 명인지, 프롬프트를 몇 번 입력했는지. 이런 숫자는 80% 쪽을 보여주는 지표다. 37% 쪽으로 넘어가려면 건당 처리 비용, 처리 시간, 오류율, 고객 이탈률처럼 손익과 바로 이어지는 숫자를 봐야 한다.
3. 업무 흐름은 그대로 두고 AI만 얹었다
기존 결재 단계, 보고 체계, 역할 분담을 그대로 둔 채 각자 AI 도구만 쓰게 한 경우다. 앞에서 말한 병목이 그대로 남는다. 맥킨지가 2025년 보고서에서 성과를 내는 소수 기업의 공통점으로 꼽은 것도 업무 흐름 자체를 다시 짰다는 점이었다.
37% 안에 드는 회사는 무엇이 다를까
맥킨지 2026 보고서에서 AI로 의미 있는 재무 성과를 낸 ‘하이 퍼포머’는 약 6%에 그쳤다. 보고서는 개인의 생산성 향상을 회사 실적으로 연결하는 곳은 AI 도구를 들이는 데서 멈추지 않고 사업 자체를 바꾸는 회사일 가능성이 높다고 정리했다.
이걸 실무 언어로 풀면 이렇다.
먼저 돈이 걸린 업무 하나를 고른다. 고객 문의 처리, 청구서 대사, 재고 예측처럼 비용이나 매출이 숫자로 바로 찍히는 곳이 좋다. 그다음 AI를 붙이기 전에 그 업무의 현재 숫자를 재둔다. 건당 몇 분이 걸리는지, 한 달에 몇 건을 처리하는지. 도구만 넣지 말고 흐름 전체를 다시 그리는 것도 중요하다. AI가 1차 처리를 맡으면 사람은 어느 단계에서 확인하고, 결재는 몇 단계로 줄일지까지 정해야 한다. 마지막으로 남는 시간을 어떻게 쓸지 미리 정한다. 같은 인원으로 처리량을 늘릴지, 사람을 더 가치 있는 업무로 옮길지 정하지 않으면 아낀 시간은 또 흩어진다.
리더의 역할도 크다. 맥킨지 2025 보고서를 보면 하이 퍼포머 기업은 그렇지 않은 기업보다 경영진이 AI 과제에 주인의식을 갖고 직접 나선다는 응답이 세 배 많았다. 파일럿은 현업 팀이 돌릴 수 있지만, 여러 부서에 걸친 업무 흐름을 바꾸는 결정은 위에서 내려줘야 한다. 무티아가 에이전틱 AI를 기술 실험이 아니라 운영의 문제로 다뤄야 한다고 말한 것도 같은 맥락이다.
마치며: ‘얼마나 쓰냐’가 아니라 ‘무엇이 바뀌었냐’
AI 도입 초기에는 많이 쓰게 하는 것 자체가 목표일 수 있다. 직원들이 익숙해져야 다음 단계도 가능하니까. 다만 도입 2~3년 차에 접어든 회사라면 질문을 바꿀 때가 됐다. “우리 직원 몇 퍼센트가 AI를 쓰나”가 아니라 “AI 때문에 없어지거나 줄어든 업무 단계가 몇 개인가”로.
지금 우리 회사에 AI 성과를 물었을 때 사용률 말고 다른 숫자로 대답할 수 있는지 한번 따져보자. 대답이 막힌다면, 아마 파일럿의 함정 한가운데에 서 있는 것이다.
참고 자료
- McKinsey & Company, “The state of AI in 2026: On the road to ROI” (2026년 8월)
- UC Today, “McKinsey Interview: Why Most Companies Are Still Stuck in the Pilot Trap” (2026년 4월 8일)
- McKinsey & Company, “The state of AI in 2025: Agents, innovation, and transformation” (2025년 11월)