홍보센터

㈜유비씨 M&S 본부 손대식 상무 / son@uvc.co.kr

왜 우리 회사의 AI는 PoC에서 멈추는가

컨퍼런스룸에는 근사한 대시보드가 띄워져 있다. 데이터 사이언티스트는 "예측 정확도 94%"를 자랑스럽게 발표한다. 임원들은 고개를 끄덕이고, 언론에는 "AI 도입 성공 사례"가 실린다. 그리고 6개월 뒤, 그 시스템은 조용히 꺼져 있다. 이것은 예외적 사고가 아니라, 지난 5년간 국내외 제조 현장을 관통한 지배적 패턴이다. 자율제조가 화두인 지금, 우리는 이 실패의 구조를 다시 들여다볼 필요가 있다.

1. "성공한 PoC"라는 이상한 실패

제조업 AI 도입 프로젝트를 몇 번 겪어본 사람이라면 익숙한 장면이 있다. 특정 라인, 특정 설비, 특정 시점의 데이터를 뽑아 몇 달간 튜닝한 모델은 대부분 훌륭한 결과를 내놓는다. 다운타임 30% 감소, 불량률 15% 개선, 예측 정확도 94%. 발표 자료의 숫자는 언제나 매혹적이다.

그러나 그 발표가 끝난 뒤 실제로 벌어지는 일은 대개 이렇다. 다른 공장으로 확산하려는 시도는 예산 심사를 통과하지 못하고, 처음의 데이터 사이언티스트가 이직하면 유지보수가 멈추며, 6개월이 지나면 대시보드는 아무도 보지 않는 화면이 된다. 기술적으로는 성공했으나, 사업적으로는 실패한 프로젝트. 업계는 이를 “파일럿 연옥(Pilot Purgatory)” 혹은 “PoC의 덫”이라 부른다.

숫자는 잔인할 만큼 일관적이다.

HiveMQ의 2026년 산업 AI 조사에 따르면, 제조·에너지·운송 업계 응답자 중 AI를 핵심 운영 프로세스에 내재화한 곳은 단 7%에 불과했다. 나머지 68%는 여전히 PoC, 파일럿, 제한적 배포 단계에 머물러 있다. 미국 CIO 매체가 인용한 또 다른 조사는 더 극적이다. 기업이 시작한 33개의 PoC 중 실제 양산에 도달하는 것은 4개뿐이며, 나머지 88%는 사라진다. 가트너 역시 2025년까지 생성형 AI 프로젝트의 최소 30%가 PoC 이후 중단될 것이라 전망했다.

국내 상황은 더 참담하다. 대한상공회의소가 국내 504개 제조기업을 대상으로 실시한 조사에서 82.3%가 "AI를 경영에 활용하지 않고 있다"고 답했다. 특히 중소기업의 AI 활용도는 4.2%에 그쳐, 대기업(49.2%)의 10분의 1도 되지 않았다. 중소벤처기업부가 발표한 'AI 기반 스마트제조혁신 3.0' 전략은 현재 1% 수준인 중소 제조기업의 AI 도입률을 10%까지 끌어올리겠다는 목표를 담고 있다. 뒤집어 말하면, 지금 이 순간 국내 중소 제조기업 100곳 중 99곳은 AI 도입 이전 단계에 있다는 뜻이다. 그리고 그 나머지 1%조차도, 다수는 파일럿 단계에서 정체돼 있다.

여기서 우리가 물어야 할 진짜 질문은 이것이다. 왜 "성공한 PoC"가 확산에 실패하는가? AI가 부족해서가 아니다. 데이터가 부족해서만도 아니다. 문제는 훨씬 더 구조적이다. 필자는 세 가지 원인을 지목하고 싶다.

2. 첫번째 원인, PoC는 '실험실 조건'에서 만들어졌다

대부분의 PoC는 이렇게 시작된다. A공장 3라인, 특정 설비의 6개월치 데이터를 뽑아 데이터 사이언티스트가 OT 엔지니어와 함께 커스텀 파이프라인을 구축한다. 히스토리안에서 특정 태그를 골라내고, 결측치를 채우고, 특징을 엔지니어링하고, 모델을 튜닝한다. 결과는 훌륭하다.

문제는 이 파이프라인이 이동하지 않는다는 점이다. 두 번째 공장에 같은 사용 사례를 적용하려는 순간 무너진다. PLC 벤더가 다르다. 태그 명명 규칙이 다르다. 히스토리안이 다른 포맷으로 다른 주기에 데이터를 내보낸다. 더 근본적으로는, 현장 관리자만이 'M001'이 '1호기 설비'를 의미한다는 사실을 알고 있고, AI는 이 태그가 무엇인지 알 방법이 없다. 데이터 사이언티스트는 하나의 사이트를 위해 만들었지 이식성을 위해 만들지 않았다.

결과적으로 두 번째 배포 비용은 첫 번째와 거의 같고, 세 번째도 마찬가지다. 경영진 눈에는 선형적 비용에 대응한 선형적 확산만 보인다. 규모의 경제가 없다. 이 시점에서 예산은 끊긴다. HiveMQ 조사에서 응답자의 48%가 "레거시 시스템 통합과 데이터 사일로"를 AI 도입의 최대 장벽으로, 15%가 명시적으로 "파일럿의 양산 스케일업"을 핵심 과제로 꼽은 이유가 여기에 있다.

인프라 착시 - 파일럿의 숨겨진 비용

여기에 인프라 착시가 겹친다. 파일럿은 대개 전담 엔지니어 팀, 프리미엄 하드웨어, 사실상 무제한의 클라우드 리소스를 하나의 응용 프로그램에 집중해 돌린다. 이 방식은 테스트에는 유효하지만, 확산되는 순간 폭발한다.

라텐트 AI(Latent AI)의 CEO 잭스 칸다사미(Jags Kandasamy)는 이 문제를 명료하게 지적한다. "파일럿에서 성공하면 임원들은 확산이 단순한 일이라 가정한다. 그러나 실제로는 자원 집약적 파일럿을 수백 개 사업장으로 복제하는 것이 프로젝트 전체를 죽이는 경제적 악몽임을 뒤늦게 발견한다."

구체적으로 무엇이 폭발하는가. 상시 연결성 요구, 대역폭 소비, 데이터 전송에 들어가는 에너지 비용이다. 연구에 따르면 엣지 기반 AI 처리는 클라우드 의존 솔루션 대비 에너지 소비를 최대 80%까지 절감한다. 반대로 말하면, 파일럿에서 문제 삼지 않았던 클라우드 비용이 100개 라인 배포 시점에는 생산성 개선분 전체를 잠식할 수 있다는 뜻이다. 얇은 마진 위에서 돌아가는 제조 현장에서 이 숨겨진 비용은 곧 프로젝트의 사망 선고가 된다.

파일럿은 "이 모델이 작동하는가"를 증명한다. 그러나 그 증명은 실험실 조건의 증명이다. 우리가 만든 것은 이식 가능한 시스템이 아니라, 작동하는 데모였을 뿐이다.

3. 두번째 원인, ROI를 증명할 '공통 언어'가 없다

"다운타임을 30% 줄였다"는 문장은 강력해 보인다. 그러나 다음 질문을 던지는 순간 무너진다. 무엇의 30%인가? 어떻게 측정했는가? 어떤 기준선(Baseline)과 비교했는가?

현실은 이렇다. A공장은 15분 이상 정지를 '비계획 다운타임'으로 정의하지만, B공장은 5분 기준을 쓴다. C공장은 계획 정비와 비계획 정비를 히스토리안에서 아예 구분하지 않는다. 파일럿 팀이 "A공장에서 연간 1억 8천만 원 절감"이라는 결과를 손에 쥐고 전사 사업 케이스를 만들려고 하는 순간, 재무팀이 받아들이지 않을 가정들이 쌓이기 시작한다.

이 문제를 뒷받침하는 데이터는 명확하다. HiveMQ 조사 응답자의 39%가 "예산과 ROI 불확실성"을 산업 데이터 백본 구축의 핵심 장애물로 지목했다. 대한상공회의소가 인용한 컨설팅 조사에서 국내 CEO의 57%가 "AI 투자 대비 효과에 대한 불확실성"을 호소했다. 요컨대 대부분의 조직은 "파일럿의 가치를 전사 투자 정당화가 가능한 방식으로 입증하지 못한다."

사후 정당화의 함정

더 근본적인 문제는, 대부분의 조직이 파일럿을 시작하기 전에 KPI, 기준선, 측정 방법론에 대한 합의를 하지 않는다는 것이다. 무엇을 성공으로 볼지, 어떤 지표로 측정할지, 어떤 상태와 비교할지를 사전에 확정하지 않는다.

그 결과 성공의 정의는 언제나 사후에 짜맞춰진다. "우리는 이런 지표를 개선했다"는 서술은 이미 얻어낸 결과에서 가장 인상적인 부분을 추출하는 방식으로 만들어진다. 이런 서술은 발표장에서는 훌륭하지만, 재무 검증에는 언제나 취약하다. 전사 배포에 필요한 수십억 원의 CAPEX를 이런 사후 정당화로 승인받는 것은 사실상 불가능하다.

또 하나 짚어야 할 지점은 데이터 품질과 추적성(Traceability)이다. 어떤 값이, 언제, 어디서, 무엇을 의미하며 생성됐는지를 끝까지 추적할 수 있어야 한다. IBM 연구에 따르면 데이터 품질 저하로 미국 경제가 매년 약 3조 1천억 달러의 손실을 입고, 데이터 과학자는 의미 있는 분석 이전에 업무 시간의 약 80%를 데이터 정리에 소비한다. PoC 단계에서는 이 정리 비용을 소수 인력의 헌신으로 덮어버릴 수 있지만, 100개 라인 규모에서는 감당 불가능하다. 추적 불가능한, 정렬되지 않은 데이터 위에 자율제조를 구축하는 것은 불가능하다. 그것은 그저 검증되지 않은 자동화일 뿐이다.

4. 세번째 원인, "누가 이걸 책임지는가?"에 아무도 답하지 못한다

지금까지의 두 원인은 기술 문제처럼 보인다. 그러나 세번째이자 가장 파괴적인 원인은 조직 문제다.

파일럿의 스폰서는 대개 하나다. 혁신팀일 수도, DX 조직일 수도, 진취적인 공장장 개인일 수도 있다. 그러나 양산 배포에는 완전히 다른 조합이 필요하다. OT(설비 통제), IT(인프라·보안), 운영(프로세스 소유), 재무(예산 승인)가 모두 조율되어야 한다. 파일럿 팀이 결과물을 넘기려는 순간, 누구도 받지 않는다.

OT 조직은 "AI는 우리 소관이 아니다"라고 하고, IT는 "우리가 만든 파이프라인이 아니다"라고 한다. 운영팀은 애초에 설계 단계에서 배제되었다. 결과물은 조직의 무주공산에 놓인다. HiveMQ 조사에서 20%가 "리더십 지원 부재"를 핵심 도전으로 꼽았다는 사실은 이 문제의 심각성을 방증한다. 결국 파일럿에서 양산까지의 경로를 소유하고, 사업 케이스를 만들고, 예산을 확보하고, 크로스펑셔널 협업을 강제할 수 있는 리더가 없다.

현장 저항이라는 뇌관

여기에 현장 인력의 저항까지 더해지면 상황은 통제 불가능해진다. 폭스콘이 대규모 AI 도입을 추진했을 때 겪은 강한 내부 저항은 유명한 사례다. 국내 사례도 많다. 하림은 2,600억 원을 투자한 스마트팩토리를 완공했지만, 시장 수급 상황과 맞물려 제대로 가동하지 못한 채 재무적 부담으로 이어졌다는 보도가 이어졌다. 아디다스가 야심차게 추진한 독일·미국의 로봇 공장(Speedfactory)이 몇 년 만에 폐쇄된 것도 결국 뿌리는 같다.

표면적 원인은 시장 변동, 원가 구조, 인력 문제로 다양하지만, 관통하는 진짜 원인은 하나다. 기술 도입이 조직 정렬과 운영 소유권 설계를 앞서 나갔다는 것. 스마트제조 전문가들은 반복적으로 경고해왔지만, 대부분의 조직은 이 경고를 "우리는 다르다"는 낙관으로 무마해왔다.

파일럿에서 양산까지의 여정은 기술 이전이 아니다. 책임의 이전이다. 그리고 아무도 받고 싶어 하지 않는 책임은, 언제나 무주공산에 떨어진다.

5. 그럼, 어떻게 PoC의 덫에서 벗어나는가

비판만 하는 것은 쉽다. 그러나 실무자의 관점에서는 결국 다음 질문이 남는다. 그래서 뭘 어떻게 해야 하는가? HiveMQ 조사에서 파일럿-양산 갭을 넘어선 기업들의 공통 패턴을 살펴보면 하나의 사실이 분명해진다. 이들은 파일럿 팀이 한 일을 복제하는 방식으로 확산에 성공하지 않았다. 처음부터 양산을 전제로 다시 설계했다.

첫번째 원칙, 확산 가능성을 성공 기준에 넣어라

정확도 지표 옆에 반드시 다음 질문이 있어야 한다. "이 파이프라인을 다음 공장에 이식하는 데 얼마의 시간과 비용이 드는가?" 답이 "첫 배포와 비슷하다"라면, 그 PoC는 기술적으로 성공했어도 사업적으로는 실패다.

파일럿-양산 갭을 넘어선 조직들은 첫 파일럿을 시작하기 전에 이식성을 전제로 인프라를 설계했다. 하나의 사용 사례를 위한 커스텀 파이프라인이 아니라, 어떤 사용 사례든 구독할 수 있는 공유 데이터 백본에 투자했다. 명명 규칙, 메타데이터, 데이터 모델을 사전에 표준화해, 두 번째 사이트가 재엔지니어링을 요구하지 않도록 했다. 실제로 MQTT를 프로덕션에 광범위하게 배포한 조직(22%)과 통합 네임스페이스(UNS)를 프로덕션에 운영하는 조직(13%)이 파일럿을 넘어선 그룹에 압도적으로 편중되어 있다는 것은 우연이 아니다. 두 번째 배포 비용이 첫 배포의 일부분이 되는 아키텍처에 먼저 투자한 결과다.

[사진 1] 디지털 트윈 기반의 정렬된 세계. 파일럿이 아니라 확산이 목표라면, 물리 공장과 가상 공장이 같은 의미 체계로 연결되어 있어야 한다. 출처: OCTOPUS Twin

두번째 원칙, "충분히 좋은" 정확도가 "완벽한" 정확도를 이긴다

많은 PoC가 실패하는 이유는 정확도가 낮아서가 아니다. 오히려 정확도를 지나치게 추구하다가 확산 불가능한 인프라에 갇혔기 때문이다. 라텐트 AI의 분석에 따르면, 현대적 최적화 기법을 사용하면 원래 정확도의 95~99%를 유지하면서 하드웨어 비용을 90% 이상 절감할 수 있다. 대부분의 제조 응용에서 이 미세한 정확도 트레이드오프는 "확산에 실패한 완벽한 모델"보다 훨씬 큰 사업 가치를 만든다.

다만 여기에는 제조 산업 특유의 경계 조건이 있다. 제조업에서 1%의 오차는 챗봇의 1%와 전혀 다른 의미를 갖는다. 잘못된 용접 한 번은 라인 전체를 멈출 수 있고, 품질 기준을 벗어난 부품은 리콜로 이어질 수 있다. 그러니 "충분히 좋은" 정확도의 임계선은 사용 사례별로 다르며, 그 판정은 안전 제약과 품질 기준을 사전에 정의해두었을 때만 가능하다. 즉 "정확도를 낮춰도 된다"가 아니라, "정확도의 목표값을 사업적 맥락에서 설계하라"는 뜻이다.

실무적 함의는 명확하다. 총소유비용(TCO)을 파일럿 설계 단계에서 평가하라. 어떤 응용이 진짜로 실시간을 요구하는지, 어떤 응용은 배치 처리가 가능한지 구분하라. 즉각적 의사결정이 필요한 미션 크리티컬 프로세스는 엣지 기반으로, 재고 분석이나 사후 품질 리포팅 같은 비긴급 응용은 클라우드에 남긴다. 이 하이브리드 접근이 비용과 성능의 균형점을 만든다.

세번째 원칙, PoC 시작 전에 양산 소유자를 지정하라

가장 자주 무시되지만, 가장 결정적인 원칙이다. 파일럿이 끝난 뒤 소유자를 찾는 것이 아니라, 처음부터 운영 책임 조직이 파일럿에 참여해야 한다.

KPI와 기준선, 성공 계산 방식을 사이트 전반에서 일관되게 정의한다. 사업 케이스는 사후 재구성이 아니라 사전에 복제 가능하도록 설계된다. 파일럿이 끝날 때가 아니라 시작될 때 이미 양산 소유권이 지정되고, 유지보수 방식과 거버넌스 원칙이 합의된다. 파일럿에서 양산으로의 인계는 인계가 아니라 처음부터 양산 책임을 가진 팀 내부의 상태 전환이 된다.

PoC의 덫 탈출 : 3대 원칙 요약

아래 세 가지를 처음부터 파일럿 설계에 내재화하라.

•      확산 가능성 우선: 첫 배포부터 이식 가능한 인프라(표준 데이터 백본, UNS, 디지털 트윈)에 적용한다.

•      TCO 우선 설계: 정확도 2%를 위해 확산이 불가능해지는 것보다, 정확도 2%를 양보하고 100개 라인 배포가 가능한 쪽을 택한다.

•      사전 소유권 지정: 파일럿 시작 시점에 이미 양산 소유 조직, KPI, 거버넌스가 확정되어 있어야 한다.

6. 마치며 - 문제는 알고리즘이 아니다

지난 5년간 국내외 제조업이 지불한 가장 값비싼 교훈은 이것이다. 산업 AI는 알고리즘이 부족해서 실패하지 않는다. 알고리즘을 떠받치는 데이터 파이프라인, 측정 체계, 조직 소유권이 확산의 무게를 감당하지 못해서 실패한다.

PoC에서 화려한 숫자를 뽑는 기업은 이미 많다. 대기업이든 중소기업이든, 국내든 해외든 마찬가지다. 그러나 진짜 경쟁 우위는 두 번째, 세 번째, 열 번째 배포 비용이 첫 번째보다 극적으로 낮은 기업들에게 돌아간다. 그리고 이 격차는 시간이 갈수록 벌어진다. AI가 차별화 요소에서 기본 조건(table stakes)으로 이동하는 국면에서, 파일럿 연옥에 갇힌 기업은 그저 뒤처지는 것이 아니라 구조적으로 회복 불가능한 위치로 밀려난다.

휴머노이드와 다크팩토리, 자율제조가 산업 담론의 전면에 등장한 지금 이 지점은 더 뾰족해진다. 로봇 한 대가 걷고 물건을 집는 능력은 이제 결정적 과제가 아니다. 수백 대의 로봇이, 수십 종의 설비와 연동되어, 매일 같은 품질로, 사고 없이 돌아가게 만드는 것, 그것이 진짜 문제다. 그리고 그 문제는 더 좋은 모델이나 더 빠른 GPU로는 풀리지 않는다. 공장 전체의 데이터·설비·규칙·이력을 하나의 정렬된 의미 체계(온톨로지)로 연결하는 능력에서 풀린다. PoC 연옥의 뿌리와 자율제조의 뿌리는 같다.

현장 관점에서 - ㈜유비씨(UVC)의 시각

필자가 몸담고 있는 ㈜유비씨(UVC)에서도 이 문제를 오랫동안 붙들어 왔다. 우리가 자율제조 전주기 플랫폼 OCTOPUS를 통해 답하고자 한 질문은 결국 하나였다. "어떻게 하면 두 번째 라인의 배포 비용을 첫 번째의 극히 일부로 만들 수 있는가?" 그 답은 더 정교한 모델이 아니라, 데이터 수집·3D 가상화·시뮬레이션·AI 추론·예지보전을 하나의 정렬된 디지털 트윈 위에 통합하는 것이었다. 추상적 주장에 머물지 않기 위해 두 가지 실제 사례를 짚어두고 싶다. 둘 다 PoC에서 상용 레벨로 넘어간 뒤 후속 프로젝트가 이어지고 있는 대표 사례이며, 앞서 논한 "확산 가능성·TCO·사전 소유권" 세 원칙이 실제 산업 현장에서 어떻게 작동하는지 보여준다.

CASE #1 : 삼성중공업 - 하나의 디지털 트윈에서 조선소 전 공정으로

삼성중공업 프로젝트는 특정 사업장의 디지털 트윈 구축에서 출발해, 이후 인접 공정으로 반복적으로 후속 사업이 이어진 대표 사례다. 여기서 결정적인 대목은, 후속 사업이 첫 구축을 다시 하는 방식이 아니라 기존에 구축된 데이터 연계와 3D 플랫폼(OCTOPUS Edge · Data Hub · Twin · Simulator)을 재사용하면서 진행됐다는 점이다. 새로운 공정이 필요할 때마다 처음부터 다시 만드는 것이 아니라, 기존 플랫폼 위에 대상 공정과 기능을 얹는 방식으로 붙어 나갔다. "이 파이프라인을 다음 공정에 이식하는 데 얼마의 시간과 비용이 드는가"라는 원칙 1의 질문에, 이 프로젝트는 후속 계약의 반복이라는 형태로 답을 내고 있다.

CASE #2 : 삼성SDI - 하나의 플랫폼 위에 단계적으로 쌓인 글로벌 확장

삼성SDI 사례는 확장의 결이 조금 다르다. 해외 사업장의 디지털 트윈 통합 구축으로 시작한 프로젝트가, 동일 사이트의 고도화 단계로 이어지고, 다시 다른 대륙의 생산거점으로 재적용되고 있다. 중요한 것은 이 후속 단계들이 1차 구축물을 폐기하지 않고 동일 OCTOPUS 플랫폼 위에서 기능을 증설하는 구조로 설계됐다는 점이다. 데이터 구조, 설비 인터페이스, 운영 로직이 재사용되면서 후속 구축의 효율성과 안정성이 확보됐다. 나아가 기존 트윈과 데이터 위에서 OCTOPUS Agentic AI 기반의 자율제조 단계로 넘어가는 실증까지 이어지고 있다. 자율 운영으로의 진화로 이어지는 단계적 확장은, 앞서 말한 "처음부터 이식성과 후속 확장을 전제로 설계된 인프라"가 실제로 어떤 사업 성과로 나타나는지 보여준다.

다시 질문으로 돌아가자. 지금 우리가 물어야 할 것은 "AI가 되는가?"가 아니다. 그것은 이미 답이 나온 질문이다. 진짜 질문은 이것이다.

"우리의 PoC는 확산 가능하게 설계되었는가?"

이 질문에 "아니오"라고 답할 수밖에 없다면, 그 파일럿은 아무리 정확도가 높아도 이미 실패의 궤도에 올라 있다. 그리고 시장은, 갈수록 이 질문에 "예"라고 답할 수 있는 기업만 남을 것이다.

참고 출처)

•      HiveMQ, 「2026 Accelerating Industrial AI Survey」 (2026)

•      Gartner, "GenAI Project Failure Analysis" (2024–2025)

•      Manufacturing Dive, "AI pilot problem: Why manufacturing's digital transformation is stalling" - Jags Kandasamy, Latent AI

•      대한상공회의소, 「국내 기업 AI 기술 활용 실태 조사」 (2024)

•      중소벤처기업부, 「AI 기반 스마트제조혁신 3.0 전략」 (2025)

•      더벨, 「하림, 2600억 들인 '스마트 팩토리'의 부작용」

•      ㈜유비씨(UVC) 블로그, 「휴머노이드는 시작일 뿐, 다크팩토리를 완성하는 진짜 열쇠」