[칼럼] '엑셀'로 회귀하는 소상공인 AI... 진짜 문제는 기술이 아닌 '기준'이다

사회부 0 59 2일전

Screenshot 2026-02-23 074710.png

강만수 경제부칼럼위원/경영학박사

"AI를 도입했더니 데이터 정제하느라 밤을 새우고, 결국 내가 직접 엑셀 치는 게 빠르다며 예전으로 돌아갑니다."

최근 AI 솔루션을 도입한 소상공인과 중소기업 현장에서 심심치 않게 들리는 하소연이다. 바야흐로 사용자의 지시를 받아 스스로 도구를 활용하고 작업을 수행하는 '에이전트 AI' 시대가 열렸다. 이는 막대한 자본을 쥔 빅테크만의 전유물이 아니다. 한두 명의 직원이 마케팅, 재무, 고객 응대를 모두 감당해야 하는 소상공인에게 AI는 인력난을 해소할 생존의 동아줄로 자리 잡고 있다.

실제로 신상품 설명을 3분 만에 뚝딱 써내고, 심야 고객 리뷰에 알아서 브랜드 톤에 맞춰 답글을 다는 자동화 덕분에 사장님들은 하루 평균 1.5시간에서 3시간의 추가 업무 시간을 확보하고 있다.

하지만 현실의 이면은 녹록지 않다. 야심 차게 AI를 도입했다가 다시 수작업으로 돌아가는 '회귀 본능'을 겪는 기업이 태반이다. 전사적인 AI 전환을 성공적으로 완료한 기업이 불과 5%에 그친다는 조사 결과는 이 과정이 얼마나 험난한지 보여준다. 도대체 무엇이 문제일까?

가장 치명적인 패착은 '문서의 비정형성'에 있다. AI는 파편화되고 중구난방으로 작성된 서류 앞에서는 길을 잃는다. 텍스트가 '수량'인지 '단가'인지 명확하게 파악할 수 있는 데이터 표준화가 선행되지 않으면, AI는 환각에 기반한 오답을 내놓게 되고 결국 사람이 이를 육안으로 검수해 다시 타이핑해야 한다. 진정한 자동화의 목표는 AI가 그럴싸한 글을 쓰는 것이 아니라, 직원의 손이 키보드에 닿을 필요가 없는 '논타이핑(Non-typing)' 워크플로우를 구축하는 것이다.

뜻밖의 복병도 있다. 바로 AI에 가장 친숙할 것 같은 'Z세대' 실무진의 심리적 저항이다. 한 데이터에 따르면 Z세대 직원의 약 44%가 일자리 상실에 대한 공포감 때문에 직장 내 AI 도입을 의도적으로 방해하거나 소극적인 태도로 지연시키고 있다. 소규모 사업장일수록 단 한 명의 실무적 저항만으로도 디지털 전환 전체가 표류할 수 있다.

그렇다면 한정된 자원의 소상공인은 이 거대한 기술의 파도를 어떻게 영리하게 타야 할까? 다음 네 가지 실천 전략에 주목해야 한다.

첫째, 비용 효율을 극대화하는 '모델 믹스(Model Mix)' 전략이다. 영수증 텍스트 추출이나 정형화된 예약 확인 같은 단순 반복 업무에는 저렴한 소형 모델(Haiku 등)을 쓰고, 복잡한 맥락이 필요한 고객 클레임 응대나 경영 분석에는 고성능 선도 모델을 교차 배치해야 클라우드 비용의 눈덩이 현상을 막을 수 있다.

둘째, 로컬 프라이빗 AI로 고객 데이터 관할권을 사수하라. 외부 서비스로 고객의 민감 정보나 매장 기밀을 넘기는 것이 우려된다면, 'Ollama(올라마)' 같은 오픈소스 프레임워크가 훌륭한 대안이다. 16GB 램이 탑재된 일반 업무용 PC만 있어도 인터넷 연결이나 추가 과금 없이 사내망에서 완벽하게 독립적인 AI 챗봇을 구동할 수 있다.

셋째, '하네스 엔지니어링(Harness Engineering)'으로 통제력을 확보하라. 야생마 같은 AI의 힘을 제대로 쓰려면 고삐(하네스)가 필요하다. AI가 무단으로 민감 데이터를 수정하거나 잘못된 이메일을 발송하지 않도록 엄격한 권한 가드레일을 치고, 결제나 계약 변경 등 비가역적이고 책임이 무거운 업무에는 반드시 인간 작업자의 최종 승인(Human-in-the-loop)을 거치도록 설계해야 한다.

넷째, 역대 최대 규모인 2026년 정부 지원금을 선점하라. 정부와 지자체는 2026년 소상공인 지원 예산을 역대 최대인 5.4조 원 규모로 편성했다. 중소벤처기업부의 '혁신 소상공인 AI 활용지원 사업'을 통해 최대 4,000만 원의 사업화 자금을 지원받거나, 서울시의 'AI·빅데이터 기반 청년 인재 매칭 프로젝트'를 통해 전담 컨설팅을 무료로 받아 초기 인프라 구축의 금전적 허들을 넘어야 한다.

소상공인의 AI 도입은 단순히 유행하는 소프트웨어 구독 계정을 하나 파는 IT 프로젝트가 아니다. 구성원의 불안을 잠재우고, 사내 데이터 구조를 재편하며, 명확한 운영 기준을 확립하는 뼈를 깎는 '조직 변화 관리'의 여정이다. 맹목적인 기술 도입 이전에 우리 가게의 '기준'부터 점검해야 할 때다.