기업용 AI: 중소규모 팀을 위한 실무 안내서

소규모 기업에서 업무용 AI는 실제로 무엇을 의미합니까?

직원 수가 5~200명인 회사에서 업무용 AI는 대부분 초안 작성, 요약, 재작성, 정보 추출, 설명 같은 언어 작업을 수행하는 생성형 도우미를 뜻합니다. 모델을 직접 만들거나 데이터 과학팀을 채용하는 경우는 드뭅니다. 도구 자체는 보통 오늘 오후에도 구독할 수 있습니다. 시간이 걸리는 것은 그 도구를 어떻게 사용할지 결정하는 일입니다.

발표된 연구에서도 이러한 양상이 나타납니다. 영국 정부의 AI 도입 연구는 2025년 2월부터 5월까지 실시한 기업 인터뷰 3,500건을 바탕으로 합니다. 이미 AI를 사용하는 기업 중 85%가 자연어 처리와 텍스트 생성을 사용한다고 답했으며, 이는 다른 유형보다 훨씬 높은 비율입니다. 같은 조사에서 영국 기업 약 여섯 곳 중 한 곳(16%)이 적어도 하나의 AI 기술을 사용하고 있는 것으로 나타났습니다. 두 수치 모두 기술 담당자의 자기 보고에 따른 것이므로, 해당 업종에 적용되는 법칙이 아니라 특정 시점의 현황으로 보아야 합니다.

실무적으로 보면 업무용 AI는 주로 사람과 절차의 문제입니다. 누가 어떤 도구를 사용할 수 있는지, 어떤 작업에 사용하는지, 어떤 정보를 사용하는지, 고객에게 전달되기 전에 누가 결과를 확인하는지가 중요합니다. 이 네 가지 질문에 명확히 답하는 회사는 비싼 도구를 사 놓고 각자 알아서 사용하게 하는 회사보다 기본적인 AI 비서에서도 더 많은 가치를 얻을 수 있습니다.

비즈니스에 유용한 AI는 무엇입니까?

처음 사용할 도구로는 대개 팀이 이미 쓰는 소프트웨어와 잘 맞는 범용 도우미가 적합하며, 데이터 관련 약관을 확인한 기업용 요금제로 이용하는 것이 좋습니다. Microsoft 365를 쓰는 회사는 보통 Copilot을 먼저 검토하고, Google Workspace를 쓰는 회사는 보통 Gemini를 검토합니다. 여러 도구를 함께 쓰거나 긴 글 작성과 분석을 많이 하는 팀은 ChatGPT와 Claude의 기업용 요금제를 비교하는 경우가 많습니다. 모든 팀에 정답이 되는 도구는 없으며, 요금제의 기능은 자주 바뀌므로 순위 기사보다 공급업체의 최신 요금제 페이지를 확인해야 합니다.

기능 목록보다 데이터 관련 약관을 먼저 살펴봅니다. 비즈니스 및 기업용 요금제는 일반적으로 무료 개인용 계정과 데이터 처리 방식이 다릅니다. 예를 들어 Anthropic의 개인정보 보호 센터는 고객이 피드백을 제공하거나 달리 허용하지 않는 한, Claude for Work 및 API와 같은 상용 제품의 입력이나 출력으로 모델을 학습시키지 않는 것을 기본 원칙으로 명시합니다. 어떤 도구를 선택하든 해당 내용을 설명하는 페이지를 확인하고, 실제로 구매할 요금제에 적용되는지 확인합니다.

전문 도구는 나중에 도입합니다. 음성 전사 도구, 고객 지원 시스템에 내장된 AI 기능, 이미지 생성기는 특정 팀에 유용할 수 있지만, 도구가 하나 늘 때마다 회사 정보가 전달되는 곳과 읽어야 할 약관도 늘어납니다. 범용 도우미 하나로 시작해 팀이 결과물을 어떻게 검토하는지 파악한 다음, 구체적인 업무상 필요가 있을 때 전문 도구를 추가합니다. 업무용 AI 도구 선택 가이드에서 승인 전에 확인할 사항을 더 자세히 다룹니다.

기업에 AI를 단계별로 어떻게 도입합니까?

다른 새로운 업무 방식을 도입할 때와 같은 방식으로 AI를 도입하십시오. 담당자 한 명, 짧은 승인 업무 목록, 문서화된 제한 사항, 검토 단계, 계속 사용할지 결정할 날짜를 정합니다. 아래 단계는 정보기술 전담 부서가 없는 회사에 적합하며, 몇 달이 아니라 몇 주면 진행할 수 있습니다.

실제 팀에서는 어떻게 진행됩니까?

가상의 회사인 브라이트워터 인테리어스를 예로 듭니다. 온라인으로 가구를 판매하는 22인 회사로, 소규모 고객 서비스팀과 마케팅 담당자 두 명, 운영 책임자가 있습니다. 운영 책임자가 AI 도입 담당을 맡아 기업용 요금제의 AI 도우미 하나를 선택하고, 첫 과제 두 가지를 승인합니다. 공급업체 사양서를 바탕으로 상품 설명 초안을 작성하는 것과 주문 메모를 바탕으로 배송 문의 답변 초안을 작성하는 것입니다. 고객 이름과 주소는 도구에 입력하지 않으며, 담당자는 주문 상태와 질문만 붙여 넣습니다.

마케팅 담당자의 첫 프롬프트는 '참나무 식탁의 제품 설명을 작성해 주세요'입니다. 결과물은 유창하지만 학습에 도움이 될 만한 오류가 있습니다. 사양서에는 가공 목재 판재 위에 참나무 무늬목을 입혔다고 되어 있는데 '참나무 원목'이라고 설명하고, 사양서의 정원은 여섯 명인데 '여덟 명이 편안하게 앉을 수 있다'고 주장하며, 브라이트워터에서 제공하지 않는 '다음 날 무료 배송'을 약속합니다.

검토를 거친 프롬프트에는 제품 사양서 본문, 브랜드의 어조 지침, 그리고 세 가지 규칙이 포함됩니다. 사양서에 있는 사실만 사용하고, 빠진 세부 사항은 추측하지 말고 표시하며, 배송 조건은 절대 언급하지 않는다는 규칙입니다. 새 초안에는 '참나무 무늬목', '6인용'이라고 쓰여 있으며, 마지막에는 '사양서에 테이블 무게가 나와 있지 않습니다. 게시 전에 확인해 주십시오.'라는 메모가 붙습니다. 마케터는 사실을 담은 모든 표현을 사양서와 대조한 뒤 게시합니다. 실제로 시간이 절약되지만 그 폭은 크지 않습니다. 더 큰 성과는 팀에 반복해서 쓸 수 있는 프롬프트와 고객 불만으로 이어질 만한 오류를 잡아내는 점검 절차가 생겼다는 점입니다.

브라이트워터가 의도적으로 하지 않은 일은 AI 도우미가 고객에게 직접 답변을 보내도록 허용하는 것, 내보낸 주문 데이터 전체를 AI 도우미에 붙여넣는 것, 두 가지 작업을 검토하기 전에 전사 도입을 발표하는 것이었습니다. 이러한 결정은 검토 습관이 자리 잡은 뒤에 내려도 됩니다.

소규모 기업의 AI 전략에는 무엇이 포함되어야 합니까?

소규모 기업의 AI 전략은 한 페이지에 담을 수 있습니다. AI를 사용하는 이유, 승인된 도구, 포함하거나 제외할 업무, 입력하면 안 되는 정보, 검토 대상별 담당자, 학습 방법, 효과 판단 기준을 정하면 됩니다. 이보다 길다면 대개 아직 결정이 내려지지 않았다는 신호입니다.

이는 위험 관리 체계에서 설명하는 내용을 작게 적용한 것입니다. NIST가 자발적 사용을 목적으로 한다고 설명하는 NIST의 AI 위험 관리 프레임워크는 지침을 거버넌스, 맥락 파악, 측정, 관리로 구분합니다. 거버넌스 지침에서는 역할과 책임의 문서화, 구성원이 조직 정책에 따라 업무를 수행할 수 있도록 하는 교육, 우려 사항을 상위 책임자에게 전달할 수 있는 명확한 경로를 요구합니다. 20명 규모의 회사에 전체 프레임워크가 필요한 것은 아니지만, 같은 4가지 습관은 적용됩니다. 책임자가 누구인지 파악하고, 어떤 도구를 사용하는지 파악하고, 실제 업무에 맞게 직원을 교육하고, 문제를 쉽게 제기할 수 있도록 하는 것입니다.

주요 위험은 무엇이며, 결과물은 누가 검토합니까?

일상적인 위험은 확신에 찬 오류, 부적절한 도구에 민감한 정보가 입력되는 일, 문장이 매끄럽다는 이유로 결과물을 신뢰하는 일입니다. NIST의 생성형 AI 위험 프로필은 생성형 AI에 특유한 위험 중 하나로 환각을 들며, 이를 잘못되거나 거짓인 내용을 확신에 차서 생성하는 것으로 정의합니다. 또한 자동화된 시스템을 지나치게 신뢰하는 자동화 편향을 설명하고, 이것이 다른 위험을 더 키울 수 있다고 지적합니다. 쉽게 말하면, 도구는 때때로 틀리고 사람들은 그 말을 믿는 경향이 있습니다.

영국 지침도 같은 방향을 제시합니다. NCSC는 공개 대규모 언어 모델에 보내는 질문에 민감한 정보를 포함하지 말 것을 권고합니다. Acas는 고용주에게 출력물의 정확성, 어조, 편향을 확인해야 하며, 기존 개인정보 보호 정책이 AI 사용에도 적용되고, 최상의 출력물을 얻으려면 직원 교육이 필요할 수 있다고 안내합니다. 개인정보가 관련된 경우, ICO의 AI 및 개인정보 보호 지침은 책임성, 적법한 처리 근거, 개인정보 보호 영향평가를 다룹니다. 이 가이드는 일반 정보이며 법률 자문이 아닙니다. 각자의 상황에 맞는 자문을 받으시기 바랍니다.

해결책은 평범하지만 효과적입니다. 승인된 모든 업무에는 검토 담당자가 지정되어 있고, 검토자는 무엇을 확인해야 하는지 알고 있어야 합니다. 출처와 사실의 일치 여부, 수치의 재계산, 회사가 지킬 수 없는 약속, 대상 독자에게 적절한 어조가 여기에 해당합니다. 중요한 결과를 초래할 수 있는 내용은 해당 주제를 이해하는 사람이 최종 승인합니다. AI 결과물의 사실 확인에 관한 가이드는 이를 반복해서 연습할 수 있는 절차로 정리합니다.

사람들이 AI 도입 후 사용을 중단하는 이유는 무엇입니까?

직원들은 자신의 어떤 업무에 AI가 도움이 되는지 알 수 없거나, 어떤 정보를 붙여 넣어도 되는지 확신이 없거나, 초기에 받은 좋지 않은 결과 때문에 검토할 가치가 없다고 판단하면 사용을 중단합니다. 사용자 라이선스를 구매하는 것만으로는 어느 문제도 해결되지 않습니다. DSIT 조사에서 이미 AI를 사용하는 기업들은 평균적으로 직원의 30%가 AI를 사용한다고 답했으며, 77%는 사용 직원이 전체의 절반 미만이라고 답했습니다. 같은 조사에서 AI를 전혀 도입하지 않은 이유로 가장 많이 언급된 것은 필요성을 찾지 못했다는 점과 AI 역량 및 전문성 부족이었습니다.

해결 방법은 구체적입니다. 직무마다 승인된 작업 두세 가지와 예시 프롬프트, 검토 체크리스트를 제공하고, 준수해야 할 범위는 기억할 수 있을 만큼 짧게 정리하며, 첫 시도가 잘못되어도 손해 없이 연습할 수 있는 안전한 환경을 마련해야 합니다. AI 도입 가이드에서는 도입 후 활용이 저조한 문제를 자세히 다루며, 관리자가 첫 달에 할 수 있는 일도 안내합니다.

회사에서 AI가 효과를 내고 있는지 어떻게 확인합니까?

AI 전반이 아니라 구체적으로 정한 몇 가지 업무를 측정합니다. 도입 전에는 업무에 대략 얼마나 걸리는지, 검토자가 얼마나 자주 수정을 요청하는지 기록합니다. 4~6주 후 같은 업무를 살펴봅니다. 첫 초안이 바로 사용할 수 있는 수준에 더 가까워졌는지, 검토자의 수정 범위가 줄었는지, 고객에게 전달되기 전에 오류를 잡아내는지 확인합니다. 이런 관찰이 로그인 횟수보다 더 유용합니다.

본인의 평가를 포함해, 스스로 보고한 개선 효과는 신중하게 받아들여야 합니다. DSIT 설문에서 AI를 사용하는 기업의 56%는 직원 생산성이 높아졌다고 답한 반면, 77%는 아직 매출에 변화가 없다고 답했습니다. 보고서 자체에서도 이 수치가 응답자의 자체 추정치임을 밝히고 있습니다. 사내에서는 실제 업무와 밀접한 근거를 확보해야 합니다. 도입 전후의 작업물 몇 개, 검토자의 메모, 해당 업무를 수행하는 사람들과의 짧은 대화가 그 예입니다.

AI가 비즈니스 문제의 적절한 해결책이 아닌 경우는 언제입니까?

기본 업무 절차가 불명확하거나, 결과물을 검증할 사람이 없거나, 사람에 관한 결정을 내리는 업무라면 AI부터 도입하는 것은 잘못된 접근입니다. 견적 작성 절차가 일관되지 않으면 AI 도우미는 일관성 없는 견적을 더 빠르게 만들어낼 뿐입니다. 회사 안에 세금 관련 설명이 맞는지 판단할 사람이 없다면, 도구에 그 설명을 작성하게 해서는 안 됩니다. 채용, 승진, 징계 또는 서비스 제공 거부 대상을 결정하는 업무라면, 범용 AI 도우미와 간단한 검토만으로 처리하기보다 훨씬 신중하게 접근해야 합니다.

업무량이 아주 적을 때도 적절한 선택이 아닙니다. 한 달에 공급업체 이메일 한 통을 쓰는 일로는 새 도구, 정책, 교육을 도입할 이유가 충분하지 않습니다. 자신에게 없는 전문성을 대신해 주지도 않습니다. AI는 전문성을 갖춘 사람이 더 빠르게 일하도록 도울 수 있지만, 전문성이 없는 사람의 결과물을 안심하고 신뢰할 수 있게 만들지는 못합니다. 특정 활용 방식을 도입하지 않기로 하는 것도 충분히 타당한 검토 결과입니다.

교육은 어떤 역할을 하며, Tosheo.ai는 어디에서 활용됩니까?

도구가 쉬워 보이기 때문에 대부분의 소규모 기업이 건너뛰는 단계가 교육입니다. 부족한 부분은 어떤 버튼을 눌러야 하는지가 아닌 경우가 많습니다. 어떤 맥락을 제공하고, 어떤 정보를 제외하며, 특정 업무에 맞춰 결과를 어떻게 확인해야 하는지가 문제입니다. 이는 일반 강의를 시청하기보다 실제 과제를 수행하고 피드백을 받으며 연습할 때 가장 쉽게 배울 수 있습니다.

Tosheo.ai는 5~200명 규모의 팀에서 바로 이 일을 수행하도록 기획하고 있습니다. 출시 시에는 관리자가 직무와 팀에서 사용하는 AI 도구를 선택하도록 할 계획입니다. 각 직원은 짧은 진단 평가 후 10~15분짜리 수업을 진행하며, 각 수업은 실제 AI 도구를 사용하는 실습 과제로 마무리하고 공개된 채점 기준에 따라 평가합니다. 관리자는 역량의 향상 정도와 수료 현황을 확인하도록 할 계획이며, 원본 대화 기록은 볼 수 없습니다. 제품 개발 전 단계이므로 제시할 고객 성과는 없습니다. 예정 가격은 요금 안내 페이지에 있으며, 정책이나 첫 과제 목록만 필요하다면 이 사이트의 무료 가이드로 충분할 수 있습니다.

출처와 범위

DSIT, AI 도입 연구 보고서(조사 기간 February to May 2025), January 2026 발행 ↗

GOV.UK, AI 도입 연구 발간물 페이지, February 2026 개정 ↗

NIST, AI 위험 관리 프레임워크 개요, January 2023 ↗

NIST, AI RMF 실행 지침: 거버넌스 ↗

NIST, AI 600-1 생성형 AI 프로필, July 2024 ↗

NCSC, ChatGPT와 대규모 언어 모델: 어떤 위험이 있는가?, 14 March 2023 ↗

Acas, 고용주 3분의 1이 AI가 생산성을 높일 것으로 생각합니다, 15 May 2025 ↗

ICO, AI 및 데이터 보호 지침, 15 March 2023 작성 ↗

Anthropic 개인정보 보호 센터, 내 데이터가 모델 학습에 사용되나요? (상용 제품), 확인일 16 October 2026 ↗