생성형 AI를 기반한 서비스 구현 사례

【초거대 AI를 활용한 고객 대응 지원 서비스】
와이즈넛은 본 사업을 통해 지자체 콜센터 상담원의 인터뷰와 관찰 연구를 통해 현재의 업무 프로세스와 페인 포인트(Pain Point)를 바탕으로 개선점을 도출하고, 업무 효율성을 높이는 목표 형상을 기획했다. 그림 10과 같이 2,000여 개의 상담 매뉴얼을 자사의 AI 검색 엔진을 통해 사전에 색인하고, 이를 기반으로 상담 대응 시 검색 화면을 통해 원하는 정보를 확인하고 대응함으로써 상담 업무에 효율성을 높였다.

이와 같이 RAG와 생성형 AI를 연계하면 사용자 질의에 대해(내부 문서를 근거로) 자연스러운 답변이 생성되며, 답변에 대한 출처를 우측에서 확인이 가능하여 신뢰성 높은 답변을 제공할 수 있다. 이런 서비스는 고객이 직접 Self-Service로 활용하거나, 내부 상담사를 지원하는 KMS 대용의 AI Assistant로 활용이 가능하다.

생성형 AI는 MS, Google, Naver 등에서 제공하는 API 서비스를 활용할 수 있고, 소규모 생성형 AI 모델을 활용할 수 있다. 이는 기업과 기관의 경제성과 보안 규정에 따라 의사결정할 수 있다. 생성형 AI를 구동하기 위해서 고가의 GPU을 구매하여 활용해야 함을 감안한다면 우선 소규모 모델을 활용하여 내부 설치형으로 활용하는 것도 보안성과 경제성을 고려했을 때 대안이 될 수 있다.

제조업 분야의 주요 이슈

제조 분야는 숙련공이 감소되고 있다. 공급자 우위의 고용 시장이 변화되면서 청년층이 이탈하고 전문 인력이 고령화되고 있으며, 이로 인해 대체 인력으로 외국인 인력 비중이 증가되고 있는 추세이다. 이로 인해 숙련공들의 노하우가 그대로 사장되는 이슈가 제조 전 분야에 걸쳐 발생하는 이슈가 되었다. 또 중대처벌법이 50인 미만 사업장에 확대 적용되며, 경영 책임자의 안전 및 보건 확보에 대한 의미가 강화되고 있다.

이러한 배경 하에 제조 분야의 디지털 전환(DX : Digital Transformation)이 가속화되고 있으며, 지식 활용의 전환을 통한 새로운 가치 창출을 시도하고 있으나, 제조 분야 디지털 전환 수준은 매우 낮은 상황이다. 제조업은 디지털 전환을 통해 ‘규모의 경제 생산 방식’에서 ‘디지털/스마트 혁신’으로 방향을 전환하며 계속적으로 디지털 전환을 시도하고 있다.

이제 상술한 LLM의 제조 분야 활용 방안을 고민하면서, DX를 넘어 AX(AI Transformation)으로 혁신 영역을 확대해 나가고 있다. 2023년 LLM 시장이 본격화되면서, 올해부터는 경량화되고 성능이 향성된 sLLM을 기반한 활용성에 초점을 맞췄다. 정부 역시 이러한 트렌드에 부응하여(R&D 지원을 통해) LLM의 제조 분야 활용 사례를 발굴하고 실증을 시도하고 있으며, LLM 활용 및 제조 데이터 축적에 대한 지원을 진행하고 있다.

제조업 분야의
AI 시장 규모 및 이슈

제조 분야에서 AI 시장은 연평균 45.6%로 규모가 커지고 있으며, 특히 자동차, 에너지 및 전력, 제약, 금속 및 중기계 분야를 중심으로 AI 시장이 확대될 것으로 보인다.
그러나 AI 도입을 하는데 있어 가장 큰 어려움은 데이터 부족과 데이터 품질 문제다.

제조 및 산업 분야의 데이터는 그림 12와 같이 일반 데이터와 달리 사내에 있으며, 기업의 기밀정보가 포함되어 있고, 일반 상식보다는 전문 지식 중심으로 되어 있으며, 기업의 경영 환경에 따라 계속 변화되는 특성이 있다.
현장 고숙련자의 지식 노하우가 소멸되는 우려와 함께 제조 분야 데이터를 자산화하는 부분은 가장 중요한 요소이다. 이에 한국산업지능화협회는 직무분석을 통해 현장 내 직무 표준을 마련하고, 숙련공 인튜뷰를 통한 현장의 암묵지를 분석하고, 암묵지의 형식지화를 통한 자산화가 가능한 방법론을 전파하고 있다. 그림 14(포스코의 산업 현장 데이터 기반 디지털 전환 사례)는 이러한 방법론을 구현한 디지털 전환 사례가 있다.

휴먼 노하우 데이터를 데이터화하는 방법론으로는 STAR 방법론이 있다.
상기의 예시처럼, 고장 상황에서 조치 방법에 대한 방법은 다양한 지식이 복잡적으로 연계되어야 하며, 업무는 연속된 조치 과정을 통해 완결되는 특성이 있다.

제조업 현장의 데이터는
멀티모달(Multi-Modal)

제조업 현장은 멀티모달의 데이터 이해가 필수이다. 즉 텍스트, 이미지, 영상 등 이종 데이터 간의 관계성을 통합적으로 처리하고 이해되어야 한다. 인공지능 서비스 관점에서 데이터는 단순하게 로그 데이터 축적이 중요한 것이 아닌 어떤 Task가 주어졌을 경우 주변의 다양한 환경을 감안하여 조치를 위한 답변 또는 Action이 출력되어야 한다.

생성형 AI 역시 멀티모달 형태를 지원해야 한다. 그러나 실제 제조업 현장에서 암묵지의 데이터를 기반으로 LLM을 학습시킬 수 있는 양질의 노하우 데이터가 많지 않기 때문에 LLM의 파인튜닝을 우선으로 하기보다 멀티모달 기반의 RAG를 활용하면서 데이터를 늘려가는 것이 효과적이다.

그래서 고숙련자의 압묵지를 STAR 방법론을 기반으로 디지털화하고, 이를 멀티모달 RAG를 연동하여 활용하는 방법이 제조 분야에 적용되고 있으며, 실증까지 진행할 계획이다.

제조 분야 특화된 멀티모달 RAG는 그림 18과 같은 모듈로 구성되며, 현장 지식 데이터를 기반으로 공정 지식을 Embedding한 멀티모달 Vector DB를 기반으로 추론과 유사 정보를 검색하고, 이를 기반으로 프롬프트 엔지니어링을 통해 공정 특화된 리포팅 및 가이던스를 진행한다.

이렇게 RAG 기반 생성형 AI를 활용하면, 기업 내부의 데이터 유출 없이 내부 데이터에 근거하여 정확한 문장 생성이 가능하며, 사용 영역을 확대하면 제조업의 공급망 관리에서부터 제품 판매에 이르는 전체 밸류체인 단계에서 활용이 가능하다.

kris.kim@wisenut.co.kr