생성형 AI(Generative AI)의 인기는 계속되고 있다. 그러나 ChatGPT와 같은 생성형 AI 서비스를 사용해본 사용자들은, 업무용으로 AI 서비스를 사용하기 위해서는 산업별, 업무별로 더욱 전문화된 AI 서비스가 필요하다는 의견을 내놓고 있다.
더화이트커뮤니케이션(TWC)은 제품이나 서비스에 대한 기업 자체 데이터를 활용하여 범용 LLM(Large Language Model, 거대 언어 모델)을 단독으로 쓰는 것보다 더 정확한 답변을 제공하기 위하여, RAG(Retrieval Augmented Generation, 검색 증강 생성) 기술을 활용하였다. 이를 통해 이미 학습된 생성형 AI 모델의 한계를 기업 자체 데이터베이스로 메꾸고, 관련성이 높은 데이터를 증강하여 LLM 단독 사용 시보다 더 정확한 답변을 제공할 수 있게 되었다. 즉, LLM 기술에 조직 내 분산된 정형·비정형 데이터 학습을 추가하여, 업무 시간 절감 및 업무 효율성 강화에 직접적으로 도움이 되는 정보를 제공해주는 업무용 TWC헬프봇 개발을 완료했다.
