컴퍼나이즈드 프라이빗 LLM 구축 지원

금융 업계 특유의 정보 정확성이 요구되는 환경에서, 범용 LLM으로는 대응할 수 없는 과제에 대해 기업 전용 「컴퍼나이즈드 프라이빗 LLM」의 구상부터 구축까지 포괄적으로 지원했습니다. 리스크를 최소화하기 위해 경량형 모델을 제로부터 구축하거나, 베이스 모델을 파인튜닝하는 방식을 채택했습니다. 「금융 범용 7B」 등의 모델을 기반으로 자사의 독자 데이터와 업계 전문 지식을 학습시킴으로써, 사실성이 높고 정확한 답변을 생성할 수 있는 AI 환경을 정비했습니다. 또한 단순한 시스템 도입에 그치지 않고, 복수의 자사 LLM 구축 프로젝트를 통해 얻은 노하우를 클라이언트 사내에 환류·정착시켜, 직원의 AI 리터러시 향상과 독자 데이터에 기반한 경쟁력 있는 활용법 추진까지 지원하고 있습니다.

【과제】

• 세상에 나와 있는 LLM은 자사의 특정 용도에 부합하지 않았습니다(매번 조정이 필요하며, 정확성을 요하는 자사 용도에 적합하지 않았습니다).
• 전용 LLM을 구축하고자 했으나 노하우가 없었습니다(사내에 LLM에 정통한 인재가 적어 추진 판단이 어려웠습니다).
• 독자성이 강한 활용 방법을 찾기 어려웠습니다(ChatGPT 등의 활용은 개별 회사 고유의 차별화로 이어지기 어렵습니다).

【성과】

• 사실성이 높고 특정 업계 및 자사에 특화된 LLM을 구축했습니다(자사 데이터 및 특정 업계 지식의 사실성을 유도하여 정확성을 담보했습니다).
• 복수의 자사 LLM 구축 경험을 바탕으로 노하우를 환원했습니다(구축 과정까지 포함하여 리터러시 향상에 기여하도록 했습니다).
• 구축 과정과 활용 데이터에 대한 이해를 바탕으로 독자 용도화를 추진했습니다(독자 LLM이라면 다양한 사업 활용과 용도화가 자유롭게 가능합니다).