企业专属化私有LLM构建支持

在金融行业这一要求信息高度准确的环境中，市面上的通用LLM难以应对相应课题。我们针对企业专用「企业专属化私有LLM（Companized Private LLM）」，从构想到构建提供了全方位支持。为最大限度降低风险，采用了从零构建轻量版模型，或对基础模型进行微调的方法。以「金融通用7B」等模型为基础，让其学习公司独有数据与行业专业知识，构建出能够生成事实性高、回答准确的AI环境。此外，并非止步于系统导入，我们将通过多个企业自有LLM构建项目获得的经验回流并沉淀到客户公司内部，支持员工AI素养的提升，以及基于独有数据推进具有竞争力的差异化应用方式。

【课题】

• 市面上的LLM无法契合公司的特定用途（每次都需要调整，难以满足对准确性要求较高的公司内部使用场景）。
• 希望构建专属LLM但缺乏经验（公司内部精通LLM的人才较少，难以做出推进判断）。
• 难以找到具有强独特性的应用方式（ChatGPT等的使用难以形成各公司独有的差异化）。

【成果】

• 构建了事实性高、面向特定行业及公司专属化的LLM（通过引导公司自有数据与特定行业知识的事实性，确保准确性）。
• 依托多次自有LLM构建经验回馈相关经验（让构建过程本身也能为AI素养提升作出贡献）。
• 基于对构建过程与所用数据的理解，推进差异化应用（独有LLM可以灵活应用于各类业务及用途）。