度小满CTO许冬亮:把大模型能力开放给金融机构
- 作者： 小象 发布时间：2024-01-14 04:45:31
- 摘要
5月26日，度小满正式开源国内首个千亿级中文金融大模型——“轩辕”。轩辕大模型是在1760亿参数的Bloom大模型基础上训练而来，在金融名词理解、金融市场评论、金融数据分析和金融新闻理解等任务上，效果相较于通用大模型大幅提升，表现出明显的金融领域优势。
5月26日，度小满正式开源国内首个千亿级中文金融大模型——“轩辕”。轩辕大模型是在1760亿参数的Bloom大模型基础上训练而来，在金融名词理解、金融市场评论、金融数据分析和金融新闻理解等任务上，效果相较于通用大模型大幅提升，表现出明显的金融领域优势。
度小满CTO许冬亮曾表示，轩辕大模型是经度小满业务场景中积累的金融数据训练而来的，对金融相关问题的理解比通用大模型更有优势。把大模型能力开放给金融机构，有利于推动大模型在金融行业的应用，降低大模型的应用门槛，提升金融行业智能化水平。
金融行业在积极探索大模型的应用，BloombergGPT横空出世，金融行业成为垂类大模型技术落地先锋领域。该大语言模型专门针对各类金融数据进行训练，能够全方位支持金融领域的自然语言处理（NLP）任务，如市场情绪分析、命名实体识别、新闻分类和问题回答等。该模型利用大量彭博社的金融数据源和一个拥有3450亿标签的公共数据集构建一个训练语料库，包含超过7000亿标签。这个训练语料库使BloombergGPT在金融任务上的表现远超其他现有的语言模型，其在通用场景上的表现也比目前的模型更加优越。
熵简科技表示金融机构处于观望态度，关键原因在于数据安全问题。金融数据在国家安全方面也占据重要地位，因此直接使用ChatGPT模型可能并不合适。因此，未来的趋势会偏向于私有化模型部署。
日前，星环科技推出金融大模型“无涯”，以及大数据分析大模型SoLar“求索”。演示中，“无涯”可以“回答”金融量化领域的各类问题，对个股、债券等各类市场事件进行较为全面的复盘和推演；“求索”大模型将作为数据查询和分析的智能助手，为数据工程师、数据科学及业务人员提供服务。
期待度小满的大型语言模型LLM在风险管理上的应用落地，大模型在智能风控上有很大潜力，基于大模型的客户服务将使金融机构在客户服务方面更加个性化、精准和高效，为客户提供更好的体验，提升客户黏性和忠诚度，降低人工成本提高产品服务质量，促进金融交易转化。以生成式大模型为客户打造“永远在线的超级金融顾问”，不断增进对客户的洞察理解，提供更好的服务体验。
7月28日，由中国信息通信研究院组织的“行业大模型高质量发展论坛暨可信AI大模型标准宣贯会”召开。其中，由中国信通院牵头、奇富科技作为主要参编单位、四十多家企业共同编制的国内首个金融行业大模型标准《面向行业的大规模预训练模型技术和应用评估方法第一部分：金融大模型》标准计划将于8月底正式发布。
对于模型的迭代，摸象科技表示，模型迭代需要新数据的加入及渐进式优化，其中数据也非越多越好，数据的来源选择很重要，比如金融的模型，加入太多物理学权重的数据可能会出问题。此外，协调数据处理、筛选将是模型训练中比较重要的工作。
度小满CTO许冬亮表示，我们把大模型能力开放给金融机构，有利于推动大模型在金融行业的应用，降低大模型的应用门槛，提升金融行业智能化水平。
新形势下，中国金融业正在经历数字化转型的深刻变革。作为AI领域的重要部分，大模型在金融及各个行业有着广泛的应用场景。
2007'>2007年成立的摸象科技，在大数据领域持续耕耘，最初采用谷歌开源Bert模型，结合深度学习+领域知识库平台，进一步压缩模型结构、增加并发数，构建了金融行业垂直模型。目前，摸象与高校联合自主研发的垂直金融的语言大模型，模型规模已达7B，可进一步扩展。训练的数据集垂直于零售金融方向，涵盖了金融知识图谱、金融文本、金融对话等多种数据源。
度小满CTO许冬亮表示，“轩辕大模型是经度小满业务场景中积累的金融数据训练而来的，对金融相关问题的理解比通用大模型更有优势。我们把大模型能力开放给金融机构，有利于推动大模型在金融行业的应用，降低大模型的应用门槛，提升金融行业智能化水平。”
