同花顺推出首个金融领域应用大模型问财HithinkGPT

1月3日讯 同花顺问财推出了 HithinkGPT 大模型，采用 transformer 的 decoder-only 架构。提供7B、13B、30B、70B 和130B 五种版本选择，最大允许32k 文本输入，支持 API 接口调用、网页嵌入、共建、私有化部署等能力，并为用户提供一站式标注和评测服务。

该大模型在金融领域有出色的表现，通过了多个金融考试，得分平均达到75.9分。同花顺利用自身过去十几年的数据积累以及市场上公开的金融数据，预训练金融语料达到万亿级 tokens。模型训练采用科学高效的训练体系，包括数据配比实验方案、scaling law 实验体系、模型架构优化、分布式训练框架优化、硬件加速技术等。同时，模型推理上也进行了优化，包括无损自适应选层剪枝、通信及底层算子优化、多数据中心负载均衡等，使得模型推理吞吐速度提高了八倍以上。

问财 HithinkGPT 大模型升级后成为国内金融领域首个应用大模型技术的智能投顾产品。涵盖 A 股、基金、ETF、港股、美股、债券、宏观等15个业务矩阵，包括50余类技能，为用户提供全面精准、稳定可控的投资决策支持。具有全面的实时金融数据、强大的语义理解、专业的投顾建议、生动的表达形式、可控的内容生成等五大特色优势。

业内人士表示，这是国内金融行业首次有产品成功地应用大模型技术，同花顺问财的升级充分展现了HithinkGPT模型在复杂业务场景中的强大应用能力，预计会对行业产生重要影响。