📰 俄罗斯联邦储蓄银行在打造欧洲最大的基础大语言模型？-移动支付网
俄罗斯储蓄银行通过持续投入生成式AI，成为区域内的领先开发者之一，近期推出旗舰模型GigaChat 3.5 Ultra。该模型在体积比前代缩小近一半的同时，长文本处理速度提升至四倍，核心采用线性注意力自有架构并已开源。负责人费奥多尔·明金指出，模型扩展的边界在于资源的性价比与单位算力的价值产出，因此强调通过高效架构与数据选择实现更大价值，而非盲目追逐参数数量。银行认为自主智能体的发展不仅取决于技术架构，更源自企业流程的再设计、明确的人机职责划分以及对数据资源的管理：人工生成数据仍是核心资源，合成数据在特定场景有助于提高精度和规模，但需避免过度依赖以免导致知识僵化。关于开源与生态，团队表示开源有助于全球社区快速发现问题、推动工具与集成生态的发展，同时通过发布训练检查点实现模型演化的可追溯性。展望未来2-3年，变换器架构将继续主导，但线性/稀疏注意力和扩散式语言模型等新方向将成为重要分叉，银行也在内部探索GFusion等扩散方法以提升长回答速度。此次对话也强调，真正的智能体需要复杂的规划、工具选择、长上下文的注意力，以及对结果可靠性的自我评估，且企业需重新审视工作模式与职责分配。
🏷️ #AI #开源 #线性注意力 #扩散模型 #企业应用
🔗 原文链接
📰 俄罗斯联邦储蓄银行在打造欧洲最大的基础大语言模型？-移动支付网
俄罗斯储蓄银行通过持续投入生成式AI，成为区域内的领先开发者之一，近期推出旗舰模型GigaChat 3.5 Ultra。该模型在体积比前代缩小近一半的同时，长文本处理速度提升至四倍，核心采用线性注意力自有架构并已开源。负责人费奥多尔·明金指出，模型扩展的边界在于资源的性价比与单位算力的价值产出，因此强调通过高效架构与数据选择实现更大价值，而非盲目追逐参数数量。银行认为自主智能体的发展不仅取决于技术架构，更源自企业流程的再设计、明确的人机职责划分以及对数据资源的管理：人工生成数据仍是核心资源，合成数据在特定场景有助于提高精度和规模，但需避免过度依赖以免导致知识僵化。关于开源与生态，团队表示开源有助于全球社区快速发现问题、推动工具与集成生态的发展，同时通过发布训练检查点实现模型演化的可追溯性。展望未来2-3年，变换器架构将继续主导，但线性/稀疏注意力和扩散式语言模型等新方向将成为重要分叉，银行也在内部探索GFusion等扩散方法以提升长回答速度。此次对话也强调，真正的智能体需要复杂的规划、工具选择、长上下文的注意力，以及对结果可靠性的自我评估，且企业需重新审视工作模式与职责分配。
🏷️ #AI #开源 #线性注意力 #扩散模型 #企业应用
🔗 原文链接
