📰 【光明时评】金融人工智能如何释放潜能又守住底线
_光明网
国家金融监督管理总局印发关于银行业保险业人工智能安全开发应用的指导意见，强调在金融行业人工智能规模化应用背景下，既要释放技术潜能，又要守住安全底线。文章指出金融是信息密集、数据驱动的行业，人工智能在信贷调查、欺诈识别、保险定价、客户服务等方面具有广泛应用，但也存在偏差、可解释性不足、数据投毒等风险，随着应用深入，风险管理、合规审查等环节的重要性提升。为实现发展与安全并进，指导意见提出“谁使用谁负责”的治理原则，将人工智能风险纳入全面风险管理，并对高风险应用设定准入、监测与人工干预等要求，力求把安全能力转化为金融机构治理能力与长期竞争力。人工智能应用需多部门协同，建立覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出的全生命周期管理体系，避免“重上线、轻运营”，在运行中持续监测模型效能、数据漂移与异常行为，必要时调整或退出。数据质量决定模型能力，需加强数据全生命周期管理与高质量数据集建设，提升非结构化数据治理，确保数据可追溯、使用有边界、更新持续。此外，要提升算力自主可控水平，防范对单一供应商的依赖。对低风险应用可提高效率；对资金交易、资产评估、信贷审批、承保理赔等高风险应用，则需更严格的准入、测评与监测，设定模型功能边界，保留人工监督与紧急停用机制，避免机器说了算。金融科技应服务于人，对模型生成内容要标识并解释，对涉及客户权益的关键决策提高透明度与可解释性，关注不同群体的影响，纠正潜在偏见，确保公平、诚信、审慎经营。文本强调以制度筑基、以技术固本、以责任护航，推动创新与安全协同发展，使金融人工智能在安全轨道上稳健前行。
🏷️ #金融AI #风险治理 #数据治理 #算力自主 #透明与可解释
🔗 原文链接
📰 【光明时评】金融人工智能如何释放潜能又守住底线
_光明网
国家金融监督管理总局印发关于银行业保险业人工智能安全开发应用的指导意见，强调在金融行业人工智能规模化应用背景下，既要释放技术潜能，又要守住安全底线。文章指出金融是信息密集、数据驱动的行业，人工智能在信贷调查、欺诈识别、保险定价、客户服务等方面具有广泛应用，但也存在偏差、可解释性不足、数据投毒等风险，随着应用深入，风险管理、合规审查等环节的重要性提升。为实现发展与安全并进，指导意见提出“谁使用谁负责”的治理原则，将人工智能风险纳入全面风险管理，并对高风险应用设定准入、监测与人工干预等要求，力求把安全能力转化为金融机构治理能力与长期竞争力。人工智能应用需多部门协同，建立覆盖需求分析、数据准备、训练开发、部署运行、维护迭代、评估退出的全生命周期管理体系，避免“重上线、轻运营”，在运行中持续监测模型效能、数据漂移与异常行为，必要时调整或退出。数据质量决定模型能力，需加强数据全生命周期管理与高质量数据集建设，提升非结构化数据治理，确保数据可追溯、使用有边界、更新持续。此外，要提升算力自主可控水平，防范对单一供应商的依赖。对低风险应用可提高效率；对资金交易、资产评估、信贷审批、承保理赔等高风险应用，则需更严格的准入、测评与监测，设定模型功能边界，保留人工监督与紧急停用机制，避免机器说了算。金融科技应服务于人，对模型生成内容要标识并解释，对涉及客户权益的关键决策提高透明度与可解释性，关注不同群体的影响，纠正潜在偏见，确保公平、诚信、审慎经营。文本强调以制度筑基、以技术固本、以责任护航，推动创新与安全协同发展，使金融人工智能在安全轨道上稳健前行。
🏷️ #金融AI #风险治理 #数据治理 #算力自主 #透明与可解释
🔗 原文链接
