📰 银保业AI应用划红线：信贷审批等被列为高风险场景 - 21经济网
银行业保险业迎来首份以人工智能安全开发应用为主题的专项监管总纲文件《指导意见》，从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等七大方面提出32项指导性意见，意在规范金融机构对人工智能的开发与应用、有效防控潜在风险、推动科技创新与金融业务深度融合。业内人士指出，大模型在银行的应用已从问答、文案向信贷审批、资产评估、风险定价等前台决策延伸，形成“AI大脑”建设热潮，但也伴随模型黑箱、幻觉及自主决策的风险。意见强调四大原则：谁使用谁负责、自主可控、务实高效、安全发展，明确董事会等高层治理机构的治理职责，建立跨职能协同与复合型人才队伍，推动把AI项目纳入统一合规框架，确保与机构风险管理能力匹配。
在执行层面，要求完善模型研发与数据治理、外包管理等基本制度，设立高风险应用准入门槛，建立人工监督与应急停用机制，并对高风险场景的生成式AI使用进行监管报告。高风险应用包括资金交易、资产评估、信贷审批、承保理赔、生成式AI直接影响金融合约的场景等，需经风险管理委员会批准后实施；并对个人信息如姓名、身份证、手机号、银行卡等不得用于训练与优化模型，以提升数据安全与隐私保护水平。业内预测，这将推动数据治理升级、合成数据、差分隐私、联邦学习等替代技术的发展，形成以治理为基础的长期竞争力。
🏷️ #AI安全 #金融监管 #高风险应用 #数据治理 #合规
🔗 原文链接
📰 银保业AI应用划红线：信贷审批等被列为高风险场景 - 21经济网
银行业保险业迎来首份以人工智能安全开发应用为主题的专项监管总纲文件《指导意见》，从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等七大方面提出32项指导性意见，意在规范金融机构对人工智能的开发与应用、有效防控潜在风险、推动科技创新与金融业务深度融合。业内人士指出，大模型在银行的应用已从问答、文案向信贷审批、资产评估、风险定价等前台决策延伸，形成“AI大脑”建设热潮，但也伴随模型黑箱、幻觉及自主决策的风险。意见强调四大原则：谁使用谁负责、自主可控、务实高效、安全发展，明确董事会等高层治理机构的治理职责，建立跨职能协同与复合型人才队伍，推动把AI项目纳入统一合规框架，确保与机构风险管理能力匹配。
在执行层面，要求完善模型研发与数据治理、外包管理等基本制度，设立高风险应用准入门槛，建立人工监督与应急停用机制，并对高风险场景的生成式AI使用进行监管报告。高风险应用包括资金交易、资产评估、信贷审批、承保理赔、生成式AI直接影响金融合约的场景等，需经风险管理委员会批准后实施；并对个人信息如姓名、身份证、手机号、银行卡等不得用于训练与优化模型，以提升数据安全与隐私保护水平。业内预测，这将推动数据治理升级、合成数据、差分隐私、联邦学习等替代技术的发展，形成以治理为基础的长期竞争力。
🏷️ #AI安全 #金融监管 #高风险应用 #数据治理 #合规
🔗 原文链接
