12月22日,中国证监会原主席肖钢在“中国财富管理50人论坛2024年会”上围绕“加强金融AI算法和模型的治理”主题分享了自己的观点。他认为智能金融的本质还是金融。
“尽管智能金融通过技术创新颠覆了传统金融模式,增加了新的业态,但其服务于实体经济、促进科技创新及提升人民生活水平的宗旨未变。”肖钢表示,智能金融利用人工智能技术,提高了金融机构识别、预警和控制风险的能力,但并未消除金融风险本身,因此仍需遵循金融的基本规律。
作为人工智能重要的组成部分,算法与模型紧密相连。然而,市场对算法是否中性存在争议。在肖钢看来,算法并非中性的原因在于其背后往往蕴含着预设的价值立场,且依赖的数据具有局限性,算法多样性与结果非中立性,应用结果也受不透明性和不确定性影响。因此,其在金融领域的应用需谨慎对待。
当下,算法模型在金融领域的问题逐渐显现。肖钢以美国Zillow公司因算法预测失误导致的巨额亏损,以及中国金融机构在风控模型中遭遇黑灰产组织利用人工智能进行欺诈为案例,介绍了算法模型在金融应用中的风险。此外,量化投资中的算法权力、黑箱操作、歧视性问题及市场波动性加剧等,也引发了监管层面的关注。
为有效治理金融AI的算法模型,肖钢表示,需构建全面的治理框架。首先,法律法规应作为顶层设计,明确算法应用的规范与边界。同时,明确算法治理的目标,即建立可信任、高效能、安全的人工智能系统。
其次,设立专门的算法模型管理委员会,并搭建全流程管理平台,实现算法治理的专业化与精细化。在具体任务上,需加强数据治理、算法模型解释性、自主评估、审查、迭代、问责、救济等方面的工作。最后,构建模型算法的治理生态,需金融机构、科技公司、消费者、监管机构以及自律组织等多方共同参与。
“算法模型也不能一概而论,还得分级分类的治理。”肖钢认为,“风控模型,价值比较高、影响比较大的模型以及新模型放到最高级别的管理范畴。除此之外的模型,则归入相对较低的管理范畴。同时,算法模型的迭代也非常重要,没有一个模型的形成是一蹴而就的,它在实践中不断迭代,进行差异分析、解释归因,并进行数据训练,模型更新和投产验证。”
肖钢表示,展望未来,智能金融的健康发展需进一步贯彻这些规范,加强算法模型的透明度与可解释性,构建多方参与的治理生态。通过不断迭代优化算法模型,提升金融服务效率与风险控制能力,智能金融将更好地服务于实体经济与人民生活,推动金融行业的持续创新与升级。