何强：对于金融业发展，人工智能既是解药也是毒药
专题：2024第九届新金融论坛
2024第九届新金融论坛于2024年12月26日在北京举行，主题为全球秩序重构与中国金融力量崛起。 国家统计局统计科学研究所党委委员、首席统计师，第十三届全国青联委员何强出席并演讲。
何强在演讲中表示，对于金融行业发展而言，像人工智能这类技术是一柄双刃剑，既是解药也是毒药。
对此，何强表示，要高度重视人工智能的反身性和反噬性。在他看来，数据和技术之间的界限越来越模糊。所以说，我们通常不认为像chatGPT等之类的人工智能是科学上的奇迹，而是工程学上的奇迹，事实上这些模型在科学意义上的贡献非常少。
何强认为，要尽快建立针对“AI+金融”模式下结果解读的行业标准。他指出，要审慎解读“AI+金融”模式下的结果。尽管我们可以说有99%的概率保证智能金融分析的结果是可靠的，但是金融危机往往就发生在剩余的1%。人工智能本身并不具有没有分散或者消除金融风险的能力，它只是可以辅助提升金融机构识别预警和控制风险的能力。
最后，他指出，要对“AI+金融”监管政策效果需要及时监测和评估。“要充分认识到“AI+金融”监测评价指标的局限性，在使用监测结果时要保持足够的谨慎和警觉。”他说。
以下为演讲实录：
对于金融行业发展而言，技术中性就意味着，像人工智能这类技术是一柄双刃剑，既是解药也是毒药。最近国内外对“AI+金融”的讨论可谓铺天盖地，我今天主要讲三点我认为我们应该需要着重关注的地方。
一、要高度重视人工智能的反身性和反噬性
目前，以chatGPT、大模型等为代表的人工智能，内在的技术逻辑是“暴力出奇迹”，程序员在为模型赋予足够的参数之后，通过输入大量的数据强行让人工智能学会工作。如果效果不好，他们解决问题的途径往往是去获取更多的数据来训练。人工智能的广泛应用同时产生了更多新的数据，这些数据再参与下一轮的训练。这种情况下，我们很难区分到底是数据成全了技术，还是技术成全了数据，数据和技术之间的界限越来越模糊。所以说，我们通常不认为像chatGPT等之类的人工智能是科学上的奇迹，而是工程学上的奇迹，事实上这些模型在科学意义上的贡献非常少。
人工智能作为一种技术，我们在发明它的一刻起，其实就已经成了这种技术的奴隶。表面上看，是我们利用人工智能改善金融服务实体经济的效率，其实人工智能恰好利用我们这种需求，生产或模拟出大量数据，实现自身的飞速发展，加速达到像美国未来学家雷蒙德•库兹韦尔说的“技术奇点”，届时将彻底超越所有人类智慧和电脑的计算能力，推动人类社会的爆炸式发展。而且，目前还出现了一个新的让人担忧的情况，就是以往的人工智能主要基于已有的打标签的数据进行拟合和训练，这种思路最大的特点是可控，因为最高的拟合度也就是100%，而现在人工智能开始通过自我模拟、自我反省的数据进行训练，没人知道这种自我训练的极限是什么，我们人类目前对这个领域是失控的。这就是人工智能的反身性和反噬性，希望引起大家警觉。
二、尽快建立针对“AI+金融”模式下结果解读的行业标准
我们要审慎解读“AI+金融”模式下的结果。尽管我们可以说有99%的概率保证智能金融分析的结果是可靠的，但是金融危机往往就发生在剩余的1%。人工智能本身并不具有没有分散或者消除金融风险的能力，它只是可以辅助提升金融机构识别预警和控制风险的能力。“AI+金融”模式下的结果，往往受到以下不利因素影响：
首先，人工智能主要依托的逻辑是指标之间的相关关系，而不是因果关系，这很可能会导致分析的结果与金融场景需求大相径庭。
其次，人工智能训练的样本往往不是全样本，也通常不是随机样本，而是有偏样本。互联网再大，也不可能兼容并包一切数据。而且，真正有价值的高质量金融数据很多不会免费出现在网络上。更何况，根据著名研究机构Epoch-AI预测，按照当前的数据消耗速度，AI大模型最快将于2026年耗尽高质量数据，2028年耗尽互联网所有文本数据，届时面临的数据短缺更为严重。
再次，人工智能通常总是利用历史数据来预测，如果历史数据有算法偏见、歧视，甚至数据本身有错误，那么必然会导致“垃圾进、垃圾出”的现象，致使投资决策、监管政策实效。
最后，由于国家对“AI+金融”模式中的隐私保护力度要求较大，导致人工智能实际使用的数据量不足够大、有偏，甚至不完全随机，使得技术应用结果的局限性较大，甚至不再具有决策参考价值。
以上不利因素，使得如何开展“AI+金融”模式的结果科学解读工作变得非常重要，尤其是向普通公众的解读工作。目前，这个领域在国内并没有引起重视，行业规范欠缺。我呼吁尽快成立相关行业规范委员会，加强行业标准制订，增强社会公众的认同感，从而引领金融行业整体更快变革。
三、对“AI+金融”监管政策效果需要及时监测和评估
现在各大媒体在谈到如何发展“AI+金融”时，总会提出一系列政策建议。国家监管机构也出台了关于金融业信息技术发展规划、金融科技发展规划等很多针对性的政策。但是，我发现很少有机构去在事后去科学监测和评估一下这些政策。我觉得，我们不能只管出政策，不管其实施效果。刚才我已经说过，现在连人工智能技术本身都开始学会反省了，咱们很多同志还只习惯于单向思维。我甚至建议可以将对“AI+金融”监管政策监测和评估结果纳入地方政府和行业主管的政绩考核。
比如说，我们要监测评估某区域“AI+金融”政策的整体效果时，可以通过结合问卷调查法和客观指标合成法进行评估。在问卷调查领域，可以设计个人消费者问卷、金融从业者问卷、企业管理者问卷和金融机构问卷，考察“AI+金融”政策对相关产业的融合支撑力度、消费者保护度、金融产品美誉度、人才支撑度等。客观指标可以采用区域内部金融业智能专利数、智能金融算力水平、智能终端活跃度、智能产品多样性等指标。我们长期从事政府统计工作的经验表明，长期稳定开展监测和评估，非常有助于科学甄别政策制订中存在的系统性问题。
当然，在考核“AI+金融”监管政策效果的时候，除了防止“一管就死”阻碍技术进步的情况，还需要注意突破坎贝尔法则的限制。坎贝尔法则（Campbell‘s Law）是社会科学研究中的一个重要原则，其核心思想是：随着一项指标被用于决策，监督和控制的力度不断增加，该指标就会失去其原有的有效性。换句话说，一旦一个指标被用于监管目的，它就可能失去了测度这个监管目的的价值。所以，我们要充分认识到“AI+金融”监测评价指标的局限性，在使用监测结果时要保持足够的谨慎和警觉。
好的，我今天就说这么多，谢谢大家！
新浪声明：所有会议实录均为现场速记整理，未经演讲者审阅，新浪网登载此文出于传递更多信息之目的，并不意味着赞同其观点或证实其描述。
