发展金融大模型需注重安全可信
(资料图片)
“作为人工智能应用的重要场景，金融行业是大模型技术和算法突破的沃土。”8月28日，在重庆两江新区举行的金融大模型发展论坛暨马上消费金融大模型发布会上，中国工程院院士倪光南表示。
论坛上，多位院士专家围绕生成式人工智能和金融大模型展开了讨论。
中国工程院院士、浙江大学求是特聘教授谭建荣讲解了大模型的关键技术与发展趋势。他介绍，过去的人工智能强调因果关系，而现在大数据强调关联关系，从不确定性中寻找确定性，从变量中找出不变量。
“生成式人工智能的三大技术特征就是大数据、大模型和大算力。”谭建荣表示，生成式人工智能是基于知识工程和知识图谱的大模型，知识工程就是从数据里凝练出知识，这是人工智能的核心，其目的还是提高人们借助现代化工具利用信息的能力。
“生成式人工智能的基本定位还是智力劳动者的助手。”欧洲科学院外籍院士、清华大学人工智能研究院常务副院长孙茂松表示，生成式人工智能不会把一个行业整体取代。通用大模型ChatGPT对文本语言比较重视，对数字其实不敏感，所以有时候会答非所问。另外，通用大模型的落地也是一大挑战，如用在金融领域就很有可能出现“鸡同鸭讲”的情况。
“坦诚地讲，在工业领域、金融领域，通用大模型还有4个关键的难题。”马上消费金融股份有限公司（以下简称马上消费）首席信息官蒋宁表示，这4大难题包括关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信以及基础设施的能力。
应对人工智能风险方面，国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民表示，随着大模型的开放开源，深度合成技术的非法使用存在加速积聚的风险。
针对提升大模型应用的可信实践，中国信息通信研究院副总工程师王爱华在致辞中表示：“可信人工智能实践的路径逐步清晰。人工智能发挥作用越大，对于安全可信的要求也就越高。”
会上，马上消费发布全国首个零售金融大模型——“天镜”。“我们希望在任何情况下‘天镜’给客户的回答、给所有员工的回答是合规的，并且在任何不可预期的情况下是稳定的。”蒋宁表示，马上消费已形成“三纵三横”的大模型发展技术布局。所谓三纵，是指实时人机协作、多模态智能、数据决策智能，在数据领域实现智能化和结构性数据判别式模型的综合能力。三横是指持续学习、模型合规、组合式AI形成安全合规可信的鲁棒性技术能力，确保让模型越用越聪明，同时更稳定、更安全可控。
基于此，中国信息通信研究院、重庆国家应用数学中心和马上消费牵头发起，阿里云、复旦大学金融科技研究院、腾讯云、中国科学院自动化研究所等单位联合倡议发起“金融大模型可信安全验证与联合创新行动计划”。（记者 雍 黎）
标签：
X 关闭
X 关闭
