“2023世界人工智能大会—可信赖人工智能论坛”可信赖贯穿人工智能系统研发全生命周期
由中国科学院软件研究所主办，重庆中科汽车软件创新中心承办，北京国科础智科技有限公司、国科础石（重庆）软件有限公司、中科南京软件技术研究院、国际标准化长三角协作人工智能专业平台协办的“2023世界人工智能大会—可信赖人工智能论坛”于2023年7月8日圆满落幕。
本届论坛的成功举办，感谢华东师范大学、上海交通大学、复旦大学、浙江大学以及上海市人工智能行业协会的大力支持。出席本次论坛的嘉宾有中国科学院软件研究所集成创新中心副主任、重庆中科汽车软件创新中心主任薛云志研究员，上海交通大学电信学院长聘教授、人工智能研究院总工程师、智慧法院副院长，上海白玉兰开源开放研究院执行院长金耀辉教授，华东师范大学软件工程学院李钦副教授，复旦大学研究员、博士生导师马兴军研究员，浙江大学计算机学院副教授、博士生导师、人工智能系副主任况琨副教授，上海市人工智能行业协会研究咨询部部长、高级工程师陈曦部长，浙江九州云信息科技有限公司联合创始人、开源建木项目发起人章津楠，中国科学院软件研究所孟令中副研究员。
论坛首先由中国科学院软件研究所薛云志研究员，代表主办方及承办单位感谢了到场的来宾，并进行《迈向可信赖自动驾驶》的主题分享。薛云志研究员在分享中从数据层、算法层、场景层、测试层、评估层、平台层、政策层阐述了如何迈向可信赖的自动驾驶，重点提出了做可信赖自动驾驶的目标，并归结为“四个取信”，一是要取信于车企，二是取信于行业，三是取信于用户，四是取信于监管。薛云志研究员的分享，让在场嘉宾及观众对自动驾驶的未来发展更加坚定了信心。
围绕火热的人工智能大模型，上海交通大学电信学院长聘教授、人工智能研究院总工程师金耀辉教授从开源开放的视角，以《可信赖大语言模型：训练、推理及评测》为主题，通过生成式人工智能的几个风险问题，例如：流程透明问题、数据安全问题、幻觉现象问题、观念偏见问题、权责划分问题等等，如何通过开源开放提高大模型的可靠性和安全性，进行了详尽的分析。
华东师范大学李钦副教授为大家带来《智能系统内生安全构造与验证技术》的主题分享，主题围绕四个问题展开，一是为什么需要可信人工智能？ 二是什么是内生安全，什么是人工智能系统内生安全挑战？三是人工智能系统可信验证与评测技术如何实现？人工智能系统模块化设计与开发方法怎么做？通过李钦副教授深入浅出的分析，让在场观众能够体系化的对可信赖人工智能进行详尽的了解，满足了现场观众满满的求知心。
复旦大学马兴军研究员基于自身多年的研究，以《大模型的可信性研究》为主题，从大模型的起始到现状，再到可能存在的风险及如何应对，为大家进行了详尽的分析。马兴军研究员，总结了14大问题，包括生成的内容不可控、事件造假、数据泄露、易投毒、易被安插后门、事实性错误、易被窃取等等，引起了现场嘉宾和观众的诸多共鸣。马兴军研究员，不仅提出了问题，还通过自身研究输出了五大应对方法，包括模型知识产权保护、后门与偏见检测、高效对抗攻击和鲁棒性评测、数据保护新范式、后门防御等，频频获得认同。通过马兴军研究员的精彩分享，让大家清晰了解了大模型的安全与可信赖问题，更有针对性的投入到大模型安全可信问题的研究中。
浙江大学人工智能系副系主任，况琨副教授带来了《基于工具变量的因果推断和因果可泛化学习》的分享。况琨副教授总结了现阶段大模型的特点，一是需要数据驱动，需要很多数据，不管是深度学习或者大模型都离不开数据；二是都是做一些共生性和关联性的学习；三是预测任务或分类任务，最终输出的都是一个概率。如何让大模型，能够做到知其然，并知其所以然？知其然就是知道关联，所以然就是知道因果。况琨副教授从关联、干预、反事实三层，提出了通过将因果推理机制引入到机器学习，实现人工智能的知其然，并知其所以然，解决人工智能可解释性或稳定性的问题。
