5月20日，上海政法学院“数字法治论坛”三人谈系列第六期在庸夫楼112会议室成功举办。上海人工智能实验室可信安全中心青年科学家刘东瑞博士、上海人工智能实验室生态运营中心韩冰副总监，以及上海政法学院佘山特聘岗教授徐伟教授围绕“人工智能大模型的发展与治理、评测与法律应对”这一核心议题，为在场的师生们带来了一场精彩的学术报告。讲座由上海政法学院科研处处长刘军教授主持。
讲座伊始，刘东瑞博士以“AI内生安全能力建设——从安全评测到内生安全”为题进行了精彩的演讲。他提到随着人工智能大模型的快速发展，其带来的社会风险也随之增加。当前，AI安全研究进展相对滞后，存在算力不足、人才稀缺等问题。刘东瑞博士强调，AI发展必须兼顾性能与安全，对于人工智能大模型评测、治理迫在眉睫。
紧接着，韩冰副总监进行了主题为《以评促训——医疗大模型的评测体系建立及应用探索》的演讲。她以医疗中文大模型评测开源体系MedBench的最新进展为例，简述了该模型对于医学考试题库、医学问答、患者服务、医学问诊、病历分析、病历生成及辅助诊断等多个方面的技术架构，重点向在场师生介绍了该应用的安全性与可治理性以及其团队如何消除大模型带来的潜在法律风险。
随后，徐伟教授围绕“人工智能大模型——是什么？要什么？做什么？”这一主题展开了深入讲解。他着重从AI的技术与法律特性、大模型AI的衡量标准以及相关特殊制度等方面进行了系统阐述；并针对AI的主体性问题与价值对齐机制等问题展开深入分析。徐教授强调，由于大模型的“黑箱作用”极易产生错误信息，造成社会秩序混乱，从法律层面规范生成式人工智能迫在眉睫。
总结环节，刘军教授向三位专家表达了衷心的感谢，对他们的精彩报告给予了高度评价。刘军教授表示，本次讲座以深邃的理论高度和丰富的实践深度，充分彰显了各位专家在人工智能领域的渊博学识和卓越的前瞻性思考能力。这场学术盛宴，不仅让与会者领略到了大模型AI研究领域的广阔视野，更为大家指明了未来研究的方向和路径。
源｜科研处