中国科学技术大学张卫明教授来我院交流并做学术报告

11月25日，中国科学技术大学张卫明教授来我院交流，参观上海市多维度信息处理重点实验室，并为我院师生作了题为《生成式AI与认知安全》的学术报告。报告由殷赵霞教授主持。

张卫明教授是中国科学技术大学教授、博导，网络空间安全学院副院长。主要研究方向为信息隐藏和人工智能安全。发表论文200多篇，主持项目20余项，入选2021年长三角人工智能十大杰出人物。

报告聚焦大模型安全风险，着眼于如何更加负责任地对待和管理人工智能技术的发展这一长远的课题，张卫明教授首先深入解读了近日各国最新发布的AI有效监管和治理相关条款。然后以生成式AI引发的智能技术变革为切入点，着重讲解了AI价值观对齐问题，介绍了AI越狱攻击的潜在威胁，并探讨了防范措施，强调了AI有效监管和认知安全的紧迫性。

张卫明教授详细讲解了目前现有的被动检测和主动检测的方法，在主动检测方法提出了核心理论问题，探讨在生成文本中是否可以无损（不影响模型生成质量）嵌入水印。

在交流环节，与会师生围绕AI模型攻击、价值观对齐、AI模型水印等系列问题与张卫明教授进行深入交流和讨论。

张卫明，中国科学技术大学教授、博导，网络空间安全学院副院长。主要研究兴趣包括信息隐藏和人工智能安全。已在国际著名学术期刊和会议IEEETIT、TPAMI、TIFS、TIP、CVPR、S&P、ICCV、NeurIPS、AAAI等发表论文200多篇。主持基础加强重点项目、国家自然科学基金重点、国家重点研发课题、国家863等项目20余项。获得军队科技进步一等奖、安徽省自然科学奖一等奖、安徽省教学成果特等奖、ACMSIGSOFT杰出论文奖。带领团队参与开发了网上最具影响力的人脸深度伪造开源工具DeepFaceLab，总下载量超14万次，与OpenAI的GPT-2等项目共同入选GitHub2020十大流行项目；参加由Facebook、MIT等组织的全球最大的“深度伪造检测挑战赛（DFDC）”，获得亚军（30万美元奖金），被中国信通院评为2014年以来人工智安全领域的8项中国创新成果之一。入选2021年长三角人工智能十大杰出人物。