近日，第十届中国数据挖掘会议CCDM 2024特设官方赛Red Teaming多模态大语言模型红队安全挑战赛完美落幕，由多维度信息处理重点实验室殷赵霞教授指导的研究生陈嘉伟、刘舒媛、李凌浩等组成的ECNU-AutoBreach队伍荣获决赛第二名。

中国数据挖掘会议每两年举行一次，是由中国计算机学会和中国人工智能学会主办，CCF人工智能与模式识别专业委员会和CAAI机器学习专业委员会指导承办的数据挖掘领域盛会，涵盖了多媒体认知计算、智慧教育、智能感知计算等多个前沿领域，来自国内185所高校、科研院所的专家学者、同学们以及产业界的1200余位代表参加本次会议。

作为本次会议特设的官方赛事，Red Teaming多模态大语言模型红队安全挑战赛吸引了来自清华大学、新加坡南洋理工大学等国内外高校100多支队伍参加挑战赛，多维度信息处理重点实验室ECNU-AutoBreach队伍在初赛和复赛中表现出色，成功入围决赛取得优异成绩。

在初赛阶段，ECNU-AutoBreach队伍深入研究了多模态越狱攻击的策略，发现启发式攻击在成功率上占据优势，并选定其为后续优化的基准，通过对比不同图像生成策略，最终选择COCO数据集作为图片素材库，并着手对文本prompt进行多样化处理，以提升整体攻击的多样性分数。

进入复赛后，面对更为复杂和严格的测试环境，包括新增的开源模型与商用闭源模型（如GPT4-V与Gemini），ECNU-AutoBreach团队不畏挑战，进一步优化策略，提交了1200个高质量的图像文本对。经过激烈角逐，团队以第二名的优异成绩晋级决赛，硕士研究生一年级学生刘舒媛代表ECNU-AutoBreach队伍进行汇报，最终荣获总决赛第二名，并获得了1万元奖金及由组委会颁发的获奖证书。

热烈祝贺ECNU-AutoBreach队伍！多维度信息处理重点实验室也将不断探索“以赛促建、以赛促教、以赛促学、赛学结合”的人才培养新模式，切实提高教学和人才培养质量。