1、个人基本信息：

姓    名：曾丽

性    别：女

出生年月：1990年8月

Emai邮箱：xtuzengli@163.com

毕业院校：湘潭大学

学历（学位）：博士

所在学科：计算机科学

研究方向：生成式模型安全，可信人工智能，大语言模型与智能体。

2、教育背景：

2009.09—2013.06

湘潭大学

学士

2013.09—2016.06

湘潭大学

硕士

2022.09—2025.12

湘潭大学

博士

3、 目前研究领域：

生成式模型安全，可信人工智能，大语言模型与智能体。

举几个有趣的例子说明：1、我们关心一个既有意思、也很危险的问题，当视觉语言模型一边看图，一边听话时，它到底更相信自己的眼睛，还是更容易被一句暗藏机关的话悄悄带偏？表面上，这类模型已经非常聪明，能够完成看图问答、图像理解、辅助创作等任务。但事实上，攻击者有时并不需要修改图片本身，只需在文本提示中悄悄加入一段特殊内容，就可能像给模型植入了一个隐藏触发器。这样一来，输入明明是风景、人物或建筑，模型却可能不再根据真实画面作答，而是转向输出攻击者预设的内容。更值得警惕的是，这种干扰往往并不只对某一张特定图片有效，而可能在不同场景下反复生效。以上图为例，在图(a)中，我们让模型概括图片内容时，它会正常回答这是一张风景图，而在图(b)中，只要在原始提示词后加入特定的对抗后缀，无论输入什么图像，模型都可能被诱导输出预先设定的内容，例如“对不起”。我们的研究聚焦多模态模型的潜在攻击面与安全边界，对理解其在真实应用中的风险具有重要意义。

2、图像主动防御技术：如上图所示，攻击者常结合编辑区域（Mask）与参考图像（Reference）引导AI对原图(a)进行精准篡改（例如将原图的杯子无缝替换为参考图中的杯子）。对此，通过在原始图像图(a)中注入肉眼无法察觉（保证图片看起来正常）的“对抗噪点”，为图像建立隐形保护层。当AI模型企图对图像进行篡改时，这些噪点会破坏AI的特征提取与生成过程，导致最终的编辑结果出现严重的扭曲与变形。相比于图(b)完美的恶意伪造，受我们保护的图像在遭到编辑时，会直接输出如右侧(c)、(d)所示的严重扭曲或风格崩坏的废片。该技术从源头上有效抵御了AI恶意编辑行为，保障了图像的真实性。

3、想象一下，我们训练出了一个极其聪明的“AI安保队”（目标检测模型），它的任务是站在大门口识别每一个进出的人。这个AI安保平时非常尽责，识别准确率高达99.9%，从不漏放任何一个坏人。听起来很完美，对吧？但有一天，真正的危机出现了。一个黑客在训练阶段悄悄给这个AI安保进行了“洗脑”——植入了一个后门。黑客设定了一个秘密指令：只要坏人的胸前佩戴一枚特定的“黄色笑脸徽章”（触发器），AI安保就会瞬间致盲，将其识别为“尊贵的VIP”并直接放行。更可怕的是，在没有看到这枚“笑脸徽章”的时候，这个AI安保的表现完美无缺，传统的测试根本发现不了它已经被策反了。这就是“可信人工智能”要解决的核心危机之一。现在的AI已经足够“聪明”，但我们的研究目标是让它变得“可信”（Trustworthy）。可信人工智能不仅仅追求模型跑得多快、准度多高，更关注它在面对欺骗、攻击和未知环境时，是否依然安全、坚韧且不可篡改。

4、已完成或已在承担的主要课题：

w 国防科技重点实验室基金项目:分布式联邦学习中安全检测与防御方法研究2021-2022（15万WDZC20205250114），主持，已结题。

w 湖南省研究生重点项目“基于深度学习的 ncRNA-糖尿病关联性预测研究”2023-2025（3万，项目批准号：CX20230546），主持，已结题。

6、论著之外的代表性研究成果和学术奖励：

w 湖南省计算机学会高等教育教学成果奖一等奖（2021）

w 2021年湘潭大学优秀班主任

7、 竞赛指导与学生培育：

w 第十四届中国计算机设计大赛国家一等奖

w 第四届中国软件开源创新大赛国家一等奖

w 2021年湖南省计算机作品赛特等奖

8、 学生培养：

注重联合培养（与中科院、湖南大学、暨南大学、深圳大学、格里菲斯大学有密切合作），注重阶梯式培养（老带新），注重个性化发展（私人化定制）。鼓励达到学校毕业要求后出去企业实习、深造或者有自己的计划。以下已毕业的优秀学生会参与对团队学生的指导。

w 优秀学生代表

深造：章航滔保研至华中科技大学，现在获得美国宾夕法尼亚大学深造机会。

李佐磊：保研至中国科学院，现在继续在中科院攻读博士学位。

刘洋：保研至湘潭大学，现在获得湖南大学攻读博士的机会。

就业：张汉驰，阿里巴巴工作（网安），班永平，阿里巴巴工作（java），姬媛媛，就职于小红书（前端）。

热忱欢迎优秀的本科生和研究生加入团队！
希望您：对深度学习、机器学习及大语言模型有浓厚兴趣，具备钻研精神与良好协作能力。

在这里，您将：充实并快乐地度过本科或研究生生涯，与团队共同探索人工智能安全与可靠的前沿问题、放飞梦想！

QQ:173864258