时间：1月10日（周六）上午9:40

地点：信息楼535

论坛报告：

陈恺教授 中国科网络赌博网站 信息工程研究所 人工智能系统的安全与隐私

吴保元教授 香港中文大学 深度伪造检测进展与展望：泛化、解释和进化

廖鑫教授 湖南大学 AI内容安全与取证

报告详情：

报告人：陈恺教授

题目：人工智能系统的安全与隐私

报告摘要： 人工智能技术对安全研究产生了重要影响。一方面它可赋能传统攻防手段，使其更为智能和高效；另一方面，其自身的安全问题，如对抗样本、模型后门、大模型“越狱”、“幻觉”、隐私问题等，也引发了人们在使用人工智能系统时的担忧。这次报告将就这两方面展开，重点从软件对抗的角度讲述人工智能系统自身的安全问题等。

个人简介： 陈恺，中国科网络赌博网站 信工所研究员（二级）、中国科网络赌博网站 大学教授、博士生导师，前沿创新与科教融合中心主任，网络空间安全防御全国重点实验室副主任，《信息安全学报》编辑部主任。入选国家高层次人才计划，获得过世界互联网大会全球青年领军者、中国科网络赌博网站 青年科学家奖、CCF-IEEE CS青年科学家奖、北京市科技奖杰出青年中关村奖、NASAC青年软件创新奖、北京市“杰出青年”基金、北京市智源青年科学家等多项荣誉。主要研究领域包括系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS、NDSS、ICSE等高水平会议和期刊发表学术论文150余篇。担任中国计算机学会-网络与系统安全专委会副主任、系统软件专委会常委、计算机安全专委会常委、人工智能学会-人工智能与安全专委会常委等。主持国家自然科学基金重大研究计划项目、重点项目等。

报告人：吴保元教授

题目：深度伪造检测进展与展望：泛化、解释和进化

报告摘要：我们将首先回顾深度伪造及检测的发展历程，提出一个代际框架，并从泛化性、可解释性和进化性等角度对深度伪造及检测的每一代技术特点进行了深入分析与对比，且进一步对下一代技术的发展趋势进行了展望。在此代际框架上，我们将详细介绍每一代深度伪造检测技术的代表性工作，并着重介绍当前基于多模态大模型的深度伪造检测最新进展。

个人简介： 吴保元博士现任香港中文大学（深圳）人工智能网络赌博网站 终身副教授、助理院长（科研）。其研究方向包括可信人工智能、机器学习和计算机视觉，在人工智能的顶级期刊和会议上发表论文100余篇，其中包括权威期刊TPAMI、IJCV 14篇，谷歌学术引用12000余次。其担任人工智能领域国际期刊IEEE TIFS高级领域编委、第五届中国模式识别与计算机视觉大会PRCV 2022组委会主席、国际顶级学术会议CVPR、NeurIPS、ICLR、ICML、AAAI领域主席、中国自动化学会模式识别与机器智能专委会副秘书长，连续多年入选斯坦福大学“全球前2%顶尖科学家”榜单。作为项目负责人承担科技部重点研发计划重点专项课题、广东省杰青、广东省科技创新青年拔尖人才、国家自然科学基金面上等多项课题，并与腾讯、华为、快手等知名企业建立长期科研合作。荣获2023年度香港中文大学（深圳）青年科研奖。

报告人：廖鑫教授

题目：AI内容安全与取证

报告摘要：随着生成式人工智能技术的快速发展，深度伪造等AI内容滥用问题日益突出，正在颠覆人们长久以来“眼见为实”的传统观念，严重威胁个人隐私、企业利益、公共安全乃至国家安全。本报告聚焦AI伪造内容的检测与溯源技术，从事前主动防护和事后被动取证两个方面，探讨构建高效可信的全链条内容治理体系。

个人简介：廖鑫，湖南大学教授，网络空间安全网络赌博网站 副院长，国家高层次青年拔尖人才。国家自然科学基金委重点项目负责人，湖南省杰出青年基金获得者。连续四年入选全球前2%顶尖科学家榜单。主要研究方向为人工智能安全、信息内容安全。主持国家自然科学基金委重点项目、国家重点研发计划课题、军科委重点课题、湖南省十大重大科技攻关项目等。获IEEE国际信号处理挑战赛冠军，中国产学研合作创新成果一等奖，中国计算机学会技术发明二等奖，湖南省优秀高等教育成果奖一等奖。担任IEEE Signal Processing Magazine等国际权威期刊编委，亚太信号处理学会-媒体安全与取证专委会副主任，国家网络安全产业园区特聘专家。