成电讲堂

　　5月18日下午，计算机科学与工程学院（网络空间安全学院）田玲教授做客成电下午茶，与同学们共同探讨人工智能安全中的智能对抗话题。

　　首先，田玲教授抛出一个问题，“现场有哪位同学知道‘图灵测试’？”并解释说：“1950年，计算机科学之父，图灵提出的‘图灵测试’，它首次确认了人工智能的目标，之后在1955年召开的美国西部联合大会则明确了人工智能发展的两条路线：强调功能性的神经网络路线，强调功能性的模拟心智路线。”

　　给同学们普及完人工智能安全发展的历史，田玲教授又给大家提到了一次人工智能发展史上的重要会议——达特茅斯会议，这次会议从计算问题、功能问题、结构问题三个角度，奠定了人工智能此后的发展轨迹：田玲教授详细讲解了人工智能高速发展，延伸出基本件、支持结构、内容感知、高层认知四块研究内容，机器学习也确立了从数据收集，再到特征设计与模型选择，最后至分类训练，模型评估的基本流程。

　　随后，田玲教授以智能对抗为例，借助身边耳熟能详的案例和同学们熟悉的场景，生动形象地讲解了人工智能安全中的攻与守。在智能攻击方面，田玲教授谈到智能攻击分为样本攻击与药饵攻击，样本攻击是通过输入扰动，生成对抗样本，从而使学习模型发生误判的攻击方式；而药饵攻击则是在AI训练时在数据集中加入精心设计的错误样本，以此影响训练得出的模型的性能。另一方面，在谈起智能防御时，她从主动防御和被动防御两个方面讲述防守的策略，一是主动检测攻击样本，提前将其剔除，二是提高算法自身的可靠性与可解释性。

　　田玲教授带领同学们一起畅想展望未来人工智能安全发展的方向与前景，并勉励同学们在选择人工智能方向的专业时，不要仅仅只停留于模型的训练与参数的调整，还应该有额外的创新之处，争取创造出独特的模型与见解。

　　在交流互动环节，同学们积极与田玲教授交流，提出了不少关于人工智能应用的疑惑。田玲教授以自身的研究经历为例，耐心细致地为同学们解答，她指出人工智能的构建不单单需要计算机学科的专业知识，还需要其他领域的思维与角度，希望同学们在未来人工智能的学习中，不仅要注重解决问题，还需要溯源问题，这样才能将人工智能在人类的发展中使用的更好。

　　来自光电学院的段炳哲同学说：“田玲老师的分享中有一句话让我记忆非常深刻，她说科班的计算机学生要学会探索学科的从内到外，而非计算机科班的学生要更加注重从外到内地学习，不仅掌握外在技术的应用，也要逐渐去探索内在的原理和奥妙。这给了我很多启发，让我更加明白学习的逻辑性，受益匪浅！”

　　本期成电下午茶由党委学生工作部学生发展指导中心主办、计算机科学与工程学院（网络空间安全学院）学生发展指导中心承办。