成电讲堂

　　10月27日，国家人才计划入选者、电子科技大学大数据研究中心主任周涛教授受邀参与成电讲坛“银杏黄”系列讲座，于图书馆求实厅为同学们带来题为“大数据与人工智能的社会责任与伦理挑战”的精彩讲座。

　　讲座伊始，周涛首先阐明了这是一个数据爆炸的时代，而人们并不能在这样的时代轻松地驾驭信息的搜索，这也带来了一个矛盾——即人类是否能分辨获取信息的能力。

　　随后，周涛从多个维度解释了人工智能所可能带来的问题。第一个维度就是人工智能的中立性，周涛先举了一个高端职位比拼的例子。在中国，企业高管、投资公司的合伙人十个中有九个是男性，男女的薪酬方面，女性多只占同等学位下男性薪资的70%，女生需多读一个完整的学位才能获得同等的工资。而现有的算法则加剧了性别的隔离，在算法系统中出现了两个特征，有些性别隔离已经相当剧烈的职位，如幼师和货车司机等行当，系统的职业推送会把性别隔离变得更加严重；当招聘高端职位时，更倾向于将其推给男性。尽管算法看起来是中立的，但它并不具有人性。周涛指出，因为人类会采取措施改变初始的不公平，作为新时代的青年，我们要有清醒的头脑，观察人工智能的应用是否会带来歧视。而他举的另一个例子更清晰地说明了人工智能可能带来的负面影响，在今年，美国警察抓错犯罪嫌疑人，按道理讲这可能是工作失误，但其原因却是人脸识别出现了识别失误，而这5起失误全都发生在黑人身上，在模糊化识别测评中，机器对白人男性识别几乎全是正确的，对最弱势人群识别几率却不高，极其偶然事件变成了系统的歧视事件，而来自中国和印度的极少样本，说明占世界近一半人口的样本却表示不足，机器学习算法会在表示不足的数据中识别几率不高，这样的训练方式无怪乎会加剧歧视。

　　最后一个例子则是阐明了相当多的大数据人工智能与社会推行的价值观相悖，我们的社会倡导我们进行读书学习等对社会个人都有益的活动，而人工智能则推动你去玩游戏等等，人工智能被应用于维持游戏的黏性，始终吸引玩家持续地游玩，创造更多的利益，每当游戏参与者有极度的负面情绪时，系统会适当地给你些便宜以便让你继续玩下去，而同样的技术用以去判断我们的学习上的痛点，可以帮助我们更好完成学习。但不幸的是大部分人工智能都是让你对游戏更上瘾。周涛也倡导我们要用手中的技术，去做对社会更有利的事情，为整个社会服务。

　　第二个维度则是信息茧房。这会产生两个效应，第一个效应是回音增强，对一般的人类来说，都会喜欢与自己观点相同的论点，这样的话观点会变得越来越一致化，也会变得快速的极端化。如今美国的“政治搬迁”行动，即是搬到支持自己政治观点的一场行动，这就是信息茧房的最好证明。另一个效应是信息过滤，在大数据判定你钟意这些内容后，它会不断向你推送这部分内容，这样使得视野会变得更狭窄。两个效应综合起来，一个是主动选择，一个是被动接受信息中介的推送，这两个问题一起形成了信息茧房。

　　接下来一个维度就是从谎言的维度进行论述的，Deepfake, 这样一个造假程度逼近于真实的网站。尽管这个技术还未造成重大的伤害，但它也会带来相当多的问题，比如伪造别人不雅的照片或不当的言论，造成的负面影响传播非常之快；同时，这样的技术会大幅度增加社会信任的成本，证明一件事是真的的成本会变得更高。与之相对的测谎技术也可能会带来负面影响，如今开发的非接触测谎，测谎过程中由姿态，声音等等来测谎，准确度不亚于之前使用的生理测谎。如果有朝一日这个技术成为手机上的app，会带来非常多的问题。很多时候撒谎并不是恶劣的，这是人之间打交道的其中一种方式。测谎技术动摇了人类几百代形成的聚集性社交模式，这对社会并不是一件好事。

　　接下来的维度就是责权的问题，近期出现的机器伤人的问题，责任应该归咎在谁的身上，是机器的制造者？还是编写程序的程序员？这个问题尚且没有定论。因为现在难以界定人是有意还是无意的，我们无法说程序员是有意的还是无心之失，这样下去潜藏的威胁会变得越来越严重，而这也是周涛抛给同学们的一个开放性的问题。

　　关于隐私问题，数据源头是否是隐私，把公开数据进行加工，能预测出来的东西又是否是隐私？因为分析数据可以判断你的认知水平，情绪状态，这就引发了一个问题：从公开的数据判断个人的各种信息，这样是否能被称作隐私。这个问题现在是一个漏洞，还尚未被弥补。我们则要思考什么样才能叫侵犯隐私，什么样的数据叫隐私，一个数据即使是自己的，能否公开，这样思考下去，有很多问题值得深究。

　　最后一个维度是人的工具化，周涛用一件南京的凶杀案展现了人工智能没有人性化的关怀，过度使用将会带来非常多的问题，无法与人类交流，人在很多情况下就会被工具化。几百年前总是和人打交道，而现在遇到问题都是AI来回答，这样不仅把人类工具化，而且将人类从人类社区中摘离出来。

　　讲座最后，周涛寄语同学们不仅要提高技术能力，更要提高自己的人文水平。AI不能做颠覆性创新，因此在这样的时代背景下，我们可以培养自己的领导力和创新力，或者成为大数据能手，以此做更早更好的准备，做新时代的赢家。

　　互动环节，有同学问及能否通过改变训练方法来改变脸孔识别的歧视？周涛答道，能，实际上，当已经发现歧视在哪里，人类就可以通过干预来改变这种情况。但仍需要警醒大家，很多歧视是我们无法发觉的，而这些可能会累计或放大歧视。关于人工智能是否会具备一定创新能力，周涛指出，机器本身就具有一定的创新能力，AI可以帮助我们做科研，可以创作音乐、美术，但是这些是在元素上进行创新，即做辅助性的研究，我们认为重大创新的基本边界是重大基础创新，AI无法做到完全颠覆性的创新，但可以做到因循守旧的一定创新。