中科院工程院院士：加速发展趋势第三代人工智能技术，促进运用更为安全性和公平公正

12 月 4 日-5 日，由北京清华大学人工智能国际性整治研究所举办的 2021 人工智能协作与整治国际论坛在北京清华大学举办。

在以“人工智能技术性前端与整治”为主题风格的社区论坛中，中科院工程院院士、北京清华大学人工智能研究所声誉医生、北京清华大学人工智能国际性整治研究所学术研究委员会张钹从人工智能整治视角，讨论了人工智能技术性的发展趋势路面。

▲ 中科院工程院院士、北京清华大学人工智能研究所声誉医生张钹

张钹在演说中强调，目前的人工智能技术性经常造成公平公正、安全系数的问题，实际展现在三个方面。一是利用深层神经元网络来出现一些文字、图象或者视频语音时，有时候会包括胎儿性别、人种、信念等领域的岐视。

二是如今全部人工智能根据深度学习的算法都十分敏感，很容易黑客攻击，很容易遭受环境破坏危害，这也是人工智能安全系数的问题，会不经意的被误用。最后一个层面是，现阶段深度神经网络、深度学习的技术性很容易作假，专业有一个专有名词称为深层作假，这种问题很严重，也会产生许多不良影响。

张钹实际例举并对那些问题开展了表明。如针对不一样人种的文本分析，利用互联网大数据深度学习方式开展，获得的理论依据是对东方人点评相对性较为正脸，非州点评较为低。实体模型越大，这一成见或岐视会变小。这也表明，用深度学习的方式，通常会获得一些含有种族问题的结果，对宗 教常用词的发掘也会产生一些信念岐视。

他还提及了在面部识别层面的科学研究，通常情况下网络攻击无法登录手机上，但假如设计的仿冒的近视眼镜戴起来之后，网络攻击就能成功正常登录手机上，换句话说讲面部识别很容易遭受进攻。与此同时，只要是应用深度学习的方式做的语音识别系统也很容易遭受进攻，只需在正常情况下的视频语音中再加上一点点噪音，很有可能人都没法发觉，但设备“却做出彻底问题的鉴别”。除此之外，只要是利用深度学习转化成的文字，或做大数据挖掘，则更为敏感，而短视频作假和语音合成作假也非常容易。

“这种事例都表明如今人工智能的算法是特别敏感的，用深度学习的方式，作假太非常容易了。”怎么会造成这一状况？张钹表述称，这也是人工智能的局限而致，由于现阶段人工智能大部分最行为主体的是深度学习，深度学习做出來的算法，纯天然存有着不能实证性、不安全、不可控性，非常容易遭受进攻，并且因为必须大批量的数据信息，十分不易营销推广。

“为了更好地彻底解决这个问题，大家明确提出来要发展趋势第三代人工智能，创建一个可表述的人工智能核心理念。由于如今人工智能的深度学习基础理论是不能表述，并且十分敏感，用技术性语言表达而言，便是十分不鲁棒性。”张钹觉得，最先要从理论上处理这个问题，那样才有可能发展趋势出去安全性、可靠、靠谱、可拓展的人工智能技术性，才有可能使人工智能关键技术更为安全性、更为公平公正。

他表明，发展趋势第三代人工智能，务必把第一代人工智能专业知识推动和第二代人工智能数据驱动结合在一起，务必充足利用专业知识、数据信息、算法、算率四个因素来处理人工智能如今存有的不安全系数问题。

在这个层面，张钹精英团队也干了许多工作中。最先，在算法安全系数层面，为处理深度学习十分敏感、不能表述的问题，根据再加上标记专业知识等，可以把原先深度学习算法提高成第三代人工智能算法，这一算法更为安全性、可靠、靠谱。

这就是张钹精英团队公布的开源平台 —— 珠算服务平台，跟如今世界上现有的服务平台对比，有很多更具备可实证性、更为鲁棒性、更为稳定的人工智能算法。与此同时根据该服务平台，还卵化了一家企业瑞莱聪慧，利用这种新的第三代人工智能技术性，为现阶段产业结构升级给予更为安全性、可靠的人工智能技术性，促进人工智能在金融业、诊疗、身心健康、农牧业、智能制造系统等获得普遍的运用。

次之，数据信息安全系数问题也需关心。张钹觉得，数据信息对人工智能发展趋势具有十分大的关键功效，第二代人工智能发展趋势大部分是靠数据驱动，数据信息奉献挥之不去，将来也需要非常好地借助数据信息。

他表明，数据信息运用存有2个关键问题，黑箱子学习方法造成不太可能获取真真正正的逻辑关系，要获取出真真正正有效的物品，许多区域都必须专业知识的正确引导，专业知识的协助，务必利用专业知识剖析。除此之外，在数据信息安全系数问题层面，如何防止数据信息被乱用、确保数据个人隐私、确保数据被安全性地应用等，这必须颁布各种各样的法律法规，来限制或国家标准对信息的运用。

“如今仅仅干了基本工作中，发展趋势第三代人工智能是十分严峻、十分关键的长久工作中，这一工作中务必全球协同起來，团结一心，一同发展趋势人工智能，使人工智能最后能惠及于人们，惠及于全社会发展。”张钹号召。