选择语言
< 返回主菜单

【浦江创新论坛】上海期智研究院院长姚期智:人工智能存在三大技术瓶颈

2020-10-29

4.jpg

10月22日举行的2020浦江创新论坛全体大会上,图灵奖获得者、中国科学院院士、上海期智研究院院长姚期智做了《人工智能面对的一些挑战》主题演讲。在他看来,人工智能有三大技术瓶颈亟待突破,需要科学家“从0到1”的原创研究。

作为现代密码学的奠基人,姚期智创立的上海期智研究院今年初成立,目前已汇聚4位两院院士、20多位科学家和多所高校的青年人才。研究院瞄准人工智能、现代密码学、高性能计算系统、量子计算及量子人工智能、物理器件与计算、生物智能6个方向开展前沿研究。

在姚期智看来,脆弱性是人工智能面临的第一大技术瓶颈。人眼识别十分稳定,一个图像如有微小改变,人仍能一眼看出它是什么,而人工智能在图像识别上却是能力不足,比如将一只小猪的照片加入一些图像“杂音”,机器视觉系统可能会把它识别为飞机。“小猪变飞机”这种漏洞会给人工智能应用带来安全隐患。

第二大技术瓶颈是机器学习算法缺乏可解释性,很多算法处于“黑盒子”状态。如一个科研团队开发了一个房地产估价系统,系统通过算法学习了各地房地产价格大数据,从而能自动评估房地产价格。然而,这套算法像黑盒子一样,很难给出估价的完整依据。这在商业应用上是短板。算法的可解释性问题亟待科研突破。

第三大技术瓶颈是人工智能的对抗性较弱。如今,一个无人机群可轻松完成灯光秀、农林作业等任务,但要看到,这些任务都是在自然环境下完成,如果是处于高对抗的人为环境中呢?比如在电子竞技和军事战斗中,无人机群的协同作战能力就会受到很大考验,要在对抗中胜出,需要计算机科学、数学等领域的科学家进行深入的强化学习、博弈论研究,让无人机群能在高对抗环境中自主找到最优策略。“这是一个很重要的科研方向。”

未来是否会产生“超级人工智能”?姚期智说,这存在很大的不确定性。但应对这种潜在威胁,他给出了制约智能机器的3个原则:一是利他,即人的利益凌驾于机器;二是谦卑,即机器不能自以为是;三是尽心,即机器能学懂人的偏好。“每个原则都要用严格的算法来实现,这样就能有效驾驭人工智能。”

(原载于2020年10月23日《解放日报》)