YR-ES165-J0B

工业4.0最突出的一点，是通过网络化生产出个性化的产品，譬如个性化面包。工业4.0之后，每个人都可以吃到最适合自己口味、最有利于健康的面包。生产线上的机器人会从互联网上知道我们每个人的身体体征，如果再进一步用智能方法，会得到我们个体患糖尿病几年了、高血压几年了等情报，会根据你的生理指标来制作面包。假如这个做面包的机器人的某个程序出了问题，或者被攻击了，就有可能对我们的健康产生威胁，但这种威胁是良性的。

　　恶性的就是设计者仇视社会，这个体现于设计者设计的机器人可能会产生危害社会的行为。恶性的思维传递给机器人，再加上3D打印，可能对人类的威胁更大。

　　所以我要引出第三个观点：制定准则，对机器人及其研制者要制定道德准则。首先对通过鉴定的机器人要打上标签，知道这个机器人能做什么样的事情。其次对机器人的设计者实行注册制，机器人设计者要有一个实名制身份，人们可以根据他的行为、他以往的经历包括现在的状态，对其作规范和约束。这样就达到了把风险降到较低、又抓住机遇的目的。

　　我想表达的就是对人工智能要抢抓机遇，科学地看待威胁，制定社会准则，规避风险。

　　在争论和怀疑中不断进步

　　无论威胁还是机遇，我们始终要去追求，由此才能不断推动人工智能的发展。在这一过程中，将会发现许多美好的、奇异的东西。

　　冯嘉礼：从历史来看，每一次新生事物的诞生，某些人都会感觉有威胁。比如水轮机的出现，纺织工人就感觉要失业了。现在机器人来了，很多工厂流水线上的工人就感觉要下岗了。历史上从来没有一样新生事物会受到全部人的欢迎，总有一部分人会感受到威胁。问题是我们怎样面对威胁?人类不能因为有一部分人受到威胁，或者有反对的声音，就不前进了。

　　任何事物都有两面性，科学也是一把双刃剑。科学新发现、新发明在推动社会向前发展，并对一部分人造成威胁的同时，也创造出很多发展机遇，只要掌握新知识，掌握新技术，就会找到广阔的发展空间。如果能直面威胁，积极应对，顺势而为，勇于创新，更有可能屹立潮头，成为新时代的骄子。

　　钱学森对发展人工智能曾提出过很多高瞻远瞩的想法和观点，比如他倡导开展思维科学研究，提出思维科学是智能计算机的理论基础。问题是：我们能不能把他想法蕴含的实质内涵挖掘出来，并整理成一个人工智能的基础理论和方法。

　　王行愚：上世纪，我们在读控制专业研究生时追求的目标，是用人工智能来解决问题。几十年过去，今天再来谈这个题目，仍然具有新意。人工智能本身是一个永恒的课题，至少我们这几十年的经历来看，我们是在各种争论和怀疑中不断进步的。

　　第二个观点，我觉得无论威胁也好，机遇也好，我们始终要去追求。我把它看成是在追求一个很美好的愿景，也许就像追逐天边的彩虹，我们可能永远追不上它，但在追逐的过程中，将会发现许多美好的、奇异的东西,这就是我们研究的意义。我们未必能达到最高境界——最终能做出和人一样能思维、有感情的机器人，但在追逐中不断前进，才能推动人工智能不断发展。

　　如何让机器人真正达到人的智能境界?最近10年我在做的一件事是研究脑控系统,这是一种基于脑机接口的人机融合控制系统。它的研究初衷缘于医疗康复领域的需求,有一些残疾人手脚不能动了，但是脑子挺好，这时就可以借助意念或思维来指挥机器人,帮助他做事。这些工作从人工智能角度看有两点启示。

　　第一，思维或意念是可以实现控制的。这也是我们追求的境界，能不能“心想事成”，怎么实现?这在以前是不敢想象的，但是研究表明是可以做到的。它实际上是把人脑某些思维活动中与之对应的一些脑电信号的模式提取出来，把思维的虚拟想象通过实在的、物理的脑电信号“表征”出來,从而实现对外的控制。这项研究尽管还处于实验和演示阶段，但对于控制和智能研究是一个突破。

　　第二,在脑控系统中,脑和机紧密结合,这种结合体现了生物智能和人工智能的结合,脑控系统可以成为研究这两种智能的平台。抓住这个比较好的研究平台深入探讨，也许会有助于对这两种智能的研究,取得某些突破。

　　最近我们做了一些脑控系统，发现它存在一个很大的问题，就是它的指令比较单一，效率不高,将人工智能与脑控技术结合之后，就有了很大的改进,有可能为残疾人提供更好的服务。现在脑电信号无线传输已经实现，有的戴在眼镜上就能做，它未来发展的前景很大。

　　在这个平台上，除了生物智能和人工智能，还有一个新课题是研究人机融合系统的描述、建模和控制，这是一个全新的、有人融合进去的系统。这一类共生系统怎么研究，值得关注。

　　李德毅：我同意王教授的观点，即人的思维和意识是能够控制的。我认识一个在美国科学院从事生理学研究的脑科学家，我说我想做一个机器驾驶脑，你给我画一个人脑的功能结构图吧。他的回答让我很沮丧，他说脑组织的结构图随时可以画，脑功能的结构图100年也出不来。虽然沮丧，但我觉得他的这番话值得我们思考。

　　严伟：模拟脑做得最好的还是CPU。IBM有个科学家做了一个模拟神经元芯片，能模仿从电路到脑的过程。如果脑的功能100年都画不出来，电路怎么实现?电路要有明确的实现方式，神经元就是一个互相串联的系统。它也有内在的脑结构，如果要模拟人脑，我们希望有大脑的一些功能出来，这样做电路的就可以有一个方向了。

　　李德毅：刚才严伟教授提到，如果人脑功能结构图100年出不来，机器脑怎么出得来?我前面说过，虽然我们不可能把人脑所有认知能力都做出来，但如果特定情境和局部环境下的认知能力，如驾驶脑、运算脑、下棋脑、情感脑等可以逐步做出来的话，那么由人工智能技术构建的千千万万特定认知机器的脑，通过移动互联网、云计算和大数据，是否可以逼近人造脑呢?