人工智能技术开发与应用严格限制

人工智能一方面造福弱势群体，真正为老年人和青少年提供关怀，如“人工智能技术对独居老人预警水位计和校园暴力行为(排名5，得票率4969%)；例如“人工智能能翻译大脑思想，能将脑信号转换成文本数据，‘读懂意识’让隐私无处遁藏(排名第2，得票率：5009%)；

人工智能技术在世界范围内的蓬勃发展，为数字经济的发展注入了新的动力，深刻改变了社会的生产和生活方式。同时，如何在技术变革的浪潮中进行主动、有效的治理，发展负责任的人工智能，成为当今世界的共同课题。在2021年1月18日，旷视人工智能治理研究院与权威研究机构人民智囊团共同发布了《2020年度全球十大人工智能治理事件》，回顾和分析了过去一年来人工智能领域最具理论、实践、新闻和研究价值的事件，希望以此推动多方对话和多元治理。

本次评选，综合各方面资料、BA33B00FP-E2数据、人民论坛10万+网友投票，以及知名专家意见，最终得出2020年度全球十大人工智能治理事件。这不仅反映了在人工智能治理方面的实践探索和前沿趋势，也反映了公众对于引导人工智能向善，通过新一代信息技术的良性发展来提高人类生活水平的强烈期望。大众可以登陆人民论坛网“2020年度全球十大人工智能治理事件”专页，阅读有关十大事件的详细信息，了解专家观点。

从四个维度看十大事件，引发冷静思考的热点事件

这次评选，主要根据人工智能与公众福利、人工智能与公平和正义、人工智能政府(企业)治理、人工智能系统安全与数据隐私安全等四个主要维度。每项活动的得票率也真实地反映了公众对这些问题的关注程度。

科技发展是给人类社会带来幸福或更多忧虑，是人工智能和公共福利方面需要衡量的标准。人工智能一方面造福弱势群体，真正为老年人和青少年提供关怀，如“人工智能技术对独居老人预警水位计和校园暴力行为(排名5，得票率49.69%)；另一方面，人工智能技术在军事等领域的应用也加剧了人们对技术的担忧(排名10，得票率48.22%)。

从人工智能和公平和正义的维度来看，2020年的典型事件是“人工智能算法下的一些外卖司机挑战交通规则，‘助手’可能会变成‘杀手’(排名第一，得票51.2%)。该事件引发了对人与制度、工作效率和人文关怀之间关系的深刻思考。与此同时，我们也看到，在人机共处的时代，公正与公平的判断正面临着越来越复杂的情况，例如，即使是技术犯罪，也会受到惩罚(排名第9，得票48.75%)，而即使生命成为算法，人工智能产生的作品也会被判拥有机器版权(排名第3，得票49.78%)。

人工智能共治如何实现？

从政府(企业)人工智能治理的维度看，世界各国都在努力通过法律法规的完善来引导人工智能的发展方向，寻求技术进步与社会稳定之间的平衡。例如“欧美、韩国相继出台人工智能治理新规，对某些场景中的人工智能技术开发与应用进行严格限制，甚至禁用(排名第4，得票49.73%)。同时，国内外知名企业也根据自己对科技伦理的理解，在企业实践方面进行了尝试。例如：“美国科技巨头根据自己的道德判断加强了公司自律和人工智能技术监管(排名6，得票为49.55%)。

在人工智能系统安全和数据隐私安全方面，技术上的突破常常是激动人心的，但在技术应用过程中所产生的系统风险常常是意想不到的。例如“人工智能能翻译大脑思想，能将脑信号转换成文本数据，‘读懂意识’让隐私无处遁藏(排名第2，得票率：50.09%)；“人工智能技术突破现有界限，具备‘自主意识’，能实现独立研发、自我修复(排名第8，得票率：48.75%)；“自动驾驶服务在快速车道上行驶，在无人驾驶车辆行驶后引起人们的注意(排名第7，得票率：48.89%)等，技术的界限与人类的利益仍处于长期博弈过程中。

从发展到治理，企业应该兼备“望远镜”和“显微镜”

针对人工智能技术的迅猛发展，专家们指出，与互联网时代“先发展，再治理”的模式不同，人工智能有更多的能量来改变我们生活的各个方面，必须采取“边发展、边治理”的新模式。在这个过程中，旷视作为公司人工智能治理的实用主义者，认为科技公司应该扮演更积极的角色。

旷视首席发展官、旷视人工智能治理研究院院长徐云程表示，企业在技术发展过程中常常面临三大挑战：第一，大众对人工智能技术和产品效用的信息不对称程度较高，容易产生负面认知。第二，人工智能伦理问题转化为企业可执行行为的过程需要典型的交叉学科能力，这是对企业的一次巨大的考验。第三，目前许多新出现的问题尚未引起人们的普遍重视，更缺乏深入的专门研究，造成问题远多于方法。这也是旷视成立人工智能治理研究院的初衷，希望产学界能联合起来，对这些难点、痛点进行深入调查和实证研究，寻求共识。

所以，徐云程认为，在企业中实施人工智能治理，需要一只手持“望远镜”，另一只手持“显微镜”。它可以帮助企业了解技术发展的过去和未来，在思考问题的时候能够捕捉到中外文化和思维方式的差异，在解决问题的时候能够广泛应用各学科的综合知识。其中“显微镜”就是指一些问题在当前社会发展中更为紧迫，需要企业用“显微镜”把这些紧迫的问题放大，仔细研究，理清问题的根源，迅速形成解决机制或共识，为人工智能技术的发展方向和解决社会矛盾的途径积累宝贵的经验财富。

这是旷视去年第二次盘点全球十大人工智能治理事件。通过对这些事件背后所反映的治理趋势和折射出的社会问题的综合分析，旷视人工智能治理研究院这一新一年里的研究课题不但能为学界指明方向，也能让社会各界专家参与其中，并号召更多的人参与到人工智能治理的实践中来，用可持续发展的技术建设一个可持续发展的社会。