人类正在步入一个全新的以互联网、大数据和人工智能为基本特征的数字时代。其中尤以AI在21世纪前20年的跨越性发展和革命性升级表现最为抢眼。从弱智能到强智能，从“深蓝”到“阿尔法狗”，从无人驾驶汽车到公民索菲亚，新变化、新发展层出不穷，令人目不睱接甚至有些始料不及。然而，AI是一把双刃剑。它给人类带来便利、速度和效率的同时，也对人们早已习以为常的生产、生活和社会规则造成了巨大的挑战和冲击，并由此引发安全、隐私、法律、伦理以及决策等层面一系列困境和危机。深入理解人工智能的发展的新趋势，客观审视人工智能的潜在影响，合理谋划人工智能的发展方略，既是一个重大的理论问题，也是一个迫切的现实议题。

  不知不觉间，AI已经遍布普通人日常生活的每个角落。工作、学习、餐饮、购物、访友、旅行等生活场景，生产、经营、贸易、运输、航空、军事等社会活动，没有智能软件和智能机器的帮助，其结果是不难想象的。然而，这也代表着，人工智能的应用越广，人类对AI的依赖就越深，由此引发的安全风险隐患也就越多。

  人工智能往往拥有超常的速度、效率和准确性，且不用吃饭，不用休息，风雨无阻，理论上可以不间断地永久工作。在一些人类没办法承受、难以逾越或不易胜任的超强、高危和极为复杂的领域和岗位，人工智能正在扮演逐渐重要的角色。也正因如此，生活中正在出现慢慢的变多的人力所不能及的“黑洞”。只要输入既定程序和规定算法，人工智能便可以在极短时间内完成计算、测绘、推论和策划，人们无需也无从知道运算过程的始终，更无法验证其运算结果的真伪。一旦这些人工智能出现一些明显的异常问题，人类根本没办法及时干预，如生产线上控制数以万计复杂组装程序的智能机器人、证券交易所中以纳秒为时间单位的股票自动交易系统、同一时间操纵成千上万台无人驾驶汽车的自动导航系统等。工业机器人误伤工人、无人驾驶汽车撞死行人、无人机误杀非军事人员等类似的案件已屡见不鲜。不是说人工智能不应出错，也不是说人工操作就会比人工智能更安全，但至少可以说，不要太过迷信人工智能，必须格外的重视且提前防范人工智能的安全隐患。

  进一步设想，随着人工智能的普及和发展，人工智能一旦有朝一日突破“奇点”，开始有自己的意识、思维和情感，人类的命运就可能没办法掌握在自己的手中。伊隆・马斯克一直相信AI是对人类未来的最大威胁，无限开发智能机器就像在“召唤恶魔”。霍金也一直在告诫世人，人工智能的快速的提升最终将导致人类这一种族的灭亡。就连比尔・盖茨也认为，不出几十年，远超人类智慧的超级智能将会诞生。人们不由不去想：人工智能究竟是人类智慧的延伸体，还是人类智慧的终结者？

  信息交互与数据流通是人工智能得以实现的前提和基础。大数据的搜集、整理、分析与使用必然涉及每个人生活、工作和交往的所有细节和信息。日常生活中的无人驾驶、手机导航、语音助手、网络购物、账户转存、财务收支等，无不需要与个人的姓名、性别、电话、邮箱、位址、账户等私密信息有效关联。这些海量的信息与数据经过简单的分析和归纳，小至个性特点、脾气秉性，中至饮食上的习惯、兴趣爱好，大至行踪轨迹、交往范围，甚至私生活、性取向等个人隐私和癖好都无处可藏、无所遁形，几近“裸奔”状态。另外，出于利润和其他目的的考虑，大量的智能机器在网络上一刻不停、分秒必争地搜集、整理着私人数据。再加之，由于系统安全漏洞、黑客恶意攻击等现象的存在，个人数据始终面临被窃取、被泄露、被买卖的危险。由此看来，数据安全与隐私保护是AI时代的核心议题，必须确保信息和数据的安全，确保个人隐私不受侵犯，确保每个人的合法权益。

  2016年5月，美国佛罗里达州一辆无人驾驶的特斯拉与一辆横穿公路的卡车相撞，酿成车毁人亡的悲剧。美国公路安全管理局的调查取证表明，车载无人驾驶模式无显著缺陷，汽车生产商和司机也没有过错。那么，最终由谁来承担相应的责任呢？一时之间，人们各持已见，众说纷纭。按现行法律，主观过错在法律责任认定中最为关键：过错性责任与无过错责任之间有质的区别。在此案例中，AI系统独立操控汽车，人类并未介入和参与，因此没有一点过错性责任，那么由人工智能自主性操作造成的损害如何认定责任呢？

  这就涉及到AI时代的一个法律困境：人工智能可否被问责，以及如何问责？不论是公正的法官，还是守法的民众，人们早已习惯无智能时代的思维，所有法律和判决的终极指向都是人类自身。一个人挥刀杀人，为罪行负责的是持刀者而不是那把刀；合法使用枪械的人因枪膛爆炸而受伤，对损伤负责的是售枪公司而不是那把枪；自动投球机导致使用者伤残的，被告上法庭的是生产者和售卖商而不是投球机。那么，究竟人们能否起诉智能机器？再或者：现行的罚款、刑拘、监禁甚至死刑对于智能机器有无意义？这就关涉到更深层次的问题：机器人是否拥有法律地位，能否独立承担法律责任？再进一步，智能机器究竟是法人、自然人、动物还是物品？如何为智能机器重构责任规则？这样一些问题还有待于人们去思考，去解决。至少在当前的法律框架下，智能机器还不必为自身行为造成的损害承担相应的责任，承担责任者仍是生产者、销售者或使用者。其实，这里预设了一个责任假设：上述责任主体能够且应该预见智能机器的任何行为及其引发的后果，这也代表着，人工智能的生产者、销售者或使用者必须有能力预知风险且合理规避。但人类能想象：未来的某一天，当智能机器开始拥有自主判断和自主行为的能力时，现行法律规则体系就将陷入死局，新的法律体系必须创立和启用。

  对于人工智能引发的伦理困境，慢慢的变多的人意识到：“人工智能的潜在危险、我们对其日渐依赖以及法律的灰色地带共同构成了很重要的问题：我们应该在这样的领域建立一种伦理规范。”那么究竟是何种规范呢？阿西莫夫曾提出了著名的“机器人三则”：机器人不得伤害人，也不得见人受到伤害而袖手旁观；机器人应服从人的一切命令，但不得违反第一法则；机器人应保护自身的安全，但不得违反第一、二法则。这三条法则之间是不是有逻辑上的内在冲突和悖论我们暂且不论，单从现实操作的角度，这三条法则的履行即便是对人也不是一件易事。试想，智能医疗机器人运送伤员去医院时突然遇到另外一位生命垂危的重伤员，它是置之不理继续前进还是立即停下来施救？一辆无人驾驶汽车检测到前方或后方即将发生碰撞会自动做出转向拐弯的反应，如果恰巧两侧都有正常行走的市民，那它是拐还是不拐？类似的伦理困境对正常人也是一个艰难的抉择，更何况是对AI呢？再比如，近些年来智能机器人不断走进寻常百姓家，一些超级机器人功能强大到能够完全满足使用者绝大部分日常需求，那么问题来了，若使用者与机器人日久生情、萌生爱意，是不是能够结婚呢？如果技术再获得突破，是不是能够生儿育女呢？人与机器生育的后代与人类是何种关系？这样一些问题看似匪夷所思甚至有些荒谬，但绝不会太遥远。在可预见的未来，人们可能就要直面这一些难题：什么是人的内在规定性？人与机器的区别是什么？传统的家庭结构是不是有存在的必要？

  我们即将面对一个全新的人工智能蒸蒸日上的崭新时代。“这在某种程度上预示着国家治理体系和治理能力务必实现从传统治理到互联网治理，再到AI治理的跨级飞跃。”那么，如何在顺应技术革新大潮的前提下，既鼓励人工智能的顺利发展，又合理规避由此带来的风险呢？

  首先，要鼓励创新。创新是人类社会的推动力。代表着当前科学和技术最新发展的AI是人类智慧发展和社会进步的表现，必须全力支持和积极扶助。新现象、新事物必然对传统规则和体系造成冲击和挑战，对于人工智能引发的一系列治理困境要及时补救，积极应对，主动预防。其次，要适度控制。对于技术的发展、智能的进步和市场的创新，有些可交由市场规律自然选择，优胜劣汰，有些则需要政府提前制定相应的规则和规范，确保AI行业稳健、良性和有序发展。既不简单粗暴扼杀，也不任其自由泛滥。权力保持谦逊，市场充满了许多活力，技术方能进步。最后，要多元治理。作为人工智能的利益相关者，面对新问题与新变化，政府、企业、社会组织和个人应联合行动，共同参与，各司其职，各尽其能，以适当的角色、合理的方式同步参与治理，在对话、协商甚至竞争、博弈中寻找最佳应对方案。

  无论人们喜欢不喜欢，认可不认可，人类有史以来最伟大的一场变革大幕正在徐徐拉开。迟早有一天，人们将面对这样的终极选择：是将AI嵌入人类千百万年所构建的秩序体系，还是调整现有制度规范和价值观念走进人工智能的世界？是全力发展人工智能，促其成为与人类相近或相同的类人群体，还是适当控制人工智能的发展，将其始终定位于劳动工具的角色，从而确保人类的劳动权利和人格尊严？这样一些问题也许人们现在还不需要回答，但终究要直接面对。在当下，人类必须要时刻提醒自己：对于人工智能，既不要过分低估它的能力和发展，也不要过分高估它的威胁与风险。未雨绸缪，防患未然，方能决胜千里。

  1. 詹姆斯·巴拉特著，闾佳译：《我们最后的发明：AI与人类时代的终结》，电子工业出版社，2016年，第255-270页。

  3. 卢克·多梅尔著，赛迪研究院专家组译：《人工智能：改变世界，重建未来》，中信出版集团，2016年，第245-246页。

  4. 腾讯研究院等：《人工智能：国家人工智能战略行动抓手》，中国人民大学出版社，2017年，第243页。

  5. 庞金友：《A I治理：AI时代的秩序困境与治理原则》，《学术前沿》，2018年第5期（下），第16页。返回搜狐，查看更加多