最近，“人机大战”引起世人关注，一些人对人工智能可能会对人类造成危害甚至威胁人类生存表示担心。对此，英国科学家霍金和美国微软公司创始人盖茨等名人也提出了警告。我对AI发展持乐观态度，但前提是人类要制定和遵循设计与制造机器人的相应规则。

  人类制造的智能机器人威胁到人类自身的生存，这被称为“技术奇点”问题。技术奇点是指拥有人类智能的机器人一直在改进自己，并且制造或繁殖越来越聪明、越来越强大的机器人，最终达到人类不可预测、无法控制的地步。如果制造智能机器人的技术越过这一奇点，局面将无法收拾，会伤害人类甚至使人类面临灭亡危险。但人类可以防患于未然，防止机器人制造技术达到或超越这一技术奇点完全是有可能的，关键是我们有无能力使设计、制造机器人的科学家和制造商遵守AI发展的规则。

  1942年，美国科普作家阿西莫夫提出了“机器人三原则”：一是机器人不能伤害人类；二是机器人要听从人类指挥，除非违反第一条；三是机器人要保护自身，除非违反第一条或第二条。这些原则是好的，然而现在许多科学家提出的已不仅是机器人可能伤害人的问题，而是关系到人类生死存亡的问题，“机器人三原则”已远远不能适应时代发展需要。这就迫切地需要在“机器人三原则”基础上，进一步为AI发展制定规则。

  AI发展的新规则至少应包含以下四个方面内容。第一，应禁止机器人拥有人类所有智能，也就是说，在设计和制造机器人时应留一手。例如，不能让机器人拥有制造或繁殖自己的能力。第二，应建立AI研究伦理审查委员会，审查智能机器人研究计划，对于机器人拥有人类所有智能的研究计划不予批准，禁止利用任何资金资助这类研究计划。第三，与立法禁止化学和生物学武器类似，设计和制造智能机器人的国家及相应国际机构应立法禁止生产与人类一样聪明甚至比人类更聪明的智能机器人，违反此类法律者要承担刑事责任。第四，要求科学家和企业设计与制造行动合乎道德的机器人。让机器人与我们一样自主做出合乎道德的决定，这是一件很难的事情。鉴于近几年应用功能性核磁共振技术探讨研究大脑的成果，人们的道德直觉和道德判断也可能有神经生物学基础，甚至也可能有基因基础，这就给研发行动合乎道德的机器人的计划提供了科学基础。

  在防止智能机器人危害人类的同时，也应考虑怎么正确对待它们。若机器人没有感知疼痛的能力，那么，它就没有道德地位的，只是人类的工具而已。然而，一旦机器人能感知疼痛，就会产生伦理问题。咱们不可以任意对待能感知疼痛的动物，即使在一定条件下我们应该利用它们进行实验研究，也要关心它们的福利，对它们的研究方案要经过动物实验机构伦理委员会审查批准。同理，一旦机器人能感知疼痛，我们就应像对待能感知疼痛的动物一样对待它们。机器人一旦有了自我意识，包括理性、情感以及社会互动能力，在某一种意义上就应被当作具有人格的人或社会的人来对待，享有生命和福利受保护的权利。

  《 人民日报 》（ 2016年11月22日 07 版）(责编：贾兴鹏、夏晓伦)

  人民网北京7月24日电（记者李楠桦）据市场监管总局消息，根据《反垄断法》第四十八条、《经营者集中审查暂行规定》第五十七条规定，按照发展和规范并重的原则，市场监管总局依法作出行政处罚决定，责令腾讯及关联公司采取三十日内解除独家音乐版权、停止高额预付金等版权费用支付方式、无正当理由不可以要求上游版权方给予其优于竞争对手的条件等恢复市场之间的竞争状态的措施。腾讯三年内每年向市场监管总局报告履行义务情况，市场监管总局将依法严格监督其执行情况。…

  人民网北京7月24日电（记者余璐）记者从自然资源部获悉，受今年第6号台风“烟花”(强台风级)的影响，国家海洋环境预报台已于7月23日16时发布风暴潮红色警报。自然资源部根据《海洋灾害应急预案》规定，将海洋灾害应急响应级别提升为I级。…