1月初，在Benificial AI 2017的会议上，近2000名产学研领袖和中坚力量共同联名发布人工智能（AI）23条原则，从研究问题、伦理价值观和长期问题三个角度宏观地为AI发展提出规定。面对AI可能会被误用和威胁人类的担忧，这23条原则被期待能确保AI走在“正轨”，以获得更加健康的发展。本版特邀几位行业人士和行业关注者，谈一谈他们对这一原则发布意义的理解和感想。

  应该设计高度自动化的AI系统，确保在操作的流程中它们的目标和行为与人类价值观保持一致。价值一致很重要。机器人不会尝试违反人性，但是它们会对人类告诉它们要做的事来优化。所以我们应该确保机器人所优化出的世界是我们想的。

  我认为，最大的危险在于，人们或许会以一种不负责任或者恶意的方式来处理AI，我指的是一些人为了个人利益会这么做。通过在整个世界普及一个更加平等的社会，我认为我们大家可以减少这些危险。在一个充满暴力、充满不平等的社会中，AI 的误用，或者有人不负责任地使用AI的概率整体都会大增。让人人都能从AI受益是安全问题的核心。

  致命自动化武器的军备竞赛应该被禁止。我不是战争的支持者，我认为战争是极端危险的。显然，我认为，AI 技术有着非常大潜力，但是，即便只是我们今天能掌握的技术，已经不难想象，AI可能会被用于破坏性的事务。我不希望我对这一领域的贡献，或者任何我们发展的技术会伤害到任何人，被用于开发武器或者是发起战争。哪怕我们的技术只是让武器杀伤力更强，我也不希望。

  今天AI有多火，我们都能清楚看到，可是在过去数十年并非如此。去年的麦肯锡报告公布，中国只有不到25%的人工智能从业者拥有超过10年的行业经验，而在美国这一比例也只有50%，多数都是近年来加入AI行业的。从2010年到2014年，人工智能初创公司的风险投资额增加了20倍以上。英国知名物理学家史蒂芬·霍金在2014年12月说，人工智能可能会终结人类，但它是把双刃剑，也能够在一定程度上帮助治愈癌症及减缓全球变暖，随着人工智能爆发式增长，这个行业迫切地需要一个行业行为准则和标准。

  在我们真正接触人工智能之前，它已经在科幻小说中出现了很多次，很多科幻电影都将人工智能定位成反派，这让我们见识到AI会给人类带来多么大的危害。1940年，科幻作家阿西莫夫对机器人做出规定，提出机器人三原则，主要是为保护人类。

  相比较机器人三原则，此次Benificial AI 2017会议发布的人工智能23条原则不仅是从安全角度思考人工智能的发展，核心目的更是确保人类的利益不受损害，即人工智能如何应用对人类更有价值。到目前为止，已有2999位AI领域的专家签字，其中1059位是人工智能/机器人技术探讨研究人员，1940位是人工智能团队的重要人员。

  人工智能已经为世界各地的人们提供了日常使用的有益工具，它的持续发展，须以23条原则为指导，在未来几十年甚至几个世纪，为帮助人类更强大提供很多惊人的机会。因为其客观性和公正性，它不可能影响众多人的工作，会在心里和行为上更加约束自己，对AI行业的整体发展十分有益。

  随着近几年爆发式的增长，AI已经在众多领域取得了巨大成果，比如安防领域的人脸识别、金融领域的智能投顾金融监督管理、无人驾驶和医疗健康领域的辅助诊断等，这23条原则可以在每个领域都适用。医疗领域的人工智能从业者更看重的是责任。高级AI系统的设计者和建造者，在道德影响上，是人工智能使用、误用和动作的利益相关者，并有责任和机会去塑造那些影响。无论是基于深度学习技术多维度解读图片和视频，为公司可以提供色情识别、暴恐识别、广告识别、人脸识别、场景识别、物体识别和辅助诊断等数十种智能识别服务，还是基于语音识别和自然语义等领域的应用，不能离开责任两个字。

  每个行业都有应当遵守的原则，就有关国家、部门、人员之间的利益问题进行公开讨论并达成一致意见，共同遵守一个规定。比如《临床医师公约》《医学生誓言》等，目的不是强制医生或者医学生来做一些什么事，而是要他们约束自己的行为，全心全意为人民服务，推进医疗卫生行业发展。对于医疗领域的AI应用来说，Airdoc目前已经掌握世界领先的图像识别能力，并且在人类顶级专家的帮助下，在心血管、肿瘤、神内、五官等领域建立了多个精准人工智能医学辅助诊断模型。但是我们从始至终认为，准确率背后不是冷冰冰的数字，而是活生生的人，一个数字的错误就会造成一个家庭的悲伤，我们应该对每一位潜在患者负责。从总的来看，23条原则并不能给人工智能带来什么改变，也不能提高医学领域辅助诊断的准确率和工作效率，但它在安全伦理方面时刻提醒着我们，要时刻约束自己的行为，从而让我们发自内心地逐步的提升诊断准确率。

  这些原则并不是法律，不能强制人工智能从业者做什么不能什么，但这是凌驾于法律之上，是悬在人工智能从业者头上的达摩克利斯之剑。一旦我们触碰或者违反了规则，就会造成巨大的损害，让从业者随时有危机意识，心中时刻敲响警钟。

  著名作家雨果在《莎士比亚论》中说过，已经创造出来的东西比起有待创造出来的东西是微不足道的。面对人工智能的迅速发展，人们恐怕就是这样的感觉。我们很难设想技术进步的影响、速度。记得学校里的教授们曾经说过，你所读过的一切文献和书籍都是已经或即将淘汰的。这就是今天我们正真看到的技术发展所深刻感知的。

  恰因如此，我们对AI的思考应该是开放积极的，而不必要悲观消极。中国古典经典《易经》讲“穷则变，变则通，通则久”，就是这一个道理。反过来，叫作“变动不居，不可为典也”。我们今天不能够完全感知人工智能给我们大家带来的影响，恰如北京周口店的猴子也没办法理解今天智人的所思所为一样，我们只活在当下。

  人工智能会给医学带来非常大的革命性进步。不远的将来，我们每一个人都会有一个家庭医生，会提醒你服药，会记录你的生命体征，会为你的健康报警；在医院你也会遇到你的机器人医生，诊断、手术、给出医嘱，绝不会忘记你的血型和药物过敏史。由于她所具有的记忆能力和数据处理能力，医生们的误诊率会被大幅度降低，手术做的则是无可挑剔。人类会从中享受到乐趣、便捷，并为其服务的精准性而自叹不如。

  我们相信人工智能不能代替医生，医生不是技术的奴隶。2月14日，人们宁肯宅在家里看一场爱情电影也不会和一个机器人朋友共进浪漫晚餐。疾病的本质是什么？不过是在坐标系中，你的某些数据没有在大多数人应该在的一个二次方曲线包围的区域里，你被out了。但这不是生命的本质。特鲁多医生的墓志铭说得好，“有时去治愈，总是在帮助，永远是安慰”。安慰是心灵的交流，这是医生职责的本质，不是技术能代替的。

  或许有一天，人类会将大脑的一切思维能力得以在电脑中复制。既然思维是有物质基础的，这一天就应该设想的。如果到了这一天，人工智能还是“人工”吗？

  当人工智能的智能发展时，我们会遇到道德伦理问题。比如说我们要不要研究机器人士兵，阿西莫夫的机器人三定律的核心就是机器人不能杀人。在医学上，我们也会遇到类似的问题。机器人医生的医疗事故如何正确地处理？当机器人看到一位需要安乐死的病人时，如何诊断和执行医嘱？人工智能23条原则中的多个原则都应该是医生和医学智能的研究者们应该遵守的。比如责任、隐私、生命伦理等原则。人们对生命的关注，也应该导致加强科学和技术的研发者与政策制定者之间更加密切、积极和开放的对话。

  人工智能毕竟是“人工”智能，机器人士兵出现前景和大规模杀伤武器出现遇到的问题是一样的，23条原则议论的问题和爱因斯坦困惑的问题本质也无不同。人类打开了核能这个潘多拉盒子，到目前为止，人类也没有让达摩克利斯之剑掉下来。毕竟，亚里士多德说的是对的，人是有理性的动物。

  AI界发起联名签署为技术革命对社会的冲击和改变划下“安全区”，倡导新技术快速稳健发展的原则性规范。每当AI在某一方面击败人类选手的时候，多会有一些职业好像面临被替代的可能。应该说，倡导这些原则的目的是面向未来，为新技术变革的可持续发展提供方向性指导。某些职业一定会被淘汰、取代，历史上的几次技术革命都是如此。

  在这23条原则里，人类控制（16条）和非颠覆性（17条）意味着AI系统要有安全网，要在人类可控的范围内运行。但是无心的疏忽和非理性的冒险尝试都可能突破这些脆弱的自我约束，使得风险变得难以预估。

  在医疗领域，AI发展面临的最大不信任是AI在何时能够胜任医疗领域的哪些职能，如何在这样一个高度专业的领域吸收和推动AI的发展。

  长期来讲，AI能否帮助人类了解自身，推动医疗健康的边界，这些和23条原则或多或少相关。与此同时，AI的法律和伦理地位是一个需要长期积累和修正的过程。在初始阶段，需要通过单个社会场景来分别界定，比如无人驾驶是不是能够获得驾驶执照和保险，然后综合汇总形成更有普遍适合使用的范围的系列规则。

  价值观的问题更复杂，因为人类社会的价值观是非常多元化的，同时受地域、文化、经济、政治等多方面因素的影响。AI系统价值观的体现会受设计者、使用者和自身的迭代优化影响。比如，聊天机器人在学习了大量辱骂恶俗的语料以后，也会流利地回骂。

  本文为转载文章，如有侵权请联系作者删除。本文仅供健康科普使用，不能做为诊断、治疗的依据，请谨慎参阅

  胸部，头部ct检查结果如何，怎么看 胸部，头部CT检查结果怎样，是否 下一步检查是做什么呢

  胎儿脊髓圆锥末端略低，达腰3-4水平之间 胎儿磁共振大脑检查 时间 规范 胎儿脊髓圆锥低 胎儿磁共振片子审阅

  是多发囊肿，还是多囊肾？ 大夫，您好！近期我妈因高血压入 是肝肾多发囊肿，还是多囊肝多囊肾

  主任您好，新复查的核磁共振，请您帮忙看下 帮忙查看一下磁共振，谢谢您，很谢谢。。 诊断

  提示：任何关于疾病的建议都不能替代执业医师的面对面诊断。网友、医生言论仅代表其个人自己的观点，不代表本站同意其说法，请谨慎参阅，本站不承担由此引起的法律责任。