人工智能立法提速 把握“边界”是关键？

李彦宏全国政协委员、百度会长兼CEO

立法本身不应该太先进，新事物刚出现，稍微跑一会儿总结经验，找到规则立法。其次，在不同的领域，相关法不同。例如，像无人驾驶一样，过去没有相关的法律。

刘庆峰全国人民代表大会代表、科技大学通信会长

3月4日上午，十三届全国人民代表大会二次会议召开了记者招待会，大会发言人张业遂表示将与人工智能密切相关的立法项目列入立法计划。

张业遂表示，全国人民代表大会常务委员会已经将数字安全法、个人信息保护法、科技进步法等与人工智能密切相关的立法项目列入这次5年的立法计划。同时，将人工智能方面的立法纳入抓紧研究项目，围绕相关法律问题进行深入的调查论证，努力使人工智能创新发展，为人工智能创新发展提供有力的法治保障。

从2017年第一次被写入政府的工作报告书，到去年受到很多两会代表委员的关注，人工智能已经成为两会的焦点。2018年国务院总理李克强作政府工作报告时，提到发展新动能。做大做强新兴产业集群，实数据发展行动，加强新一代人工智能开发应用，在医疗、养老、教育、文化、体育等多个领域推进互联网。随着人工智能的快速发展，它对社会、经济、文化等领域产生了越来越深的影响。同时，人工智能面临伦理道德框架、隐私与安全保护等问题，为了让人工智能实现健康发展，急需一套完善的法律体系与之匹配。

从追逐到世界领先

人工智能最早的浪潮起源于1950年代的美国，但经过近70年的曲折发展，中国成为世界领先的人工智能大国。根据联合国部下世界知识产权组织(WIPO)发表的研究报告书《技术倾向2019:人工智能》，在世界人工智能领域的竞争中，中国和美国处于领先地位。

报告显示，AI专利申请最多的前20家科研机构中，17家来自中国的AI相关科学出版物数量排名前20的科研机构中，10家来自中国。世界前30名AI专利申请者中的4家科研机构，来自中国。

另据CNNIC第43次调查报告显示，截至2018年6月，我国人工智能企业数量已达到1011家，主要集中在北京、上海和广东。其中，北京拥有395家企业，成为全球人工智能企业最多的城市。

去年，习近平总书记在中共中央政治局第九次集体学习时强调指出，加快发展新一代人工智能是我们赢得全球科技竞争主动权的重要战略抓手，是推动我国科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。

他在讲话中特别指出，人工智能具有溢出驱动性强的雁效应。在移动互联网、大数据、超级计算、传感网、大脑科学等新理论新技术的驱动下，人工智能加快了发展，呈现了深刻的学习、跨境融合、人机合作、群智开放、自主操作等新特征，对经济发展、社会进步、国际政治经济结构等产生了重大而深刻的影响。

立法工作需要加快

中国在热情拥抱新的人工智能热潮的同时，从政府部门到产学研各界都关注与人工智能发展相关的法律和伦理问题。2018世界人工智能大会开幕式上，习近平总书记强调，处理人工智能在法律、安全、就业、道德伦理和政府管理等方面提出的新课题。

与电商法5年后正式落地不同，人工智能立法更早受到两会代表委员的关注。去年两会期间，全国政协委员、百度会长兼首席执行官李彦宏在提案中表示，希望国家提出政策鼓励人工智能开放平台，加快自动驾驶的立法。

目前，中国人工智能的总体政策在2017年7月国务院发布的《新一代人工智能发展规划》中得到体现，但该规划只是要求对人工智能在部分领域初步建立伦理规范和政策法规，尚未上升至法律层面。由此可见，人工智能的立法仍有待加快。

全国人民代表大会代表、湖北德伟君尚律师事务所首席执行人蔡学恩认为，人工智能行为伦理道德框架、人工智能应用相关民事和刑事责任确认、隐私和产权保护、信息安全利用等问题的研究需要加强。

立法有什么挑战？

人工智能的立法需要尽快提出议程，但人工仍然是新的，如何把握适当的界限是很重要的，特别是考虑到人工智能可以应用于金融、医疗、交通等多个场景，总结性的法律可能会阻碍人工智能的发展。

今年两会前夕，李彦宏在接受新京报记者采访时表示，人工智能立法本身不应该太先进，新事物刚出现，稍微跑一会儿总结经验，找到规则立法。

李彦宏表示，在不同领域，相关立法不同，如无人驾驶，过去没有相关法律。北京市重视无人驾驶，立即有相应的法律，保障我们的创新有序进行。

全国人民代表大会代表、科技大学通信会长刘庆峰也向记者表示，以AI医疗为例，机械诊断患者的平均精度高于一些基层农村医生，但法律水平上机械不能诊断患者，往往将机械的结论交给医生，让医生决定。

■采访

李彦宏:人工智能立法不能太先进

无人驾驶、智能医疗等领域需要立法

全国政协委员、百度会长兼首席执行官李彦宏今年的3个提案都与人工智能有关，分别构建了智能交通解决方案，使人民旅行更加顺利

新京报:关于人工智能立法，你有什么建议？

李彦宏:首先，我认为立法本身不应该太先进。大多数情况下，新事物刚会儿总结经验，找到规则立法。其次，在不同的领域，相关法不同，如无人驾驶。北京市很重视无人驾驶，很快有相应的法律来保障我们的创新能够有序进行，到今天百度已经拿到了50张左右的自动驾驶测试车证。

医疗方面也需要相关的立法，统一电子病历的格式，需要什么样的字段，需要什么样的内容，医院和机构之间的交换，需要保护患者的隐私等，必须通过立法解决。

新京报:如何解决互联网和AI发展过程中遇到的数据孤岛问题？

李彦宏:以电子病历为例，许多好医院都有电子病历。但是，这些病历彼此相通，我在这家医院接受诊察后，到别的医院再次检查。我认为有必要通过政府的力量制定相应的标准，推进数据共享。

新京报:在这个过程中如何保护用户的数据隐私？

李彦宏:在共享过程中，必须特别注意保护用户的隐私。在道理上，我认为大家都认可。重要的是在执行过程中是否有好的机制。

百度内部几年前提到两个词，一个叫平台化，另一个叫接口化。平台化是指我做一件事，把它做成平台，让其他部门的人使用。接口化是指把我的能力开放给你，我告诉你我的平台能干什么，但是我不把背后的数据、源代码给你。这样一来，数据得到了保护，知识产权得到了保护。

通过平台化、接口化的方式，把边界定义清楚，什么人可以获得什么样的信息，获得什么样的能力。然后通过一个平台或多个平台提供这些能力。

新京报:人工智能行业有什么问题和挑战？

李彦宏:我认为人工智能有很多误解，存在两个误解。有些人乐观(对技术发展速度)，担心人工智能有意志的话，就不能控制人。我觉得这个担心其实是没必要的，人工智能离这一步其实还非常远，我的判断是永远达不到。

另一个极端是，人工智能现在能做的有意义的事情还不够，市场还处于初期阶段，不受重视也很危险。人工智能的推进作用在生产方面，可以大幅度提高生产制造效率。如果一些企业不能早点意识到人工智能在这方面发挥的作用，就有可能被淘汰。

新京报:人工智能行业有一定的泡沫吗？

李彦宏:人工智能领域一定有泡沫，泡沫还不小。任何新趋势来临时，每个人都会感兴趣并拥抱它。无论是投资还是创业，或者是大公司研发方向的调整，都会走向这个新的趋势，所以一定会产生一些泡沫。只有这样大家在一起的时候，才能使这个产业迅速成熟。

人工智能行业走向成熟的过程是优胜劣汰的过程，其馀的一定是少数公司。我认为这是一个自然的过程。

今天大家说的十项技术中，九项未来可能证明没有价值，但一项技术最后逐渐磨练成了非常有价值的技术。大家需要这样的心理准备，今天很热的公司中，10人中可能有9人5年后就不存在了。新京报记者马婧

■访谈

刘庆峰：立法首先要保障人类安全

人工智能的立法核心一定要以人为本，这是立法的根本；立法应更有针对性

新京报：人工智能时代会对现有法律体系产生哪些新挑战？

刘庆峰:人工智能立法的挑战有两个方面。一个是现在原法律体系中没有人工智能的法律法规，人工智能是新物种，其带来的积极援助和潜在风险是人类从未遇到过的，法律体系的讨论调查最终制定了比较长的过程。

二是人工智能发展日新月异，法律体系如何与时俱进，尽快满足人工智能产业发展和社会健康进步的需求，确实有很大的挑战，这主要体现在人工智能对生产和生活方式的变化是新的，其次是人工智能的变化非常快。

新京报：对于人工智能立法，你有哪些建议？

刘庆峰：人工智能的立法核心一定要以人为本，这是我们立法的根本。我认为，人工智能立法首先要保障人类的生命和财产安全，也就是说人工智能一定是要在风险可控范围内来使用，比如说在自动驾驶领域，它的应用门槛和标准是什么；在医疗领域，人工智能要达到一定的准确度，而且最好通过一定的资质认证。

第二是人工智能应该兼顾未来社会人文的需要，倡导人机耦合的模式，简单说人工智能是帮助人的，而不是替代关系。在人机耦合上，我们要考虑到以人为本，未来人和机器是如何协作的。例如在医疗上我们叫人工智能系统为辅助诊疗系统医生助手，在法律上叫人工智能为刑事案件辅助审判系统。

第三是人工智能立法对很多老百姓来说还是陌生的，对技术也不是特别了解，所以人工智能在立法的同时需要有检测手段，在检测人工智能安全性上必须要有测试标准和方法，这样才能使立法落到实处。

新京报：考虑到人工智能的应用跟很多的领域相结合，立法时是否应该更具针对性？

刘庆峰：人工智能立法应该要有针对性，就像制药一样，任何的药物生产出来都要有临床过程，通过技术分析证明它具备药效，通过临床验证后再进行大规模的推广。人工智能也是如此，立法时在一定范围内进行试验，试验通过验证后可以大规模落地。

人工智能的应用必须遵循这个逻辑，而不是大干快，最终行业泡沫过多，应用中容易造成不必要的伤害，影响人工智能的健康发展。

正如习总书记所说，人工智能具有非常强大的雁效应，未来社会将从互联网进化到人工智能的时代，各行各业都可以通过人工智能深刻改变当前的生产和生活方式。对于行业头部企业，需要更多的支持和关注。

新京报:在解决数据孤岛问题的同时，如何保护用户的隐私？

刘庆峰:首先法律要同步跟进，其次企业要有更强的保护意识，现在已经有很多服务关系到平民的日常生活优艾设计网_PS论坛。因此，相关行业的领导企业不仅要通知用户，还要实现价值观水平的指导。

第三，现在很多数据在用户不知不觉中被企业带走，从技术上来看，我们应该通过人工智能技术的发展给予用户更多的选择。例如，通信翻译机，考虑到机密信息泄露的可能性，公司在设计产品时需要离线翻译版本。

新京报:中国在人工智能领域处于领先地位，应如何保持先发优势？

刘庆峰:中国为了保持现在的优势，必须通过应用促进人工智能的发展，在保护和共享数据之间促进人工智能的发展。欧洲严格管理数据，影响人工智能的发展。我认为，数据的适度管理尺度和典型应用场景的快速突破可以形成数据和应用场景的良性交流，最终实现人工智能的领先优势。

中国要持续保持人工智能发展，应对人工智能的第三次浪潮，未来还需要更大的突破，例如要在源头技术创新上加油，进一步推动人工智能技术在应用方面的落地，在人工智能未来的发展中要做更多的前瞻性、基础性的布局，才能够在人工智能领域保持领先，我觉得这是非常关键的一步。