无人驾驶、人工智能、物联网、大数据等新技术更新迭代，带来新产业蓬勃发展、新业态层出不穷，给人类生活带来大便利。但新技术新产业也隐含新风险，需平衡创新激励与风险规制，由此带来的立法滞后引起了不少代表的关注。
何以规范人工智能的“伦理”边界
“行车不规范，亲人两行泪”，还要承担相应的法律责任。但，如果开车的“人”是人工智能，怎么办？
全国人大代表、致公党上海市委专职副主委邵志清表示，当社会行为主体中出现“人工智能”这个新门类，应该明确人工智能与自然人的行为划分。当人工智能“犯了错”，智能机器人的使用者、制造者和机器人本身都要承担相应责任，但这些法律责任应进行严格的区分。
日前，新华社在全国两会前夕推出全球首个人工智能合成女主播，引发网友热议。但另一方面，浙江警方于2017年9月破获全国首例运用人工智能实施犯罪的案件。涉案平台利用人工智能技术快速识别验证码，截获、贩卖了10亿多组公民个人信息，供合作团伙进行网络诈骗。英国《金融时报》也曾于2015年7月报道了德国大众公司的机器人“杀人事件”，一名工作人员被正在安装的机器人突然抓起重重摔向金属板而不治身亡。
邵志清表示，上述案件中，有的是机器通过自主学习提升识别能力从而帮助人实施犯罪，有的则是因机器完全自主的行为导致人员伤亡。“传统刑法领域只有自然人才是刑法规制的主体，然而在人工智能应用场景下，很多机器成为了主体。”邵志清认为，现有法律已经难以规范此类问题，需要对人工智能的应用场景管理进行立法。
对此他建议，人工智能应用场景的管理应重点围绕伦理道德、资源获取、主体认定、行为认定、责任划分等方面进行立法。
其中，对于人们最关注的伦理道德方面，应该明确禁止应用人工智能技术实施违反人类伦理道德的行为。尤其在基因工程、生命科学、情感意识等方面，应该通过法律为智能社会划出伦理道德的边界，让人工智能服务造福而不是困扰危害人类社会。
同时，应立法明确禁止人工智能采集涉及个人隐私、商业秘密、国家机密的资料或信息、数据等，从源头上遏制恶意使用人工智能的不法行为。
他还建议，明确责任划分和处罚的原则。一旦有侵害发生，让智能机器人的使用者、制造者、机器人本身承担严格区分的相关责任。
无人驾驶出租车不到一周被叫停
“去年11月，全国首辆无人驾驶出租车在广州投入试运营，但不到一周就被叫停，这个现象值得我们关注。”全国人大代表陈力表示，科技发展离不开法制保障，而从目前来看，我国科技法体系呈现出一定的滞后性。因此，今年两会他提交了一份议案，建议修改现行的《科学技术进步法》。
现行的《中华人民共和国科学技术进步法》于1993年颁布实施，2007年修订。陈力说，这部法律以基础研究和应用、研究开发机构管理等为主要内容，已无法适应新时代下建设创新型国家和世界科技强国的需要。陈力举了全国首辆无人驾驶出租车的例子，2018年11月，全国首辆无人驾驶出租车在广州投入试运营，但不足一星期就被叫停。
在国外，在自动驾驶领域，联合国对《维也纳道路交通公约》进行了修正，德国对《德国道路交通条例》所规定的“驾驶员在车辆行驶过程中全程保持警惕”“驾驶员的手不能离开方向盘”等条文启动立法修正。
“在相关的技术性能及交通规则、损害赔偿规则等未明确的情况下，叫停试运营确实能够防范人工智能技术风险的发生和扩大。”陈力说，但新技术新产业本就常隐含风险，尤其是人工智能这样的新兴行业，未来发展前景可观，所以有必要通过修订《科学技术进步法》等相关法律法规，在创新激励与风险规制之间寻找一个平衡点，对新技术研发与应用加以引导和规范。
陈力还建议要充分保障创新主体权利，强化对科技成果转化的保障，加大科技创新中的知识产权保护力度。（本报北京3月4日专电）
