首页>国企·民企>财·知道财·知道
人工智能:“花?!敝氯杂小熬<?/span>
人工智能可以同声传译、写新闻稿、协助医生看病、让机器人脸识别的精度高于人类、甚至写诗和战胜围棋世界冠军,其应用可谓“百花齐放”。
数据显示,截至2017年6月,全球人工智能企业总数达到2542家,预计到2030年,人工智能将为世界经济贡献15.7万亿美元
在今年7月国务院印发的《新一代人工智能发展规划》(以下简称《规划》)中提出,到2020年,我国人工智能核心产业规模超过1500亿元,带动相关产业规模超过1万亿元。顶层设计相继出台,巨头发力布局生态,资本市场热情洋溢,细分行业独角兽不断涌现,人工智能这片“花海”已不止“看上去很美”。
但“花海”之下仍有“荆棘”。市场研究机构埃森哲大中华区信息技术服务总裁陈笑冰坦言:“人工智能也将会引发新的安全和伦理问题,鉴于未来人工智能将深入生活,政府也需要切实为人工智能制定监管规则,保证人工智能应用合理合规发展。”《规划》也同时提出:“人工智能发展的不确定性带来新挑战。人工智能是影响面广的颠覆性技术,可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。”
人工智能发展将面对怎样的挑战与风险?又应该设立怎样的“游戏规则”,让新技术能够与人类社会良性互动?
监管刚刚起步
人工智能不断融入人类生活的同时,也引发公众对人工智能的忧虑。对此,专家表示,应该建立监管机构来引导、促进和保障人工智能的健康发展
此前有报道称,“脸书”人工智能研究所中的两个聊天机器人“失控”,发展出了人类无法理解的语言,“被迫关闭”引发了广泛关注。尽管随后被证明是一场“乌龙”,只是因为工程师忘记加入“使用英语语法”这一条件。
但对事实的夸大报道,也显示出媒体和公众对人工智能的忧虑。在北京市中盾律师事务所律师陈涛看来,随着人工智能深入融入生产和生活,必须以立法来对其安全性进行监管,给公众吃下“定心丸”?;チ档奶厮估B ぢ硭箍艘脖硎?我们应该警惕人工智能崛起的潜在风险,并建立监管机构来引导这项强大技术的发展。
对人工智能进行立法监管,首先要解决人工智能使用中基本的安全问题,以及使用者与服务提供者的责任界定问题。以无人驾驶汽车为例,上路前,对其安全性如何全面评判?一旦无人驾驶汽车出现事故,如何判断使用者、软件提供商以及车辆制造商等多方主体的责任,如何在后续赔偿和保险理赔中进行规定?实际上,立法监管不仅降低风险,也让服务企业能够“有据可依”,从而促进和保障人工智能的健康发展。
从目前来看,各个国家的人工智能监管都刚刚被提上日程。在美国,2016年10月,总统行政办公室和国家科技委员会发布了两份重量级报告:《美国国家人工智能研究发展战略规划》与《为未来的人工智能做好准备》,后者提出了发展人工智能的7项关键战略,在第三条“社会影响战略”中,提出“理解和确定人工智能在法律、伦理和社会领域中的影响”;在第四条“安全战略”中,则提出“确保人工智能系统的安全和对公众的隐私?;ぁ?。
在欧盟,2016年欧盟法律事务委员会向欧盟提交了《欧盟机器人民事法律规则》,针对基于人工智能控制的机器人,提出了使用的责任规则、伦理原则、对人类自身和财产的伤害赔偿等监管原则。英国下议院科学技术委员会在今年4月表示,也将开展关于人工智能监管的研究。
在我国,《规划》中同样提出,到2020年,“部分领域的人工智能伦理规范和政策法规初步建立”。其中特别提出,要“开展与人工智能应用相关的民事与刑事责任确认、隐私和产权?;?、信息安全利用等法律问题研究,建立追溯和问责制度,明确人工智能法律主体以及相关权利、义务和责任等”,“重点围绕自动驾驶、服务机器人等应用基础较好的细分领域,加快研究制定相关安全管理法规,为新技术的快速应用奠定法律基础”。
不过,对人工智能的监管也不能“闭门造车”?!傲⒎ǖ那疤崾橇私馊斯ぶ悄艿目蒲Ч媛?需要充分准备、摸索和积累,对技术进步充分了解,同时考虑公众的实际需求?!背绿伪硎尽?/p>
安全仍有漏洞
安全是人工智能面临的巨大挑战。这其中既包括在应用层面的传统黑客攻击方式,也存在着对基础设施方面进行的数据库、云服务等攻击。但更关键的安全问题是从最核心的算法层面发起攻击
两张人眼看起来一模一样的熊猫图片,一张被神经网络正确识别为“熊猫”,另外一张却因为被加上了人眼难以察觉的微小扰动,就被神经网络以99.3%的置信度识别为“长臂猿”——这就是可以“愚弄”人工智能的对抗样本,直接折射出人工智能所面对的安全问题缩影。
专注于互联网安全的极棒实验室总监王海兵告诉《经济日报》记者:“安全是人工智能面临的巨大挑战?!彼硎?一方面,人工智能要面对传统的黑客攻击方式,比如在应用层面,可以攻击它的操作系统或者逻辑漏洞?!氨热缢?通过对智能门锁的攻击,就能实现任意人脸都可以通过门禁?!痹谌斯ぶ悄艿幕∩枋┓矫?则可以对人工智能使用的数据库、云服务等进行攻击,“比如说,机器视觉经常调用的OpenCv库,机器学习用到的TensorFlow框架,人工智能的从业者可以直接调用这些服务,但不幸的是,这些基础设施同样有漏洞?!蓖鹾1?。
然而,人工智能所面对的更关键安全问题,正是诸如熊猫图片这样的对抗样本。王海兵表示:“用对抗样本攻击人工智能,其实就是从最核心的算法层面来攻击它。”
美国加州大学伯克利分校教授宋晓冬这样介绍对抗样本攻击的危害:“比如,无人驾驶汽车根据交通标示进行决策。如果交通标示是一个对抗样本,那么人类可以完全不受干扰,但无人驾驶汽车却可能将它完全识别成错误信息,这将带来严重后果?!笔导噬?美国伊利诺伊大学的一项测试已经证明,自动驾驶系统有可能被对抗样本“蒙骗”。
“但公众不用过于担心,至少现在来看,针对自动驾驶的对抗样本对抗性很差。比如,它只能在0.5米的距离内让自动驾驶系统错判,但自动驾驶场景毕竟是逐渐接近交通标识的。”王海兵也表示,“未来会不会有更完美的对抗样本,仍是未知数”。
人工智能面对众多安全问题,对此,开发者也在努力总结与之对抗的手段。智能家居生产厂商BroadLink高级副总裁康海洋表示:“我们会将多方数据融合和统一分析,以提升数据的可信程度,同时也在尽量让整个系统变得更加透明。此外,我们还会及时销毁所有能销毁的数据,减少用户被攻击的可能性?!?/p>
伦理尚待明确
告诉人工智能何为“正确”,正在成为当务之急。如果不对其进化方向和目标形成共识,人工智能的伦理规则将无法“落地”
如果保持前行,会撞上沿途的5位行人;如果避开他们,就会撞上路边的墙,车中的两名乘客则可能有生命危险。在这种情况下,指挥自动驾驶的人工智能应该如何选择?英国伦敦玛丽女王大学高级讲师雅思密·艾登表示:“如果是人类驾驶员,大可以直接撞上行人,并表示‘是他们自己突然跳出来的’,但人工智能在道德上很难获得这么奢侈的原谅?!?/p>
这只是人工智能所处伦理困境的冰山一角。今年以来,麻省理工和哈佛大学联合推出了人工智能伦理研究计划,微软和谷歌等巨头也成立了人工智能伦理委员会,告诉人工智能何为“正确”,正在成为当务之急?!痘チ邸芬皇榈淖髡摺⒓扑慊┦苛醴嫣寡?“尽管大方向上说,人工智能应当以造福人类为前提,但如果不对进化方向和目标形成共识,人工智能的伦理规则将无法‘落地’?!?/p>
对于人工智能来说,“伦理正确”的核心是正确的“算法”。美国一些法院使用的一个人工智能犯罪风险评估算法COMPAS,被第三方机构认为对黑人造成了系统性歧视。业界因此怀疑,小众人群有可能因为个体差异而承受“算法的歧视”。腾讯研究院研究员曹建峰表示,如果算法本身有问题,一旦将算法应用在犯罪评估、信用贷款、雇佣评估等关乎人身利益的场合,“因为它是规?;俗鞯?并不是仅仅针对某一个人,可能影响具有类似情况的一群人或者种族的利益。规模性是很大的”。
此外,还有来自数据的风险。以色列历史学家尤瓦尔·赫拉利表示,“人工智能技术的一个潜在结果是:促成数据集中到某一个地方,也进而导致权力的集中”。比如,大量互联网数据集中在少数几家巨头的手中,人工智能技术是否会因此遭到垄断?“AlphaGo之父”哈萨比斯就曾表示:“我提醒诸位,必须正确地使用人工智能。”他告诉记者,“人工智能技术不能仅为少数公司和少数人所使用,必须共享”。
AlphaGo超越了人类几千年来对围棋的理解,但人类并非能完全理解AlphaGo为何会如此决策。从这一点来看,人工智能像个“魔盒”,这也让透明性成为人工智能伦理中的重要组成部分。英国阿兰图灵研究所科研主管安德鲁·布莱克表示,算法可问责性的存在至关重要。“透明性规则应被作为伦理道德准则,编入算法之中,这样人们才能更为清晰地认知人工智能的社会影响,并在问题发生之时能够及时找出原因,调整策略。”
编辑:刘小源
关键词:安全 监管
 
   
 


 一路西行进阿里
一路西行进阿里 马来西亚高官呼吁马中企业加强合作
马来西亚高官呼吁马中企业加强合作 江西南昌上演酷炫“汽车特技秀”
江西南昌上演酷炫“汽车特技秀” 第六届湖南艺术节开幕
第六届湖南艺术节开幕 郎朗纽约举办慈善晚宴得善款约160万美元
郎朗纽约举办慈善晚宴得善款约160万美元 大苗山里的新时代讲习所
大苗山里的新时代讲习所 生命的礼赞 体育给残疾人融入社会搭起一座桥梁
生命的礼赞 体育给残疾人融入社会搭起一座桥梁 杨丽萍新舞剧《春之祭》在昆明上演
杨丽萍新舞剧《春之祭》在昆明上演
 法蒂玛·马合木提
法蒂玛·马合木提 王召明
王召明 王霞
王霞 辜胜阻
辜胜阻 聂震宁
聂震宁 钱学明
钱学明 孟青录
孟青录 郭晋云
郭晋云 许进
许进 李健
李健 覺醒法師
覺醒法師 吕凤鼎
吕凤鼎 贺铿
贺铿 金曼
金曼 黄维义
黄维义 关牧村
关牧村 陈华
陈华 陈景秋
陈景秋 秦百兰
秦百兰 张自立
张自立 郭松海
郭松海 李兰
李兰 房兴耀
房兴耀 池慧
池慧 柳斌杰
柳斌杰 曹义孙
曹义孙 毛新宇
毛新宇 詹国枢
詹国枢 朱永新
朱永新 张晓梅
张晓梅 焦加良
焦加良 张连起
张连起 龙墨
龙墨 王名
王名 何水法
何水法 李延生
李延生 巩汉林
巩汉林 李胜素
李胜素 施杰
施杰 王亚非
王亚非 艾克拜尔·米吉提
艾克拜尔·米吉提 姚爱兴
姚爱兴 贾宝兰
贾宝兰 谢卫
谢卫 汤素兰
汤素兰 黄信阳
黄信阳 张其成
张其成 潘鲁生
潘鲁生 冯丹藜
冯丹藜 艾克拜尔·米吉提
艾克拜尔·米吉提 袁熙坤
袁熙坤 毛新宇
毛新宇 学诚法师
学诚法师 宗立成
宗立成 梁凤仪
梁凤仪 施 杰
施 杰 张晓梅
张晓梅


