248cc永利集团备用网址-永利集团全部网址

联系大家

售前服务电话:800-820-8876
售后服务电话:800-820-8839
手机用户可拨打:400-820-8839

亚信安全陆光明:构建新支柱 让AI安全可信

2021世界人工智能大会(WAIC2021)


今日,“2021世界人工智能大会(WAIC2021) ”在上海盛大启幕。大会以“智联世界 众智成城”为主题,围绕“AI赋能城市数字化转型”的内容,探讨人工智能技术发展、产业赋能以及治理相关命题。



图:亚信安全总裁陆光明出席“构建AI产融新生态”论坛


亚信安全作为“懂网、懂云”的安全企业,以及中国网络安全App领域的领跑者,受邀参加本次大会,亚信安全总裁陆光明出席并在“构建AI产融新生态”论坛,以《保护AI系统—让AI安全可信 》为主题发表精彩演讲,从安全视角切入,看新时代AI应用和发展所面临的新威胁、新挑战,以及对应的安全新举措。此外,在WAIC会客厅线上直播环节,陆光明还与中国互联网投资基金管理有限企业董事长吴海、中国信息通信研究院副院长魏亮一同,针对智能化相关的应用场景不断增加、行业与产业进一步释放AI价值的发展方向进行深入探讨。



图:亚信安全总裁陆光明论坛演讲


AI时代崛起,网络威胁成为绊脚石


时至今日,AI已经无处不在,已成为现代数字系统基础能力,它不仅改变大家生活,也正在改变整个行业。然而,在AI越来越为大众所接受,使大家感受更人性化关怀的过程中,新的威胁与风险也随即而来。



  图:Gartner 2019 AI技术相关调查结果


陆光明表示:“任何新技术的出现往往都有一个无法解决的对立面,如同硬币的两面,AI也是同样。特别是因为当前的机器学习和人工智能平台,市场上还没有提供一致或全面的安全工具来保护企业组织和个人的权益。鉴于此,根据Gartner的一项调查显示,在AI技术实施的阻碍中,客户最担心AI的安全性与隐私问题,这一比例高达30%。”


安全、责任、社会,三大威胁伴随AI进入企业


显然,AI已经渗透到日常生活的方方面面,就企业而言,引入AI将面临三种风险:


安全


随着AI越来越普及并嵌入到关键的企业运营中,在核心业务更依赖人工智能的同时,安全风险也正在上升。例如,自动驾驶汽车的AI模型中可能存在导致致命事故的错误。


责任


由于使用敏感客户数据的AI模型越来越多地影响着影响客户的决策,因此责任风险正在增加。例如,错误的AI信用评分会阻碍消费者获得贷款,从而导致财务和声誉损失。


社会


“不负责任的AI”通过做出既不透明也不容易理解的偏见决策,给消费者带来不利和不公平的后果,会导致社会风险增加。例如,即使是轻微的偏差也会导致算法的严重错误行为,这涉及到数据权、人权、伦理道德、透明度、问责制等等一系列社会影响。


陆光明指出,AI有巨大的潜能改变人类命运,但同样存在巨大的安全风险。当AI系统被攻破,在工业、医疗、交通、监控等关键领域,安全危害尤为巨大,轻则造成财产损失,重则威胁人身安全。为此,大家可从威胁向量、攻击类型、安全措施这三个方面,对比引入AI前后的变化,发现新增威胁与风险。



图:引入AI前后的威胁对比分析


通过前后对比可以发现,AI和机器学习(ML)提供了与早期技术进步相同的漏洞和错误配置的机会,而且还有其特有的风险。而新的攻击面和威胁向量往往超过传统安全防御系统的感知范围、处理能力和响应速度。


剖析常见攻击手段,构建AI四大安全支柱


安全和隐私问题是采用人工智能的最大障碍,这是有充分的理由。这是因为,误操作的用户和恶意攻击者都可以威胁AI模型和数据的性能、公平、安全与隐私。以导致AI模型偏离的三种恶意输入与干扰为例,攻击者可以采取对抗性AI输入、操纵数字输入或操作物理输入的形式,扰乱甚至是毁掉系统。



图:导致AI模型偏离的三种恶意输入与干扰



图:AI查询攻击的两种方式


此外,常见AI风险还包括查询攻击,这主要是分为白盒黑盒攻击。白盒攻击需要获取机器学习模型内部的所有信息,然后直接计算得到对抗样本;黑盒攻击则只需要知道模型的输入和输出,通过观察模型输出的变化来生成对抗样本。



图:AI安全的四个支柱


亚信安全认为:认识到恶意和良性攻击者对组织中的AI构成威胁至关重要,以便评估和支撑用户原有的安全支柱(以人为中心和企业安全控制)和新的安全支柱(AI模型的完整性和AI数据完整性)。针对新支柱,应组织对员工的对抗培训,并通过企业安全控制来减少攻击面,而企业应将AI数据完整性侧重于数据异常分析以及数据保护的实践研究,以应对AI的威胁。同时,亚信安全还建议各行业行动起来,制定AI安全行业标准,保护AI系统,让AI安全可信。


AI发展已实现量变和质变 指向“产业智能化”


当前,人工智能正在进入供需融合创新的发展期,在技术、市场、平台、数据和资本等领域不断成熟。AI与云计算、区块链、物联网、5G等新技术的相互融合,以及新技术带来海量的物联和移动等数据,正在进一步激发人工智能技术应用的广度和深度,驱动人工智能“质变”,真正成为经济社会发展的重要新型基础设施。


在WAIC会客厅线上直播中,陆光明表示,人工智能的高速发展正是产业融合推动的,其发展标志就是产业智能化。语音处理、计算机视觉、自然语言处理……过去早已被反复提出的典型技术到现在正被物流、工业机器人、银行、金融、医疗、智慧城市、智慧智造等产业全面而主动地融合。另外,AI与产业融合是长期而漫长的过程,这与消费互联网爆发式成长存在一定区别,是多维度、多节点的推进过程,是用户、平台、资源与运营不断磨合的过程。



图:亚信安全总裁陆光明参加WAIC会客厅访谈直播



图:亚信安全总裁陆光明(右一)在WAIC会客厅接受访谈


248cc永利集团备用网址|永利集团全部网址

XML 地图 | Sitemap 地图