专家警告:未来机器学习可能被专业的攻击者利用

2022-02-18 16:49:56   来源: 安全牛

机器学习算法已成为一项重要的网络安全技术,目前它主要用于识别恶意软件、将经过筛选的警告呈现在安全分析员面前,以及确定漏洞优先级以打上补丁。研究机器学习和人工智能系统安全的专家警告称,未来这类系统可能被专业的攻击者所利用。

研究人员在去年发表的一篇研究论文中表示,神经网络的冗余特性可以让攻击者将数据隐藏在常见的神经网络文件中,占文件20%的大小,而不显著影响模型的性能。2019年的另一篇论文表明,受感染的训练服务可能会在神经网络中植入实际持续存在的后门,即使该网络接受训练以处理其他任务。

贝里维尔机器学习研究所(BIML)联合创始人兼首席执行官Gary McGraw表示,这两篇研究论文表明了机器学习存在的潜在威胁,但最直接的风险还是窃取或篡改数据的攻击。他表示:“如果将机密信息放入机器中,并让机器学习该数据,人们会忘了机器中仍然存在机密信息,忘了会有一些更高明的手法可以取出信息。开发人员通常只专注于为该技术创造新用途,而忽略了其开发产品的安全性时,这种潜在威胁有时会更严重。”

2020年,微软、MITRE等公司联合发布了一份列出潜在攻击清单的报告——《对抗性机器学习威胁矩阵》(Adversarial ML Threat Matrix)。报告称,企业需要评估依赖人工智能或机器学习技术的系统是否存在潜在风险。一些风险(比如将数据隐藏在机器学习文件中)与日常风险没多大不同。除非企业测试系统具有弹性,否则更多针对机器学习的风险会大获成功,比如有可能创建这样的模型:攻击者触发后,能够以特定的方式行动。

软件安全公司Sophos的首席科学家Joshua Saxe表示,造成这种后果的原因是防御者只专注于眼前的攻击,而不是专注于那些未来且难以实施的复杂攻击。随着更多的安全专业人员依赖机器学习系统来完成工作,能够意识到这种威胁形势将变得更重要。研究人员创建的对抗性攻击矩阵包括规避检测恶意软件和控制流量、僵尸网络域生成算法(DGA)以及恶意软件二进制文件的工具。

McGraw指出,随着机器学习的应用,数据面临更大的风险。因为敏感数据常常可以从机器学习系统中恢复,同时,通过机器学习生成的系统又常常以不安全的方式运行。如果对机器学习系统执行的查询被暴露后,数据在操作过程中也会暴露,这突显了机器学习一个至关重要但未予以强调的方面,即确保数据安全非常重要。

Saxe表示,机器学习威胁有别于攻击者使用人工智能/机器学习技术来策划更有效的攻击。机器学习攻击可能会更多地在机器人和自动驾驶汽车领域发生,因为它们不仅依赖算法来操作,还将人工智能决策转化成实际动作,安全人员需要阻止和防范破坏这些算法的行为。

虽然研究人员表明了多种类型机器学习攻击的可能性比较大,但大多数仍在数年后才会出现,因为攻击者的工具箱中仍有简单得多的工具照样可以帮助其实现攻击目的。

关键词: 专家警告 未来机器 攻击者利用 学习算法

精彩阅读

专家警告:未来机器学习可能被专业的攻击者利用

智能

机器学习算法已成为一项重要的网络安全技术,目前它主要用于识别恶意软件、将经过筛选的警告呈现在安全分析员面前,以及确定漏洞优先级以打

联发科:天玑9000终端Q1上市 能效提升37%

智能

日前,联发科官方公众号发文表示,天5G芯片的出货量已占国内5G智能手机市场份额的40%。采用全新天玑9000旗舰移动平台的终端将于2022年第一

微软发布补丁 CVE-2022-21907的概念验证代码也被发布

智能

针对近期曝光的 Windows 桌面和服务器高危漏洞,微软在本月的补丁星期二活动日中发布了一个补丁。该漏洞存在于 HTTP 协议栈(HTTP sys)

Pixel Buds A获固件更新:将尝试改善低音和高音

智能

对 Pixel手机发布更新的同时,Google 也对 Pixel Buds A 系列无线耳机进行了更新。在今天发布的 282 号固件中主要引入了 3 个变

西南五省份推进政务服务跨省通办 涉及户籍证明、电子监控违法处理

智能

4月21日,四川、重庆、云南、贵州、西藏签署政务服务跨省通办合作协议,五省区市计划今年公布首批跨省通办事项清单,目前已初步梳理出148项

0糖0卡0添加到底是什么概念?这里面有不少门道

智能

  食物营养  0糖0卡0添加,到底是什么概念?  国内知名品牌元气森林主打的乳茶一直宣称“0糖0卡0脂”,深受年轻人士和减肥群体的喜爱

观察:电子烟“毒品化”倾向须引起高度警惕

智能

  电子烟“毒品化”倾向须引起高度警惕  天歌  近日,南京市120陆续接到南京某学校学生求助,称有多名学生同时出现了头晕、心慌甚至

评论:智能工具不能沦为“伪原创”帮凶

智能

  智能工具不能沦为“伪原创”帮凶  杨李喆  输入一段文字,三秒实现重组改写;输入相关的主题词,系统立即就能生成一篇初稿,用户还

时间路线全随机,机票盲盒是营销噱头还是真实惠?

智能

  机票盲盒是营销噱头还是真实惠?  在线旅游平台:这是一种“拉新”引流方式 活动出发时间、路线随机  这两天,机票目的地盲盒一下

“祖传秘方”销往三省,“神药”背后的山寨真相

智能

  揭开“神药”背后的山寨真相核心阅读  3000多瓶“神药”出自河南,途经安徽,最后在鲁北群众中流传。它究竟有什么神奇之处?经过办案

财富

单日净回笼1800亿元 央行适时回笼流动性

资讯

春节假期结束后,央行逆回购操作量重回百亿级水平。2月10日,央行开展了200亿元逆回购操作,这也是节后央行连续第4天开展200亿元逆回购,市

不少机构席位可能故意引诱投资者上钩 警惕组团炒股民

资讯

机构专用席位引发投资者热捧,但要注意,也有不少机构席位可能故意引诱投资者上钩,以达到拉高出货的目的。采纳股份2月9日股价涨停,当日晚

信贷“开门红” 金融数据表现亮眼

资讯

2022年开年,金融数据表现亮眼。2月10日,央行发布2022年1月金融统计数据报告。数据显示,1月人民币贷款增加3 98万亿元,创下单月增量历史

宁德时代跌上了微博热搜 股价创年内新低

资讯

2月10日,宁德时代(300750)跌上了微博热搜。截至2月10日午间收盘,宁德时代下跌7 9%,盘中股价创年内新低。交易行情显示,2月10日,宁德时

亚信安全今日科创板上市 股价一度跳涨27.8%

资讯

亚信安全科技股份有限公司(简称亚信安全)正式在上交所科创板上市,公司股票代码为688225。亚信安全本次发行价格为30 51元 股。今日开盘,亚

《区域全面经济伙伴关系协定》生效已满月

资讯

2月1日,备受关注的《区域全面经济伙伴关系协定》(RCEP)生效已经满月。RCEP的生效让企业对进一步开拓亚太市场充满信心,广西税务部门紧跟市

北京冬奥会与春节假期的“邂逅” 保电人守护万家灯火明

资讯

2月1日,正月初一。天微亮,南方电网广西桂林灵川供电局秦鹏飞与同事驱车前往覆冰地区——桂林市灵川县大境瑶族乡笑天狮村开展巡视,这是他

建筑业转型升级取得新突破 完成产值6700亿元

资讯

记者从自治区住房城乡建设厅获悉,2021年,我区建筑业转型升级取得新突破,全年建筑业完成产值6700亿元,同比增长14 5%,高于全国3 5个百分

2021年全球半导体收入首次突破5000亿美元的门槛

资讯

2月8日,根据Gartner的统计结果,2021年全球半导体收入达到5835亿美元(折合人民币约37100亿元),增长了25 1%,首次突破5000亿美元的门槛。G

福赛科技IPO 对马瑞利收入逐年攀升

资讯

在同行天龙股份、肇民科技相继上市后,不甘资本布局掉队的芜湖福赛科技股份有限公司(以下简称福赛科技)也递交招股书要在创业板上市。北京商

同步上线全国统筹信息系统 养老保险进入“全国统筹模式”

记者2月17日从青岛市人社局获悉,根据国家人社部和山东省人社厅关于企业职工基本养老保险全国统筹信息系统工作部署,山东省社会保险信息系

红利低波基金普遍“开门红” 各路资金涌入这类基金突然火了

开年以来,伴随A股市场剧烈波动,风格激进、波动较大的成长型基金纷纷熄火。然而,过去几年一度被市场边缘化的红利低波基金,却因年内普遍

自购举措纷纷落地 资管机构掀“自购潮”

2022年以来多家资管机构发布自购计划,本轮自购规模超过23亿元。为进一步提振市场信心,目前已有东海证券、前海开源基金、中银基金等机构逐

高途宣布停服务,对公司2022年及以后期间的收入产生重大不利影响

2月17日,高途发布公告称,据北京市最新监管要求,公司将在2022年2月底前停止向高中学生提供与学科相关的辅导服务,预计将对公司2022年及以

*ST德奥近日利空不断 又遭证监会立案调查

*ST德奥(002260)近日利空不断。2月17日晚间,*ST德奥公告称,公司于2月17日收到证监会的《立案告知书》,因公司涉嫌信息披露违法违规,根据

为户外劳动者提供便利 重庆已建成665座“劳动者港湾”

  中新网重庆4月22日电 (韩璐 王雪宇)记者22日从重庆市城市管理局获悉,2020年重庆市已建成“劳动者港湾”665座。今年,重庆还将继续建

沈阳警方侦破特大贩卖毒品案 抓获88名涉毒违法犯罪嫌疑人

  中新社沈阳4月22日电 (王景巍)沈阳市公安局22日发布消息,近日,在中国公安部和辽宁省公安厅的指导协调下,历经9个多月,沈阳市公安局

上海警方侦破特大制售假普洱茶案 市场价值高达18亿元

  中新网上海4月22日电 (记者 李姝徵)记者22日从上海警方获悉,2021年3月,上海警方全链条侦破一起销售假冒知名品牌普洱茶案,捣毁制售

西安强化知识产权司法保护 商标权案件占比高

  中新网西安4月22日电 (记者 张一辰)在世界知识产权日即将到来之际,西安市中级人民法院(以下简称:西安中院)22日召开新闻发布会,发

今年5月至明年2月底 江西4A级及以上景区对全国学子免门票

  中新网南昌4月22日电 (记者 李韵涵)记者22日从“红五月·嘉游赣”江西五一假日旅游工作媒体吹风会上获悉,2021年5月1日至2022年2月28

福州乡村公益图书馆:图书“接地气” 门口即是农田

  中新网福州4月22日电 (叶秋云 曾路淇)世界读书日即将来临之际,驾车五十余分钟,记者来到距离福建省福州市30多公里的闽侯县白沙镇马