研究人员已经学会在神经网络中谨慎地放置恶意代码

人工神经网络可以携带反病毒系统不可见的恶意软件。 主板写道，这是中国科学院大学的研究人员得出的结论。

对真实恶意软件样本的实验表明，用恶意软件替换 AlexNet 模型中大约一半的神经元可确保模型的准确率超过 93.1%。 作者计算出，一个 178 MB 的算法最多可以包含 37 MB 的恶意软件。

研究人员使用常见的防病毒系统测试了大约 58 种型号，这些系统未检测到恶意软件。

“随着神经网络的普及，这种方法将成为未来恶意软件传播的通用方法，”该工作的作者认为。

通过这种方法，恶意软件被“分解”并嵌入到神经网络中。 该算法然后到达受害者的设备，在那里它使用接收器程序将代码编译成活动病毒。

根据作者的说法，如果目标设备在启动模型之前验证模型，恶意软件就可以被阻止。 它也可以使用“传统方法”进行检测，例如静态和动态分析。

“今天，防病毒软件很难检测到它，但这只是因为没有人在那里查看，”研究人员和网络安全顾问 Lukasz Oleinik 说。

他相信反病毒系统将能够注意到从神经网络中提取的恶意软件。

“但这也是一个问题，因为从模型中提取恶意软件的特殊方法 [глубокой нейронной сети] 意味着目标系统可能已经在攻击者的控制之下，”Oleinik 补充道。

专家还确信，在神经网络中隐藏恶意代码不会给攻击者带来太多好处。

回想一下，在 5 月份，马里兰州网络安全中心的研究人员发现了神经网络中的一个漏洞，该漏洞会增加其功耗。

2021 年 5 月上旬，微软推出了一款开源工具，可帮助开发人员测试人工智能系统的安全性。

4 月，微软实施了英特尔的威胁检测技术，在 Defender 企业端点安全平台中寻找隐藏的矿工。

在 Telegram 上订阅 ForkLog 新闻：ForkLog AI – 来自 AI 世界的所有新闻！

—-

原文链接：https://forklog.com/issledovateli-nauchilis-nezametno-pomeshhat-vredonosnyj-kod-v-nejroseti/

原文作者：Богдан Каминский

编译者/作者：wanbizu AI

玩币族申明：玩币族作为开放的资讯翻译/分享平台，所提供的所有资讯仅代表作者个人观点，与玩币族平台立场无关，且不构成任何投资理财建议。文章版权归原作者所有。