Face平台揭秘恶意机器学习模型的最新威胁 Hugging

HuggingFace平台发现恶意机器学习模型：利用Pickle文件规避安全检测

据TheHackerNews报道，网络安全研究人员最近在HuggingFace平台上发现了两个恶意的机器学习（ML）模型。
这两个模型巧妙地利用了损坏的pickle文件技术，成功绕过了现有的安全检测措施。
这一发现为我们揭示了机器学习领域的一个新兴安全隐患。

一、什么是Pickle文件？

Pickle是Python中的一种序列化格式，可以将Python对象（包括变量、数据结构等）转换为字节流。
这种转换允许我们轻松地保存和传输Python对象。
由于其便利性，Pickle文件在数据科学和机器学习领域广泛应用。
Pickle文件也存在安全隐患，因为它允许执行任意代码。
这使得攻击者可以利用这一特性，将恶意代码嵌入到Pickle文件中，从而实施攻击。

二、恶意模型是如何绕过安全检测的？

这两个恶意的机器学习模型利用了损坏的pickle文件技术来绕过安全检测。
据ReversingLabs的研究员Karlo Zanki介绍，这些模型使用了从PyTorch存档中提取的pickle文件，其中包含了恶意的Python内容。
这些pickle文件包含典型的平台特定反向shell，可以连接到硬编码的IP地址。
这种攻击方法被称为nullifAI，旨在绕过现有的安全防护措施。

三、HuggingFace平台上的恶意模型

这两个恶意模型存储在HuggingFace平台上的相关模型存储库为glockr1/ballr7和who-r-u0000/00000000000000000000000000000000。
尽管这些模型被认为是概念验证而非真实攻击案例，但它们展示了pickle序列化格式的安全隐患。

四、如何规避这种风险？

1. 警惕Pickle文件的使用：由于Pickle文件允许执行任意代码，因此在处理未知来源的Pickle文件时需要格外警惕。尽量避免使用未经信任的Pickle文件，尤其是在机器学习模型中。
2. 使用更新的安全工具：对于HuggingFace平台上的安全检测工具，需要保持更新，以便应对新的攻击手段。本次事件后，Picklescan工具已经更新版本，以应对新的威胁。
3. 加强安全防护：对于使用Pickle文件的系统和应用，需要加强安全防护措施，例如对Pickle文件进行沙箱化运行，以防止恶意代码的执行。
4. 使用其他序列化格式：除了Pickle文件外，还有其他序列化格式可供选择，如JSON、CSV等。在需要传输和保存数据时，可以考虑使用其他相对安全的序列化格式。

五、总结

本次事件揭示了机器学习领域的一个新兴安全隐患。
恶意攻击者利用损坏的pickle文件技术，成功绕过了现有的安全检测措施。
尽管这些模型仅是概念验证而非真实攻击案例，但我们需要警惕Pickle文件的安全风险。
对于使用Pickle文件的系统和应用，需要加强安全防护措施，并考虑使用其他相对安全的序列化格式。
同时，对于安全检测工具，需要保持更新，以应对新的攻击手段。

六、展望

随着机器学习和数据科学的不断发展，pickle文件的应用将越来越广泛。
为了确保数据安全，我们需要持续关注pickle文件的安全问题，并加强研究和防范。
同时，我们也期待机器学习领域的安全研究取得更多突破，为数据安全提供更好的保障。

---

---

相关标签： 平台发现恶意机器学习模型、 文件绕过安全检测、 利用、 Hugging、 Face、 pickle、 损坏、

上一篇：性能升级搭载快拆装置新一代七彩虹AMDX870

下一篇：报道称张兰的麻六记酸辣粉吃多了会变傻