AI/ML 模型的安全性往往是事后才想到的，使企业面临后门和被劫持模型攻击的风险。这些公司必须注意其 AI/ML 模型和 MLOps 管道的安全性，因为如果无法确保 AI 模型的安全性和完整性，攻击者可能会执行代码或操纵结果。
许多公司无法了解其人工智能模型，并且失去了对下载模型的控制。模型文件格式可能包含可执行代码并具有安全漏洞。此外，诸如 Hugging Face 之类的模型存储库可能包含不安全的模型。
安全性必须融入到人工智能模型的开发和部署中，确保模型训练数据的质量和安全性非常重要。指标可以用来评估模型的安全性，并且应该利用开源项目的安全能力，快速实现人工智能组件的安全工具生态系统。
【新闻评论】
近年来，人工智能（AI）和机器学习（ML）模型已迅速引入产品和日常运营中。这些技术为企业带来了巨大潜力，但安全挑战也随之出现。具体来说，当公司开发和测试 AI/ML 模型时，模型安全性往往是事后才想到的，这增加了后门和被劫持模型攻击的风险。
由于公司缺乏对其人工智能模型的了解，这个问题变得更加复杂。数据科学家和机器学习应用程序开发人员经常使用从外部来源下载的模型，因此很难了解这些模型带来的安全风险。特别是，用于保存模型的文件格式可能包含可执行代码，从而导致安全漏洞。
在此背景下，将安全性纳入人工智能模型的开发和部署中非常重要。特别是，确保模型训练数据的质量和安全性对于信任最终的 AI/ML 系统至关重要。它还呼吁快速实施人工智能组件的安全工具生态系统，使用指标来评估模型的安全性并利用开源项目的安全功能。
为了解决这个问题，公司必须关注其 AI/ML 模型和 MLOps 管道的安全性。这包括确保模型训练数据的质量和安全性、使用指标评估模型安全性以及快速实施人工智能组件的安全工具生态系统。通过采取这些措施，企业可以降低人工智能/机器学习模型的攻击风险，并最大限度地发挥人工智能技术的潜力。