信息安全

大模型时代，AI应用爆发“安全攻防战”

2025-03-14 14:50:00　|　来源：企业IT培训

最近，DeepSeek火了，也带动大模型迎来了又一轮的热潮。但与此同时，随着大模型的应用日益广泛，其中蕴含的风险也引人担忧。

一、大模型的安全风险

应用大模型的安全风险主要来自哪些方面?

去年年底，OWASP针对大型语言模型(LLM)发布了十大风险漏洞，分别是提示注入、敏感信息泄露、供应链安全、数据和模型投毒、不当输出处理、过度代理权限、系统提示泄漏、向量和嵌入漏洞、错误信息和无界消耗。

二、AI时代的API安全挑战

随着数字化世界的不断演进，API已成为最主流的交易和使用协议。

然而，随着API的广泛应用，安全问题也日益凸显，API攻击事件逐年增加。根据预估，2030年针对API的攻击相比2021年增长了996%。

专注于Web应用程序安全的非营利组织OWASP(Open Web Application Security Project)曾在2023年列出了针对API必须解决的十大安全问题。

这些风险也延续进了大模型领域。API是企业构建AI架构并实现向最终用户交付AI驱动服务的关键访问方式，API安全对于保护企业信息资产、维护系统稳定性和推动业务创新具有

重要意义，但未经保护的API会使AI应用和数据面临DDoS攻击，信息泄漏等各种威胁。

比如DeepSeek自1月27日开始，就多次出现“网页/API服务异常”。1月28日凌晨，DeepSeek官网连续发布2条公告称，DeepSeek线上服务受到大规模恶意攻击，导致平台注册繁忙，并暂时限制了+86手机号以外的注册方式。

标签：大模型 AI应用安全攻防