【盘中宝】AI应用与模型层出不穷，这类问题或将愈发凸显，从而带来新的产业需求，...

股票王

AI应用与模型层出不穷，这类问题或将愈发凸显，从而带来新的产业需求，这家公司在该AI领域已经发布了一系列产品

财联社资讯获悉，据报道，新兴的AI应用与模型层出不穷，为各行各业带来了无限可能，然而安全风险也随之激增，如数据泄露、模型被恶意篡改等问题。这些挑战不仅考验着AI技术自身，更对现有网络安全体系构成了前所未有的考验。

一、AI的安全监管将进一步发展，从而带来新的产业需求

日新月异的AI技术，犹如达摩克里斯之剑，不仅带来机遇，更有挑战和风险。在2024年世界互联网大会乌镇峰会上，业内人士曾将AI带来的安全危机总结为“三化”，即黑箱化、黑产化、武器化。黑产化强调了深度伪造的危害。在AI的加持下，深度伪造越来越贴近真实，无论是公众还是企业，都很难逃脱深伪诈骗的陷阱。12月6日，2024首届腾讯云金融安全峰会上，腾讯安全副总裁、玄武实验室负责人于旸表示，随着大模型技术被黑灰产恶意使用，金融行业面临更“定制化、针对性”的安全威胁。但与此同时，大模型技术也可提升安全人员在漏洞挖掘、渗透分析等方面的效率。 国融证券指出，伴随人工智能在大模型等技术的带动下向通用化迈进，相应的AI安全和监管问题将会愈发凸显；无论从产业技术角度，还是从政策法规角度，对于AI的安全监管必将进一步发展，从而带来新的产业需求，带动AI安全监管产业的发展。建议关注AI安全监管的核心企业以及相关的网络和数据安全公司。

二、相关上市公司：国投智能、浩瀚深度、深信服

国投智能在人工智能安全方面，基于美亚“天擎”公共安全大模型的能力，发布了美亚取证智能助手、公共安全“小美”智能助手、智能办公“小美”助手、“天擎”公共安全大模型一体机、“天擎”取证分析大模型一体机等一系列产品。

浩瀚深度表示，针对新型AI安全威胁，浩瀚深度不断加大投入研发资源，成功开发并发布数字内容伪造检测系统（AIGC伪造检测系统）。对与数据要素价值深度挖掘和应用方面，公司与索福瑞（CSM）已经联合进行OTT收视率的技术研究和市场推广工作。

深信服长期关注安全、云计算和相关领域的前沿技术，针对AI技术在相关业务领域的应用也进行了持续的投入与布局，目前已在部分产品中使用了AI相关技术。在今年的春季新品发布会中，公司发布了安全GPT3.0升级版本、AI算力平台以及存储EDS 520版本。