周鸿祎:AI大模型本身也不安全,风险远超想象。卖产品的思路已过时,未来安全产业是基于服务业

2025-04-05 来源|AI图库吧

AI奇点网8月10日报道丨8月9日,360集团ISC2023互联网安全大会在北京召开。360创始人周鸿祎在会上表示,现在越来越多的企业都在开展数字化,而当大数据成为核心资产之后,无论是**还是企业都面临数据泄露、数据丢失的安全威胁。周鸿祎指出,一些企业、**买了很多安全设备,现实效果却不尽如人意,致使客户和厂商陷入相互抱怨的“双输”局面。

在此背景下,周鸿祎在ISC 2023第十一届互联网安全大会上发布360战略级产品“360安全云”。

云服务需要强大算力与处理能力支持,周鸿祎表示,截至目前,360已在国内投资超过200亿、建成210个数据中心,拥有200万台服务器以及400G出口带宽。今年开始,360加快了大模型智算中心建设,目前首个360算力中心规模为1000PFLOPS(1 PFLOPS相当于每秒运算能力为一千万亿次)。

另外,除了通用大模型,360也发布了360安全大模型,360智脑与奇富科技(原360数科公司)达成在大模型方向与落地应用等多层面战略合作,优化奇富GPT向金融行业合作方输出的落地体验。

谈及当下国内大模型产业的发展状态,周鸿祎认为,经过一阵热度后,行业都在反思通用大模型存在的两个问题。一是要打造一个能力全面的大模型所需要的算力、知识训练与成本非常高,国家还需要一定时间;其次,通用大模型对于普通用户来讲有一定门槛,现阶段从国家政策来看,应主要围绕产业数字化战略来发展大模型。

周鸿祎认为,企业应走垂直化、产业化、专业化、企业化路径,企业发展过程当中非常多的小场景对能力要求没有那么高。如此次发布的安全大模型,将网络安全大数据叠加深度学习大语言模型能力,升级为智慧大脑,面对网络安全问题时,不再由人去判断,而是由大模型来判断。

未来在安全领域,周鸿祎认为将出现各种垂类大模型来解决不同问题,垂类大模型不需要千亿或万亿参数,可能百亿、十亿左右便足够,降低训练成本。需注意的是,周鸿祎认为,大模型本身也存在安全问题,这些风险甚至远超想象,但解决过程不是一蹴而就的。

在周鸿祎看来,垂直化、产业化、专业化、企业化也是AI大模型目前的重要发展方向。“很多场景其实并不需要大模型非常综合的能力,如果这类垂直大模型既能满足场景需要,同时成本又能较通用大模型大幅降低,这样的话才能真正让大模型走进千家万户,成为新的工业革命。”

伴随着AI大模型的快速发展,周鸿祎也提出,人工智能带来的安全问题比想象的要更多,生成式AI带来内容安全问题、安全可控问题将更为显著。其认为,企业应该打造自己的大模型,以后每个企业大模型都会成为企业核心资产的一部分,尤其是里面训练的企业最核心的数据不能外流。

对于360为什么要做AI大模型,周鸿祎表示,当AI大模型出现以后,原有的很多安全经验都不能用了,比如不能用原来解决网络安全的思路去解决数据安全问题,也不能简单利用解决数据安全的思路去解决人工智能安全问题。

周鸿祎建议,企业都要做自己的专属大模型,将大模型控制权、产权与使用权都握在企业内部,这是属于企业资产的一部分,包含企业最核心的数据,如果与外部企业大模型合作,易存在数据隐私泄露等问题。

最新
更多

周鸿祎:AI大模型本身也不安全,风险远超想象。卖产品的思路已过时,未来安全产业是基于服务业

周鸿祎认为,经过一阵热度后,行业都在反思通用大模型存在的两个问题:一是要打造一个能力全面的大模型所需要的算力、知识训练与成本非常高;其次,通用大模型对于普通用户来讲有一定门槛。

英伟达CEO黄仁勋:五年前投资人工智能开始豪赌AI算力,一切才刚刚开始

黄仁勋说,五年前的那个分水岭是选择以光线追踪和智能升级的形式实现人工智能驱动的图像处理:分别是 RTX 和 DLSS 技术。

OpenAI在中国申请「GPT5」商标丨科大讯飞发布AI智能手写办公本X3丨360智脑大模型整体能力过去一个月提升15%

【AI奇点网2023年8月11日早报】本站每日播报AI业界最新资讯,触摸时代脉搏,掌握未来科技动向。事不宜迟,点击查看今日AI资讯早餐。

吉利汽车打造首个全场景AI大模型,应用于智能轿车车机系统,实现人车语音互动体验

吉利汽车集团CEO淦家阅在内部经营工作大会上透露:吉利已经具备了全栈自研的AI大模型技术,或将于下半年正式对外发布汽车行业首个全场景AI大模型。

苹果应用商店因数据采集和使用环节还不够规范等问题,已下架多个 AIGC 应用

因是 8 月 15 日即将施行的《生成式人工智能服务管理暂行办法》,包括讯飞星火在内的多个 AIGC 相关 APP,于今日(1 日)凌晨在苹果应用商店下架,下架的 APP在数据采集和使用环节等还不够规范,重新上架需要一段时日。

讯飞星火APP在苹果应用商店恢复上架丨OpenAI 已提交GPT-5商标注册丨YouTube测试AI总结视频概要功能

【AI奇点网2023年8月2日早报】本站每日播报AI业界最新资讯,触摸时代脉搏,掌握未来科技动向。事不宜迟,点击查看今日AI资讯早餐。

网站地图