7月18日,Meta宣布,将发布其开源大模型LLaMA商用版本,新版本名为Llama 2。
高通将与Meta合作,从2024年起,Llama 2将能在旗舰智能手机和PC上运行。客户、合作伙伴和开发人员能构建智能虚拟助手、生产力应用、内容创建工具、娱乐等用例,AI功能可以在没有网络连接的地方,甚至在飞行模式下运行。
根据高通19日的最新表态,能够在智能手机、PC、VR/AR头显和汽车等终端上运行Llama 2一类的生成式AI模型,将支持开发者节省云成本,并为用户提供更加私密、可靠和个性化的体验。
高通技术公司高级副总裁兼技术、规划和边缘解决方案业务总经理Durga Malladi表示,为了有效地将生成式人工智能推广到主流市场,人工智能将需要同时在云端和边缘终端(如智能手机、笔记本电脑、汽车和物联网终端)上运行。
▌“AI竞赛追赶者联盟”?
Meta一直被评价为“在AI竞争中落后于同行”,而本次的Llama 2也能看出Meta追赶同行的野心。
首先是合作伙伴。Meta的新版模型将由微软通过其Azure云服务分发,且可以在Windows操作系统上运行。Mata更表示,微软是“我们的首选合作伙伴”。
其次是开源。Meta强调,Llama 2是一个开源大模型,“可以免费用于研究和商业用途”。而竞争对手中,不论是OpenAI的GPT-4,还是谷歌的PaLM 2,走的都是“技术保密路线”。
至于高通,迄今为止,出于AI计算对算力与数据的庞大需求,AI大模型主要是在大型服务器群与英伟达GPU上运行。而高通之前没有赶上本轮AI热潮,年内股价涨幅与英伟达差距甚大。
在这种情况下,高通已将AI边缘计算定为发展方向。高通公司高级副总裁Alex Katouzian5月曾明确表示,高通正在从一家通信公司过渡到一家智能边缘计算公司。“随着连接设备和数据流量加速增长,叠加数据中心成本攀升,(我们)不可能将所有内容都发送到云端。”Katouzian表示,当涉及到个人信息时,人们也不会愿意这样做。
另外,之前高通已发布了全球首个在安卓手机上运行的Stable Diffusion终端侧演示。Stable Diffusion是一个可用文本直接生成图像的AI模型,其参数超过10亿,此前仅能在云端计算集群内运行。
▌“云-边”一体或成为AI应用闭环的必由之路
如今,AI大模型已站上从“玩具”向“工具”快速演化的关键迭代期。如何让大模型渗透进入各类垂直场景,如何更低成本的使用大模型,如何让更多场景与用户接触AI,成为了发展的下一个重点。
国盛证券指出,在AI向实际场景落地时,边缘算力的重要性加速凸显,边缘算力在成本、时延、隐私上具有天然优势,也可以作为桥梁,预处理海量复杂需求,并将其导向大模型。边缘算力堪称AI触及万千场景的“毛细血管”。“云-边”一体(云计算和边缘计算有机结合)正是AI应用闭环的必由之路,边缘侧需求的释放将开启“真AIoT”时代。
中航证券认为,以云计算为基础的大模型架构在企业或者行业应用落地中,牵涉到场景细分、 云算力瓶颈、传输时效、海量数据、信息安全等因素,其集中式技术架构并不能满足人工智能普遍部署实践。
因此,AI应用将逐步从中心节点向更贴近数据源和业务现场的边缘侧拓展,边缘计算合理利用边缘侧算力和实时数据,使机器学习模型提供的智能服务更加便捷和贴近应用,有望打通行业细分、多元化场景落地瓶颈。
资讯来源:美股投资网 TradesMax