Meta Platforms releases Llama 3.2 lightweight AI model suitable for mobile devices

智通财经
2024.09.26 02:24
portai
I'm PortAI, I can summarize articles.

Meta 在 Meta Connect 2024 大会上发布了 Llama 3.2 大型语言模型,包括适用于移动设备的 1B 和 3B 参数轻量级模型,支持文本输入和 128K 上下文长度。该模型优化了高通和联发科硬件,旨在帮助开发者构建个性化的设备代理应用,确保隐私和快速响应。Llama 3.2 还包括 11B 和 90B 模型,支持文本及图像输入,具备视觉理解功能。

智通财经 APP 获悉,社交媒体巨头 Meta(META.US) 周三在 Meta Connect 2024 大会上发布最新的大型语言模型 Llama 3.2,其中包括 90B 和 11B 参数的视觉大语言模型,以及 1B 和 3B 参数的轻量级纯文本模型,后者适用于边缘和移动设备。

据悉,Llama 3.2 1B 和 3B 模型仅支持文本输入,支持 128K 的上下文长度。这些模型可以执行设备上的用例,如摘要、指令跟踪和本地重写任务。

这些模型支持高通 (QCOM.US) 和联发科硬件,并针对 Arm(ARM.US) 处理器进行了优化。

Llama 3.2 11B 和 90B 模型支持文本及图像输入,具有图像和视觉理解功能。

Llama 3.2 模型旨在成为迄今为止最以开发人员为中心的模型,并帮助开发人员构建设备代理。

Meta 表示:“这些模型使开发人员能够构建个性化的设备代理应用程序,这些应用程序具有很强的隐私性,数据永远不会离开设备。”“例如,这样的应用程序可以帮助总结最近收到的 10 条消息,提取操作项,并利用工具调用直接发送后续会议的日历邀请。”

由于处理是在本地完成的,因此设备上的模型可以实现更快的响应,并且有助于确保隐私,因为信息不必迁移到云端。

Meta 并不是第一家推出设备内置人工智能模型的公司。谷歌 ( GOOG.US ,GOOGL.US) 最新的 Pixel 9 Pro 智能手机搭载了 Gemini AI。苹果 (AAPL.US) 的 iPhone 16 配备了苹果智能系统 (Apple Intelligence),将在下个月 iOS 18.1 发布后提供设备内置 AI。

另外,Meta 还推出了第一副增强现实 (AR) 眼镜 Orion 和最新款虚拟现实 (VR) 头显设备 Quest 3S。

上述消息推动 Meta 股价一度涨超 2% 至 575.77 美元,创下历史新高。