您尚未登录账户
您的企业账号申请正在审核中
联发科利用Llama 2提升生成式AI能力
全球半导体公司联发科（MediaTek）正在努力提升其人工智能（AI）能力，并将利用Meta的Llama 2来改进其生成式AI服务。
作为一家拥有超过25年创新历史的全球第四大无厂半导体公司，联发科致力于为移动设备、家庭娱乐和物联网产品开发创新芯片系统（SoC）。
联发科成立于1997年，总部位于台湾，在全球拥有41个办事处，并于2016年成为全球第三大无厂芯片设计公司。联发科现在每年供电超过20亿台设备，占据全球20%的家庭电器市场和近三分之一的手机市场份额。
根据该公司宣布将利用Meta的Llama 2，联发科显然继续提升其边缘设备中的生成式AI系统。
利用Llama 2增强计算能力
刚发布Llama 2时，Meta提供了一份Llama 2使用指南，为以负责任的方式构建由LLM驱动的产品提供了最佳实践和注意事项，还涵盖了从构思到部署的各个开发阶段。
该公司一直强调生成式AI的政策重要性，以及希望Llama 2将成为一种治理工具，考虑到支撑AI、LLM和其他快速发展的AI技术的价值。
联发科与Llama 2的合作旨在将LLM与该公司的最新APU和NeuroPilot AI平台结合起来构建完整的边缘计算生态系统。这项工作旨在加速智能手机、物联网、车辆、智能家居和其他边缘设备上的AI应用开发。
尽管大多数生成式AI处理是通过云计算进行的，但联发科希望利用Llama 2使生成式AI应用能够直接在设备上运行。通过这种方式，它希望为开发人员和用户提供无缝性能、更高的隐私、更好的安全性和可靠性、更低的延迟、在网络连接不佳的区域工作的能力以及更低的运营成本等多种优势。
采用高计算技术充分利用生成式AI
随着对开源AI模型兴趣的持续增加，联发科表示，边缘设备制造商将需要采用高计算、低功耗的AI处理器和更快、更可靠的连接性，以增强计算能力并利用设备上的生成式AI技术。
该公司的下一代旗舰芯片组将于2023年后期推出，并配备专门针对Llama 2的软件堆栈。这些进展旨在加快为设备上的生成式AI构建用例的步伐。
“生成式AI的日益流行是数字转型中的重要趋势，我们的愿景是为Llama 2开发人员和用户社区提供所需工具，以在AI领域进行全面创新，”联发科无线通信事业部企业高级副总裁兼总经理徐建铖（JC Hsu）表示。
“通过与Meta的合作，我们可以在边缘提供比以往更具能力的硬件和软件。”
联发科预计基于Llama 2的AI应用程序将于2023年底之前在智能手机上推出。
