联发科即将将强大的人工智能应用带到一些安卓手机上 | ENBLE
联发科将带强大的人工智能应用到安卓手机上 | ENBLE
你可能已经在手机上尝试过许多生成式人工智能应用。例如，OpenAI的ChatGPT或HeyPi是一些典型的聊天式人工智能应用，而Runway ML等应用则可以让你在手机上创建由人工智能生成的视频。
但到目前为止，几乎每个生成式人工智能应用都依赖于基于云的计算，这意味着所有神奇的人工智能处理都发生在云端，就像当你在手机或平板上流式传输游戏时，Xbox套件在微软服务器中心承担了大部分工作。
联发科技希望改变这一情况，让生成式人工智能计算能够在你的智能手机上进行。这一雄心勃勃的计划将通过联发科技的下一代旗舰芯片实现，该芯片将于今年年底装配在安卓手机中。Meta的母公司Facebook正在帮助该公司，提供Llama 2模型作为生成式人工智能应用的基石。
芯片制造商宣传其设备上进行的生成式人工智能处理方法带来了一系列优势，包括“流畅的性能、更好的隐私、更高的安全性和可靠性、更低的延迟、在几乎没有连接的区域中工作的能力以及更低的运营成本。”
加速手机上的生成式人工智能
即将推出的联发科技高端芯片将采用三种关键策略来增强智能手机上的生成式人工智能体验。首先，它将采用专门优化的软件堆栈来运行Llama 2，这是Meta开发的一种开源大型语言模型，旨在挑战OpenAI的GPT和Google的PaLM 2模型。
Llama 2于7月发布，可以“免费用于研究和商业用途”。到目前为止，还没有太多依赖Llama 2语言模型的应用问世，因为基于GPT的人工智能应用目前是热门话题。但Meta一直在积极寻求智能手机行业的合作伙伴，包括联发科技的竞争对手高通。
与联发科技一样，高通也与Meta签署了协议，从2024年开始在搭载旗舰芯片的智能手机上展示基于Llama的应用的设备本地处理能力。两家公司还将针对其他应用领域进行目标设定，如汽车、XR硬件、智能家居设备等，他们的设备本地生成式人工智能工作由顶级芯片提供支持。
在即将推出的AI友好旗舰芯片上，联发科技还将使用强化版的AI处理单元(APU)，该处理单元依赖于“变形金刚骨干加速技术”。变形金刚是一种神经网络架构，用于创建如GPT（生成式预训练变形金刚）等大型语言模型，从而衍生出ChatGPT和微软Bing Chat等产品。
最后，联发科技的新芯片还将利用DRAM模块来增强基于Llama的生成式人工智能应用的用户体验。DRAM是动态随机存储器的缩写，是一种高速、低延迟的存储模块，用于存储应用程序的工作数据。你手机上的DRAM越多，就可以同时运行更多的后台应用程序而不会出现任何问题。这就是为什么像一加这样的智能手机制造商在他们的手机上装配了高达24GB的DRAM。
这些AI升级对你意味着什么
联发科技表示，通过上述改进，其即将推出的AI芯片将通过将大部分处理需求转移到本地硬件上来增强LLM和AIGC（人工智能生成的内容）的体验。
至于你可以期待加速的任务类型，这将取决于Meta的Llama 2模型的能力和构建在其之上的应用类型。Llama 2是一种基于文本的自然语言模型，因此你可以期望它能够执行与ChatGPT或Bard类似的技巧。它可以处理查询并根据其训练数据集提供答案，对文本进行总结或扩展等等。
对于联发科来说，这不是他们首次进行此类人工智能合作。今年7月，该公司与Unity的中国分部签署了一项协议，旨在探索游戏领域中的生成式人工智能应用。
联发科预计与Llama 2应用程序的新芯片将于今年年底在智能手机上推出，所以我们不需要等待太久就可以看到实际产品的样子了。
