下一代 NPU 将更加强大，释放更多设备内人工智能处理的潜力。

微软和英特尔已公开表示，Microsoft Copilot 的设备端处理是下一代 AI PC 的目标。

设备上的处理可提供更快的响应，提供更多的个性化空间，并提供增强的隐私。

去年技术取得突破后，人工智能比以往任何时候都更加主流，公司推出了 OpenAI 的ChatGPT等消费者友好型产品。此后，更多的软件和硬件产品相继推出，从 Humane AI Pin 等设备到Microsoft Copilot等服务。然而，我们距离人工智能发展的顶峰还很远。事实上，情况恰恰相反。另一个突破即将到来，它需要将当前基于云的人工智能功能转移到使用设备上处理来运行。这种转变将为最终用户带来巨大的好处，而且比您想象的更接近。为此，设备上的计算可能最终使人工智能在日常生活中发挥作用。

多家公司都表示他们的目标是在设备上实现人工智能功能的处理，我们已经可以一睹智能手机世界的面貌。谷歌创建了一个名为 Gemini Nano 的微型大型语言模型 (LLM)，该模型足够小，可以在包括Google Pixel 8 Pro在内的部分智能手机上运行。此外，三星 Galaxy S24 系列上的 Galaxy AI 套件中的一些 AI 功能(但不是全部)由设备内处理提供支持。与智能手机上的功能相比，桌面空间中利用人工智能的功能通常具有更高的性能要求，并且使用具有更大上下文窗口的更大的法学硕士。然而，我们可以看到这个过程如何扩展以在未来的计算机上运行。