近期，微软微软正式升级Windows 11系统的正式底层AI框架，实验性原生支持GGUF和ONNX两大主流模型格式的升级本地推理，以后用户不用额外安装复杂的底层第三方软件，直接在系统层面就能运行本地大模型，框架门槛直接降到几乎为零。微软

过去普通玩家在Windows电脑上跑本地大模型，正式流程非常繁琐：首先要先下载专门的升级第三方推理工具，接着从开源社区找对应格式的底层模型文件，还要手动配置环境变量、框架调整硬件加速参数，微软哪怕是正式对技术比较熟悉的用户，第一次折腾也要花好几个小时才能跑通，升级普通用户更是底层根本摸不着门道。而且不同的框架工具适配的模型格式还不一样，想换个不同格式的大模型试试，整个配置流程几乎要重来一遍，很多人折腾到一半就直接放弃了。

这次微软升级的Windows ML本地AI推理框架，直接和开源社区深度合作，在系统底层原生加入了对GGUF和ONNX两大主流模型格式的支持。GGUF是现在本地大模型领域的事实标准格式，几乎所有开源社区的主流本地大模型都采用这种格式封装，ONNX是跨平台通用的开放神经网络交换格式，大量工业级AI应用都基于这套格式开发。现在Windows 11系统原生就能直接识别这两种格式的模型文件，开发者不用再做复杂的格式转换，用户也不用额外安装第三方推理环境，直接就能在本地加载运行模型。

为了进一步提升本地运行的性能，微软还和英伟达深度合作，针对Windows平台的硬件适配贡献了大量底层性能优化代码。升级之后系统新增了专门的Windows ML Runtime API，比过去的推理路径拥有更高的运行性能、更深的系统级集成，开发者可以直接调用这套系统接口，快速给应用添加上文本生成、语音识别这类本地AI功能，不用自己从零搭建复杂的推理引擎，开发效率大幅提升。普通用户最直观的感受就是，大模型在自己的Windows电脑上本地运行的速度明显变快，哪怕是普通配置的家用电脑，也能流畅跑起主流的7B级大模型。

在实际使用的过渡层面，微软也做了非常平滑的兼容设计。过去大家广泛使用的ONNX Runtime API依然得到完整的官方支持，不会出现旧的AI应用突然没法运行的问题，同时微软明确表示，未来针对Windows平台的AI性能优化资源，会优先投向全新的Windows ML Runtime API，开发者可以根据自己的项目进度，自主选择合适的迁移时机，不用被迫仓促完成技术升级。这套新的系统接口还直接自带了封装好的文本生成API和语音识别API，开发者不用再自己处理复杂的底层推理逻辑，几行简单的代码就能给应用添加上本地AI能力。

目前这套实验性的原生本地推理能力已经随最新的Windows 11版本推送，后续微软还会持续迭代优化兼容性和运行性能，逐步把本地AI能力变成Windows系统的基础原生能力，让更多普通用户不用折腾复杂配置，就能轻松在自己的电脑上用上完全离线、数据不会上传云端的本地大模型。

(责任编辑：知识)