article cover

windows中安装虚拟机跑AI大模型

WSL2 + vLLM 本地大模型推理服务部署指南 适用环境:Windows 11 / Windows 10 21H2+,NVIDIA GPU(显存 ≥ 8 GB),Ubuntu 22.04 / 24.04 (WSL2) 最终目标:在本地通过 vLLM 启动 OpenAI 兼容 API 服务,运行 Qwen 系列大模型 前置条件检查 在开始之前,请确认...
poetize 发布于