Apple Silicon · 2026

TinyGPU 安装指南

让 Mac 接上 NVIDIA / AMD 外置显卡，跑本地 AI 大模型

📅 更新：2026-05-17
💻 系统：macOS 13.0+
🔌 接口：USB4 / Thunderbolt 3+
🎮 显卡：NVIDIA Ampere+ / AMD RDNA3+
提示：TinyGPU 是 compute-only 驱动。只能用于 AI / ML 计算，不能玩游戏、不输出显示、不支持 Metal API。

0检查先决条件

1物理连接（顺序很重要）

  1. 显卡插入 eGPU 坞 PCIe 槽
  2. 接好独立电源线（8pin / 12VHPWR）
  3. 打开 eGPU 坞的电源开关
  4. 用 USB4 / Thunderbolt 线连接 Mac
  5. 开 Mac
注意：先开 eGPU 坞、再开 Mac。顺序反了大概率识别失败。

2安装编译器

根据你的显卡品牌二选一执行。

2.1 安装 Docker Desktop（CUDA 编译器需要）

brew install --cask docker
open /Applications/Docker.app

首次启动 Docker 需要在菜单栏看到 🐳 图标变绿，再继续。

2.2 安装 NVIDIA CUDA 编译器

curl -fsSL https://raw.githubusercontent.com/tinygrad/tinygrad/master/extra/setup_nvcc_osx.sh | sh
export PATH="$HOME/.local/bin:$PATH"
echo 'export PATH="$HOME/.local/bin:$PATH"' >> ~/.zshrc

2.1 安装 AMD HIP 编译器

curl -fsSL https://raw.githubusercontent.com/tinygrad/tinygrad/master/extra/setup_hipcomgr_osx.sh | sh

AMD 不需要 Docker。

3安装 TinyGPU 主驱动

curl -fsSL https://raw.githubusercontent.com/tinygrad/tinygrad/master/extra/setup_tinygpu_osx.sh | sh

执行后会弹出系统对话框：

"TinyGPU" would like to use a new driver extension.

点击 Open System Settings。

4启用驱动扩展

进入系统设置：

系统设置 → 通用 → 登录项与扩展 → 驱动扩展

找到 TinyGPU，把右侧开关打开（变蓝）。

没看到 TinyGPU？重启一次 Mac 再回来看。

5验证 GPU 是否被识别

方法 A：tinygrad 检测

pip install tinygrad

# NVIDIA
DEV=NV python3 -c "from tinygrad import Device; print(Device['NV'])"

# AMD
DEV=AMD python3 -c "from tinygrad import Device; print(Device['AMD'])"

✅ 成功输出类似：

<tinygrad.runtime.ops_nv.NVDevice object at 0x...>

方法 B：查看系统报告

左上角 苹果 🍎 → 关于本机 → 更多信息 → 系统报告 → Thunderbolt/USB

能看到外置 GPU 设备名（如 NVIDIA GeForce RTX 4090） → 物理连接 OK。

方法 C：命令行检查

ioreg -p IODeviceTree -l -w 0 | grep -i "gpu\|nvidia\|amd\|radeon"
systemextensionsctl list | grep -i tinygpu

6跑测试任务

快速烟囱测试

DEV=NV python3 -m tinygrad.llm
# AMD 用 DEV=AMD

如果 GPU 风扇响起来 + 终端开始吐 token → 跑通了 🎉

跑真实 LLM

git clone https://github.com/tinygrad/tinygrad.git
cd tinygrad
DEV=NV JITBEAM=2 python3 examples/llama3.py --download_model

JITBEAM=2 让 tinygrad 搜索最优 kernel，首次启动慢，之后快。

7常见问题排查

症状解决
系统设置找不到 TinyGPU 扩展重启 Mac；确认 SIP 开启
扩展开了但 DEV=NV 报错拔插 USB4 线；先开坞再开 Mac
nvcc not foundsource ~/.zshrc 或重开终端
Docker 报错确认菜单栏 🐳 图标在运行
识别成功但很慢用 USB4 而非 USB 3.x；线长 ≤ 0.5m
Mac 睡眠后掉线设置 → 锁屏 → 永不睡眠
不要做的事：不要禁用 SIP。TinyGPU 是官方签名驱动，SIP 开启状态下才能正常工作。

✓一键健康检查脚本

把下面这段保存为 check_tinygpu.sh，跑一遍就知道是否成功：

#!/bin/bash
echo "=== TinyGPU 健康检查 ==="

echo "1. macOS 版本: $(sw_vers -productVersion)"

echo -n "2. 驱动扩展: "
systemextensionsctl list | grep -i tinygpu || echo "❌ 未启用"

echo "3. Thunderbolt 设备:"
system_profiler SPThunderboltDataType | grep -A 1 "Device Name" | head -10

echo "4. tinygrad 设备:"
DEV=NV python3 -c "from tinygrad import Device; print('NV:', Device['NV'])" 2>&1 | head -1
DEV=AMD python3 -c "from tinygrad import Device; print('AMD:', Device['AMD'])" 2>&1 | head -1

echo "=== 完成 ==="
chmod +x check_tinygpu.sh
./check_tinygpu.sh