开源ChatGPT、Stable Diffusion本地部署，及关于国产AI ...

谷俊山水 · 发表于 2023-4-17 09:42:44

你的想法是用内存替代显存，有两种实现方法：
1、把一部分模型放在内存里用cpu计算；
2、把模型切成好几块，把暂时用不到的块放在内存，需要的时候再把内存里的块加载到显存里用gpu计算。

第一种方法慢是因为cpu不适合拿来计算模型，第二种方法慢是因为需要反复移动模型。不如直接买个显存足够的计算卡。

前恶后善也有罪 · 发表于 2025-12-17 08:18:43

小白一个顶一下

完美欠缺 · 发表于 2025-12-18 15:14:24

大人，此事必有蹊跷！

电杆老中医 · 发表于 2025-12-19 02:31:57

占坑编辑ing

袁头 · 发表于 2025-12-21 07:16:18

确实不错，顶先

北漂废人 · 发表于 2025-12-23 17:40:17

专业抢沙发的！哈哈

彻夜想你 · 发表于 2026-1-10 15:15:31

不错支持下

精灵当道 · 发表于 2026-1-10 15:26:03

我也来顶一下..

越长越好 · 发表于 2026-1-12 07:10:43

确实不错，顶先

这辈子你都无法见到的人 · 发表于 2026-1-13 06:23:16

一直在看

		自动登录	找回密码
密码			立即注册