最近调岗去做AI项目,啥都不懂,想自学先部署大语言模型,求懂行的兄弟推荐
笔记本不适合跑大模型，配置再好的了不起能运行14b，那个效果基本不可用，还是远程调用吧
我自己研究了一下 似乎这颗APU[AI Max+ 395]比较适合本地部署大语言模型
但是围绕这颗APU打造的笔记本我只找到rog幻x2025 太贵了要2万块 有没有更加性价比高一点的推荐?
Backfire 发表于 2025-11-11 00:23
看你跑多大的模型
Cstudent 发表于 2025-11-11 00:42
70B及以下
xy3666 发表于 2025-11-11 01:01
你这个太难了，量化24g显存跑个14b可能差不多
笔记本显存大的就5090 4090 16g 3万多，我感觉性价比不高建 ...
7B和14B可以可以看看。70B还想用笔记本跑，算了吧
目前个人跑大模型性价比最高设备之一的是Mac Studio M3 Ultra，512GB统一内存，最少也得要六七万
即使是稍低一点的256GB统一内存版本，也要四万起步
以你这个预算来看，要不去图吧问问？垃圾佬或许能满足这个需求