幸好是自己的笔记本跑本地大模型, 要不不得亏死.
我的配置是 macboo air M5, 32G 内存, 本地的大模型试了好多, qwen3.5-9B-mlx 这个感觉最合适了, 试过 27B 的模型, 直接电脑崩溃重启 3 次.
有没有可能就是因为 9B 太蠢了,导致一直在做无用功浪费 token ?
登录后可发帖和回复
有没有可能就是因为 9B 太蠢了,导致一直在做无用功浪费 token ?