GoForum🌐 V2EX

Gemma4 + LiteRT-LM 真得有点的东西, e2b 内存仅 2G 左右占用, 在 天玑 的安卓机上跑的飞快.

dacapoday · 2026-04-08 17:20 · 0 次点赞 · 0 条回复

安卓用这个: https://github.com/google-ai-edge/gallery

另外在 m2 mac 上直接跑 cli https://github.com/google-ai-edge/LiteRT-LM

这种性能已经完全可以离线运行 酒馆 小手机 之类的私密场景.

0 条回复
添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: dacapoday
发布: 2026-04-08
点赞: 0
回复: 0