Easy同学正在独立开发LMStudio刚刚升级了MLX引擎,终于可以用

南晴评科技 2025-03-26 20:56:02

Easy同学正在独立开发 LMStudio 刚刚升级了 MLX引擎,终于可以用 mistral-small-3.1-24b-instruct-2503 了。

测试了下,在Mac Mini M4 32G 上运行速度大概 7.5 token每秒, 中文能力一般,比Qwen差挺远。这速度写码有点慢,回头有用再试试。 ​​​

0 阅读:2
南晴评科技

南晴评科技

感谢大家的关注