8.3B大模型塞进手机?LFM2-8B-A1B稀疏魔法引爆端侧AI革命

23小时前 高效码农

“MoE 只能堆在云端?”——Liquid AI 刚刚用一部手机推翻了这条金科玉律。 开场:当「大模型」不再等于「大算力」 凌晨 1 点,你窝在沙发改 PPT,手机突然弹出提醒: “需要把 200 页 …

Grok-2部署实战:8张GPU+500GB存储的终极指南

1个月前 高效码农

Grok 2 模型使用全指南:从下载到部署 在人工智能快速发展的今天,大模型已经成为研究和应用的重要基础设施。Grok 2 是由 xAI 在 2024 年训练和使用的一款模型,它的开源权重为开发者和研 …