无需GPU!700行C代码实现Llama3.2本地推理,Ubuntu部署教程

2天前 高效码农

用一杯咖啡的时间,把 Llama 3.2 跑在纯 C 里:一份面向毕业生的极简推理实战笔记 “我能不能只用一台普通笔记本,就跑得动一个 10 亿参数的大模型?” “当然可以,而且只要 700 行 C …

手机上本地运行AI模型完全指南:Google AI Edge Gallery核心功能与性能实测

2个月前 高效码农

如何在手机上本地运行AI模型?Google AI Edge Gallery完全指南 你是否想过在手机上不联网就能运行AI模型?Google最新推出的开源应用「AI Edge Gallery」让这成为可 …