端侧AI革命!腾讯2B小模型如何实现GPT-4级自主思考?

1个月前 高效码农

当 2B 参数的大模型开始”自主思考”:Youtu-LLM 如何重塑端侧 AI 的可能性 核心问题:在算力受限的端侧场景,如何让轻量级语言模型具备像 GPT-4 那样的规划、反 …

联发科NPU逆袭:手机跑1600 token/s大模型,教你一招搞定端侧AI部署

1个月前 高效码农

把 LLM 塞进手机:MediaTek NPU × LiteRT NeuroPilot Accelerator 全栈落地笔记 “ 核心问题:在碎片化边缘硬件上,怎样“一次训练、多端秒级部署”大模型,同 …

8B大模型如何塞进手机?MiniCPM4飙速7倍秘籍曝光!

4个月前 高效码农

MiniCPM4 与 MiniCPM4.1:把 8B 大模型塞进手机,还能跑得快、想得深 适合读者:计算机/电子/通信相关专业毕业生,想快速了解「端侧大模型」到底做到了什么程度,以及自己能不能动手玩起 …