标签

C语言

帖子 1阅读 25

帖子数

1

阅读量

25

5天前发布25次阅读

kimi-k3-in-c：2.78 万亿参数的 Kimi K3，不用 GPU、单 CPU 加 8GB 内存就能跑起来

开源软件 kimi-k3-in-c 用纯 C99 从零写了一个 Kimi K3 推理引擎：零依赖，不用 BLAS、不用框架、不用 GPU，作者称 2.78 万亿参数的模型能在单 CPU、8.24GB 内存里跑起来。项目 1 万星、Apache-2.0 协议，今日登上 GitHub Trending 日榜。它能跑起来的办法是四重「瘦身...