Linger:开源本地个人智能体,12GB 显卡跑 125B 模型,数据不出设备

一句话介绍

Linger 是一个开源的本地个人智能体:它把一个“Claude 级”的大脑装在你自己的电脑上跑,数据不出设备,也没有按 token 计费的云端账单。项目 11 月 10 日才创建,10 天涨到 2338 星,近几天每天新增 1300 多星,支持 Mac 和 PC。

Linger 的本地推理引擎:125B 模型跑在 12GB 显卡上

12GB 显卡怎么跑 125B 的模型

Linger 的关键是自研的 MoE 推理引擎 PolyStrata:它不要求整个模型塞进显存,而是让最常用的专家留在 GPU 上,次常用的放内存、不常用的放 SSD,推理时按需调度。按项目方给出的数据,125B 的 Qwen3.8-Flash-Next 在一块 12GB 的 RTX 3060 上能跑到每秒 45.5 个 token;Mac 24GB 机型配 Qwen3.8-27B 时,项目方自评的 SimplexAI 分数约 51.9,接近他们对照的 Claude Opus 4.5 水平。

先说清楚:这些速度和分数都是项目方自己实验室测的,不是第三方实测,实际到手能跑多快要看你的机器和量化配置。装机时的 Model Autopilot 会先检测你的 GPU、显存、内存和带宽,只装能塞进 64K 上下文的模型,装完还会先让模型真实回答一个问题,答出来才算装好。

它不只是个聊天框

  • 会记事的 Wiki:每天夜里,它会把你的邮件、聊天和会议整理进个人 Wiki,告诉一个智能体的事,所有智能体都能查到。项目方称它在 LoCoMo 长对话记忆基准上拿到 95% 的准确率。
  • 会主动找你的 Another Me:它盯着收件箱、日历和 Slack,该跟进的跟进、该提醒的提醒;晚上 22:00 到早上 08:00 是安静时间,只记录不打扰。
  • 会自己改规则:每天夜里它会复盘自己发出去的消息带来的反应——同一类提醒你两次说“早点告诉我”,它就改成下次早点说;两次说“不用告诉我”,它就安静下来。不用你写规则,它从你的反应里学。

Linger 的 Model Autopilot 按你的硬件推荐模型

怎么装

两种方式:下载桌面应用,或用 Docker Compose 部署。本地模型不需要 API Key,也没有 token 费用;如果你想接云端模型,也可以另外配置。项目仓库在 GitHub,桌面端、引擎和技能都在同一个仓库里。

本地 AI 这条线,站内之前介绍过 last30days 这个 AI 研究 Skill(让 Claude Code 先读 Reddit、X 与 YouTube 再回答),以及 25 个 Claude Code 技能合集——Linger 是把“本地跑大模型 + 记得住事 + 主动干活”做成了一个现成的个人智能体产品。

转自 GitHub 作者 simplexai-labs 的文章《Linger》,原文链接

© 版权声明
THE END
喜欢就支持一下吧
点赞26 分享