Logo

site iconManatee LazyCat

懒猫微服CEO,Linux, Emacs开源社区从业二十余载。
请复制 RSS 到你的阅读器,或快速订阅到 :

Inoreader Feedly Follow Feedbin Local Reader

Manatee LazyCat RSS 预览

Pi Agent + Qwen 3.8 27B 深度优化

2026-08-25 00:00:00

昨天晚上部署了一下 Qwen 3.8 27B 到懒猫AI算力舱 X5 上,因为 X5 有 128GB 的显存,所有一台就够了。

Qwen 3.8 27B 部署与优化

这次测试,没有简单的测试 Tokens 数据,在一个真实的项目中跑了 4 个任务。

第二天起来,4 个任务都完成的不错,Qwen 3.8 虽然是一个小模型,但是它的 27B 应该是一个稠密性模型,不像很多 MoE 模型那样运行速度并不快,大概只有 13 ~ 15 Tokens。

早上对 Qwen 3.8 27B 做了 MTP 投机解码 + NVFP8 混合优化,并且关闭了 thinking 模式,速度从 13.9 Tokens 提升到 30.8 Tokens。

我随后调研了一下 Qwen 3.8 27B 这种模型不要关闭思考模式,虽然思考模式会让输出变快,但是关闭后,会降低代码推理的准确度,所以,我又基于前面的优化,开启了思考模式,实测速度可以稳定在 26.47 Tokens,其实思考模式并不会降低 Token 的输出,只是原始思考阶段输出的 Token 没有计算在内,如果把思考阶段和实际产出的 Tokens 一起算的话,最后实际测试的速度可以达到 35.23 Tokens/s。

这次优化后发现 MTP 是用的 NVFP4/FP8,draft 权重用的是 FP16/BF16,这一块还有提升空间,如果重新量化并构建 draft engine,速度应该还会再快,今天先优化到这里,下次再继续跟大家分享。;)

人生不只是节省,更要投资于认知

2026-08-24 00:00:00

买房子的目的是什么?

不仅仅只是避免定期被房东赶走、搬家的痛苦,更重要的是可以一点一点地装饰属于自己的房子,给自己提供面对一切困难的精神港湾。

买车的目的是什么?

不仅仅只是挡风遮雨,更重要的是可以带自己和家人去探索不同的人文和绝世的美景。除了工作外,也让自己感觉到不虚此生。

买懒猫 AI 算力舱的目的是什么?

不仅仅只是拥有无线 Tokens 和数据隐私,更重要的是,你可以自由地探索 AI 模型,学习不一样的 AI 认知。当你有了更广阔的视野和深厚的知识以后,才能享受任意创造的快乐。

人生不仅仅只是节省,更重要的是要把自己赚来的钱投资于认知,多经历,享受当下。

这两天 DHH 被各路开源社区大神讽刺,我要站出来跟他说句话

2026-08-24 00:00:00

仁慈的独裁者

世界上伟大的作品,其实都是由仁慈的独裁者创造的。

就拿大家最认同的 Linux 开源社区的发展来说,离不开两个人。第一个是创造 GNU 工具链的 Richard Stallman,另外一个人就是创造 Linux 内核的 Linus。

斯托曼老人家当年在 Unix 大型机横行的时代,创作了一系列的底层编译工具链。GCC、GDB、Emacs 和一系列 GNU 的底层软件,都是这个老人家一手创建的。在当时 Unix 横行、面对基本上所有人的不理解时,他一意孤行,打下了良好的编译工具链基础,才有了今天 Linux 上层的枝繁叶茂。

Linus 大神当年在芬兰的大学待了整整 8 年,就为了创作一个跟 Minix 截然不同的 Linux 系统,独自一人搞定了 POSIX 接口和完整的 x86 内核。

如果没有当时这两个人坚定的意志、超强的能力和仁慈的独裁,我相信大家今天不会享受到 Linux 开源社区的繁荣,也不可能有安卓和服务器的生态。

很多人说,Linux 社区的成功更源于开源社区全世界黑客的巨大贡献,当然,这是无可否认的。但是你们要知道,最关键的是,这两位老人家做了前面的 1,才有后面社区的 0。工程化的东西,可以靠人多力量大来解决;但是开创性的理念,只能靠最开始的那一个人去做决策。

Linux 桌面缺少什么

Linux 桌面本身已经有了非常好的基础,但是为什么发展不起来?就是因为缺少一个足够好的桌面系统。

而一个足够好的桌面系统,不光是内核要足够强大、技术要多么先进。一个桌面系统最重要的就是交互体验和取舍,简而言之,就是让你装上去就用得舒心。

Linux 桌面发展这么多年,面对普通人的需求时,就被拉扯得很奇怪。很多人说,你为什么这里不像 Windows,那里不像 Windows;这里不像 Mac,那里不像 Mac?最后在各种抄袭中迷失了自我。

其实我觉得完全没必要。因为 Linux 的主要人群就是工程师,他们装 Linux 的目的就是探索开源库,然后创造很多新的玩法。

所以 Linux 桌面就应该聚焦到这些工程师身上,做一个快捷键导向、简洁高效的开发环境。而 DHH 本身就是兼具超强工程能力和优秀审美的天才,他可以把很多纷繁复杂的需求转化为简洁高效的默认设置。

期待 DHH 的 Linux 桌面

所以我非常看好 DHH 在 Linux 桌面上的创作,因为他本身就是最懂工程师的产品设计师。而 Linux 社区,有超强技术的人一大把,但是有审美的产品设计师寥寥无几。

期待 DHH 更多设计,做出无与伦比的 Linux 桌面。

Pi Agent 编程插件列表

2026-08-22 00:00:00

我玩了一下午,发现下面这几个插件配合最完美,上一版有兼容性问题。

  1. pi-web-access:访问网络资源
  2. pi-mcp-adapter:访问 MCP
  3. pi-grok-cli:访问 Grok API,蓝 V 必备
  4. pi-input-history:保存和浏览输入历史
  5. pi-powerline-footer:底部显示一些彩色的好看信息

让 Pi Agent 的快捷键和 Codex 保持一致

2026-08-22 00:00:00

已经习惯了 Codex 的快捷键了,把 Pi Agent 的快捷键也改成和 Codex 一样的。这样切换不同 AI 的时候,手指头的习惯可以保持一致。

Pi Agent 改快捷键的方法

新建 ~/.pi/agent/keybindings.json,填入下面的内容:

{
  "tui.input.submit": "enter",
  "tui.input.tab": "alt+/",
  "tui.editor.historyPrevious": ["up", "ctrl+p"],
  "tui.editor.historyNext": ["down", "ctrl+n"],
  "app.message.followUp": "tab",
  "app.interrupt": "ctrl+c",
  "app.clear": "ctrl+l",
  "app.session.rename": "ctrl+shift+r",
  "app.model.cycleForward": "alt+n",
  "app.model.cycleBackward": "alt+p"
}

按键说明

  1. Enter:提交消息(空闲时发送,忙碌时插队)
  2. Alt+/:路径/文件自动补全
  3. ↑ / Ctrl+P:浏览上一条历史消息
  4. ↓ / Ctrl+N:浏览下一条历史消息
  5. Tab:排队跟进消息(等当前任务完成后再执行)
  6. Ctrl+C:中断当前操作
  7. Ctrl+L:清空编辑区
  8. Ctrl+Shift+R:重命名当前会话
  9. Alt+N:向前切换模型
  10. Alt+P:向后切换模型