Logo

site iconManatee LazyCat

懒猫微服CEO,Linux, Emacs开源社区从业二十余载。
请复制 RSS 到你的阅读器,或快速订阅到 :

Inoreader Feedly Follow Feedbin Local Reader

Manatee LazyCat RSS 预览

技术人创业需要补强的三个方面

2026-09-13 00:00:00

今天跟大家分享一下技术人创业需要补强的几个方面

  1. 大方向要对,方向不对,就是勤奋自我感动。大方向来源于读书、交流、晒太阳、散步、深度思考

  2. 大错不要犯,一般犯大错的原因就是自己在顺境中获取优势以后,自我膨胀。膨胀才会犯大错。避免犯大错的方法还是读书,多读历史书,看到古人作死的方式,就会时刻反省自己不要膨胀

  3. 做事要果断,在 AI 时代,最重要的是你的判断力,执行力不是瓶颈了。判断力培养的方式就是要果断做决定,果断犯小错,也比优柔寡断不做决定好,因为 AI 时代的执行力很强,你犯的小错可以通过快速迭代来解决

给坦克500Hit4扩油箱

2026-09-12 00:00:00

今天来把我的油箱换了,从 68 升换到 140 升 这样加上车上的电池,油电混合可以跑 1500 公里 这样可以轻松穿越中国任何一个无人区😎

坦克这种车,天然有两个加油口,官方就支持安装副油箱,但是安装副油箱的一个问题是,主油箱的油用完了以后,需要用压力泵把油从副油箱抽到主油箱,这种方式在野外极限越野的时候,容易油泵出现问题不泵油,导致你有油却开不动的问题

我这次改装的方式是,原车的油表/油管/电路都不动,直接用140升的新油箱替换原车68升的油箱,这样就不会存在油泵的问题了 看油表的时候,就看车机仪表盘,燃油剩余里程 x 2就是真实的油箱里程

分享 Qwen AI 模型移植经验

2026-09-12 00:00:00

分享 Qwen AI 模型移植的经验给大家,避免像我这样踩坑

最近两周移植了 DeepSeek V4 Flash 和 Qwen 3.8 27B 的未审查版本,都没有问题 唯独 Qwen 3.8 Flash Next 的未审查版,5K 以上长输出会遇到“中英韩”的多国语言混合乱码问题

这个首先肯定是 Qwen 3.8 Flash Next 训练不严谨的问题,其他模型都不会乱码

同时需要配置好 AI Agent 的参数,我测试了很多遍,必须按照温度 0.3、top_p 0.95、top_k 20 的设定后,Pi Agent 中输出才不会乱码 另外模型 ID 也要统一,模型 ID、models id、Pi Agent id 都要设置为 qwen3.8-flash-next-uncensored

今天忙了一天,把算力舱的 DeepSeek/GLM/Qwen/MiniMax 全部都更新了一遍,性能更强,显存/磁盘的管理也更加方便了 明天继续优化 Qwen 3.8 Flash Next 和 MiniMax H3,明天下午挑战两台算力舱跑最新的 DeepSeek V4.1!

通过 CUDA 缓存技术实现 AI 模型部署加速

2026-09-11 00:00:00

分享AI模型部署提速的方法

这两周都在研究AI模型的移植和优化,昨天晚上认真分析了一下部署模型的耗时,主要是三块:

  1. 模型权重加载
  2. KV Cache 初始化
  3. 编译 CUDA 内核

权重加载和 KV Cache 初始化没有太多优化空间

加载权重和 KV Cache 初始化更多是模型从磁盘到显存的搬运和初始化过程,没有太多优化策略

编译 CUDA 内核这一步完全没有必要

反而是 CUDA 内核编译却没有必要,所以我先在 T5000 芯片上编译 CUDA 内核,然后把编译好的 cache、triton、nv 等生成目录合成一个 CUDA 缓存包,用户只需要下载缓存包就可以加载 CUDA 内核,而不是每次加载模型都需要重新编译 CUDA 内核

优化前后的耗时对比

阶段 优化前 优化后 节省
加载模型权重 2分30秒 2分30秒 0
初始化 KV Cache 7分钟 5分37秒 1分23秒
编译 CUDA 内核 10分钟 2秒 9分58秒
缓存恢复及健康检查 未记录 约8秒
镜像导入后到部署完成 至少20分钟 8分47秒 至少11分13秒

通过这样的方式,我把整个重新部署的时间从 40 分钟,压缩到 16 分钟,大大节省了部署 AI 模型的时间

高质量商业软件构建的秘密

2026-09-09 00:00:00

高质量商业软件构建的秘密,这是我 20 年的经验,分享给大家,不一定对,供你们参考。

一、追求简单

越是顶尖的工程师,越要追求用最简单的技术去满足用户的需求。

很多年轻的工程师为了炫技,喜欢构建非常复杂的系统,沉迷于复杂的系统而无法自拔。但是复杂的系统会带来非常大的质量隐患,它却不一定会增加软件的健壮性,甚至有时候会拖慢软件的性能。

二、减少内耗

在 AI 时代,大家都明白,其实我们只是把世界的知识来回搬运,通过一定的信息差和知识差来满足用户的需求赚钱。

但是 AI 时代告诉我们,其实知识就在那里。执行已经不是问题的时候,千万不要沉迷于跟别人抬杠,或者为了证明自己。当你为了证明自己、或者要跟别人比的时候,其实你消耗了大量获取知识的能量,去跟陌生人抬杠,这是毫无意义的。

三、重视用户反馈

很多初级的工程师是很鄙视用户的意见的,但是你知道,这个世界上所有的经济学都建立在相互交换之上。

如果你鄙视付钱给你的客户,其实你就失去了赚钱的商业能力,这是最简单的一个道理。因为世界上没有人愿意把钱给一个鄙视他自己的人。