2026-09-13 00:00:00
今天跟大家分享一下技术人创业需要补强的几个方面
大方向要对,方向不对,就是勤奋自我感动。大方向来源于读书、交流、晒太阳、散步、深度思考
大错不要犯,一般犯大错的原因就是自己在顺境中获取优势以后,自我膨胀。膨胀才会犯大错。避免犯大错的方法还是读书,多读历史书,看到古人作死的方式,就会时刻反省自己不要膨胀
做事要果断,在 AI 时代,最重要的是你的判断力,执行力不是瓶颈了。判断力培养的方式就是要果断做决定,果断犯小错,也比优柔寡断不做决定好,因为 AI 时代的执行力很强,你犯的小错可以通过快速迭代来解决
2026-09-12 00:00:00
今天来把我的油箱换了,从 68 升换到 140 升 这样加上车上的电池,油电混合可以跑 1500 公里 这样可以轻松穿越中国任何一个无人区😎
坦克这种车,天然有两个加油口,官方就支持安装副油箱,但是安装副油箱的一个问题是,主油箱的油用完了以后,需要用压力泵把油从副油箱抽到主油箱,这种方式在野外极限越野的时候,容易油泵出现问题不泵油,导致你有油却开不动的问题
我这次改装的方式是,原车的油表/油管/电路都不动,直接用140升的新油箱替换原车68升的油箱,这样就不会存在油泵的问题了 看油表的时候,就看车机仪表盘,燃油剩余里程 x 2就是真实的油箱里程




2026-09-12 00:00:00
分享 Qwen AI 模型移植的经验给大家,避免像我这样踩坑
最近两周移植了 DeepSeek V4 Flash 和 Qwen 3.8 27B 的未审查版本,都没有问题 唯独 Qwen 3.8 Flash Next 的未审查版,5K 以上长输出会遇到“中英韩”的多国语言混合乱码问题
这个首先肯定是 Qwen 3.8 Flash Next 训练不严谨的问题,其他模型都不会乱码
同时需要配置好 AI Agent 的参数,我测试了很多遍,必须按照温度 0.3、top_p 0.95、top_k 20 的设定后,Pi Agent 中输出才不会乱码 另外模型 ID 也要统一,模型 ID、models id、Pi Agent id 都要设置为 qwen3.8-flash-next-uncensored
今天忙了一天,把算力舱的 DeepSeek/GLM/Qwen/MiniMax 全部都更新了一遍,性能更强,显存/磁盘的管理也更加方便了 明天继续优化 Qwen 3.8 Flash Next 和 MiniMax H3,明天下午挑战两台算力舱跑最新的 DeepSeek V4.1!
2026-09-11 00:00:00
分享AI模型部署提速的方法
这两周都在研究AI模型的移植和优化,昨天晚上认真分析了一下部署模型的耗时,主要是三块:
加载权重和 KV Cache 初始化更多是模型从磁盘到显存的搬运和初始化过程,没有太多优化策略
反而是 CUDA 内核编译却没有必要,所以我先在 T5000 芯片上编译 CUDA 内核,然后把编译好的 cache、triton、nv 等生成目录合成一个 CUDA 缓存包,用户只需要下载缓存包就可以加载 CUDA 内核,而不是每次加载模型都需要重新编译 CUDA 内核
| 阶段 | 优化前 | 优化后 | 节省 |
|---|---|---|---|
| 加载模型权重 | 2分30秒 | 2分30秒 | 0 |
| 初始化 KV Cache | 7分钟 | 5分37秒 | 1分23秒 |
| 编译 CUDA 内核 | 10分钟 | 2秒 | 9分58秒 |
| 缓存恢复及健康检查 | 未记录 | 约8秒 | – |
| 镜像导入后到部署完成 | 至少20分钟 | 8分47秒 | 至少11分13秒 |
通过这样的方式,我把整个重新部署的时间从 40 分钟,压缩到 16 分钟,大大节省了部署 AI 模型的时间
2026-09-09 00:00:00
高质量商业软件构建的秘密,这是我 20 年的经验,分享给大家,不一定对,供你们参考。
越是顶尖的工程师,越要追求用最简单的技术去满足用户的需求。
很多年轻的工程师为了炫技,喜欢构建非常复杂的系统,沉迷于复杂的系统而无法自拔。但是复杂的系统会带来非常大的质量隐患,它却不一定会增加软件的健壮性,甚至有时候会拖慢软件的性能。
在 AI 时代,大家都明白,其实我们只是把世界的知识来回搬运,通过一定的信息差和知识差来满足用户的需求赚钱。
但是 AI 时代告诉我们,其实知识就在那里。执行已经不是问题的时候,千万不要沉迷于跟别人抬杠,或者为了证明自己。当你为了证明自己、或者要跟别人比的时候,其实你消耗了大量获取知识的能量,去跟陌生人抬杠,这是毫无意义的。
很多初级的工程师是很鄙视用户的意见的,但是你知道,这个世界上所有的经济学都建立在相互交换之上。
如果你鄙视付钱给你的客户,其实你就失去了赚钱的商业能力,这是最简单的一个道理。因为世界上没有人愿意把钱给一个鄙视他自己的人。