2026-10-21 00:00:00
最近一个月陆陆续续移植了60多个AI模型,基本上主流的AI推理引擎都深度玩了一遍,下面是我的结论:
单流解码优先选 TensorFold:如果要追求单流解码速度, TensorFold 绝对是最佳选择, 这种内置随机解码的推理引擎, 单流解码速度是 vLLM 的 1.3 ~ 3 倍,取决于跑的是稠密模型还是MoE模型,包括我这几天试验的 DeepInfer 也是潜力巨大,解码性能极度优秀,性能和 TensorFold 不相上下
高并发选 vLLM 和 SGlang: 如果要追求并发解码性能和预填充性能的,优先 vLLM 和 SGlang, 这两个一般都要配合 DFlash2 做随机解码优化, 配上 DFlash2 后,单流解码性能也非常优秀。那 vLLM 和 SGlang 怎么选? 从我的理解差别不大,SGlang 会更加新潮一点,跟进流行模型的速度更快
Strata 不适合 128GB 大显存推理设备:Strata 这个广受好评的推理引擎,只适合 4090/5090 这些32GB小显存的消费级显卡,不适合128GB这种显存一体的推理设备, 比如DGX和懒猫AI算力舱。以 Strata 最擅长的 Qwen 3.8 Flash Next 为例, 同样 128GB 的推理设备, Strata 的解码性能不如 vLLM 的一半, Prefill的性能不足 vLLM 的 1/2, 强烈不要建议大家在 128GB 设备上跑 Strata , 还是老老实实用 vLLM、 SGLang 和 TensorFold

原文:X 上的帖子
2026-10-18 00:00:00
我的第二十个 Omarchy 插件
Omarchy默认的文件预览功能有几个缺陷
预览窗口经常因为鼠标移动而丢失键盘焦点,导致关闭预览窗口还需要再把鼠标移动回来,非常不方便
默认不支持上一个文件和下一个文件的移动
预览窗口无法临时移动一下屏幕中的文字,导致看底部的文字很不方便
所以我做了一个 Omarchy File Previewer 的插件,修复这三个问题:
代码按照 GPL 3.0 协议发布, Enjoy!
2026-10-14 00:00:00
很多人都羡慕别人创业成功,说别人是因为更聪明、有资源或者运气更好,轮到自己,就是没资源,没条件,没运气
今天我要给大家分享一个反直觉的创业秘籍,机会不是等出来的,而是创造出来的
那机会是怎么创造出来的?
说白了,就是你过去的经历、知识、信念和习惯,慢慢形成的一套看事情的方法。这套方法决定了你会关注什么,也决定了你会忽略什么
你熟悉技术,就容易关注技术;你熟悉客户,就容易关注需求。每个人看到的东西,都和自己过去的积累有关系
问题在于,很多人会把自己熟悉的那一小块,当成整个世界。遇到一件没做过的事情,第一反应就是不可能、太难了、风险太大了,然后就不再往下看
机会还没有被认真了解,就已经被自己的经验否定了。你一直用过去的判断方式去看新的事情,能看见的机会自然也会很有限
很多人寻找机会,首先想的是,这个事情能不能让我赚钱?我有没有能力做?这些问题当然要考虑,但是如果一直围着自己转,就很难看清别人到底需要什么
以做产品为例,你站在自己的角度,会想我的产品怎么卖出去。换到客户的角度,就会想,他现在遇到了什么问题?为什么现有的产品没有让他满意?他真正需要解决的是什么?
再换到合作方的角度,看看对方需要什么,你能给他什么。然后站到一个旁观者的位置,把自己的情绪放下来,看看整件事到底是怎么回事
最后,再把视野放大一点,看看整个事情里有哪些人、哪些资源,需求在哪里,供给在哪里,中间缺了什么。很多机会,就是在这个供需缺口里面
你只盯着自己能不能得到好处,看到的东西很少。你开始认真理解别人,就会看到一些以前根本没有注意过的问题
如果你一直觉得,我是一个需要找到好机会的人,那么你每天都会找,有没有更好的项目?有没有赚钱的风口?有没有一个事情,能让我一下子翻身?
你总想先找到一个足够好的机会,再决定自己做什么。机会不够好,就继续等
如果你觉得,我是一个能够创造价值的人,那么你看事情的出发点就会变。你会主动去找,哪里有问题没有解决?哪里有需求没有被满足?我现在的能力,能给别人带来什么帮助?
一个人习惯问什么问题,就会把精力花在什么地方。天天找风口,你的注意力就在风口上;天天想怎么创造价值,你的注意力就会慢慢转向需求和解决问题
同时,要思考这个创造价值的事情是否是自己每天喜欢干的事情?如果恰好是自己每天喜欢干的事情,你怎么做都不累,因为你享受其中
所以,创业的机会,如果你从外人看,总感觉别人创业成功是突然成功的,是被机会吹上天的,运气好,总觉得这么好的机会,我自己上也可以,这是弱者的心态,嫉妒者的心态
如果你懂得了靠看书来增加视野,靠帮助客户赚钱,靠内观自己来决定不做什么,你就有无穷的力量去创造属于你自己的机会,一旦做起来了,别人就无法和你竞争,因为谁会比你自己更擅长做你自己呢?
今天就分享到这里,希望可以帮助那些虚心学习,努力创业的创业者
2026-10-13 00:00:00
很多小公司刚刚步入正轨,老板就开始觉得公司不够正规,要向大公司学习,建制度,搞流程,上考核。
忙了一圈,员工越来越忙,用户越来越少,老板还觉得是不是管理抓得不够?于是继续加流程,加考核,大家更忙了,生意却没有变好。
这里有一个很容易搞反的常识,公司的钱是用户给的。你内部管理得再漂亮,用户不买单,公司一样活不下去。把流程执行完,和把用户的问题解决掉,是两件事情。
我觉得,小公司尤其要想清楚下面三件事。
小公司的时间、钱和人都有限,你每天花几个小时开内部会议,团队就少几个小时去了解用户、改进产品、做好服务。每个人的精力都在公司内部来回消耗,最后谁去关心付钱给你的用户呢?
小公司的优势就是离用户近,反应快。用户反馈一个问题,能尽快有人回应,能尽快解决,这就是实实在在的竞争力。如果一个简单问题也要层层汇报,等流程走完,用户已经走了,你把自己最宝贵的优势折腾没了。
很多人对过去成功的经验有执念,觉得以前这么干赚到钱了,以后就应该一直这么干。但是市场会变,用户的需求会变,过去帮你赚钱的方法,也可能变成今天挡住机会的东西。
所以,制度定下来以后,还是要经常看看,它现在还管用吗?它有没有让团队更容易尝试新东西?如果大家发现一个好机会,第一反应就是这件事不符合流程,干不了,那你就要反省,这个流程到底给公司带来了什么。
小公司就那么几个人,每个人擅长什么,放在哪个位置最能发挥作用,老板要想明白。一个人擅长做产品,你却让他天天写汇报,再拿汇报写得不好去考核他,这个管理本身就有问题。
用人的关键,是让人的长处能为用户创造价值。合适的人放在合适的位置,给他清楚的目标,给他做事的空间,往往比你把制度再写厚一点有用得多。
管理当然需要,但是每增加一个流程,都要想一想,它有没有帮助团队把事情做好,有没有让用户得到更好的产品和服务。如果只是让老板看着舒服,让公司显得很正规,却消耗了大家大量的时间,那就要敢于把它减掉。
用户反馈有人接,产品问题有人改,关键事情有人负责,这些事情踏踏实实做好,比在公司内部制造一堆忙碌更有价值。
2026-10-12 00:00:00
我的第十九个 Omarchy 插件
Omarchy 生态的 hyprmoncfg 非常好用, 但是 Omarchy 生态的 Win + P 切换显示器的功能确实超级难用
今天要给团队用 Omarchy 系统培训售后服务规范,发现居然要靠命令行才能投屏,对于我这种Linux狂魔肯定不能忍
写了一个新的插件 Omarchy Switch Display , 安装好以后, 直接按 Win + P 就可以像 Windows 那样在扩展/镜像/内屏/外屏 4种状态快速切换。 有了这个插件的帮助, Omarchy 也可以用于商务PPT演讲不翻车了, 哈哈哈哈
我这个插件还有一个增强是,切换到内屏和外屏的时候,会主动调整为屏幕最高的分辨率, 不会像传统Linux那样,镜像屏幕切换到内屏后, 内屏的分辨率会被外屏影响变小,还需要手动调节一次,不方便
源代码在评论区按照 GPL 3.0 开放,Enjoy!
