Runye | 算法花园修改

2025-04-19 08:00:00

2025-04-19 08:00:00

本页面灵感来自 ChangeLog of Me | cf020031308.github.io ！

[[2025/04]]

[[2024/12]]

• [[2024 读论文目录]]

• [[2024 读书目录]]

• [[动态定价]]

• [[因果推断]]

• [[时间序列专题学习]]

• [[@Pattern recognition and machine learning]]

  • 参考 up 主淡蓝小点 B 站视频 和笔记 [[@PRML Note 前十一章]]

[[2024/01]]

• [[Life Log]]

[[2023/12]]

• [[观者进阶]]

[[2023/11]]

• [[Raycast]] MacOS 启动器，替代 [[Alfred]]

• 机器学习应补充哪些数学基础？ - 知乎 (zhihu.com)

[[2023/10]]

• [[YJango@学习观]]

[[2023/08]]

• [[embedding 如何优化]]

• [[Optimization]]

  • [[Adam]] [[AdamW]] [[LazyAdam]]

[[2023/07]]

• “追星”Transformer（五）：Transformer的三个小细节——LayerNorm、Teacher Forcing与Beam Search - 知乎 (zhihu.com)

  • [[Teacher Forcing]]

  • [[Beam Search]]

• [[集成学习]]

  • [[stacking]]

• [[Spark]]

  • [[RDD]]

  • [[RDD 持久化]]

  • [[Pair RDD]]

  • [[Spark Operator]]

  • [[repartition 和 coalesce 对比]]

• [[卷积和注意力区别]]

• [[Tensorflow Baisc]]

• [[可解释性]]

  • [[Shapley Value]]

• [[1D Conv]]

• [[Separable Convolution]] 可分离卷积

• [[interval forecasting]] 区间预测

[[2023/03]]

• [[@Interpreting Trajectories from Multiple Views: A Hierarchical Self-Attention Network for Estimating the Time of Arrival]]

• [[YJango@万字科普ChatGPT-4为什么会颠覆人类社会]]

[[2023/02]]

• [[Position Encoding]]

• [[BN 和 LN]]

• [[@DeeprETA: An ETA Post-processing System at Scale]] Uber 基于深度学习的 ETA 系统设计

[[2022/12]]

• [[@翦商：殷周之变与华夏新生]] 历史小说，讲得是夏商周的历史。上古史的参考文献很少，作者亮点在于结合这几十年的考古成果（二里头、殷墟、周原等等）进行创造。翦商出自诗经「后稷之孙，实维太王，居岐之阳，实始翦商。」，意思是周灭商。为什么周要消灭商？商代遗址挖掘发现和甲骨文破译，商人生活中使用大量的人牲进行祭祀（比如房屋用人奠基，墓葬用人陪葬……），而且随着时间推移，祭祀规模越来越大，手段越来越残酷。作者推测周族可能长时间从事给商人捕捉祭祀用的人牲工作，随着周文王被拘和伯邑考被杀，周商矛盾激化，周武王开始伐商。周公旦在武王驾崩后，辅佐成王，创建礼乐制度。后世流传的文献没有直接记录商朝活人祭祀，可能是周公毁掉相关的档案，改写历史。

[[2022/11]]

• [[简悦和 Logseq 联动]]

• 当前使用[[词典]]

  • Oxford Essential Dictionary

  • Collins Cobuild Essential English Dictionary

  • Collins Cobuild Intermediate Learner’s Dictionary

  • OALD4双解切换2022秋季版

  • Oxford Advanced Learner’s Dictionary 10th

• [[Word2Vec]]

• [[SGD]]

  • [[@Adam: A Method for Stochastic Optimization]]

• [[@Autoformer: Decomposition Transformers with Auto-Correlation for Long-Term Series Forecasting]] 清华 [[NeurIPS/2021]]

• [[@Temporal Fusion Transformers for Interpretable Multi-horizon Time Series Forecasting]]

• [[@一点微小的 OneNote 使用经验]]

[[2022/10]]

• 日常摘录 [[2022week41]]、[[2022week42]]

• [[Positional Encoding]]

  • [[Positional Encoding/Sinusoidal]]

• [[@Transformers in Time Series: A Survey]] 阿里达摩院关于 [[Transformer]] 在[[时间序列预测]]应用的综述

  • [[@Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting]] 北航 AAAI 2021 best paper，长时间序列预测任务引入 transformer。根据 attention score 的长尾分布，设计 probsparse self-attention 减少 query 和 key 计算量。然后使用 self-attention distilling 减少多层 attention 结构的内存开销。decoder 模块改成 generative style 预测方法，加快预测速度。

• [[@FiBiNET: Combining Feature Importance and Bilinear feature Interaction for Click-Through Rate Prediction]]

• [[@中国未来20年的经济大趋势 旧]]

• [[@天空之城：拉马努金式思维训练法]]

• [[how to read a book]]

  • [[@到底要如何有效读书呢 - 2021年读书计划， 最多只读50本]]

  • [[@Reading Better: Retaining and Applying What You Read]] #[[Farnam Street]]

  • [[@读书是否是唯一重要的事？]]

  • [[@如何阅读一本书]]

• [[how to read a paper]]

  • [[知识管理带动文献阅读]]

  • [[戴晓天论文笔记模板]]

• [[@Distilling the Knowledge in a Neural Network]]

• [[@Learning Piece-wise Linear Models from Large Scale Data for Ad Click Prediction]]

• [[@Applying Deep Learning To Airbnb Search]]

[[2022/09]]

• 日常摘录 [[2022week40]]

• [[Python/Decorator]] 装饰器

• [[Stop Taking Regular Notes Use a Zettelkasten Instead]]，[[Eugene Yan]] 介绍如何用 Zettelkasten 笔记法学习机器学习知识

• [[@Order Fulfillment Cycle Time Estimation for On-Demand Food Delivery]] 饿了么配送 ETA

  • [[Box-Cox Transformation]]

  • [[Log-Normal Distribution]]

• [[Soren Bjornstad]]

  • [[Effective Flashcard Writing: Decomposing half a chapter of Thinking, Fast and Slow]] 以读[[思考快与慢]]为例，介绍如何制作记忆卡片

  • [[@A Tour Through My Zettelkasten]] 介绍如何使用 tiddlywiki 构建一个卡片管理系统

  • [[Spaced Repetition Forget about forgetting]] 介绍间隔重复背后的原理、 Anki 和 Remnote 的实践经验

• [[杀戮尖塔]]

• [[时序特征]]

• [[FM]] [[AFM]] [[FFM]] [[@FiBiNET: Combining Feature Importance and Bilinear feature Interaction for Click-Through Rate Prediction]] [[NFM]]

  • 优化算法 [[FTRL]]

• [[GBDT]] [[XGBoost]] [[LightGBM]]

  • [[DART]] 基于 dropout 思想的提升树方法

• [[Transformer]]

  • [[Attention]] [[self-attention]]

[[2022/08]]

• [[序数回归]] 考虑类别间关系的分类算法

• [[@Applying Deep Learning To Airbnb Search]] Airbnb 搜索推荐从 GBDT 迁移到深度学习的尝试记录

• [[STGCN]] 时空图卷积网络：用于交通预测的深度学习框架

• [[从加减乘除到机器学习]] 机器学习相关的数学书

  • [[从加减乘除到机器学习/数学要素]]

  • [[从加减乘除到机器学习/矩阵力量]]

    • [[矩阵]]

• [[福格行为模型]]

• [[how to read a book]] 收集的读书方法汇总

[[2022/07]]

• [[Life Long Learning]] 根据李宏毅课程整理的增量学习相关笔记

• [[Multi-Task Learning]]

• [[@置身事内：中国政府与经济发展]]

• [[杀戮尖塔]]

• [[GNN]]

[[2022/01]]

• [[沸腾新十年]]

• [[Momentum Contrast for Unsupervised Visual Representation Learning]]

• [[MacOS]]

• [[Logseq]]

• [[竞赛性编程]]

[[2021/12]]

• Note

  • [[巨人术]] 两费技能好难受

  • [[OKR]]

  • [[笔记软件]]

  • [[iPad]] 买来看论文（虽然没有这个习惯……），思考如何在日常生活中使用。

• Paper

  • [[An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale]] Transformer 在 CV 领域应用

• [[@我的二本学生]] 这本书是作者和学生交流十多年后完成的，整体上按时间顺序给你讲一个又一个人的故事。除了故事之外，也没有给出更多具体的结论。

  • 影响学生的发展大概有下面这三个方面：

    • 1. 原生家庭，个体很难超越阶级，少部分学生能得到家庭的支持。
    • 2. 时代命运，从 06 年的学生到 15 年的学生，心态的差异很大一部分是房价带来的。另外，房价也改变很多学生家长的命运。
    • 3. 个人努力，毕业前有没有自己的目标以及毕业后能不能和自己和解？可惜没有分析学生就读的专业是不是市场所需要的？

  • 最后，读完本书其实不应该感到悲观，书中所写和社会上所说，都是这个群体如何。事实上统计学不对个体负责，还是有机会的

[[2021/11]]

• [[服务器]]：购入一台腾讯云 2核4G8M 轻量应用服务器。使用宝塔面板管理，实在是太方便了。已经部署 [[Bitwarden]] 密码管理服务以及 [[WordPress]] 博客……

• Note

  • [[任务术]] 狂野已无「恶魔之钟」，整理一下之前记录的笔记。

  • [[宇宙偶数术]] 10 月上传说卡组，T1 强度，内战靠贪！

  • 先从 [[铁甲战士 开始练习

  • [[生命平衡轮]]

  • [[YJango@学习观]] 很早就收藏的视频，但是一直没有时间看。大概是从机器学习、认知科学角度解释学习，值得仔细看看。

• Book

  • [[沸腾新十年]]

• Paper

  • [[BERT]]

  • [[Masked Autoencoders Are Scalable Vision Learners]]

• People

  • [[chyixian]] 文科博士在读，少数派中分享过几篇和阅读相关的文章

  • [[润Rhuen]] 豆瓣网友，最近在申请博士，每月分享月记。

[[2021/10]]：忙着述职，基本上没有整理什么

• Game

  • [[佣兵战纪]] 又肝又氪，冲了 200 多连一个火焰队或自然队都没有开出来，pve 快速推图都做不到……弃坑

  • [[杀戮尖塔]] 卡牌 Rogue 游戏，比佣兵战纪不知道好玩多少倍！

• Book

  • [[创新者]]

[[2021/09]]

• Note

  • [[宝宝术]] 想不到暴雪这些零费随从都能进构筑，胡的时候还挺强的。

  • [[鬼灵贼]] 练习这种卡组，然后被砍了是不是很伤？

  • [[心火牧]] 一拳超人

  • [[并查集]]

  • [[Life Audit]]

  • [[Beancount]]

  • [[万智牌]]

• Book

  • [[平面国]]

  • [[哲学的故事]]

[[2021/08]]

• Note

  • [[password]]

  • [[图论]] 可能只会写一手最短路…

  • [[Things 3]] 印象里面主流的 todo App 就这个没有尝试过，现在正需要一个简单清单软件。重新思考[[任务管理]]。

  • [[炉石传说]] 这游戏也挺氪的

    • [[任务术]] 马术，7 年老玩家第一次上传说！

• Paper

  • [[Privileged Features Distillation at Taobao Recommendations]]：阿里巴巴优势特征蒸馏

  • [[@Distilling the Knowledge in a Neural Network]]

• Book

  • [[蛤蟆先生去看心理医生]]

• Another

  • [[刘汉臣之死]]：听完[[故事 FM]] 阎鹤祥的专集后，特地补一下这段说书。

[[2021/07]]

• Paper

  • [[Beyond Efficient Transformer for Long Sequence Time-Series Forecasting]]

• Book

  • [[@苏格拉底之死]]

  • [[哲学家们都干了些什么]]：有关形而上学、科学与人生的意义的讨论。

• Note

  • [[VS Code]]

  • [[git]]

  • [[中概互联ETF]]

[[2021/03]]

• Note

  • 20210307 [[数字坟墓]]

  • 20210308 [[OKR]]

  • 20210310 [[OKR 实践]]

  • 20210321 [[Zettelkasten 编码]]

[[2021/01]]

• paper

  • (2020) Value-driven Hindsight Modelling：使用未来信息指导模型训练

• book

  • [[@禅与摩托车维修艺术]]

• blog

  • 合并「博客折腾记：使用 Travis CI 自动部署」到博客折腾记：使用 Travis CI 自动部署博客 | 算法花园 (xiang578.com)

  • 新年新气象！使用木子修改的 hexo-themes-next 主题。

[[2020/05]]

• [[@呼吸]] 这是一本由 Byte.Coffee 主播 MilkShake 🐑推荐的一本科幻小说集（前几天看其他东西的时候学会科幻小说的英文 sci-fi）。之前看到过，小说的价值在于作者用一个故事告诉你一个道理。最喜欢的是《商人和炼金术士之门》这篇：在传统的穿越小说无法改变未来和过去的基础上，论证穿越能更深刻理解生活。书中其他探讨的几个问题也很有价值，值得一读。

2025-04-19 08:00:00

QR hashing (Shi et al., 2019) offers a solution by decomposing large matrices into smaller ones using quotient and remainder techniques while preserving embedding uniqueness across IDs. 通过使用商数和余数技术将大矩阵分解为较小的矩阵，同时保持不同 ID 嵌入的唯一性 #card

• 减少 embedding 词表大小和通过MurmurHash 这样的抗冲突哈希函数消除词表维护需求

Example of non static vocab hashing paradigm #card

2025-04-19 00:00:00

科研的本质是 项目管理 ，身兼：算法，开发，产品，运营（宣传），Manager（项目排期，进度管理）

我开新Project的流程 #card

Junior阶段如何找到大佬带你？#card

态度诚恳，踏实肯干，从帮别人打下手开始，学习别人的工作流程，工作技能，向有结果的人学习

• long vision：首次合作愉快才会有长期合作机会（重视reputation，不看重一时得失）

如何面对科研中的挫败和无反馈感？#card

绝大多数时候失败，极少数时候成功

git管理：看看git commit次数，每天走之前commit一次，给自己正反馈

• Notion记录项目开发和实验日志，带时间戳，“可视化”自己的进展和进步

xiaoguang han 如何想 idea #card

2025-04-19 00:00:00

1.git管理：看看git commit次数，每天走之前commit一次，给自己正反馈。 #card

2.Notion记录项目开发和实验日志，带时间戳，“可视化”自己的进展和进步 #card

2025-04-19 00:00:00

日常科研经验分享 方向和论文 #card

日常科研经验分享：读论文和做笔记 #card

如何提高炼丹能力 #card

为什么要社交 #card

开源项目 #card

我从失败中学到什么 #card