Engineering Notes

孟斌的小站

技术博客与学习记录

共 663 篇文章 标签与分类索引已启用

透传:为什么 embeddings 不该被「翻译」,以及 29 个明确不支持的接口

摘要

做网关时我一开始想"给每个上游接口写一个适配器",列完清单就停住了:embeddings、moderations、images、audio 这些接口的内容我根本不需要理解,原样转发就行。对它们写适配器等于为每个接口维护一套可能与上游产生分歧的结构体。这篇讲这条路——代码只有几十行,但有几个我认为值得说的决定。

继续阅读

性能决策:一个「变慢了」的方案我怎么判断,以及一条不降的准入线

摘要

两个看起来相反的结论:一个被微基准证明"变慢了 2.1 倍"的优化我最后保留了;一个 P95 回归 69.7% 但成功率反而更好的重构我回滚了。它们背后的标准是同一条——我要的改善必须出现在真实负载的请求级指标上,而不是出现在任何可以被我解释的局部数字里。

继续阅读

两轮系统性审查:哪些债我修了,哪些我明确决定不修

摘要

我给自己做了一次代码审查,然后否决了它的大部分方案。因为那份清单是在没有读全部代码的情况下写的——比如它说我 domain/ 目录"名不副实",但那条不符合我在仓库规范里定义的准入标准。这篇讲逐条复核的过程:哪些我认了、哪些我否了、哪些我决定什么都不做。

继续阅读