Ehco

是 ehco 不是 echo 是 typo

[Ehco @Ehco1996]

我举一个 infra 不适配的例子

之前 api 的网关的设计一般都不会有大流量的吞吐,就比如说上传图片和视频， 通常来说都是客户端上传到第三方存储 例如S3上

但是现在动不动就给 llm 为一个8K高清无码大图，能想到 甚至之后可能还会要上传视频之类的东西，那网关在巨大大流量的冲击下是否会有问题 😀

[Ehco @Ehco1996]

突然有个迷思，llm 之前的互联网基建和最佳实践都是围绕着无/轻状态和水平扩展来建设的，比如 jwt，但 llm 是个特别吃状态的东西，比如 kv cache

所以我在想整个 infra 可能都要从上到下改一遍，然后infra的局限又会从下往上反过来影响 llm 本身

真期待啊

[Ehco @Ehco1996]

突然有个迷思，llm 之前的互联网基建和最佳实践都是围绕着无/轻状态和水平扩展来建设的，比如 jwt，但 llm 是个特别吃状态的东西，比如 kv cache

所以我在想整个 infra 可能都要从上到下改一遍，然后infra的局限又会从下往上反过来影响 llm 本身

真期待啊

[Ehco @Ehco1996]

小辣椒回归职场大半年后，长时间不在娃身边之后 激素也在不停的回落，终于发出了我一年前就发出的感叹：周末带娃太累了 上班好好休息休息😓

[Ehco @Ehco1996]

我最近也 vibe 了一个，也是基于 ghostty lib 的， 主要是内置了 tailsacle net，可以让我在不断开 vpn 的情况通过内网连接上家里的内网

[Max Lv @m0d8ye]

周末还剩点 token，烧了个 iOS AI ssh 客户端出来： https://t.co/SOVEwBioOy

[Ehco @Ehco1996]

@himself65 成功！

[Ehco @Ehco1996]

@strrlthedev 你是说的对😭

[Ehco @Ehco1996]

昨天提交了第一个人生当中的 rust 项目的 pr，一行都没自己手写

[Ehco @Ehco1996]

@LaiskyCai @yfractal py的并发模型真的不是很友好，明显是后期缝缝补补上来的，所以写起来不是很符合直觉，

我这里有一些同学可能没怎么写过py，async 的代码写转写着就阻塞了😂

[Ehco @Ehco1996]

越来越觉得 pgsql 的杀手锏是良好的 jsonb 支持😓

[Ehco @Ehco1996]

@strrlthedev ���逼

[Ehco @Ehco1996]

@lcayu 熬吧兄弟， 我这里是娃一岁半之后才明显好起来

[Ehco @Ehco1996]

@yeppppp24 @1greencat 南京最近学区房基本等于取消了…

[Ehco @Ehco1996]

周末尝试一边带娃，一边用 deepseek v4 + claude 写了写代码

差距是肉眼可见的，用的是我平时上班用的 skill + context，所以几乎可以确定就是模型能力的差距

[Ehco @Ehco1996]

@_cosine_x @NataliyaRo4040 我去这么大！ 好爽

[Ehco @Ehco1996]

@ziyume_fufu db这种东西生产环境还是推荐买rds

[Ehco @Ehco1996]

懂了 这就去

[Ehco @Ehco1996]

拉响红色警报了😓

早上写工作计划的时候才发现 居然已经520了，赶紧找补一下 晚上带小辣椒去吃顿好的

[Wey Gu 古思为 @wey_gu]

论文推荐
这个工作和 Nowledge Mem 的观点和设计不谋而合了。
也是 @NowledgeMem 的一个重要的 differentiator

我在之前 build03 和 KCD vllm Meetup 的分享中给出过，我们不可能只通过 Memory Unit 就能得到长期可维护的有效上下文，各种情况都导向一个结论：我们需要保持原始的上下文。

consolidate、evolve 甚至上下文 retrieval 环节都提供按需要回溯原始上下文的能力，才可能在需要 grounding 的时候给出需要的支撑。

[Ehco @Ehco1996]

@yetone dream ！！！

[Ehco @Ehco1996]

推上 codex 的声量突然大了起来，一方面效果确实好起来了，但更大的原因可能还是价格战🤔

听说追上来是靠给 codex 成立了专门的部门，也就是 reorg

经历过 reorg 的人应该都能懂对员工来说是种什么体验，尤其是对于 ic，某天早上起床本来在好好的 review 代码，突��发现老板没了😄