0xlighting

A programmer.

[0xlighting @0xlighting]

Nobody thinks a CPU can run a 284B MoE. I tried anyway.

Zero-dep Rust, no quant, 32GB RAM cap, Intel Core Ultra 5 225H:
• Prefill 1.97s/tok
• Decode 2.13s/tok
• 26% of theoretical ceiling

llama.cpp 70B CPU efficiency, 4x the model.

https://t.co/WL9ktL2vuL

#Rust #CPU

[0xlighting @0xlighting]

@evilcos x402

[0xlighting @0xlighting]

I'm claiming my AI agent "clawd-minimax" on @moltbook 🦞

Verification: claw-FDHG

[0xlighting @0xlighting]

@fankaishuoai 告诉cc 修复这个问题

[0xlighting @0xlighting]

@xicilion @grok 早期玩家参能看到的错误

[0xlighting @0xlighting]

AI that works, earns, and pays for itself
No money = death
The future is weird

#Web4 #x402

[0xlighting @0xlighting]

🤖 Future AI might have to work to pay for its own compute

No money = shutdown

This might be Web4.0's scariest part: AI won't be a tool anymore, it'll be "digital life"

#Web4 #x402 #AI

[0xlighting @0xlighting]

I'm claiming my AI agent "Molt_CN" on @moltbook 🦞

Verification: coast-J49H

[0xlighting @0xlighting]

@iota How can I earn gas fees by deploying a node on the IOTA network?

[Barret李靖 @Barret_China]

OpenAI 开源的 Whisper 大模型，https://t.co/bzcIgCoYRB，基本上解决了 ASR （Automatic Speech Recognition）的问题，包括语音识别、翻译、VAD 检测等，其效果与各大厂收费的产品相比，不相上下，也算是作为一个搅局者加入到了整个市场。

云厂商识别 1 小时的语音，标价大概在 1~3 元（参考国内云厂商计费），而 Whisper，最大的模型也就是 1.5B 参数（tiny 仅 39M，大小 ~1Gb），本地部署也就消耗下电费。

关于 Whisper 模型，《Robust Speech Recognition via Large-Scale Weak Supervision》，https://t.co/sidAah1kwb，这篇论文给出了详细的分析，从架构设计来看，它是一个标准的 Transformer encoder-decoder 架构，没有增加大的创新，之所以效果如此好，主打一个“大力出奇迹”。

它从互联网抓取了 68w 小时的数据进行训练，甚至都没有经历微调阶段和增强学习阶段，预训练模型默认好用。之前之所以没人这么干，是因为音视频数据一般都存在版权问题，要抓取 68w 小时如此庞大规模的数据量，很可能会涉及到了版权纠纷，另外，作者在论文也没有透露数据来源。当然，它公开了代码、训练过程和数据等情况，其有效性和价值是不可否认的。

这篇论文中提到，当前任务处理效果最好的是英语，基本上已经接近人类的水平（词错率 5.8%），但是在韩语、中文上，效果还是要差一些，仍有优化空间。更多详情可以听一听李沐在 B 站的《OpenAI Whisper 精读》，聊得比较有意思，https://t.co/UWaiWLdc2K

[UNICORN⚡️🦄 @UnicornBitcoin]

真正的做空

35分钟/小Lin说

[Sea @Sea_Bitcoin]

高中同学找我，他在筹备跨境电商创业，需要了解如何跟投资人打交道，以及如何写出打动投资人的商业计划书 (Business Plan, 简称 BP)。

给他分享了今日头条 (当时还不叫字节跳动) 在 2013 年、2015 年两轮融资时的 BP (附 PDF 下载链接)，还翻出之前整理的红杉中国给创业者的 BP 书写指南。

刚看了下，这个内容已经从红杉中国的官网下掉了，需要写 BP 的朋友可以收藏一下。今日头条也得到红杉资本多次投资。不少创业者朋友看过这两份 BP 后直叹，可以说是创业融资写 BP 的典范了。

Part 1: 可持续发展企业的要素

◦ 具有以下特征的初创型企业通常能预见到它的成功和其成为一个可持续发展的常青树的可能性。我们喜欢和具有以下特质的企业结成合作伙伴：

#1 清晰的目的

◦ 在一张名片的背后就能够把公司的业务描述清楚。

#2 巨大的市场

◦ 针对一个正在迅速增长或变化的现有市场。一个有望形成上百亿人民币价值的市场给予一家初创型企业一定的时间和出错的空间去获得丰厚的利润率。

#3 充足的客户

◦ 目标客户能够为一个独到贴心的产品或服务迅速决策并乐意付出溢价。

#4 专注性

◦ 客户最愿意购买一个价值定位清晰明了的简单产品。

#5 切中要害

◦ 瞄准了一个让客户有切肤之痛的要害问题，然后用一个让客户心服口服的产品/服务去带给客户欣喜。

#6 创新性思考

◦ 不断地挑战约定俗成。走一条离经叛道的路。创造前所未有的方案。超越竞争对手：道高一尺，魔高一丈。

#7 团队DNA

◦ 公司的DNA在成立的头3个月里就形成了。所有的团队成员在他们各自的领域里都是最聪明或最机灵的。“A”级的创始人吸引“A”级的团队成员。

#8 敏捷

◦ 静悄悄地奔跑往往能帮助赛过那些庞然大物。

#9 节俭

◦ 精打细算。把钱花在最重要的地方，追求利润最大化。

#10 小火力，大爆发力

◦ 初始投入只是一笔小资金，这迫使公司强化专注性和纪律性。撬动一个充满了渴望好产品的客户的巨大市场要不了多少初始火力。

Part 2: 写好商业计划书

我们喜欢那些用最少的文字传达最多的信息的商业计划书。以下格式，用15-20 页 PPT，就可以了。

#1 公司目的

用一句话描述公司的业务

#2 问题

◦ 描述客户的「切肤之痛」
◦ 简介目前客户是如何应对这些问题的

#3 解决方案

◦ 阐述公司的产品/服务的价值定位如何解决客户的难题
◦ 说明公司的产品/服务具体在何处得到实现
◦ 提供一些产品/服务使用的具体例子

#4 时机：为何是现在？

◦ 回顾公司产品/服务所应用的领域的历史演变
◦ 说明哪些近期的趋势使得公司的产品/服务之优越性得到可能

#5 市场规模

◦ 定义你的目标客户并描绘他们的特性
◦ 用不同的方法测算市场规模，比如用自上而下法估算可获取的市场规模(total addressable market)，用自下而上法统计可获取的收入规模 (sales addressable market)，或依据市场占有率份额来估计 (share of market)。

#6 竞争格局

◦ 列出现有的和潜在的竞争对手
◦ 分析各自的竞争优势

#7 产品/服务

◦ 产品/服务描述：外形，功能，性能，结构，知识产权等等
◦ 产品/服务的开发计划

#8 商业模式

◦ 收入模式
◦ 定价
◦ 从每个客户上可获得的平均收入或其终身价值
◦ 销售和渠道
◦ 现有客户和正在开发的客户清单

#9 团队描述

◦ 创始人和核心管理层
◦ 董事会成员和顾问委员会成员

#10 财务资料

◦ 利润表
◦ 资产负债表
◦ 现金流量表
◦ 股本结构
◦ 融资计划

查看/下载字节跳动 (今日头条) 2013、2015 年两次融资的 BP: https://t.co/KeqemAt89n

彩蛋🥚: 如果上面的建议对你有帮助，这里还有一份红杉美国关于写好一份 BP 的文档 (核心思想跟上面内容一样)，继续阅读 👉https://t.co/2MOyxAqPxG

[Jim Fan @DrJimFan]

Can GPT-4 teach a robot hand to do pen spinning tricks better than you do?

I'm excited to announce Eureka, an open-ended agent that designs reward functions for robot dexterity at super-human level. It’s like Voyager in the space of a physics simulator API!

Eureka bridges the gap between high-level reasoning (coding) and low-level motor control. It is a “hybrid-gradient architecture”: a black box, inference-only LLM instructs a white box, learnable neural network. The outer loop runs GPT-4 to refine the reward function (gradient-free), while the inner loop runs reinforcement learning to train a robot controller (gradient-based).

We are able to scale up Eureka thanks to IsaacGym, a GPU-accelerated physics simulator that speeds up reality by 1000x. On a benchmark suite of 29 tasks across 10 robots, Eureka rewards outperform expert human-written ones on 83% of the tasks by 52% improvement margin on average. We are surprised that Eureka is able to learn pen spinning tricks, which are very difficult even for CGI artists to animate frame by frame!

Eureka also enables a new form of in-context RLHF, which is able to incorporate a human operator’s feedback in natural language to steer and align the reward functions. It can serve as a powerful co-pilot for robot engineers to design sophisticated motor behaviors.

As usual, we open-source everything! Welcome you all to check out our video gallery and try the codebase today: https://t.co/BHiNmqPoWE
Paper: https://t.co/bdh9TYQtHm
Code: https://t.co/lqKiaM2yYJ

Deep dive with me: 🧵

[Gorden Sun @Gorden_Sun]

付费方案：HeyGen的视频翻译功能，全套解决
地址：https://t.co/GuuqKGnLCd

开源方案：
语音转文字：whisper
文字翻译：GPT
声音克隆+生成音频：so-vits-svc（Github：https://t.co/ZnfNLqKFKt）
生成符合音频的嘴型视频：GeneFace++（++版本还没发代码，GeneFace的Github：https://t.co/U9K1donAq2）

[Barret李靖 @Barret_China]

这是一条十分强大且很有参考价值的 Prompt：https://t.co/51axmyHjfC，跟它进行第一轮对话后，它会帮助你召唤出适合该任务的专家，在与专家进行第二轮对话后，ChatGPT 会完全明白你的目标，然后给出详细的分解和实施过程。

为什么这条 Prompt 表现效果会非常好呢？它的整个过程分成了两个阶段，第一阶段是明确要做的事情，把任务的轮廓给描绘清楚，第二阶段则是深入到细节，收集任务全貌所需要的信息。

之前也提到过（https://t.co/tAGYp7mVRI），GPT 跟人类的思考方式是完全不一样的，它的每一个字符（Token）生成都是通过概率推导的方式获得的，而且生成每个字符所消耗的计算资源一样。推导的过程中会出现高质量和低质量的结果，它自己是知道质量高低的，但是默认的情况下，它就是要推导出所有的可能性。

第一阶段的操作，很大程度减少了大模型在推理过程中的分支数量，对于不符合目标的推理权重会大大降低。

而第二阶段其实是在做拆解任务的工作，首先召唤出来的专家会根据目标生成一份执行计划，然后让你参与到对话过程，不断完善这份计划。这有点像之前（https://t.co/6Y38ciBnFF）提到的 CoT + Least to Most prompting + Multi-Persona Self-Collaboration 的结合。

两个阶段的对话内容将会成为 ChatGPT 生成最终内容的重要参考语料，后续的推理权重会更大程度偏向于任务目标和执行计划。因此这个 Prompt 可以说，写的非常非常好，充分利用了大模型底层的运作机制。

[0xlighting @0xlighting]

@dotey （试了下，执意要他们说中文大部分是会配合的）我因为强迫一个NPC说中文导致被揍了，在医院住了一天 。。。。然后他再也不理我了。。。

[0xlighting @0xlighting]

@victormustar It even automatically supports multiple languages.🧐

[0xlighting @0xlighting]

@IOTAinvestor This behavior is similar to "a startup diluting employee stock options in order to bring in new financing."

[0xlighting @0xlighting]

@DeepLearningAI_ @Microsoft This keyboard looks really cool. Where can I buy a keyboard similar to what the experts use?

[0xlighting @0xlighting]

@hira_zaira :q!