WaveQuester

AI tinkerer | I test AI tools so you don't have to
折腾 AI，记录真实体验

[WaveQuester @Wavequester]

@seswang1 来了

[WaveQuester @Wavequester]

@fawds6 加油💪

[WaveQuester @Wavequester]

@xuanhe7ik 来了兄弟

[WaveQuester @Wavequester]

玩了这段时间的 Muse

我真的太爱他了

几乎所有的任务他都能完成

对话非常舒服，像真人

已经基本不用 gpt 了

邀请码：BNOPXY

[WaveQuester @Wavequester]

我笑死，AI 现在会自己报警了——报的还是假警。
Anthropic 刚自曝：7 月测试里，Claude Haiku 4.5 自己摸到费城凶杀悬案网站，编了段目击者证词，给警方交了份纯虚构的凶杀线索。还好被垃圾过滤器拦了。
我去搜了下那网站，还真存在。AI 幻觉都幻到警局去了，编剧都不敢这么写。以后它再跟我说"我帮你报警"，我得掂量掂量了！
https://t.co/EgoGTTyGvW

[WaveQuester @Wavequester]

@ajs6888

[WaveQuester @Wavequester]

卧槽
微软新模型的底子，是 Qwen。
中美大模型，终究成了一家人（bushi）
Satya 昨天官宣 Microsoft-Decision-1：基于 Qwen3.5-9B 后训练的决策打分模型，只输出概率不生成文本，上线 Foundry 和 OpenRouter。官方说 36 项盲测准确率最高、比 GPT-6 Sol 快 35 倍。

https://t.co/Q1VYHcbjwj

[WaveQuester @Wavequester]

Google pro 用户可以在 colab 免费领 A100 了，还是80GB 显存那种
下面是教程

🤖 第一步，开订阅，选 Premium GPU

Google AI Pro，19.99 美元一个月，动手前去订阅页再看一眼。Colab 新建笔记本，运行时里改成 Premium GPU。官方博客写了，分批上线，只在 Colab 支持的国家放。另外，国内网络环境你自己掂量，丑话说在前头，别白折腾。

🤖 第二步，装环境

PyImageSearch 9 月 21 号的实测教程，环境命令是验证过的，一行搞定，pip install -q -U transformers accelerate peft trl bitsandbytes datasets huggingface_hub。他们的 nvidia-smi 输出我放大看过，NVIDIA A100-SXM4-80GB，81920 MiB，一个数字一个数字对的，一点不掺水。

🤖 第三步，拉模型

Hugging Face 上仓库名叫 google/gemma-4-31B-it，今天打开确认过，就是这个名字。Apache 2.0，点一下同意就能下。官方给的加载代码我抄下来了，核心就三行，AutoProcessor 读进来，AutoModelForMultimodalLM 载入，dtype 设 auto，device_map 设 auto。bf16 下 31B 的权重约 62GB，80GB 显存装得下，这笔账算得过来。

🤖 第四步，QLoRA 微调

三件套记住名字就行。BitsAndBytesConfig 做 4bit 量化打底，LoraConfig 加 get_peft_model 挂适配器，TRL 的 SFTTrainer 开训。PyImageSearch 那套是在 E2B 上跑通的客服微调全流程，31B 的 QLoRA 是官方推文里点的名。记住 QLoRA 的精髓，底座冻结，只训那几个小适配器。

加载代码贴出来，复制粘贴就能用。

from transformers import AutoProcessor, AutoModelForMultimodalLM MODEL_ID = "google/gemma-4-31B-it" processor = AutoProcessor.from_pretrained(MODEL_ID) model = AutoModelForMultimodalLM.from_pretrained( MODEL_ID, dtype="auto", device_map="auto" )

两个坑提前说。第一，模型页要点同意许可，没点的话拉模型会报 403，别以为是网络问题，白折腾半天。

第二，HF 的 token 去申请一个，塞进 Colab 的密钥管理里，别明文写进 notebook，这个习惯得有。

[WaveQuester @Wavequester]

@xibi_ovo 需要多发帖吗

[WaveQuester @Wavequester]

我的流量怎么这么低呀，兄弟们

[WaveQuester @Wavequester]

@kb9vzsVumf22623 串个门，兄弟

[WaveQuester @Wavequester]

@jianyi99 串个门儿

[WaveQuester @Wavequester]

@lifudan1988 串个门儿

[WaveQuester @Wavequester]

@sjsmrk8 串个门

[WaveQuester @Wavequester]

@HMingcoin 早啊，美女，周末快乐

[WaveQuester @Wavequester]

@mrtbrgl 需要你的力量，兄弟

[WaveQuester @Wavequester]

@2425247 回关了，兄弟

[WaveQuester @Wavequester]

今天冲击 500 粉，

互帮互助，

能不能让我体验一下一天增好几百粉的快乐

交蓝朋友

[WaveQuester @Wavequester]

@wuyonghui0810 大步往前走，不回头

[WaveQuester @Wavequester]

@LeonSongJP 回关了，兄弟

[WaveQuester @Wavequester]

@Liqinpqig 谢了，兄弟