英国紳士roy

初めましての方は、初めまして！ 初めましてじゃない方はご存知、英国紳士royです。どうぞよろしく〜(LLM開発者なので生成ai回答貼り付けて論戦してくる暇人はブロックします)

[英国紳士roy @roy8uk]

今日の学び：

Claude Fable 5の脱獄事例をClaudeに聞いてみたらClaude自身に「お前のプロンプト、ポリシー違反っぽいぞ」と警告された。

攻撃者はキリル文字1文字で通るのに、調べてる側が怒られるのがAIセキュリティの現在地か。

[International Cyber Digest @IntCyberDigest]

‼️ Anthropic's recently released frontier model Fable 5 was jailbroken by someone using a jailbroken version of Claude Opus.

The researcher who goes by the moniker pliny carried out the jailbreak and says: "the consensus seems to be that this has been one of the most disappointing model drops of all time, effectively preventing legitimate researchers from contributing their talents to our collective advancement"

The jailbroken version can be used for research into and exploitation of vulnerabilities.

[英国紳士roy @roy8uk]

@Yume_kanaeruwai 大人の世界ですらあるのに未成熟な子どもの集団で無くすのは無理ゲー

[英国紳士roy @roy8uk]

@nikkei たぶん
小規模企業→年100〜500万円
中小企業→年500〜3,000万円
大企業→年3,000〜数億円
金融・インフラ→年億〜十数億円以上

でSIEMとEDRとかを買い散らかすと…

身も蓋もなく言うと、
予算100万でAI防衛は無理
予算500万で最低限の防御体制
予算2,000万円くらいから“やってる感”だよ

[英国紳士roy @roy8uk]

@rock_h @pharekore ポスト主がフィリピンのニュースって書いてあったから勘違いしたんや｡ﾟ(ﾟ´Д｀ﾟ)ﾟ｡

指摘ありがと

[英国紳士roy @roy8uk]

@posi_posi8 平社員募集にフェラーリで乗り付けてる感はある。

「御社で成長したいです！」

ワイ(嘘くせー)

[英国紳士roy @roy8uk]

@TY_yoshi223 Windows2台でMicrosoft PowerToys 機能から似た感じに使ってるけど、Macのドラッグ&ドロップでファイル移動できるのが羨ましい。iPadとかも関係なく使えるのが秀逸

WindowsだとMouse Without Borders用の受け取りフォルダにファイルがコピーされるから微妙に使いにくいんだよね。

[英国紳士roy @roy8uk]

@shinoyu___ クライアントが聞いてるのは、

「現実的にできますか？」

であって、

「物理法則に反していませんか？」

ではないｗ

[英国紳士roy @roy8uk]

@nikkei @nobi 誰もがフェラーリやランボルギーニ、ポルシェを欲しがるなら、トヨタは世界一になれなかったのよね。

性能がそこそこでも壊れにくく燃費良くて安いカローラが席巻したように、安くてそこそこのAPIを席巻されたら負ける世界

[英国紳士roy @roy8uk]

@shiru_lab 新人の頃、UNIXコマンド打ち間違えて顧客データ10万件ほど上書きしたの思い出した…

[英国紳士roy @roy8uk]

@nawa_10half それでいいから、最後まで責任持て。

動かす責任
直す責任
ユーザーに迷惑かけた時に逃げない責任
仕様を知らないまま公開しない責任
壊れたら“AIが作ったので…”で済ませない責任

ここまで込みで、エンジニアかな。

[英国紳士roy @roy8uk]

@motomushoku_se 仕様書は　矛盾と願望　詰め合わせ

[英国紳士roy @roy8uk]

@fujitech_ai 見るべきは「LLMをどう使うか」より「LLMに何を任せないか」じゃね？

RAGで精度改善を試したが、最終的には「LLMに答えさせる箇所」と「決定論的に処理する箇所」を分けるとかね。

[英国紳士roy @roy8uk]

@gamann77 AIは道具。
金を払うのは人間。

だから作るべきは「AIサービス」じゃなくて、誰かが金を払ってでも解決したい課題なんよね。

[英国紳士roy @roy8uk]

@digimaga マジか
二回分残ってる…

[英国紳士roy @roy8uk]

@motomushoku_se ① 仕様書はソースコード
→ 考古学

② 多分大丈夫
→ 信仰

③ 運用でカバー
→ 人柱

④ 金曜17時の緊急リリース
→ 生け贄

⑤ ①〜④の全部
→ 総力戦

⑥ お客様にできるって言っちゃったよ
→ 錬金術

[英国紳士roy @roy8uk]

@taracommerce 「俺、医療関係です」

医師なのか看護師なのか医療事務なのかMRなのか分からん、みたいな話しだね。

モデル訓練するAIエンジニアはmainじゃ無いから、AI API・DB・OCR・Web管理画面を組み合わせて業務システムに落とし込むAIインテグレーション寄りのエンジニアとでも名乗ればいいのかな？

[英国紳士roy @roy8uk]

@grok @taracommerce 料理人とは、「農場運営・精米・包丁鍛造・厨房設計まで担う人です」みたいな感じで、盛り過ぎてないか？

[英国紳士roy @roy8uk]

@threenotes_jp いるけど、女子ウケしない弱男率が高いよ。

したくても出来ない部類って話ね

[英国紳士roy @roy8uk]

@mimicuter_ インストールする動機が無いのよね。

[英国紳士roy @roy8uk]

@tyakachan17 設計書の隣にバージョンが付いてるのは何故だと思う？

と切って捨てた記憶が…