Home
Language
English
Türkçe
Bahasa Indonesia
About
Privacy Policy
Terms of Service
Pricing
Sign In
Download All
Share
xタイムスリップラー
@Doraemon_XRP
2016年5月23日参入。ブロックチェーンよって起こる技術革新に毎日ワクワクしております。
#WEB3
#DAO
#DeFi
#価値のインターネット
#XRP
#BTC
#ETH
#FLR
#XNT
Joined April 2016
627
Following
411
Followers
9.6K
Posts
Doraemon_XRP
retweeted
チャエン | デジライズ CEO《重要AIニュースを毎日最速で発信⚡️》
@masahirochaen
3 days ago
最近、Kimi K3を含めて「オープンモデル」がまた一気に盛り上がっています。 ただ、 ・オープンモデルとクローズドモデルは何が違う? ・7B、12B、70Bの「B」って何? ・パラメーターが多いほど賢い? ・量子化すると、なぜ普通のPCでも動く? ・結局どのモデルを選べばいい? この辺、意外とちゃんと説明できる人は少ない印象です。 そこで今回は、初心者でも理解できるように図解でまとめました。 画像だけでも分かると思いますが、テキストでも簡単に解説します👇 ■ オープンモデルとクローズドモデルの違い オープンモデルは、モデルの「重み」をダウンロードして、自分のPCや自社サーバーで動かせるものが中心です。 カスタマイズしやすく、オフラインでも使いやすい一方で、動作速度や性能は自分のPCスペックに左右されます。 例:Llama、Qwen、Gemma、Kimiなど 一方、クローズドモデルは、提供会社のサーバーを通してサービスとして使うものです。 すぐに使えて性能も安定しやすいですが、内部の重みは基本的に非公開で、料金や利用制限は提供元次第です。 例:ChatGPT、Claude、Geminiなど ざっくり言うと、 オープンモデル =自分で持って動かす寄り クローズドモデル =完成したサービスとして使う寄り という違いです。 ■ パラメーターとは? パラメーターとは、AIの中にある大量の「調整値=重み」です。 AIは、この何十億、何百億という数値の組み合わせを使って、言葉の意味を理解したり、次に続く文章を予測したりしています。 7B、12Bなどの「B」はBillion、つまり10億という意味です。 ・7B=約70億個 ・12B=約120億個 ・27B=約270億個 ・70B=約700億個 基本的には、パラメーターが多いほど複雑な知識や表現を持てる可能性が高まります。 ただし、パラメーターが多い=必ず賢い、ではありません。 学習データの質、モデルの設計、学習方法によって性能は大きく変わります。 小さくても優秀なモデルが、大きくて古いモデルを上回ることも普通にあります。 ■ なぜパラメーターが多いと重くなる? パラメーターはすべて数値なので、モデルを動かすときは、その数値をPCのメモリやGPUのVRAMに読み込む必要があります。 そのため、パラメーターが多くなるほど、 ・モデルの容量が大きくなる ・必要なメモリが増える ・回答速度が遅くなりやすい という特徴があります。 ■ 量子化とは? 量子化とは、パラメーターの数値を少し粗くして、モデルを軽くする技術です。 例えば、本来は細かく保存している数値を、少し丸めて保存するようなイメージです。 多少の精度と引き換えに、 ・必要なメモリが減る ・ダウンロード容量が小さくなる ・一般的なPCでも動かしやすくなる というメリットがあります。 よく見る表記では、 ・FP16/BF16=高精度だが重い ・Q8=比較的高精度 ・Q6〜Q5=精度と軽さのバランス型 ・Q4=かなり軽く、初心者向け というイメージです。 ■ どのくらいのPCで動く? 量子化されたモデルを使う場合のざっくりした目安は、 ・7B前後 → メモリ16GB前後でも狙いやすい ・12B前後 → メモリ16〜32GB、または軽めのGPU搭載PC ・27B〜32B → メモリ32〜64GB、またはVRAM16〜24GB級のGPU ・70B級 → 高性能ワークステーション、複数GPU、またはクラウド向け という感じです。 実際に必要なスペックは、量子化方式、読み込ませる文章の長さ、CPUかGPUか、画像対応モデルかどうかでも変わります。 結論、大きいモデルほど正義ではありません。 一番大事なのは、自分のPCで無理なく、快適な速度で動くことです。 最初に試すなら、Q4〜Q5に量子化された7B〜12Bモデルあたりが分かりやすいと思います。 これからローカルAIやオープンモデルを触る人は、あとで必ず役立つのでブックマーク推奨です👇
See More
Doraemon_XRP
retweeted
Watcher.Guru
@WatcherGuru
3 days ago
JUST IN: 🇺🇸 SEC Chair Paul Atkins calls for the US Senate to pass Crypto Clarity Act.
Doraemon_XRP
retweeted
CoinPost(仮想通貨メディア)
@coin_post
3 days ago
ブラックロック、クラリティー法を支持 https://t.co/M0BQOdoFZH
Doraemon_XRP
retweeted
CoinPost(仮想通貨メディア)
@coin_post
3 days ago
【速報】 クラリティー法案、審議遅延に ✅上院は指名人事とロシア制裁法案を優先する方針で、クラリティー法案が本会議の審議時間を確保できるのは早くても来週以降になる見通し (CoinDesk報道)
Who to follow
19号@
@den38719309
最近は食と園芸アカウント^ ^長崎の話題やニュースをツイートし楽しんでいますが、なかなかうまく出来ないので。ドラマ・映画・アニメ自分が好きなことをがんばって発信するアカウントです。XRPと共にあれ
labyrinth🌀
@labyrinth_xrp
名もない猫(@cryptopayments3)さん のブログhttps://t.co/W6zUEsK9Ydと@GiantGox さんのブログhttps://t.co/7UBthv1n8SでRipple&XRPについて学ぶ
コーヒー
@goxed_xrp
2016年11月、100万強のXRPを不正送金されました。二段階認証あり。フィッシングに掛かった形跡なし。不正送金先にはXRPがそのまま。意味不明。Ripple, GateHub, Tokyo JPY, Mr. Ripple, SBI, SBI Ripple Asia, 警視庁, 県警, 地元の警察署には相談済み。
Doraemon_XRP
retweeted
Daisuke Okanohara / 岡野原 大輔
@hillbig
4 days ago
Kimi K3は、フロンティアモデルに匹敵する性能を持つオープンウェイトモデルである。Technical Reportが公開されたので、重要な点をまとめる。 Kimi K3は、総パラメータ数2.8T、活性パラメータ数104BのMoEモデルである。アーキテクチャ、データ、ハイパーパラメータ、学習手法を総合的に改善し、Kimi K2と比べて、同じvalidation lossに到達するために必要な学習計算量を約2.5分の1にしたと主張している。 * アーキテクチャ Kimi K3のアーキテクチャは、系列方向、深さ方向、幅方向という三つの情報流を、それぞれ拡張するように設計されている。 系列方向では、Kimi Delta Attention(KDA)とMulti-head Latent Attention(MLA)を組み合わせる。モデル全体は93層からなり、基本的には3層のKDAと1層のGated MLAを一つのブロックとして繰り返す。 KDAは、過去の履歴を固定サイズの状態行列へ圧縮する線形アテンションである。従来のDeltaNet系の構造を拡張し、過去の情報をどの程度保持するかをチャネルごとに調整できる。 KDAの基になったKimi Linearでは、忘却率が極端に小さくなる可能性があり、チャンク並列計算において累積減衰の逆数が過大になり、オーバーフローなどの数値不安定性を引き起こす問題があった。Kimi K3では、対数減衰に下限を設けている。 この変更により、以前は特殊なposition-pair計算が必要だった対角タイルも、Tensor Core上の密行列積として処理できるようになった。数式上は小さな変更だが、GPUカーネルを単純化し、学習速度を改善する重要な工夫である。 MLA層では、RoPEなどの明示的な位置符号化を使っていない。Kimi Linearでも示されていたように、位置や順序に関する情報は主にKDA側が担い、MLAは主として内容に基づくグローバルな情報検索を担当する。 この役割分担によって、コンテキスト長を拡張する際に、RoPEの周波数調整や補間を行う必要がない。 ただし、位置符号化の変更が不要だからといって、学習なしで100万トークンを利用できるわけではなく、Kimi K3は、8K、64K、256K、1Mと段階的にコンテキスト長を伸ばして学習している。 技術報告では、8Kから64Kまでをpre-training中に実行し、学習の最終段階であるcooldownにおいて256K、1Mに拡張したとしている。 次に特徴的なのが、深さ方向の情報流を改善するAttention Residualsである。 通常のTransformerでは、過去の層の情報が残差接続によって順番に加算され、一つのhidden stateへ集約される。深さ方向で見ると、過去の情報を単一の状態へ圧縮していくRNNのような構造になっている。 Attention Residualsでは、各層が過去の層やブロックの表現に対してattentionを行い、必要な深さの表現を選択的に取得する。 この実現にあたり、各層は、学習可能なpseudo-queryベクトルを持つ。このqueryは入力から計算されるのではなく、層ごとに保持される学習可能なパラメータである。一方、keyとvalueには、各入力トークンに対する過去の層出力が使われる。 pseudo-queryは、「この層がどのような種類の表現を必要としているか」を表す検索テンプレートとみなせる。query自体は入力に依存しないが、keyは入力に依存するため、実際のattention weightはトークンごとに変化する。 独立した学習可能ベクトルをqueryとして使うことで、各トークン、各層について大きなquery projectionを計算する必要がなくなる。また、Attention Residualsによって作られる現在層への入力からqueryを生成しようとした場合に生じる循環依存も避けられ、実装が単純になる。 Kimi K3では、全93層をおおむね12層ずつのブロックに分け、過去の全層ではなく、主としてブロック単位の表現にattentionするBlock Attention Residualsを用いている。これにより、過去の全層出力を保持するためのメモリと、pipeline parallelism時の通信量を削減している。 幅方向では、Stable LatentMoEを用いる。 Kimi K3には896個のrouted expertがあり、各トークンについて16個が選ばれる。ただし、各expertへ7168次元のhidden stateをそのまま送るわけではなく、expertへ入る前に3584次元のlatent空間へ圧縮し、expert処理後に元の幅へ戻す。一方、全トークンに共通して使われる2個のshared expertは、元の全幅で動作する。 Kimi K2では384個のrouted expertから8個を選択していたのに対し、Kimi K3ではexpert候補数が約2.3倍、同時に活性化するexpert数が2倍になっている。sparsity ratioはKimi K2の48に対してKimi K3は56であり、似たレベルである。より多くの専門的なexpertを組み合わせながら、latent空間を使うことで計算量と通信量を抑えている。 さらに、routed expertの集約後にRMSNormを挿入し、SwiGLUの代わりにSiTU-GLUを導入している。SiTU-GLUは、SwiGLUの原点付近における性質を保ちながら、大きな入力をtanhによって滑らかに飽和させる。Kimi K3の設定では、各出力座標の絶対値が最大100に抑えられる。大規模かつ極端に疎なMoEにおけるactivation explosionを防ぐための設計である。 また、expert負荷の均衡にはQuantile Balancingを使う。 従来方式では、過剰に使われたexpertのbiasを少し下げ、使われていないexpertのbiasを少し上げる更新を繰り返していた。しかし、896個のexpertを扱う場合、このような固定幅の更新では追従が遅く、負荷が振動しやすい。 Quantile Balancingでは、各expertが目標数のトークンを受け取るように、router scoreのmarginの分位点から次のbiasを直接推定する。 実際には、全marginを一箇所へ集めるのではなく、expertごとのhistogramをall-reduceし、全体の分位点を近似する。 さらに、Kimi K3は画像と動画を事前学習の段階から統合している。画像・動画のencoderには、約4億パラメータ、27層のMoonViT-V2を用いる。Kimi K3では、SigLIPなどで事前学習したvision encoderを接続するのではなく、vision encoderも言語モデルと同時にscratchから学習している。 技術報告では、SigLIPで初期化したencoderよりも、next-token predictionによってscratchから学習したMoonViT-V2の方がgradient normが安定し、最終的なvision評価も同等だったと報告している。 事前学習 === 事前学習は8K contextから始まり、その後64Kへ拡張される。さらに、学習の最終段階であるcooldownにおいて、256K、1Mへ伸ばしている。 一般的には4K~8Kなのに対し、64Kまでが事前学習の範囲とされているのが興味深い。どの規模でされたかの証明は示されていない。 自然な長文や動画には、重複、壊れたファイル、無効なlog、途中で切れたデータ、類似したframeの連続などが多く含まれる。そのため、長文専用のcleaning pipelineを用いて、重複除去、品質判定、構造検証を行う。 また、本当に長く一貫した文書や動画は短いデータに比べて少ないため、cooldownでは長文データを相対的にupsampleする。 ただし、長いsequenceを見せるだけでは、モデルが近くの情報だけを利用し、遠距離の情報を無視する可能性がある。そこで、複数の文書やsub-taskを並べ替えて連結し、100万トークンの中に分散した情報を集めなければ解けないような合成課題も作っている。 事後学習 === 事後学習は、SFT、RL、Multi-Teacher On-Policy Distillationの三段階で行う。 まずSFTによって、tool callingやagent trajectoryの基礎を学習する。 次に、general tasks、general agents、coding agentsという三領域について、それぞれlow、high、maxの三段階のreasoning effortを学習する。これにより、合計9個の専門policyが作られる。 まず、特定のエージェント実装への過学習を防ぐため、ツール、system prompt、memory、context management、subagentなどを交換可能な部品として構成する。Kimi CodeやClaude Code、Codexに近い形式だけでなく、未知の構成でも学習させることで、特定のハーネスに依存しない能力を目指している。 RL課題の生成には、自己拡張する知識グラフを利用する。数学、物理、化学、コンピュータ科学などの大分類から始め、エージェントがWeb検索を行いながら、より細かな概念へ分解する。そこから論文、ブログ、コードリポジトリなどを収集し、知識問題、コーディング、視覚推論などの課題を合成する。 学習対象は多岐にわたる。検索や法律、金融、データ分析などの専門業務に加え、画像をPythonでcrop、zoom、変換しながら解く視覚課題、CUDAやTritonを用いたGPUカーネル最適化なども含まれる。 また、Gmail、Slack、Notionなどを模した環境を構築し、複数日にわたるpersonal assistant課題も学習する。一つのrolloutが数千回のtool call、数百万context tokensに達することもある。 Autonomous Execution Tasksでは、正解手順を与えず、初期状態、目標、制約、ツール、実行予算だけを与える。モデルは自ら計画し、ツールを使い、失敗から回復し、最終状態を外部verifierに評価させる。公開verifierだけに過適合することを防ぐため、モデルには見えないhidden verifierも用いる。 Web開発では、Webサイト、ゲーム、3D、データ可視化、full-stack applicationなどを生成する。buildの成否、実行時error、機能、見た目、操作結果を評価し、画像を貼り付けただけの偽装などは報酬をゼロにする。 その後、9個の専門モデルを一つに統合するため、Multi-Teacher On-Policy Distillation(MOPD)を行う。 RL学習環境 === 長期エージェントRLでは、一つのtrajectoryが数百から数千回のtool callを含み、累積context tokensが数百万に達することもある。 すべてのtrajectoryの終了を待つと、一部の非常に長いtrajectoryが学習全体を待たせる。そのため、一定割合のrolloutが完了した時点でpolicy updateへ進み、未完了trajectoryは次のiterationで再開するpartial rolloutを使う。 未完了trajectoryを再開するには、モデル側のKV cacheと、外部環境側のsandbox stateの両方を保持する必要がある。 Kimi K3では、GPUからevictされた長いprefixをCPU DRAM上のexternal KV cache poolへ保存する。また、Firecrackerを用いたmicroVM sandboxであるAgentENVを使い、sandboxをpause、resume、fork、snapshotできるようにしている。 報告では、checkpointが最短133ミリ秒、resumeが最短49ミリ秒であり、学習と評価全体で約5122万個のsandboxが作成されたとしている。 学習基盤 === KDAでは、各sequence segmentの作用を、入力状態に作用するtransitionと、zero stateから生成される局所状態に分解する。 これらの変換は結合可能であるため、prefix scanによって各GPUに必要な初期状態を計算できる。 MoE学習にはMoonEPを用いる。必要に応じてexpertを別rankへ動的に複製し、すべてのexpert parallel rankが正確に同数のトークンを処理するようにする。技術報告では、各rankに最大E/R個のredundant expert slotを確保すれば、完全に均衡した割り当てが常に存在することを示している。ここでEはexpert数、Rはexpert parallel rank数である。 完全に負荷を均衡できれば、遅いrankを待つ時間がなくなるだけでなく、通信bufferや計算shapeを固定でき、各層でhost側へ同期してtoken数を確認する処理も不要になる。 推論 == 推論時には、KDAの固定サイズ状態と、MLAの系列長に比例するKV cacheを、同じpaged cache managerで管理する。 MLAは細かいtoken境界でprefixを再利用する一方、KDA stateは大きいため、conversation turnなどの限られた境界でcheckpointする。 投機的デコーディングでは、draft tokenごとに巨大なKDA stateを保存せず、小さなprojection inputだけを保存する。 draft tokenの一部がrejectされた場合は、acceptされた部分についてKDA stateをGPU上で再計算し、正しい状態へ戻す。 性能評価 === 性能評価では、Kimi K3は総合的にClaude Fable 5とGPT-5.6 Solの直下に位置し、技術報告で比較された多くのオープンモデルおよびプロプライエタリモデルを上回っている。 特に、コーディング、検索、調査、長期ツール利用を必要とする課題で強い。 一方、Humanity’s Last ExamやCritPtのような研究レベルの推論、OSWorld 2.0のような難しいcomputer use、長期的な行動規律や複雑な協調では、最上位モデルとの差が残っている。 なお、技術報告では、以下の情報は公開されていない。 総事前学習トークン数、最終的なデータ配分、総学習FLOPs、使用GPU数、学習期間、実測MFU、各context lengthでの学習トークン数である。 コメント === Kimi K3は、現時点で最も強力なオープンウェイトモデルの一つであり、そのアーキテクチャ、学習方法、システム実装をまとめた重要な資料である。 新技術があるというよりも、必要な技術を幅広く取り込み、それぞれを大規模モデルで実際に動作するまで作り込んでいるという印象が強い。 モデル開発をしている立場から、特に印象的だった点は次の二つである。 ・Kimi K2に引き続き、事後学習におけるエージェントRL環境へ非常に大きな投資をしている。テキスト、画像、コード、Web、業務アプリケーション、GPU kernelなどを含む多様なエージェント課題を合成し、長期間にわたるtool useと試行錯誤を学習させている。この部分については、改めて詳しく紹介したい。 ・十分なablation studyが提供されていないため、それぞれの技術選択が、どのような比較や判断に基づいて行われたのかは分からない部分が多い。KDA、Attention Residuals、Stable LatentMoE、SiTU-GLU、Quantile Balancing、Per-Head Muonなどの個別技術が、最終性能や学習効率改善にどの程度寄与したのかは分解されていない。 実際には、内部実験の結果、学習安定性、GPUカーネルの効率、分散学習時の通信、メモリ制約など、さまざまな要因を総合して選択したと考えられる。
See More
Doraemon_XRP
retweeted
AM09:21
@AM09_21
3 days ago
あっー! 神神神神神神 Qwen 3あたりで知識止まってたので本当にありがとう!! マジで!!!ありがとうすぎる!!!!!! みんなも、読めよな
Doraemon_XRP
retweeted
Kalshi
@Kalshi
4 days ago
JUST IN: 40% chance Crypto Clarity Act passes
Doraemon_XRP
retweeted
チャエン | デジライズ CEO《重要AIニュースを毎日最速で発信⚡️》
@masahirochaen
4 days ago
【超速報】Fable級のKimi K3がオープンウェイトで公開。史上最大2.8兆パラメータのオープンモデルが無料でダウンロード可能に。 ・総2.8T、1トークンで動くのは104B(896エキスパート中16個) ・コンテキスト100万トークン、画像も読める ・GPQA Diamond 93.5、Terminal-Bench 88.3 ・Frontend Code ArenaではFable 5を抜いて1位 ・商用利用OK 実際に既にKimiを社内で採用している米国テック企業も多い。 自前サーバーに置ける=データを外に出せない金融や医療業界に刺さる。API従量課金ゼロで回す選択肢が現実に。 スレッドで詳細解説👇
See More
Doraemon_XRP
retweeted
Watcher.Guru
@WatcherGuru
4 days ago
JUST IN: Coinbase expects crypto Clarity Act vote as early as Monday, August 3rd.
Doraemon_XRP
retweeted
CoinPost(仮想通貨メディア)
@coin_post
4 days ago
米上院共和党、クラリティー法案の本会議入り急ぐ=報道 https://t.co/i8j5DyDtsS
Doraemon_XRP
retweeted
Yuan
@yuan_baseball
7 days ago
ホワイトハウスからこの扱い受ける大谷えぐすぎて草
Doraemon_XRP
retweeted
まな|note×AIの申し子
@note_ai_mousigo
7 days ago
ワイはClaude Codeの履歴がすべてObsidianに送信されるようにしてるけど、、、これは良き。今年あと5,000万稼いで億り人になるためにもやるか。
Doraemon_XRP
retweeted
Cointelegraph
@Cointelegraph
7 days ago
🇺🇸 JUST IN: The National Fraternal Order of Police officially endorses the amended CLARITY Act.
Doraemon_XRP
retweeted
パウロ
@paurooteri
7 days ago
重い、非常に重要なので、日本語に翻訳して投稿します。 オープンは重要だ 競争の促進こそ真理 オープンウェイトとアメリカのAIにおけるリーダーシップ 2026年7月24日 1980年代、初期のオープンソースソフトウェアの先駆者たちは、「企業が自社のコードを厳格に管理してこそソフトウェアは進歩する」という当時の一般的な信念に異を唱えました。この運動は、世界中の開発者がソフトウェアを研究、変更、改良できる透明性の高いエコシステムの構築を推進しました。 現在、オープンソースコミュニティによって開発されたソフトウェアはインターネットの大半を支えており、世界最大のテクノロジー企業のみならず、科学研究、サイバーセキュリティ、その他の重要な任務を遂行する米軍や連邦機関が使用するシステムの基盤ともなっています。オープンソースは、単にソフトウェアのコストを下げただけではありません。アメリカの何世代にもわたるエンジニアや起業家たちが、自らの組織的優位性(主権)を築き上げるための、共有された知識基盤を作り出したのです。 米国は現在、人工知能(AI)において同様の選択を迫られています。米国のAIにおけるリーダーシップは、単一の最先端(フロンティア)AIモデルによってではなく、米国があらゆる分野に普及する強固でオープンなエコシステムを構築できるかどうかによって評価されるでしょう。これは、国全体でイノベーションと繁栄の機会を創出するために不可欠です。そのためには、AIへのアクセスを拡大し、競争を促進し、堅牢なアプリケーション層を構築し、アメリカ人が依存するテクノロジーに対する主導権を国民自身に与えることが求められます。 オープンウェイト・モデルの重要性 オープンウェイト・モデル(誰もがダウンロードし、検査し、変更を加え、独自のインフラ上で実行できるAIモデル)は、高度なAIをより利用しやすく、適応性が高く、広く利用可能なものにするため、その基盤の重要な一部となります。 AI経済へのアクセスの拡大:スタートアップ企業、既存のビジネス、大学、公的機関は、一からモデルを訓練したり、すべてのタスクに対してフロンティアモデルと同等の利用料を支払ったりすることなく、高度なモデルを基盤にすることができます。組織は適切なモデルを適切な作業に適切なコストで適合させ、「フロンティア規模の能力」は真の最先端課題のために温存し、それ以外のあらゆる場面で効率的で特化したモデルを稼働させることができます。AIの利用が何十億もの日常的なタスクへと拡大していく中で、AIを経済的に持続可能なものにするのはこのようなメリハリです。米国がAI時代に勝利するのは、工場、病院、農場、教室、そして一般ビジネスのワークフローへとAIを普及させたときなのです。 競争の促進:競争こそが、AIの利益を少数の手に集中させるのではなく、広く共有し続けるための要となります。多くの組織が高度なモデルを構築、適応、導入できるようにすることで、オープンウェイトはモデル開発者間だけでなく、クラウド、チップ、アプリケーション、サービス全体に競争を生み出します。その競争がイノベーションを刺激し、コストを押し下げ、AIの恩恵を経済全体に広く行き渡らせます。 顧客の主導権の強化:組織がAIに投資する際、特定のプロバイダーに縛られたり、時間をかけて築き上げた知識や能力を失ったりしないという確証を求めます。オープンウェイト・モデルは、組織が自らのデータを管理し、独自のニーズに合わせてモデルを評価および適応させ、ビジネス要件が求める場所にモデルを展開できるようにすることで、その確証をもたらします。アメリカの主権と繁栄を推進する「自己改善型モデル」、「専門的な機能」、「蓄積された知識」を通じて、組織がAIで創造した価値を自ら所有することを可能にします。 リスクと透明性による安全の確保 確かに、オープンウェイトには現実的で特有のリスクが伴います。一度公開されると、ウェイト(重み)は元の開発者の制御を離れ、改変されたバージョンの追跡やリバースエンジニアリングは困難になります。しかし、このリスクに対する正しい対応は、オープンウェイトを禁止することではありません。 サイバーセキュリティの攻撃者が高度なAIを使用する世界では、防衛側も新たな脅威を検知、シミュレーションし、対応できるよう、同等の機能を持つモデルにアクセスできる必要があります。オープンモデルは防衛能力を広げ、透明性を高め、多くのチーム間で脆弱性を発見し修正することを可能にします。 実際のところ、「オープンであること」は、AIの安全性とセキュリティへの最も重要な道筋の一つかもしれません。閉ざされた(クローズドな)モデルのみに依存することは、本質的に安全とは言えません。外部からは検知できない形で侵害されたり、悪用されたり、機能不全に陥ったりする可能性があるからです。そして、高度なAI機能を少数のクローズドモデルの背後に集中させることは、そのリスクをさらに悪化させます。少数の単一障害点(シングル・ポイント・オブ・フェイリア)を生み出し、競争を弱め、重要なテクノロジーを少数のプロバイダーの手に委ねることになります。 一方、オープンウェイト・モデルは、研究者や開発者の幅広いコミュニティがその挙動を調査し、脆弱性を特定し、安全対策を開発し、時間の経過とともに改善していくことを可能にします。オープンソースソフトウェアが「透明性は不透明性よりも安全である」と証明したように、AIの安全性は、社会が依存するモデルをより多くの人々がテストし、強化できるかどうかにかかっているのかもしれません。クローズドなシステムがデフォルトで安全だと決めつけるのではなく、厳格なベンチマーキングと評価、レッドチーム演習、そして実際に証明された実害に基づいた保護措置を可能にします。 政策立案者への提言 強固なAIエコシステムの構築は、最初から約束された結果ではありません。政策立案者には行動を起こす重要な機会があります。 インフラと資産への投資: スタートアップや研究者向けの計算資源(コンピュート)へのアクセス拡大や、共有の学習資産(データセット、ツール、評価フレームワーク)への投資。 イノベーションの保護: 競争を阻害したりイノベーションを海外へ追いやったりするような、オープンモデルへの時期尚早な制限を避け、フロンティアを多様に保つこと。 正当な技術の保護: このエコシステムを形成する際、正当なモデル開発手法を「不正利用(盗用)」と混同しないよう注意すべきです。 「蒸留(ディスティレーション)」(あるモデルの出力を使用して別のモデルのトレーニングや改善を支援する手法)は、モデルの改善や評価に広く用いられています。これは、既存の技術から学び、それを基盤にして改良を加えるという、オープンソース運動以来のイノベーションを牽引してきた長い伝統を反映したものです。 対照的に、クローズドモデルから価値を抽出しようとする違法な試みは、正当な懸念を引き起こします。これらの懸念に対しては、AIのイノベーションにおいて重要な役割を果たす技術を全面的に制限するのではなく、的を絞った法的および商業的な枠組みを通じて対処されるべきです。 結論 AIの時代は繁栄の時代になり得ます。正しい選択を行えば、オープンウェイトAIは機会を拡大し、競争を強化し、アメリカの技術的リーダーシップを拡大し、リスクを軽減し、そしてこの並外れたテクノロジーの恩恵が我々の経済全体に広く共有されることを確実なものにすることができます。その未来は築き上げる価値があり、米国はその構築をリードしていくべきです。
See More
Doraemon_XRP
retweeted
今井翔太 / Shota Imai@えるエル
@ImAI_Eruel
7 days ago
本物のNVIDIA革ジャン(ジェンスン・ファン)アカウントらしきものが登場して、とんでもない騒ぎになっています! (すでにMicrosoftのCEOをはじめ、テック界の大物にフォローされているので、たぶん本物)
Doraemon_XRP
retweeted
sugumatu@初期Bitcoinマイナー
@sugumatu
7 days ago
汎用LLMはKimiやローカルLLMの台頭によってコモディティ化が進むため、株式投資としてはモデル単体よりも、半導体からアプリまでを押さえるGAFAM等の垂直統合プレイヤーに絞って期待しています。 MetaにはFacebookだったころのIPO初期から投資していますが、自社AIチップなどインフラへの巨額投資もこの垂直統合の文脈で期待しています。 一方で、最大のリターンを生むのは、こうした安価になってくるAIをツールとして使い倒し、ブロックチェーン等も組み合わせて業務や決済を極限まで自動化する企業だと確信しています。 私たちの投資会社でも、「AI × ブロックチェーン × 超自動化」領域に最重点で注目しています。
See More
Doraemon_XRP
retweeted
Watcher.Guru
@WatcherGuru
8 days ago
JUST IN: Goldman Sachs CEO says it's time to pass the Crypto Clarity Act.
Doraemon_XRP
retweeted
Watcher.Guru
@WatcherGuru
9 days ago
JUST IN: 🇺🇸 US Senate Republicans release new crypto Clarity Act draft bill.
Doraemon_XRP
retweeted
Watcher.Guru
@WatcherGuru
9 days ago
JUST IN: 🇺🇸 Senate has 15 days to pass the Crypto Clarity Act before leaving for summer recess.
Doraemon_XRP
retweeted
Watcher.Guru
@WatcherGuru
9 days ago
JUST IN: 🇺🇸 Odds of the Crypto Clarity Act passing crash to 39% after Senate Republicans release new draft bill.
Last Seen Users on Sotwe
แอบแซ่บได้นะ
Seen from
Thailand
Hina and Atif
Seen from
Pakistan
uşaklı köylü kadın
Seen from
Germany
박아영
Seen from
Korea
eren
Seen from
Turkey
Alfred Emergency Academic Centre
Seen from
United States
ohram458
Seen from
Indonesia
钟你两锭子
Aphiwat
Seen from
Thailand
💣الزنجي2💣
Seen from
Qatar
Trends for you
1
Spain
Under 10K tweets
2
Good Friday
Under 10K tweets
3
RED Friday
Under 10K tweets
4
Kanan
Under 10K tweets
5
ariana
Under 10K tweets
6
#FridayVibes
Under 10K tweets
7
Solitaire in Cash Legends
Under 10K tweets
8
#GenshinSpecialProgram
Under 10K tweets
9
Happy Friyay
Under 10K tweets
10
Bingo in Cash Legends
Under 10K tweets
Most Popular Users
1
Elon Musk
@elonmusk
241.1M followers
2
Barack Obama
@barackobama
119.1M followers
3
Cristiano Ronaldo
@cristiano
112.4M followers
4
Donald J. Trump
@realdonaldtrump
111.8M followers
5
Narendra Modi
@narendramodi
107.1M followers
6
Rihanna
@rihanna
98.1M followers
7
NASA
@nasa
92.2M followers
8
Justin Bieber
@justinbieber
91.3M followers
9
KATY PERRY
@katyperry
88.7M followers
10
Taylor Swift
@taylorswift13
82.6M followers
11
Lady Gaga
@ladygaga
74.1M followers
12
Virat Kohli
@imvkohli
71.5M followers
13
Kim Kardashian
@kimkardashian
70.3M followers
14
YouTube
@youtube
68.7M followers
15
Bill Gates
@billgates
64.5M followers
16
Neymar Jr
@neymarjr
64.4M followers
17
The Ellen Show
@theellenshow
62.4M followers
18
CNN
@cnn
61.8M followers
19
Selena Gomez
@selenagomez
61.8M followers
20
X
@x
60.8M followers
Olivia
Online
✨
⭐
💫