鋼鐵男子

中日ゲーム&産業翻訳者 | 光が遠ざかり闇が正義を覆う時、貴方の輝きを世界に打ち刻む、硝煙と感情渦まく前線のローカライザー | 実は台湾（北/中南部/南部）に15年くらい住んでたの |
くちびるに詩と旋律、心に愛、片手に書 | ここはただのSNS | 本人翻訳アカと二重フォローすることあり

[鋼鐵男子 @Guratias]

@HARU_KP31 おめでとうございます！

[井口耕二 a.k.a. Buckeye @BuckeyeTechDoc]

河野さんの連載、「著者が翻訳する時代」に続けて「機械翻訳35年目の定点観測」を読んでいる。
https://t.co/F897KrU763

ちなにみに、河野さんとは、もう、25年くらいもさんざやり合ってきた。現状認識や未来予測はすごく似ているのに、だからどうすべきというところは正反対のことが多くて。理由は、河野さんは、翻訳業界を中心に考え、私は、徹頭徹尾、翻訳者にとってなにがいいのか、いい翻訳にするにはどうしたほうがいいのかと考えているから。河野さんにも、「井口さん、驚くほどぶれないよね」と言われたことがある。

「機械翻訳35年目の定点観測」第2回　　原文に書いていないことを訳してよいのか
https://t.co/xdGT8g6InT

あらためて、私は、業界の異端児だったんだなと思った。

>> 翻訳業界で長く働いてきた人間として、これは素直に感心する話であり、同時にきわめて厄介な話です。
>> なぜなら私たちは、二十年以上にわたって、まさにこれを「やってはいけないこと」として管理してきたからです。

>> その根幹に、「原文に書かれていないことを足すのは誤訳である」という原則があります。加訳は減点対象です。
>> ところが、いま最も品質が高いとされる訳文は、この原則を平然と破ることで品質を得ています。

>> これは長らく、テクニカルライティングの領域として翻訳の外側に置かれ、多くの現場で「そこまでは口を出せない」まま放置されてきた工程でした。

>> 品質の定義を、原文との対応から目的適合へ移す作業が避けられません。

>> 責任を引き受けるための根拠を可視化する必要がある。何を確認したのか、何を根拠にこの訳を選んだのか、どこは確認していないのか。この記録が、これからの職業的な資産になると思います。逆に、記録の残らない直感的な良し悪しは、値段がつかなくなる。

正直な感想は、だ・か・ら、（河野さんに対しても）昔っからそう言ってきたじゃん、だ。

私にとっては（私に近い仲間にとっても）、いずれも、30年あまり前からやってきたことばかりだ。15年くらいも前だったかなぁ、この連載にも登場する隅田さんに「機械翻訳もずいぶんとよくなったので、いちど使ってみてくださいよ」と言われ、「私は、原文の向こうにいる書き手を訳していますから」と答えたのなんかも、そういうこと。

まあ、だから、業界が進む方向に警鐘を鳴らし続けてきたわけなんだけど。

余談ながら、「加訳は減点対象」というのは、「品質の定義を、原文との対応」にするというまちがいを犯しているから。「品質の定義を目的適合」にしていれば、加訳とか減訳とかが意味することはまるで違ってくる。

目的適合であっても、加訳とか減訳とかはありえるし、それは減点対象なのだけれど、なにをもって加訳というか減訳というかが「品質の定義が原文との対応」である場合と異なる。その文脈において、所望の目的を達するためにターゲット言語ではこういう発想をするから言葉としては足し引きしているように見える、というのは加訳や減訳ではない。そういう根拠がなくて言葉が足し引きされていたら、それは加訳や減訳である。そういうことだ。

[鋼鐵男子 @Guratias]

なるほど

[足利尊氏@新しい朝敵のリーダーズ @ashikaga_1305]

推しのアイドルが逮捕されて落胆している人が観測されますが、こういう時に備えて歴史上の人物を「推し」にするべきだと強く感じます。

歴史上の人物を推し活の対象にするメリットは

・不祥事の心配がない。なぜなら死んでいるから
・結婚報道で落ち込むこともない。なぜなら死んでいるから
・推しが誹謗中傷に遭うこともない。なぜなら死んでいてほとんど話題に上らないから
・推しが誰かを殴っても捕まることがない。なぜなら死んでいるから
・推しが薬や飲酒運転で捕まることがない。なぜなら死んでいるから
・今後の人生、推しの新発見しかない

さぁ、みんな「足利尊氏」を推すのです！！！

[鋼鐵男子 @Guratias]

すごい

[宇推くりあ🚀❤️‍🔥Liella!&JAXAコラボ中✨️ @clearusui]

ついでに飛行ロボコンが救援物資と称してチキンラーメンを運んだり落としたり拾ったりする激オモロ大会なの知って欲しい。
重さがちょうど良いらしく、ルールブックにもチキンラーメン載ってる。
飛行機があのサイズのを遠隔で拾ってくるのを目の前で見られるすごさ！！
ちなみに日清は協賛してない。

#飛行ロボコン

[鋼鐵男子 @Guratias]

健気だ……

[宇推くりあ🚀❤️‍🔥Liella!&JAXAコラボ中✨️ @clearusui]

全人類この可愛いフカヒレを見てくれよ

これ！！！都立高専が作ってる飛行ロボットコンテストの機体！！！
プロペラ無くて、ヒレで頑張って進んでる。癒しすぎる✨️✨️✨️

[鋼鐵男子 @Guratias]

これも面白過ぎる（笑）（笑）
ヒト吹っ飛びすぎだけど、面白いからOK

[基恩-Keane 🌊 @esrhengwu]

中国版GTA，角色可选大妈或者大爷，题材真实有趣。

[358ちゃん @max358japan]

ドイツが誇るケルヒャーを使った演奏が超楽しくなってくるんだけど（笑）
毎回思うけど、こういうの最初に考えてやる人って天才的だよね✨👍

[鋼鐵男子 @Guratias]

@QHO0SRUW55zbm0D おめでとうございます！
ますますのご活躍を期待しております！

[あみこ🧡あみあみ @amicoamiami]

照れたお顔と装備の再現度がたまらん～～🥳🎉
#コトブキヤ #ドールズフロントライン2 #ドルフロ2

📷あみあみ秋葉原ラジオ会館店
9/14撮影

[鋼鐵男子 @Guratias]

@totani00maki 何か面白そうな（or役立ちそうな）サービス見かけたら、教えてください。
楽しいTGSを！

[鋼鐵男子 @Guratias]

マックス今シーズン最高の勝利

[Estagiário da F1 @EstagiariodaF1]

e com uma ultrapassagem absurda no fim (e uma escadapa de uma tentativa de dive bomb), Max Verstappen ultrapassa os últimos carros para vencer o desafio Max Vs 100 após 14 voltas

o cara é um monstro, os amadores não tiveram nem chance

[鋼鐵男子 @Guratias]

こういうのがイイ！
とても効果があると思う。
少なくとも俺には刺さった（笑）

[Chengdu China @Chengdu_China]

Welcome to Chengdu, China’s most laid-back city.

[鋼鐵男子 @Guratias]

やだ面白い
舒潔、キッチンペーパーも出してるのね

[haruo @haruotpe]

台湾のキッチンペーパーの面白いCM広告が中国語発音の勉強になるので貼っておきます。

[鋼鐵男子 @Guratias]

ジワジワくる

[台湾観光ドットコム @TaiwanKanko99]

角煮が帰ってきます。9月15日から故宮博物院（台北）で会えます。白菜もいます。

[鋼鐵男子 @Guratias]

@sasa3_manju ささみさん、大変だなあ……と、何気なく頭に浮かんだのがこちらです（誤）。
検診大事ですよね、って思いながら億劫になってます。ずっと健康でありますように。

[鋼鐵男子 @Guratias]

同意。鋭い指摘だと思う。

[シラカワリュウ⚡️RiuSHIRAKAWA @LaviverRS]

生成AI問題については結局ここが本質だと思う。
AIが生成した映像や絵や音が「瞬発的な消費に耐えうるクオリティを備えている」のは結構前から紛れもない事実として存在しているし、その流れが止まらないのも現実。

ということは、創作という営みを生成AIに完全奪取されないためには、受け取る側の感性をもっと深化させるしかない。
※ちなみに受け取る側には創作者も含まれる。これは作る側と受け取る側を分断しようという話ではない。全体の話。

さだまさ氏が言うようにそこに哲学を見いだせるかどうか、創作物を瞬発的に消費せずその奥にあるアーティシズムやポエジーに感応できるかどうかが問題になってくる。AI生成がはびこる世界っていうのは要するに受け取る側が舐められてる世界なのではないか、と私は考える。

AIが単純に生成したものを否定する必要もない。「面白いけど浅いね。でも舐めんなよ」っていうスタンスでいいと思う。でも全員が「浅くてもいいや。もっと侮ってくれ」になったら終わり。敵はAIという道具ではなく、感性の鈍化だ。受け取る側は作る側に対して「人間が主導権を手放したらすぐに見抜くぞ」という目を向けておくべきだし、作る側は「主導権を手放したらすぐに見抜かれる」という緊張感を持っておくべきだろう。この緊張関係を維持することが、AI時代における指針ではなかろうか。

[鋼鐵男子 @Guratias]

@seiko_mojiya 間違えた、笑也さんだ（笑）
30年くらい前に、21世紀歌舞伎組で、笑也さんや笑三郎の舞台も見たので、感慨深いものがありました。
ルパン歌舞伎、また見たいです！

[鋼鐵男子 @Guratias]

@URT_duck_burner おめでとうございます！
本免試験頑張ってください！
ひっかけ問題に注意！

[鋼鐵男子 @Guratias]

興味深い内容とオチ

[やねうら王 @yaneuraou]

AIを使って馬鹿になる人について考えるとき、「AIに頼ると頭を使わなくなる」といった話は、あまり本質的ではない。電卓が普及して暗算をする機会が減ったとか、Google Mapsのせいで道を覚えなくなったとか、その程度の話なら、人類は文字を発明した時点ですでに相当馬鹿になっているはずである。

もっと興味深い問題がある。

1983年、心理学者・人間工学研究者のLisanne Bainbridgeは「Ironies of Automation（自動化の皮肉）」という有名な論文を書いた。そこで指摘された逆説は、40年以上たった現在の生成AIにも驚くほどよく当てはまる。

機械が人間より上手にできる仕事を次々に自動化していくと、最後に人間に残されるのは何か。それは、機械がうまく処理できなかった例外的で、複雑で、判断の難しい仕事である。ところが、日常的な仕事を機械に任せれば任せるほど、人間はその仕事を自分で行う機会を失い、技能も状況理解も衰える。つまり、自動化が進むほど、人間の出番は減るのに、人間が出番を求められたときの仕事だけは難しくなる。Bainbridgeが「皮肉」と呼んだのは、この構造である。

たとえば、毎日100本のプログラムを書かなければならない人がいて、そのうち99本をAIが完璧に書いてくれるようになったとする。これは一見すると素晴らしい。しかし人間に回ってくる1本は、「なぜか本番環境でだけデッドロックする」「仕様書そのものが矛盾している」「二つの設計思想のどちらを採用するか判断しなければならない」といった、AIが処理できなかった難問になる可能性が高い。

つまり、その人は99本の普通のプログラムを書くことで本来得られたはずの訓練を失った状態で、100本中もっとも難しい1本だけを解かなければならなくなる。

これはなかなか意地の悪い仕組みである。

1995年、EndsleyとKirisは、この問題を「out-of-the-loop performance problem」として実験的に調べている。人間がシステムを直接操作する立場から、自動化されたシステムを眺めるだけの立場に移ると、単に操作技能が落ちるだけではなく、「いま何が起きていて、この先どうなるのか」という状況認識まで低下する。そして自動化システムが故障して突然人間に操作を返したとき、対応が遅れる。研究では、能動的な情報処理から受動的な情報処理へ移ることが、この低下の重要な原因として示唆されている。

これはプログラミングに限らない。部下が作った契約書を毎日チェックしている人は、長年のうちに「この条項は妙だ」という感覚を身につける。しかし契約書をAIが作り、AIがチェックし、人間は最後に「承認」ボタンを押すだけになれば、その感覚を獲得するために必要だった何千回もの小さな判断が消える。そして本当にAIが見落とすような珍しい契約上の問題が起きたときだけ、人間に判断が戻ってくる。

AIによる能力低下の恐ろしさは、「簡単な仕事ができなくなること」ではない。簡単な仕事を大量に経験することでしか育たなかった、難しい仕事を処理する能力まで失われることにある。

さらに厄介な問題がある。自分の能力が落ちていることを、自分自身が認識できなくなる可能性である。

心理学には「metacognitive calibration」という考え方がある。簡単に言えば、「自分がどれくらい正しいか」という自己評価と、実際の正答率がどれくらい一致しているか、という問題である。知識が多少不足していても、自分が何を知らないかを正しく認識できる人は比較的安全である。危険なのは、能力そのものより、このキャリブレーションが壊れることである。

2026年に『Computers in Human Behavior』に掲載された研究には、実に象徴的なタイトルがついている。

「AI makes you smarter but none the wiser」

直訳すれば、「AIはあなたを賢くするが、自分がどれほど賢いのかは分からなくする」といった意味になる。この研究では、LLMを使うことでLSAT型の推論課題の成績そのものは向上した一方、人々が自分の成績をどれだけ正確に評価できるかというメタ認知には問題が生じた。特に興味深いのは、AIリテラシーが高いことや自信が強いことが、必ずしも自己評価の正確さにつながらなかったという点である。

考えてみれば当然である。

AIなしで10問中6問解ける人が、AIを使うと10問中9問解けるようになったとする。このとき本人が観察できるのは「私は9問解けた」という結果だけである。しかし、その9問のうち何問が自分の能力で、何問がAIの能力なのかは、結果からは分離できない。

ここで、自分自身の能力を測るためのフィードバック系が壊れる。

筋力なら、100kgのバーベルを持ち上げられなければ自分の筋力不足はすぐ分かる。しかし、AIと一緒に100kgを持ち上げている状態では、自分が何kgまで持てるのか分からない。そしてAIの補助があまりに自然になると、そもそも「これは二人分の力で持ち上げている」という感覚すら薄れてくる。

私は、AI時代に本当に危険なのはここだと思う。

人間は無知であることには比較的耐えられる。「これは知らない」と自覚していれば、調べることができるからである。しかし、知らないという自覚そのものを失えば、調べるという行為も発生しない。

もう一つ、この問題を理解するうえで面白い古典的な実験がある。「generation effect（生成効果）」と呼ばれる現象である。

SlameckaとGrafは1978年の実験で、答えをただ読んだ場合と、自分で答えを生成した場合を比較した。すると同じ情報であっても、自分で生成したもののほうが、その後の記憶成績が良かった。これはさまざまな条件で確認された。

この現象をAIに当てはめると、少し嫌なことが見えてくる。

たとえば会議で「この新規事業の問題点を三つ考えてください」と言われたとする。五分間考えて、「市場規模」「競合」「人材」という三つを自分でひねり出す。その後ChatGPTに聞いたら、「法規制」「顧客獲得コスト」「既存事業とのカニバリゼーション」まで出てきた。この使い方なら、自分の思考にAIによる追加が行われる。

ところが最初から「問題点を10個挙げて」とAIに尋ね、その中からもっともらしい三つを選ぶだけになれば、自分が問題を生成する工程そのものが消える。

成果物だけを見れば後者のほうが立派である。だが、脳の中で起きたことはまったく違う。

これこそ、AIについて議論するときに「生産性」という指標だけを見てはいけない理由である。ある人がAIを使って以前の三倍の文章を書き、二倍のコードを書き、五倍の資料を作れるようになったとしても、その数字から本人の能力が向上したとはまったく言えない。極端な場合には、成果物の品質が上がるのと同時に、本人が単独で判断する能力は下がり、しかも本人にはその低下が観測できない、ということすら起こり得る。

そして、ここまで考えると「AIを使って馬鹿になる人」の特徴も少し違って見えてくる。

AIに質問する人が馬鹿になるのではない。AIに文章を書かせる人でもない。コードを書かせる人でもない。

AIが担当した認知過程と、自分が担当した認知過程との境界が見えなくなった人が危ないのである。

自分が考えたのか、AIが考えたのか。自分が理解したのか、理解しやすい説明を読んだだけなのか。自分に判断能力があるのか、AIが常に正解を横に置いてくれているから判断できているように見えるだけなのか。

この区別を意識的に維持できる人にとって、AIは恐ろしく強力な知的増幅器になる。

維持できない人にとっては、もっと恐ろしいものになる。

なぜならAIは、その人の能力を奪うときですら、本人には「以前より賢くなった」という感覚を与えることができるからだ。

だから、AIなんか使うな。

ちなみにこの文章は全文ChatGPTが書いた。