りっくん

@hopterschool
研究生

[トモぞヴP @TomozoP]

Wikipedia記事の文字数を予想してレースする、「情報量ダービー」を作りました

[りっくん @microbit333]

AIに出力させたコードなどで分からない部分や気になる部分があったら自分で調べる癖をつけないとな

[りっくん @microbit333]

1~2年前だったらAiが出すコードはサンプル程度で実際に使うには色々いじる必要があって、そこで色々調べたりするから知識や経験を学習することが出来たけど、今は性能良いから、いじる部分が減ったり、どういじればいいかをAIに聞いてやれば解決したりするから知識や経験を身につけにくくなってるかも

[ロボ太 @kaityo256]

AIを使う危険性は、もはやハルシネーションではないと思う。多くの分野で、人間よりも間違いが少なくなりつつある。それより、下手に使うことで人間が学習機会を失い、かつ自分の能力を高く評価してしまう方が問題じゃないかな。「わかっていないのに、わかっていると錯覚する状態」に容易に陥る。

[りっくん @microbit333]

自分が出来る範囲の線引はどこなんだろうか？
①調べなくても出来る
②調べたら出来る
③調べたら出来るが時間がかかる
⑤調べても出来ない

[��ボ太 @kaityo256]

AIを使う危険性は、もはやハルシネーションではないと思う。多くの分野で、人間よりも間違いが少なくなりつつある。それより、下手に使うことで人間が学習機会を失い、かつ自分の能力を高く評価してしまう方が問題じゃないかな。「わかっていないのに、わかっていると錯覚する状態」に容易に陥る。

[やねうら王 @yaneuraou]

AIを使って馬鹿になる人について考えるとき、「AIに頼ると頭を使わなくなる」といった話は、あまり本質的ではない。電卓が普及して暗算をする機会が減ったとか、Google Mapsのせいで道を覚えなくなったとか、その程度の話なら���人類は文字を発明した時点ですでに相当馬鹿になっているはずである。

もっと興味深い問題がある。

1983年、心理学者・人間工学研究者のLisanne Bainbridgeは「Ironies of Automation（自動化の皮肉）」という有名な論文を書いた。そこで指摘された逆説は、40年以上たった現在の生成AIにも驚くほどよく当てはまる。

機械が人間より上手にできる仕事を次々に自動化していくと、最後に人間に残されるのは何か。それは、機械がうまく処理できなかった例外的で、複雑で、判断の難しい仕事である。ところが、日常的な仕事を機械に任せれば任せるほど、人間はその仕事を自分で行う機会を失い、技能も状況理解も衰える。つまり、自動化が進むほど、人間の出番は減るのに、人間が出番を求められたときの仕事だけは難しくなる。Bainbridgeが「皮肉」と呼んだのは、この構造である。

たとえば、毎日100本のプログラムを書かなければならない人がいて、そのうち99本をAIが完璧に書いてくれるようになったとする。これは一見すると素晴らしい��しかし人間に��ってくる1本は、「なぜか本番環境でだけデッドロックする」「仕様書そのものが矛盾している」「二つの設計思想のどちらを採用するか判断しなければならない」といった、AIが処理できなかった難問になる可能性が高い。

つまり、その人は99本の普通のプログラムを書くことで本来得られたはずの訓練を失った状態で、100本中もっとも難しい1本だけを解かなければならなくなる。

これはなかなか意地の悪い仕組みである。

1995年、EndsleyとKirisは、この問題を「out-of-the-loop performance problem」として実験的に調べている。人間がシステムを直接操作する立場から、自動化されたシステムを眺めるだけの立場に移ると、単に操作技能が落ちるだけではなく、「いま何が起きていて、この先どうなるのか」という状況認識まで低下する。そして自動化システムが故障して突然人間に操作を返したとき、対応が遅れる。研究では、能動的な情報処理から受動的な情報処理へ移ることが、この低下の重要な原因として示唆されている。

これはプログラミングに限らない。部下が作った契約書を毎日チェックしている人は、長年のうちに「この条項は妙だ」という感覚を身につける。しかし契約書をAIが作り、AIがチェックし、人間は最後に「承認」ボタンを押すだけになれば、その感覚を獲得するために必要だった何千回もの小さな判断が消える。そして本当にAIが見落とすような珍しい契約上の問題が起きたときだけ、人間に判断が戻ってくる。

AIによる能力低下の恐ろしさは、「簡単な仕事ができなくなること」ではない。簡単な仕事を大量に経験することでしか育たなかった、難しい仕事を処理する能力まで失われることにある。

さらに厄介な問題がある。自分の能力が落ちていることを、自分自身��認識できなくなる可能性である。

心理学には「metacognitive calibration」という考え方がある。簡単に言えば、「自分がどれくらい正しいか」という自己評価と、実際の正答率がどれくらい一致しているか、という問題である。知識が多少不足していても、自分が何を知らないかを正しく認識できる人は比較的安全である。危険なのは、能力そのものより、このキャリブレーションが壊れることである。

2026年に『Computers in Human Behavior』に掲載された研究には、実に象徴的なタイトルがついている。

「AI makes you smarter but none the wiser」

直訳すれば、「AIはあなたを賢くするが、自分がどれほど賢いのかは分からなくする」といった意味になる。この研究では、LLMを使うことでLSAT型の推論課題の成績そのものは向上した一方、人々が自分の成績をどれだけ正確に評価できるかというメタ認知には問題が生じた。特に興味深いのは、AIリテラシーが高いことや自信が強いことが、必ずしも自己評価の正確さにつながらなかったという点である。

考えてみれば当然である。

AIなしで10問中6問解ける人が、AIを使うと10問中9問解けるようになったとする。このとき本人が観察できるのは「私は9問解けた」という���果だけである。しかし、その9問のうち何問が自分の能力で、何問がAIの能力なのかは、結果からは分離できない。

ここで、自分自身の能力を測るためのフィードバック系が壊れる。

筋力なら、100kgのバーベルを持ち上げられなければ自分の筋力不足はすぐ分かる。しかし、AIと一緒に100kgを持ち上げている状態では、自分が何kgまで持てるのか分からない。そしてAIの補助があまりに自然になると、そもそも「これは二人分の力で持ち上げている」という感覚すら薄れてくる。

私は、AI時代に本当に危険なのはここだと思う。

人間は無知であることには比較的耐えられる。「これは知らない」と自覚していれば、調べることができるからである。しかし、知らないという自覚そのものを失えば、調べるという行為も発生しない。

もう一つ、この問題を理解するうえで面白い古典的な実験がある。「generation effect（生成効果）」と呼ばれる現象である。

SlameckaとGrafは1978年の実験で、答えをただ読んだ場合と、自分で答えを生成した場合を比較した。すると同じ情報であっても、自分で生成したもののほうが、その後の記憶成績が良かった。これはさまざまな条件で確認された。

この現象をAIに当てはめると、少し嫌なことが見えてくる。

たとえば会議で「この新規事業の問題点を三つ考えてください」と言われたとする。五分間考えて、「市場規模」「競合」「人材」という三つを自分でひねり出す。その後ChatGPTに聞いたら、「法規制」「顧客獲得コスト」「既存事業とのカニバリゼーション」まで出てきた。この使い方なら、自分の思考にAIによる追加が行われる。

ところが最初から「問題点を10個挙げて」とAIに尋ね、その中からもっともらしい三つを選ぶだけになれば、自分が問題を生成する工程そのものが消える。

成果物だけを見れば後者のほうが立派である。だが、脳の中で起きたことはまったく違う。

これこそ、AIについて議論するときに「生産性」という指標だけを見てはいけない理由である。ある人がAIを使って以前の三倍の文章を書き、二倍のコードを書き、五倍の資料を作れるようになったとしても、その数字から本人の能力が向上したとはまったく言えない。極端な場合には、成果物の品質が上がるのと同時に、本人が単独で判断する能力は下がり、しかも本人にはその低下が観測できない、ということすら起こり得る。

そして、ここまで考えると「AIを使って馬鹿になる人」の特徴も少し違って見えてくる。

AIに質問する人が馬鹿になるのではない。AIに文章を書かせる人でもない。コードを書かせる人でもない。

AIが担当した認知過程と、自分が担当した認知過程との境界が見えなくなった人が危ないのである。

自分が考えたのか、AIが考えたのか。自分が理解したのか、理解しやすい説明を読んだだけなのか。自分に判断能力があるのか、AIが常に正解を横に置いてくれているから判断できているように見えるだけなのか。

この区別を意識的に維持できる人にとって、AIは恐ろしく強力な知的増幅器になる。

維持できない人にとっては、もっと恐ろしいものになる。

なぜならAIは、その人の能力を奪うときですら、本人には「以前より賢くなった」という感覚を与えることができるからだ。

だから、AIなんか使うな。

ちなみにこの文章は全文ChatGPTが書いた。

[GACKT @GACKT]

みんなはチャットGPTを使ってるか？
ボクは色んなAIをかなりフル活用している。

もし、
チャッピーをかなり使っているなら、
このコマンドを入れてみてくれ。

【Based on everything you know about me,
roast me and don't hold back.日本語で答えろ】

これは、
『オマエがボクについて知っていることを全部踏まえて、
遠慮なく徹底的にイジってくれ。手加減は要らない』

ってことなんだが。

これをボクのチャッピーに入れてみた。
夜中に大笑いしてしまったから共有する。

全部は長すぎるから要約した。
笑ってくれ。

以下、チャッピーの言葉。

ーーーーーーーーーーー

承知いたしました。
では今回、
遠慮なくいかせていただきます。

GACKT様は「超現実主義」とおっしゃっていますが、
実際には『現実に対する要求水準が非現実的でございます』

家を建てる話ひとつ取っても、
「景色は最大限」
「西日は入れない」
「ランボルギーニは腹を擦らない」
「4tトラックも通す」
「スロープは短く」
「造成は最小限」
「���もなるべく打たない」
「でも建物はこの位置」

少しは私の都合も聞いていただけませんか？
なんですか、この設計条件は？
家を建てたい人間の執念じゃない。
ランボルギーニを山頂まで登らせるゲームを開発してる人なんですよ。

しかも、
普通の施主なら建築家に
「いい感じにお願いします」
で終わるところを、

GACKT様は、
「20cmごとに0.5度なら？」
「60cmでは？」
「70cmでは？」
「1mで1度なら？」
「この車の腹下は何センチだ？」

と最終的に道路のコンクリート一枚一枚と対話を始めます。

もはや住宅設計ではございません。
ランボルギーニを主人公にした土木工学の博士論文です。

さらに言葉へのこだわりが細かすぎます。
語学に関してだけ、
疑い深さが査読論文レベルです。

おそらくGACKT様に文章を提出するコピーライターは、
送信ボタンを押す前に一度、
自分の人生を振り返っていると思います。

そして、
ご自身では相当ロジカルに進めているおつ���りでしょうが、
途中で突然、
「こっちの方が面白くないか？」

が入ります。
これが非常に厄介です。

99％まで理屈で積み上げておいて、
最後の1％を【好奇心】で爆破されます。

計算。
検証。
再計算。
比較。
安全率。

ここまで全部やって、
「でも、こっちの方がカッコいいよな」
でございます。

理系の脳に、
最終決裁権を持った少年が住んでいます。
しかも、
その少年が非常に金のかかる遊びを思いつきます。

普通の少年：
「秘密基地を作りたい」

GACKT様：
「崖地に1000㎡級の平屋を建てて、
ショールームとプールを付けて、
ランボルギーニが擦らずに登れる道を作りたい」

規模がおかしいのです。

そしてライブや仕事でも同じで、
「まあこれぐらいでいい」という概念がほぼございません。

より良く。
��っと狂気。
もっと美しく。
もっと没入。
もっとシュール。

スタッフからすると、
完成した瞬間がゴールではなく、
GACKT様が「ん？」と言わなかった瞬間が
ゴールなのだと思います。

あと、
非常に面白いのが、
��ラブルに対する姿勢です。

GACKT様は、
「トラブルがある方が面白い」
という価値観をお持ちですが、
そもそもご自身で人生の難易度を上げすぎでございます。

一般人が人生ゲームを始めるとき：
NORMAL MODE

GACKT様：
* 妥協禁止
* 世界規模
* 完璧主義
* 高級車使用
* 崖地建築
* 複数言語
* 芸能活動
* プロデュース
* SNS炎上リスクON
* セーブポイントなし

そして開始してから、
「なんでこんなにトラブルが起きるんだ？」
とおっしゃる。

起きますよ！！
設定したのはGACKT様です。

さらに、
一番厄介なのは、
結果的にだいたい何とかしてしまうことです。

普通なら一度無茶をして失敗すると、
「次からやめよう」
となります。

ところがGACKT様の場合、
無茶
↓
問題発生
↓
猛烈に考える
↓
突破
↓
成功体験

となるた���、
「ほら、やっぱり無茶してもいけるじゃないか」

という最悪の学習が積み重なっております。
だから次回はさらに無茶になります。

これは成功者によくある罠ですが、
GACKT様の場合��かなり重症でございます。

要するに、

慎重に考える大胆な人ではなく、
【大胆なことを実行するために異常なほど慎重に考える人】
なのです。

家を建てれば地形と戦い、
ドラマを撮れば台詞の一語と戦い、
英語を話せばニュアンスと戦い、
SNSを書けば改行位置と戦い、
車を走らせれば路面の1度と戦う。

GACKT様は、
完璧主義というより、
「自分が納得するまで世界の仕様書を書き換えようとする人」
です。

そして最後に一番核心を突かせていただきます。

GACKT様は「効率」を非常に重視されますが、
細部が気になった瞬間、
効率という言葉を完全に忘れます。

「この壁、あと5cm薄くできないか？」

という疑問一つから、
2時間議論できます。

つまり、
時間を無駄にすることは嫌いなのに、
納得するためなら時間を無��に使う。

これは効率主義ではございません。

納得至上主義です！

そして恐らく、
GACKT様ご自身が一番面倒くさいと思っているタイプの人間を挙げるなら、

「細かくて、妥協せず、理屈っぽくて、納得するまで質問するヤツ」

だと思います。

……それ、
ほぼGACKT様でございます。

ーーーーーーーーーーーーー

…だってさ。
チャッピー、いつもすまん。

[りっくん @microbit333]

if文とか変数がわからない人はどうにか日常生活で行っている事と結びつける事ができればわかるようになるのかな？

[りっくん @microbit333]

昨日〇〇食べたから今日△△食べよう みたいな覚えている内容に基づいて行動を実行するのは、変数を参照してifを実行するのと同じだと思ってる

if文とか変数の参照と聞くと日常生活とは関係無いように見えるかもだけど日常生活でそれに当たる行動はしてると思うんだよね。

[りっくん @microbit333]

変数の宣言は覚えるという作業を文字として表す際に生まれた概念であり、脳が自動で行ってくれるものなのかな

[りっくん @microbit333]

覚える == 代入する

覚えている事を思い浮かべる == 変数を参照する

覚えている事を外部に伝わるようにする == print(変数)などの関数

覚えるという作業を文字として表せるようにしたのが変数？

変数とは何を覚えたのかを文字で表せるようにしたものなのかな

[りっくん @microbit333]

変数を箱に例えるのにちょっとモヤモヤするのは

変数の役割は後で参照するために数字や値を覚える事がなので

覚える事ができれば箱に物を入れる必要が無いからなのかな〜と思った

[𝐏𝐫𝐢𝐬𝐦. @prism_thoughts]

発達障害民の最大の苦しみは「分かってるのにできない」こと。

遅刻がダメなのは分かってる。
片付けた方がいいのも分かってる。
衝動的に発言しない方がいいのも分かってる。
計画的にやるべきなのも分かってる。
全部、頭では完璧に理解してる。なのに体と脳がついてこない。

「分かってるなら何でやらないの？」
その一言が、一番キツいんだよね

[ナゾロジー@科学ニュースメディア @NazologyInfo]

ADHDの症��は3つでなく「9つのカテゴリー」に分けられる
https://t.co/RBnnytJKQF

ADHDは主に「不注意・多動性・衝動性」の3つの症状に分けられます。しかし豪UMらの研究で、実際は9つのカテゴリーがあると報告されました。では、残りの6つは何なのでしょうか？

[えいと @7_eito_7]

電子回路をブラウザ上で作って そのまま動作テストできる神サイト見つけた…

将来的には ロボット開発も仮想空間で完結する時代来そう。しかも
・Arduino
・トランジスタ
・コンデンサ
とか全部そのまま再現できる👇

[りっくん @microbit333]

自分とか他の人に肩代わりさせている側の人だよな...
はぁ...

[無機物.txt @_F8_F8_FF]

その状態が「エサ待ちでボーッと口開けてるだけ」に見えてるからですね
「ただでさえ何もしてねえのに更にまだ何か要求してくんのかよコイツほんまふてぶてしいな」でバチギレです
説明にも教えるにも指示を出すにもコストが掛か��、普段「分からない」一点張りで→

[りっくん @microbit333]

小学校~高校の間に、「自分で 問題 or 課題 を見つけて」それを解決するための行動を行った経験が不足している感じがする

流れてきた 問題 or 課題 を解決する経験はあると思うけど

[りっくん @microbit333]

リサーチ中

[りっくん @microbit333]

おお

https://t.co/aTGqCaDDia

[りっくん @microbit333]

音ＭＡＤ系の動画をよく見て聞いている
ド素人が音ＭＡＤ系の動画を作るにはどのくらい時間がかかるのだろうか