Alpha Pi

政治その他諸々で言いたいことを好き勝手言う垢。ボカロ原曲厨。"生成AI"規制派。完全通知オフ・ほぼツイート時のみ浮上。表では工学と創作やっています #LegislateAI

[Alpha Pi @alpha31415926]

みんなXが無料のSNSだと思ってるけど、オプトインという最も強いAI学習同意をさせられているって気づいている人がどのくらいいるのか。
嫌だけど、人がいるから仕方なくXに作品を投稿している人もいるんだろうと思う。そういう意味でもXからの移住の推進は喫緊の課題だと思っている。

[さがんち @s_g_nti]

世界中のクリエイターや一般人の知財を許可なく学習に利用して窃盗した結果がこんなAI Slopか。。。悲しくなる。

生成AI自体は否定しないけど、支持できるのはオプトインのモデルだけかな。
最低でもオプトアウト。

[がっぽい大佐 @gappoi_taisa]

「生成AIに規制求める人が表現の自由求めるのはおかしい」みたいなの普通に意味分からんな。
著作物の無断利用やディープフェイクポルノは表現の自由ではないし、表現の自由を求めるならそれらを認めなければならないとはならんでしょ。

[Alpha Pi @alpha31415926]

@ay_novel 「緑じゃなければいい」と思っていても色は決まらないんですよ。そこを青にするか赤にするか、黄色にするかはAIに丸投げってことですよね。

[Alpha Pi @alpha31415926]

実際絵描いてみるとわかるんだけど、完全な脳内イメージが出来上がってるつもりでも、ペンを手にとって描いてみると思った以上に決まっていないところが多くて、そういうところは描きながら作っていくんだよね。
その状態で生成AIに投げちゃうと決まっていないところはAIが勝手に埋めてしまうわけで

[てぃーくのん@管理人 @T_kunon]

擁護派の「生成AIは頭の中のイメージを正確に表現できる道具」発言もまあ頻繁に目にするけど、成果物に脳内イメージが後から引っ張られてる人間が大多数な気はする

[Alpha Pi @alpha31415926]

それって「生成AIの延長線上のすぐ近くにシンギュラリティが存在する、生成AIが2030,40まで今のように劇的な進歩を続ける」という非自明な前提のもとでの話ですよね。「実データの枯渇」「モデル崩壊」みたいな不利な要素を「まあどうにかなるでしょ」で無視した、都合の良い"長期視点"ですよね。

[月ノみんと＠AI・小説・インディーゲーム開発 @MintoTsukino]

長期の視点ないのて反AIじゃないですか？
あらゆるものがAIになっていくこの先の2030年代とかでまだ反AIとかやってる余裕があると想像しているの？
シンギュラリティはもうはじまっているかもしれないのだよ
なんか2040年とか見据えると、すごくなんかビジョンが見えてないというか
反AIが存在する余地なくない？AGI後の世の中で

[Alpha Pi @alpha31415926]

@ay_novel 最終的にあなたがよしとしたかではなく、その部分を決めるのを生成AIにお任せしましたよね？という話をしているのですが...

[Alpha Pi @alpha31415926]

@ay_novel 指示者の意図が"存在しない"部分がたくさんあるよ、って話をしてるんですよね。
例えばあなたのアイコンのような画像をAIに作らせた時、髪のハイライトの位置は指定したものですか？眉毛の形、目の形、顔パーツの配置、どのくらいがプロンプトに表現された"指示者の意図"ですか？という話です

[てぃーくのん@管理人 @T_kunon]

擁護派の「生成AIは頭の中のイメージを正確に表現できる道具」発言もまあ頻繁に目にするけど、成果物に脳内イメージが後から引っ張られてる人間が大多数な気はする

[Alpha Pi @alpha31415926]

「細かい指示」とやらがどんなものか知らないけど、カメラの位置とか腕の方向とかを立体角で指定したりしてるのかな？
顔のパーツ配置とか目の形状を指示するのはかなり難しそうだけど？

[百草丸 @B4xMx]

難しい話。最近はSDXLメインの頃とは違い、画像生成AIが細かい指示にも従うようになり、AIの裁量とか表現の幅をかなり小さくすることも出来る

だから同じプロンプトで「発注」すると、毎回同じようなものを作ってくるし、どんなものを作ってくるか大体分かった状態で投げることになる(だから同じ指示で試行する「ガチャ」も少なくなる)

頭の中で想像したものをAIは形にするだけ。裁量はあっても少なめ。難しい話だけど、こういう状況もあると理解して批判できないと「やっぱり学習禁止なのか」って舐められるよ

[水巻き @XclaTYaT5450243]

生成AIのデータセット問題、『盗みか否か』がよく話題に出ますが、「他人が所有権を持っているものを同意なく自身の財産の一部にし、加工しバラまいて、所有者が持っている財産の本来の価値や評価を大きく減退させる」行為は被害内容を見ると盗み＋αだよなと思いつつ長いので丁度いい言葉がない

[Alpha Pi @alpha31415926]

@XUJCLiGp6419105 ここXも同じ状況だと認識していますが、これらは規約で同意させられているという形で、そういう意味ではXを使用しないという選択肢があるので、無断学習には残念ながら該当しないものと理解しています...

だからこそXからの移住を推進すべきだと、最近ずっと言っているのです
https://t.co/WyhEw2QqUF

[Alpha Pi @alpha31415926]

みんなXが無料のSNSだと思ってるけど、オプトインという最も強いAI学習同意をさせられているって気づいている人がどのくらいいるのか。
嫌だけど、人がいるから仕方なくXに作品を投稿している人もいるんだろうと思う。そういう意味でもXからの移住の推進は喫緊の課題だと思っている。

[Alpha Pi @alpha31415926]

医療系ではデータセットが同意のもと取得されてる場合が多い(インフォームドコンセント)し、わざわざ無断学習という手段を選ばなきゃいけない場合は多くなさそう
「無断学習生成AI」を許すべき状況はあったとしても例外的なものと考えていいんじゃないかと思う

[なゆた @numakame]

正直、「AI」は主語広いけど「AI」と「生成AI」で分けるのもまだ主語広いと思うんだよね

生成AIでも、例えば医療系の患部を強調して表示するような生成AIは良いと思うし

それで行くと「無許諾生成AI」でもまだ主語が広い

いわゆる無断AI学習問題について適切に規定する短い語句が見つからない

[Alpha Pi @alpha31415926]

@numakame そうですね。解析型のAIであれば無断学習を可としても生成AIほどの問題にはならないだろうと私も考えています。
なのでわざわざ「無断学習生成AI」と呼んでいるのですが、確かにそういうフォーカスのされ方をしてしまっても困りますね…

[Alpha Pi @alpha31415926]

図らずも似たような投稿をしてしまったので、こちらも参照。
https://t.co/drh2KuyZOM

[Alpha Pi @alpha31415926]

生成AI推進側の人って、"反AI"に完全勝利して、無断学習生成AIが誰にも批判されることなく跳梁跋扈するようになった後のビジョンとかあるのかな

人の創作物を食っていくことでしか進歩できない生成AIを使ってどう文化とか技術を発展させるつもりなのかな

それとも、そんな長期的な視点がない？

[Alpha Pi @alpha31415926]

どう予測しても良いし、私はその予測に口を挟める立場ではないけど、その「生成AI側が勝った」あとに何があるか、というのは考えてみてほしいなと思う。
学習元に依存した存在である生成AIが、人の価値創造行為に「勝って」しまったとき、何が起こるか、というのを。

[真夜中零時-Vtuber- @mayonaka0H_VT]

賛否は置いておいて、生成AI関連は最終的に生成AI側が勝ちそうとは思う。
多分最終的に完成度が今よりもっともっと上がった時に誰にもわからなくなって既存絵師ごと巻き込んで魔女狩りするみたいな現象に双方疲れるだろうし、なんなら見ただけでわからないなら使ってしまえになるだろうしね・・・。

[Alpha Pi @alpha31415926]

人の創造物を食わないと進歩できない生成AIが、創造をする人を駆逐したら当然進歩の目が失われるけど、どうするの？という話。

AI学習にAI生成物を使うといずれモデル崩壊が起こるというのはずっと言われているし、実データを使う(合成データ)ことなく対策する方法は私の知る限りまだ存在しない。

[Alpha Pi @alpha31415926]

生成AI推進側の人って、"反AI"に完全勝利して、無断学習生成AIが誰にも批判されることなく跳梁跋扈するようになった後のビジョンとかあるのかな

人の創作物を食っていくことでしか進歩できない生成AIを使ってどう文化とか技術を発展させるつもりなのかな

それとも、そんな長期的な視点がない？

[Alpha Pi @alpha31415926]

@prolixa_ これ本当に彼らのよくないところだと思っていて、既存のものを人質にとるような論法を多用するんですよね。
「他の人類のためになっているAI」を盾にする以外にも、「二次創作」や「表現の自由」を盾にすることもあります。いずれも無断学習生成AIとの相違点を無視して強引に同一視したものです。

[Alpha Pi @alpha31415926]

生成AI問題、なんか上っ面だけ広まってしまっているところがあるような気がするのですが、本来問題視されているのは「無断学習生成AI」です。
AIに描いてもらった！というやつはもちろん、フィギュア化もChatGPTも全部無断学習生成AIなので、一貫した姿勢としてはこれら全部×であるべきなんですよね。

[アマザケ @amazake1209]

絵師の人のAIのOKアウトのラインがわからへん
生成AIは勿論として、個人的には絵食わせてどうのこうのが好きじゃないから前流行ってた絵をフィギュアにするやつとか、今流行ってるタップで絵が変わるみたいなやつもあんま明るくないんやけど、絵師の人でその辺ノリノリでやってる人が多くてわからん

[Alpha Pi @alpha31415926]

https://t.co/p3baXmOM8h

[Alpha Pi @alpha31415926]

案の定またXが改悪されたわけですが。

「人がいるから」以外にXに居続ける理由ってある？ないのに居続けるのははっきり言って愚かだ。お前がいることも他の人が居続ける理由になっているのだから。集まるのは他の場所でもできる。

今すぐBlueskyに垢を作れ。フォロワーに告知しろ。

[Alpha Pi @alpha31415926]

みんなXが無料のSNSだと思ってるけど、オプトインという最も強いAI学習同意をさせられているって気づいている人がどのくらいいるのか。
嫌だけど、人がいるから仕方なくXに作品を投稿している人もいるんだろうと思う。そういう意味でもXからの移住の推進は喫緊の課題だと思っている。

[さがんち @s_g_nti]

世界中のクリエイターや一般人の知財を許可なく学習に利用して窃盗した結果がこんなAI Slopか。。。悲しくなる。

生成AI自体は否定しないけど、支持できるのはオプトインのモデルだけかな。
最低でもオプトアウト。

[Alpha Pi @alpha31415926]

Xでの投稿は長文になりがちなうえ、とっちらかってしまうので、noteにまとめていこうと思い始めました。
Alpha Piの自己紹介記事｜Alpha Pi @alpha31415926 #はじめてのnote https://t.co/UqAfRaV4Pl

[スカイフィッシュ @kasunoshisouka]

@94zCTfAswUhq5AS @alpha31415926 いや、普通に衰退するでしょうね
「対価」と「承認」が現代の芸術の根底にあるのは人文学的に言っても揺るぎない事実です
まさかそれをいけないことだなんて浅はかなことは言わないですよね？

[Alpha Pi @alpha31415926]

https://t.co/jWItQWwRee

[Alpha Pi @alpha31415926]

「人間の学習と生成AIの機械学習は違う」という話。
色々な違いが挙げられているけど、実はその必要すらないのではなかろうか？
それはつまり、人間社会は人間中心に回っているのであって、人間が特別扱いされるのは至極当然なことである、ということだ。

[Alpha Pi @alpha31415926]

あーーーもう、人間の学習と生成AIの機械学習を同一視して語る奴のなんと多いことか！
「学習」という呼称以外にどこが同じなのだ。生成AIの機械学習というのは「特徴の再現のためにデータを複製してモデル構築の統計処理にぶちこむこと」であって、人間の学習とは法的な扱いすら異なる。

[Alpha Pi @alpha31415926]

とはいえ、人間の学習とAIの機械学習の違いを示すことが無意味だとは思わない。議論の道筋という意味ではそっちの方が「先」なので。

[Alpha Pi @alpha31415926]

「人間の学習と生成AIの機械学習は違う」という話。
色々な違いが挙げられているけど、実はその必要すらないのではなかろうか？
それはつまり、人間社会は人間中心に回っているのであって、人間が特別扱いされるのは至極当然なことである、ということだ。

[Alpha Pi @alpha31415926]

少し補足。ここでの人間とは、人間社会の成員、という定義が最も適切だろう。ただ現代社会においてはその定義は「存命のホモサピエンス」とほぼ完全に一致する。それ以外のものを人間社会の一員として認めることがあれば、大いなる議論と検討が必要になるだろう。