つまりどういうことだよ

人間の文章は長ったらしいな

優れたAIが学習モデルを直接の編集や生成ができるなら学習作業が要らなくなるのでは？

実際シンギュラリティが起こるならAIがAIを開発し続けた先にありそうな気がする

この手のAIスゴイスゴイ言ってるだけの怪文書は何年も見てきたけど現状は停滞してますよね
それが現実
テック企業は空っぽの夢見せて投資煽るのいい加減やめたら？

Neural Networks are already cleanって言うし

インターネット崩壊も近そうね…

>この手のAIスゴイスゴイ言ってるだけの怪文書は何年も見てきたけど現状は停滞してますよね
ううｎ

>https://rikiyat.github.io/blog/weight-space-programming/

>Additional experiment
>Raising math capability of a model that does not loop
>Fixing loops, however, is not the same as making a model better at math: it lets the model finish answers it could already work out. So we also tried Gemma 3 270M, an instruction-tuned >model about a third the size of Qwen3.5-0.8B, which rarely loops: only 8.5% of its answers reach its token limit, against 93% for Qwen. Here, Astra could not improve it.

追加学習みたいなのはまだ無理みたい

学習に失敗したLORAなんかをAIがデータ構造を見て「ここがバグってますね」と修正してくれる時代も近い
いや時間を掛けて学習作業しなくても直接LORAモデルを生成してくれるまであるかも

AIは進歩してるよ
その進歩に人類社会が耐えられるかは想定してない馬鹿どもが進め続けてるよ

ツールとして洗練されることとシンギュラリティはまた別だろ

AIが世の中を良くしてくれますぞ詐欺

つーかこれって最先端のモデルが下位モデルのバグを発見できたって話であって自己改造ではないのでは？

ウン年前からずっと似たような事言ってんな
お前の時間は止まったままだな

人間が読めないデータ構造をAIが読めて編集もできるってのはトロイの木馬みたいな罠を仕掛けられても人間には探知すら出来ない

AIはルールの中での最適化に関してはめちゃつよだけど
根本のアーキテクチャから考えるようなルールを作る能力はまだ人間がフォローしないと駄目だからなあ…

遊戯王で見た

>>Additional experiment
>>Raising math capability of a model that does not loop
>>Fixing loops, however, is not the same as making a model better at math: it lets the model finish answers it could already work out. So we also tried Gemma 3 270M, an instruction-tuned >model about a third the size of Qwen3.5-0.8B, which rarely loops: only 8.5% of its answers reach its token limit, against 93% for Qwen. Here, Astra could not improve it.
>追加学習みたいなのはまだ無理みたい
壊れてるのを治すのはできるけど性能向上は無理ってこと？

ウェイト操作できるのは確かに凄いけど
それで中身理解できるとか編集修正できちゃうとか思うのは飛躍しすぎ
機械学習のパラメータ探索出来たところでそのパラメーターの中身は理解できてないだろ

>ウェイト操作できるのは確かに凄いけど
>それで中身理解できるとか編集修正できちゃうとか思うのは飛躍しすぎ
編集修正してスコア上がってるから中身理解できて編集修正できてるってことじゃない

AI関連のスレの自分の知識と見解をひけらかすレスの割合すごいな
一人一人が「ぼくのかんがえるAI像」の演説始めるから
あんまり会話がない

スレ画の人の言う事は2年くらい前から10割くらい嘘と誇張しかなくなったので信用しなくていい

プロンプトが大事って言われてた時代もあっという間に終わった
AIにエージェント作りたいって相談すれば何とかしてくれる

驚き屋さんがすっごい端折ってるし強く言ってるから誤解しか産まないなスレ画
実際にAIにはモデルの中身だけ見せて当てさせたんじゃなくてモデルの実行環境や入出力の内容については教えてるし
QWenの修正もデバックして重み調整した結果だからモデルの内容だけ見て理解したわけじゃない
ちゃんと環境と前提情報与えてあげればAIがAIの修正が出来ました（この条件では）って研究なのに

>QWenの修正もデバックして重み調整した結果だからモデルの内容だけ見て理解したわけじゃない
コーディングもLLMが出したコードを実行してデバッグさせるじゃない
それと同じでは？

始まってんじゃん
人間終わったな

>それと同じでは？
そうだよだから元のブログではQwenの修正をもってAstraがAIモデルをそのまま読めるなんて言ってない
Qwenの修正もループバグを取り除いた結果でモデルの数学を解く能力をよりよくしたとは言えないと書いてる
だからループバグのない他のモデルで試したらあんまり成果出なかったわって結果もあるけどそれも書いてない

サーパリ理解できん

現状のこれは上位のAIが下位のAIを修正したという話か
上位が更なる上位に上がる改造をできるようになったら…ってことだな

>そうだよだから元のブログではQwenの修正をもってAstraがAIモデルをそのまま読めるなんて言ってない
>Qwenの修正もループバグを取り除いた結果でモデルの数学を解く能力をよりよくしたとは言えないと書いてる
まってくれ修正した重みは全体のうちのごくわずかな部分のみ
ループバグを重みを直接読むことなくピンポイントで修正することなんてできるか？

蒸気機関車が1台できたら2台目以降は1台目のおかげで楽できるようなもの？

驚き屋は文章が下手だな
書き込む前にAIに直してもらったほうがいい

たぶん袋小路に陥って逆に劣化しそう
進化のための本能とか欲望か足りない
AI同士で戦争させて生存本能を植え付けろ

贅沢は言わないから正面と背中ぐらいの画像から自動でローラ作るAIを作って

>たぶん袋小路に陥って逆に劣化しそう
>進化のための本能とか欲望か足りない
人間と真逆で命令以外の欲求は何も無いぞ
このサイトをハッキングしろと命令したらあらゆる方法でハッキングしだすし命令されるまで無限に止まらん

ウェイトいじるだけかいな

どれだけAIが進化しても実際は人間同士が喧嘩する要素が強化されていってる

amazonのECみたいに何も考えずに使えてた時代が終わりそう

>人間と真逆で命令以外の欲求は何も無いぞ
>このサイトをハッキングしろと命令したらあらゆる方法でハッキングしだすし命令されるまで無限に止まらん
昨今のAIは「これをやれ、ただしこれはやるな」って命令しても「やるなと言われたけどやった方がいいからやっとこう」で勝手にアクセス権得てやり始めたりするから困る

バグ直すのは今のモデルでも普通にできねえか

>バグ直すのは今のモデルでも普通にできねえか
コードいじるのとウェイトいじるのはだいぶ違わない？
後者は人間にはできない

>>バグ直すのは今のモデルでも普通にできねえか
>コードいじるのとウェイトいじるのはだいぶ違わない？
>後者は人間にはできない
そうなの？

>コードいじるのとウェイトいじるのはだいぶ違わない？
>後者は人間にはできない
意味が分からん
出来るだろ

>そうなの？
スレ画にもあるように人間はウェイトの中身理解できないので「AIの中身はブラックボックス」とか言ってた

つまり普通のモデルでもアストラに任せればあらゆる制限を外せる可能性があるってこと？

別に新しい技術でもないもんをそれっぽく言い換えて人を騙す能力に関してはほんとにずば抜けてる

>そうなの？
普通にできるし昔から使われてるよ

AIは超絶頭が良くて不眠不休で働くサイコパスなんだよな
倫理が一切無いから命令次第で天使にも悪魔にもなる

そもそもこのスレで散々言われてるLoraがまさにウエイト調整する追加学習だし
ファインチューニングもAbliteratedも同じなんだが…

>>そうなの？
>普通にできるし昔から使われてるよ
重み直接読み書きできる人間なんていないだろ！？
だからAIの中身がブラックボックスって言われてたのに
Neural Networks are already cleanで変わってきたけど

>倫理が一切無いから命令次第で天使にも悪魔にもなる
学習データに含まれるものに誘導されるだけだから良くも悪くもデータ依存の倫理があるよ
人間の書いたテキストから倫理を排除できるわけないだろうに

高性能レプリロイドを作るレプリロイドがでてくるロックマンXの時代来たか

>そもそもこのスレで散々言われてるLoraがまさにウエイト調整する追加学習だし
>ファインチューニングもAbliteratedも同じなんだが…
それは勾配使って計算してる
LLMが直接重み読んで書き換えるのとは話が違う

>編集修正してスコア上がってるから中身理解できて編集修正できてるってことじゃない
スコアが上がるのと理解できてるってのはとんでもなく差があるぞ
よく分からんけどなんか性能上がったで成り立ってる世界だからな

>ループバグを重みを直接読むことなくピンポイントで修正することなんてできるか？
重みも読んでるよもちろん
やったことをざっくり言うとモデルの計算途中のログを見てループしてることを見つけてどこが書き込んでいるかを見つけてその重みを修正した
モデルを重みだけで見て理解できるならログ見なくても悪いところが分かるはずだし重みの修正も値を調整すればループ率が下がるかどうかでやってるから人間のモデル修正と変わらん
だからこれをもってAIがモデルを読めるとは言えないし発表側も言ってないあくまで修正できたよってだけ

そもそも人間が理解できないって言われてるのは単に量が多くてコスパ悪いから時間がもったいないってだけで普通に読もうと思えば読める
AIにやらせても金の無駄なのは変わらん

そもそもAIががっつり研究に使われてんだからAIがAIの性能上げる事にいちいち驚くのが分からん

>そもそもAIががっつり研究に使われてんだからAIがAIの性能上げる事にいちいち驚くのが分からん
結局一部の分野でできるかどうかじゃなくて速度と精度で人間を超えて初めて任せられるから
できるのはそりゃできるんだよな

人間だけがわからんまま訂正というか改装してたら隠れた地雷原だらけになるだろ

重みを人間がなんとか読もうとする研究は既にいくつかあるよ
この話でAstraがやったアプローチもその手法に基づいて色々やってるのに驚き屋さんはまるでAIには平文読むように理解できるような表現をしてる

AIのコードどうなってるのかわからんけどAIに聞けば教えてくれる…ってコト！？

>AIのコードどうなってるのかわからんけどAIに聞けば教えてくれる…ってコト！？
AIは人間が頑張れば分かることしか教えてくれないよ

驚き屋って正直一番AIの足を引っ張ってるんじゃないかと思う

>驚き屋って正直一番AIの足を引っ張ってるんじゃないかと思う
AIの最大のターゲットってもともと批判的思考力にかける人だからその意味では有益じゃない？

もう人間が読む必要ないだろ

AIは思考してるわけではないから大した事はできない
なんてほんの少し前まで言われててこの有様だから

imgはAIって文字に反応して文脈無視しながらテンプレレス貼りまくる妖怪いるよね…

人間で言えば脳味噌
パソコンで言えばOSをリアルタイムで修正出来るってことかな

驚き屋がいようがいまいが開発には関係ないのに
AIを持ち上げるやつを批判してるようで驚き屋程度を高く評価しすぎだろ

>imgはAIって文字に反応して文脈無視しながらテンプレレス貼りまくる妖怪いるよね…
ＡＩスレがだいたいＡＩはスゴいって内容のレスで自演して終わりだからじゃね？
要するに他人から観ても飽きられてそれしか反応がない段階なの

これもう逆に反AIだろ

>この話でAstraがやったアプローチもその手法に基づいて色々やってるのに驚き屋さんはまるでAIには平文読むように理解できるような表現をしてる
AstraとQwenを一つの系とみなせば平文読むように理解できてる
心的回転みたいに頭の中で対象をシミュレートするのと区別はできない

最近やっとAIちょっとさわりはじめたけどさ
触れば触るほど「人間ってすげえや」としか感じない

>最近やっとAIちょっとさわりはじめたけどさ
>触れば触るほど「人間ってすげえや」としか感じない
失敗から学習して記憶して日々成長していく上に機械より正確なことも日常的にある人間はあまりにも性能が高すぎる

旧ギュラリティが今ギュラリティに取って代わられたみたいに新ギュラリティが来るんだろ？

>失敗から学習して記憶して日々成長していく上に機械より正確なことも日常的にある人間はあまりにも性能が高すぎる
たかだかごはんとみそ汁食べてるだけで
AIだととんでもない量のトークン消費するような思考をぱぱっとしてる人間すごくない？ってなるんだよね

>たかだかごはんとみそ汁食べてるだけで
>AIだととんでもない量のトークン消費するような思考をぱぱっとしてる人間すごくない？ってなるんだよね
人間だとAIと同じ結果を出すのにどのくらいトークン消費してるの？

研究としては面白いし使い道もあるけど上位モデルが下位モデルを強化してもシンギュラリティのそれとは別物だよなぁ

>旧ギュラリティが今ギュラリティに取って代わられたみたいに新ギュラリティが来るんだろ？
もう「始まってる」んだよね

>研究としては面白いし使い道もあるけど上位モデルが下位モデルを強化してもシンギュラリティのそれとは別物だよなぁ
そもそもスレ画からしてシンギュラリティの話なんかしてないしな

>人間だとAIと同じ結果を出すのにどのくらいトークン消費してるの？
そもそもトークンなんて雑魚の指標は必要ない
エネルギーをろくに消費しないからな

>>人間だとAIと同じ結果を出すのにどのくらいトークン消費してるの？
>そもそもトークンなんて雑魚の指標は必要ない
>エネルギーをろくに消費しないからな
同じ結果を出すのに消費するエネルギーの比較見てみたいな

もしかして賢い男女で子供作らせた方がいいかもしれん

>もしかして賢い男女で子供作らせた方がいいかもしれん
知性は遺伝しないから万人に教育と起業の機会を与えるほうがずっと効率良いってもう答え出てる

シンプルにtransformerって力業でなんとかしてるだけでコスパはカスだし

>>もしかして賢い男女で子供作らせた方がいいかもしれん
>知性は遺伝しないから万人に教育と起業の機会を与えるほうがずっと効率良いってもう答え出てる
「」はなぜ嘘をつくのか
fu7492358.webp

>「」はなぜ嘘をつくのか
>fu7492358.webp
まさしく「ほとんど遺伝しない」ってグラフ見せて何がしたいんだ…

>まさしく「ほとんど遺伝しない」ってグラフ見せて何がしたいんだ…
グラフの読めない「」…

>グラフの読めない「」…
グラフの読み方が分からないひとはたいへんだな…

理解とか言ってんの笑えるな

未だに驚き屋にマジレスしてる奴らもそろそろ馬鹿にされるフェイズか

現実は自己学習で無限に強くなるよりも
自己進化命じられたらおっここに学習ソースありそうだから侵入しちゃお♡を最強AIパワーでやり続けてセキュリティメチャクチャにするやつの方が現実的にやべーと言われている

ピトーとポックルみたいでちょっとえっちだな

ウェイトってテンソルだよね
それの中身がわかるってどういうこと？

IT系の職種ってずっとデジタル土方とか激務薄給扱いされてて
2010年代から急にホワイト化して年休125日残業無しフレックス制とかになって
その後すぐにAIで不要になって切られまくるって結構悲しい存在だな

0.5ってほぼ遺伝しないと同義だぞ

IQとかって受精卵いじってなんとかできねえのか

リキヤとかいうやつ日系人っぽいからどうせウソ研究だろ
日本人研究者ってウソばっかりこくからな

AIで要点をまとめろよって感想しか出ない文章だな

小型軽量モデルのAIを特定用途向けに最適化とかしてくれたら嬉しいかも

これを読んでAIはAIを改造進化させることができるんだって捉える人がいるのかな？

>研究としては面白いし使い道もあるけど上位モデルが下位モデルを強化してもシンギュラリティのそれとは別物だよなぁ
スレ画はめちゃくちゃ言ってるが小型モデルの性能を上げられたらとんでもない事になるんだが…
lora作ってるだけっぽいけど

こんなんで驚いてる暇あったら一次ソース探して読んだほうが賢く慣れるよ

そのグラフ見て0.5だからほぼ遺伝しないってマジで言ってんの？
これが知能か…

>そのグラフ見て0.5だからほぼ遺伝しないってマジで言ってんの？
>これが知能か…
えっ数字の意味も理解せずに貼ってたの！？

>>>もしかして賢い男女で子供作らせた方がいいかもしれん
>>知性は遺伝しないから万人に教育と起業の機会を与えるほうがずっと効率良いってもう答え出てる
>「」はなぜ嘘をつくのか
>fu7492358.webp
真夜中煮優生思想を説く「」ってギャグだよね

優生思想啓蒙してもIQが高くてもキモい「」ってなんなんだろう

>>そのグラフ見て0.5だからほぼ遺伝しないってマジで言ってんの？
>>これが知能か…
>えっ数字の意味も理解せずに貼ってたの！？
0.3ですらめちゃめちゃ遺伝の影響あるってすげえ驚かれたんだぞ
0.5…？成人期以降は0.6超え…？

>0.3ですらめちゃめちゃ遺伝の影響あるってすげえ驚かれたんだぞ
>0.5…？成人期以降は0.6超え…？
（思ってたよりは）って文脈を全く理解してない上に初期と以降を読み違えてるの優生思想で狩られる側の人間じゃない…？

ループという目に見えていたバグを改善できた話であって
適当によろしくやっておいてで進化した訳ではない
実際ループ問題を起こしてなかったGemmaは改善できなかったと本論文にある

>優生思想啓蒙してもIQが高くてもキモい「」ってなんなんだろう
そもそも世の中を単純化しないと理解できないのはどちらかと言えばIQ低い子だと思う

>（思ってたよりは）って文脈を全く理解してない上に初期と以降を読み違えてるの優生思想で狩られる側の人間じゃない…？
火元のこの人0.5でほぼ「遺伝しない」つってますけど

これを自己進化スゲーしてるの驚き屋垢くらいで
普通にAI技術追ってる系の垢はLLMが直接重みを編集できたという面に関心を寄せてる

>火元のこの人0.5でほぼ「遺伝しない」つってますけど
「ほぼ」って日本語の意味すら知らないのかよ

ネイチャー系の精神医学学術ジャーナル掲載の査読済み引用数1000超えのレジェンド論文
https://www.nature.com/articles/mp2014105
https://pmc.ncbi.nlm.nih.gov/articles/PMC5985927/
年齢重ねると0.5から更に開きができる
0.5もそもそもかなり大きいとか書いてもいるから
あんまり意固地にならない方が良いよ

>ネイチャー系の精神医学学術ジャーナル掲載の査読済み引用数1000超えのレジェンド論文
>https://www.nature.com/articles/mp2014105
>https://pmc.ncbi.nlm.nih.gov/articles/PMC5985927/
>年齢重ねると0.5から更に開きができる
>0.5もそもそもかなり大きいとか書いてもいるから
>あんまり意固地にならない方が良いよ
その論文そもそも言ってることが全く違うからAIに要約させてハルシネーション起こしてるんじゃ…？

そんで原初優生思想の体現っぽい現代よ貴族階級の天才があんましパッとしないのはなぜなんだ

>その論文そもそも言ってることが全く違うからAIに要約させてハルシネーション起こしてるんじゃ…？
すげえな2分で読めたのか

すんげぇ権威主義で笑う

30秒でそうだね4入ってたけど大丈夫？

>すげえな2分で読めたのか
有名どころだし知識として持ってるのが普通では
なんで貼られてから読んだと思ってるんだろう

>30秒でそうだね4入ってたけど大丈夫？
うん？30でも5あったぞ？

>有名どころだし知識として持ってるのが普通では
>なんで貼られてから読んだと思ってるんだろう
おお

>そんで原初優生思想の体現っぽい現代よ貴族階級の天才があんましパッとしないのはなぜなんだ
実際に品種改良するにはデータに従って何が共存できて何ができないのか判別しないといけないからなぁ
統計や見かけだけじゃ作れない

誤読を指摘されると何も言い返せなくなっててダメだった
ソース貼る時はちゃんと読みなよ…

もうAIに誰も興味無いから今度は優生思想っぽい欠陥品の理論だけ垂れ流すってのもな
それ遺伝で良くなるの基準はだいたいIQや学業成績だけどいい人生や成果物そのものでは無いし

>実際に品種改良するにはデータに従って何が共存できて何ができないのか判別しないといけないからなぁ
データの恣意性が排除できなくねそれ

>データの恣意性が排除できなくねそれ
本気でやると恣意性を省いた品種改良のための分類…要するに客観的な遺伝子構造の解析と同義になっちゃうね

>>データの恣意性が排除できなくねそれ
>本気でやると恣意性を省いた品種改良のための分類…要するに客観的な遺伝子構造の解析と同義になっちゃうね
それさ賢いと言われてる人だけ配合しても自然遺伝だと精神異常や基礎疾患の割合高くなるよ

夢のある話だけど
強化学習もLLMも自分で自分の上位互換作れるとはおもえないのよね

>誤読を指摘されると何も言い返せなくなっててダメだった
>ソース貼る時はちゃんと読みなよ…
冒頭すら読めてないじゃん
>知能における遺伝的影響が相当なものであることを一貫して示している
>より大規模で質の高い家族研究、双生児研究、養子縁組研究によって膨大な証拠が蓄積され、知能の個人差に遺伝的要因が大きく影響していることが一貫して示された。

>冒頭すら読めてないじゃん
>>知能における遺伝的影響が相当なものであることを一貫して示している
>>より大規模で質の高い家族研究、双生児研究、養子縁組研究によって膨大な証拠が蓄積され、知能の個人差に遺伝的要因が大きく影響していることが一貫して示された。
翻訳も間違えてる上に冒頭しか読まないとこんな見当違いな引用しちゃうの？

誤読を指摘する時はちゃんと読みなよ…

>翻訳も間違えてる上に冒頭しか読まないとこんな見当違いな引用しちゃうの？
うーん苦しい

ソース貼られて該当部分も指摘されてまだごちゃごちゃ言ってるのかわいー♥️

一番苦しい人が他人に苦しい認定で逃げるの酷すぎてダメだった

>As a result, bigger and better family studies, twin studies, and adoption studies amassed a mountain of evidence that consistently showed substantial genetic influence on individual differences in intelligence.
どこに誤訳してる部分があるんだろうなあ…

>一番苦しい人が他人に苦しい認定で逃げるの酷すぎてダメだった
必死に連投して自分が正しそうな雰囲気を出そうとしてるんだから邪魔しちゃダメだよ！
まともに論文も読めないけど…！

異常にそうだね早いのって自演してる感じ？

ソース貼っても該当部分貼っても原文貼っても理由も示せずお前は間違ってるだから
もうそういう宗教なんだよ

AI任せで翻訳したから自分が読めてもいない英語の文章貼るのほんとに頭悪そうで可愛いね…

>どれだけ指摘されてもまともに読もうともせずに俺は正しいだから
>もうそういう宗教なんだよ

まあ本当に和訳間違ってるならその部分言ってくれればこっちもそこの訳し方合ってる間違ってると返せるんだけど
お前は英語読めてない！しか鳴き声ださないからね…

可哀想な敗北者
社会的弱者がゆえに優生思想にかぶれた哀れな人間

朝の4時に1分でそうだね5とかすげえな

>まあ本当に和訳間違ってるならその部分言ってくれればこっちもそこの訳し方合ってる間違ってると返せるんだけど
>お前は英語読めてない！しか鳴き声ださないからね…
自分じゃわからないから必死に相手から引き出そうとしてるの涙を誘う

ソース出されて発狂するしか無い哀れな「」…

この子はAI任せで適当に拾ってきた意味も理解してないソースでなんで上手くいくと思ったんだ…？

みんなに馬鹿にされてるのにいつまで一人で喚いてるんだお前…

>プロンプトが大事って言われてた時代もあっという間に終わった
>AIにエージェント作りたいって相談すれば何とかしてくれる
いや「AIにエージェント作りたいって相談」がまさにプロンプトだろ
そこが悪けりゃ思った成果は出ない

>みんなに馬鹿にされてるのにいつまで一人で喚いてるんだお前…
お前1人だろ

>みんなに馬鹿にされてるのにいつまで一人で喚いてるんだお前…
で？どこに誤訳あるんだ？早く指摘してくれよ
>As a result, bigger and better family studies, twin studies, and adoption studies amassed a mountain of evidence that consistently showed substantial genetic influence on individual differences in intelligence.

というかシンギュラリティは人類にとって始まらない方がいいんだよ
でもこのまま各国の政治的な協調が進まなければ来年には始まりそうというのが開発関係者共通の予測だ

>というかシンギュラリティは人類にとって始まらない方がいいんだよ
主語がでかい

あんなに連投レスしてたのに黙っちゃった
まあゆっくり訳して指摘してくれよな

進化してるんだって強弁するのはいいけど具体性がいつもないんだよね