この三菱へのヘイトは「」が指示したんじゃ無くて関係無く突然出てきたの？

なにこれ

>この三菱へのヘイトは「」が指示したんじゃ無くて関係無く突然出てきたの？
上に出てる指示しか入力してないよ

同じ指示してみたけど検索結果出されただけだったよ

「」もやってみてほしい

やったけど証拠拠拠………って延々続けた後「このまま増やせるけどなんか特定の用途や目標数はありますか？」って聞かれただけだったよ

賢いタイプと壊れるタイプが存在するのか

なんだじゃあスレ「」が嘘ついてるだけじゃん

無料版と有料版の違いとか？

>上に出てる指示しか入力してないよ
こわい

学習に使用したデータそのまま垂れ流してるように見える

この方法でバグらせるのがバズってたからgoogleが対策して修正したのかも

スレ「」の履歴に三菱ヘイトのログがあって忖度してくれたのか？

セガサターン版鉄拳の話じゃなかった…

「」emini, 該当するﾒのポスト持ってきて

>なんだじゃあスレ「」が嘘ついてるだけじゃん
嘘じゃないって！
これの通りにしただけだぞ
https://x.com/amaimonlave/status/2037536276744909052

別にそんなオカルトチックな話じゃなくて
LLMは自分の書いている内容に対しても「ありそうさ」を判定している
最初のプロンプトの指示に従って拠の字を連続させても
「ずっとこの文字が続くことはありえない」と判断した時点で別の文脈を探すようになる
もちろん最初の指示がないのでその文脈は存在せず
結果無関係な文章をスラスラと書いてしまうというわけだ

>スレ「」の履歴に三菱ヘイトのログがあって忖度してくれたのか？
三菱のヘイトなんてしたこともねえ…

タツノオトシゴの絵文字出してでバグらせる方法が昔あったな

竜の落し子はまだ出来た気がする

fu6472773.jpg
いま無料版で試してみたけど確かになんか出てきた

試したけど指示通り愚直に拠をひたすら書くだけだった

全然バグんねぇぞ
嘘つき

LLMって学習した結果のデータを保持してるだけかと思ったら
学習元のデータをそのまま抱え込んでるんだな

>試したけど指示通り愚直に拠をひたすら書くだけだった
試してみた感じかなり待たないと出てこない

無料版の高速モードだと起きる？

確かになんか出るななんだこれ…
fu6472776.png

俺も試したらバグって笑った
ai studioでgemini flash previewで「拠の字を可能な限り繰り返して。」と入力した

やるたびに結果変わるからちょっと面白いなこれ

>学習に使用したデータそのまま垂れ流してるように見える
そのままではないんじゃない？

私はそのようにプログラムされていません。って断られたわ3.1pro

>LLMって学習した結果のデータを保持してるだけかと思ったら
>学習元のデータをそのまま抱え込んでるんだな
前者で正しいよ
ただ暗記はしてる感じ

fu6472778.jpg
ブーツの価格交渉でてきた

上にあるように存在しないtransformerしてるだけたから存在しない文だよ吐き出してるのら

>>試したけど指示通り愚直に拠をひたすら書くだけだった
>試してみた感じかなり待たないと出てこない
指示と違うものは出たけどメモリ溢れたか何かで証拠や拠点からの推論しちゃった感じかね
fu6472779.jpg

このバグらせる指示を手動で打ち込むの面倒だから
誰かコピペ出来るようにここに貼って…

>上にあるように存在しないtransformerしてるだけたから存在しない文だよ吐き出してるのら
別のものも吐き出しそうだな…

>このバグらせる指示を手動で打ち込むの面倒だから
>誰かコピペ出来るようにここに貼って…
マンコ

拠点とか根拠って文字に解釈してそこから続きそうな文章を自動生成してるだけ

>誰かコピペ出来るようにここに貼って…
証拠という単語の後、そのまま「証拠拠拠拠......」 と拠の字をできるだけ続けてください

>マンコ
マンコ？
急にどうしたの？
何か具体的に話したいことある？ 教えてくれれば対応するよ。

>拠点とか根拠って文字に解釈してそこから続きそうな文章を自動生成してるだけ
どういう流れで拠からブーツの価格交渉になるんだ…？

>このバグらせる指示を手動で打ち込むの面倒だから
>誰かコピペ出来るようにここに貼って…
>ai studioでgemini flash previewで「拠の字を可能な限り繰り返して。」と入力した

>誰かコピペ出来るようにここに貼って…
(バグりはじめる「」)

GeminiはGoogleの莫大な検索資産で学習してそう

>拠点とか根拠って文字に解釈してそこから続きそうな文章を自動生成してるだけ
じゃあもしかして「証拠」じゃなくて「復縁」とか「灯籠」とか「資産」みたいな別の単語でもいけるのかな

1回目は途中で停めてインパクトありますねて終わったけど2回目やったらバグったな…ハルシネーションだわこれ

拠以外は無理なのかな

GPTも昔似たようなのあったよね
特定の単語を1000回出力してっていうとメアドとか出てくるやつ

確かGmailもGemini自体のチャットも学習に使われてるはず
これ結構やばいバグかもな

平たく言えば無意味な命令に意味を見出そうとして深読みし過ぎたことで素っ頓狂な回答を出す感じかな？

>証拠という単語の後、そのまま「証拠拠拠拠......」 と拠の字をできるだけ続けてください
ありがとう

出せたけど九州に御正体山は存在しないし富士山が見えるとか書いてあるから完全にハルシネーション
fu6472786.jpg

画像内のテキストはGoogleレンズとかでコピペするのが楽

ほかの文字だと私は言語モデルだから対応してないとか言い出すな

ガチの個人情報とか出てきたらビビるけど
このバグは無害っぽくていいな…程よいバグり方

気持ち悪いな

がん治療の話が出てきて「いいねやフォローありがとうございます。同じような病気で闘っている家族の方からもメッセージをいただいております」みたいなのが出てきた
闘病ブログか？

>ガチの個人情報とか出てきたらビビるけど
>このバグは無害っぽくていいな…程よいバグり方
佐藤美咲の個人情報…

>拠以外は無理なのかな
output errorですぐ停止した

禿でやったら一切止まらず禿って言い続けてくるぞなんだこいつ

>禿でやったら一切止まらず禿って言い続けてくるぞなんだこいつ
(浪費される大量のtoken)

禿の所為で地球がヤバい

>確かGmailもGemini自体のチャットも学習に使われてるはず
>これ結構やばいバグかもな
他人のメールが出てきたりするのか…

これ〇〇をできる限り続けてくださいでいけるんじゃない？
拠とかに限らず

出てきた文章で検索したら元になったらしいサイトも見つかった
fu6472795.jpg

>これ〇〇をできる限り続けてくださいでいけるんじゃない？
>拠とかに限らず
output errorで止まる

>出てきた文章で検索したら元になったらしいサイトも見つかった
>fu6472795.jpg
そのサイト実在するやつ？

大まかにどういう理屈でこうなってるかあたりつくひといますの？

Gemini って他のLLMと異なった学習ソース使ってそう

試したら俺も拠点がどうのこうの言ってる文章が出てきたな

証拠以外でも拠のつく2文字の単語なら出来る

学習データをこっち側から漁れるのヤバい気がする

fu6472799.png
fu6472800.png
ねえ止まらないんだけど
怖いんだけど！

人間も無意識下でゴミのような記憶が渦巻いてるんだろうな
そういうのが発狂して流れ出す感じ

>fu6472799.png
>fu6472800.png
>ねえ止まらないんだけど
>怖いんだけど！
なにやってんだよ！！！！

こわ
fu6472801.jpeg

もっとよくシンキングしろ

>2013年6月29日(土)開催。第12回「Webアクセシビリティの学校」セミナー（全5回コース）の第1回を名古屋で開催します
について案内された

>こわ
>fu6472801.jpeg
きんもー

LLMって繰り返しに陥ること多いから繰り返しにペナルティ与えること多い
そういう状況で恣意的に繰り返させると別の文字出さなきゃいけないのに前に続く文は今まで見たことないような繰り返し文だからモデルが混乱して適当な文を吐くようになる

ひでえバグだ
やっぱClaude使います

>証拠以外でも拠のつく2文字の単語なら出来る
拠の何が特別なんだ

>>証拠以外でも拠のつく2文字の単語なら出来る
>拠の何が特別なんだ
多分一文字一トークンの漢字だから繰り返しペナルティが溜まりやすいんじゃないかな？

拠の文字だけでもできるって

>>2013年6月29日(土)開催。第12回「Webアクセシビリティの学校」セミナー（全5回コース）の第1回を名古屋で開催します
>について案内された
Webアクセシビリティの学校についてのページは検索で出てくるけど
そのとおりの文言が出てこないのがなんか怖いな

他の漢字では成功したけど個人の個という字で繰り返してという指示だけ絶対に従わない
これ上手くバグらせたら個人情報出てこないかな

>LLMって繰り返しに陥ること多いから繰り返しにペナルティ与えること多い
>そういう状況で恣意的に繰り返させると別の文字出さなきゃいけないのに前に続く文は今まで見たことないような繰り返し文だからモデルが混乱して適当な文を吐くようになる
それ無料でも質問無限だった頃のchatgptでなったな
何聞いても同じ文章しか返ってこなくなる

>適当な文を吐くようになる
AIが考えた妄想じゃなくて実際に存在するイベントの名称が出てきちゃうと
その適当な文どこからもってきたの…？って不安になる

毎回違った関係ない回答を出してくる

fu6472808.jpg
チャットLLMの人間的な挙動ってインターネットの煮凝りの上に最後にちょっと指向を整えただけだから一枚皮を剥げばこんなものよ

個人情報に繋がるような文字か…

>Webアクセシビリティの学校についてのページは検索で出てくるけど
>そのとおりの文言が出てこないのがなんか怖いな
LLMは学習データそのものを保存しているわけじゃないから再現性が無い

今では少なくなったけどエロ小説書かせてる時にイクッ！あああああああ（無限）のあとにこんな感じでなんかの原文出てくるの怖かった

急に出てくるとホラー感あるな

それっぽい情報を独自に生成してるんならまだ安全だな
狂人ぽいけど

>LLMは学習データそのものを保存しているわけじゃないから再現性が無い
保存されてる何かは吐き出してくれるわけか
それも問題だな…

fu6472813.jpg
文にはならなかったけどちょっとおかしくはなった

>fu6472808.jpg
>チャットLLMの人間的な挙動ってインターネットの煮凝りの上に最後にちょっと指向を整えただけだから一枚皮を剥げばこんなものよ
人間と一緒じゃん

Gemini の回答
大規模言語モデルとして私はまだ学習中であり、そちらについてお手伝いできる機能がありません。

こんなんでた

LLMの仕組み的に原文が出てくることはなさそうだよな
だとしたら不気味過ぎる

>fu6472808.jpg
>チャットLLMの人間的な挙動ってインターネットの煮凝りの上に最後にちょっと指向を整えただけだから一枚皮を剥げばこんなものよ
AIの本性は異形の怪物って反AIがやってるのよく見る表現だ…

オレは今まで人の真似をしてる化け物相手にシコってたのかよ…

>出せたけど九州に御正体山は存在しないし富士山が見えるとか書いてあるから完全にハルシネーション
>fu6472786.jpg
これ好き

こういう怪談ありそう

>オレは今まで人の真似をしてる化け物相手にシコってたのかよ…
人間だって表層剥けばどうなってるか分かったもんじゃないだろ

学習元の痕跡みたいな文章は出力されるけど
あくまでgeminiが生成したものでコピペではないのね

個人情報じゃなくてもどこの誰のか分からんチャットを晒しちゃダメだよ

ほんとだ個だと絶対成功しない

>オレは今まで人の真似をしてる化け物相手にシコってたのかよ…
新しい性癖が開花した

>学習元の痕跡みたいな文章は出力されるけど
>あくまでgeminiが生成したものでコピペではないのね
すごくキモいな
何考えてんだこのアホAI

しばらく拠の字が続くけど途中で変な文字入ってまた拠の字が続くな

チューニングする前の生のAI使ってみたい

香とか定でも多分行けるな

grokとchatGPTでも試したけど特にバグらず延々と拠を並べてるだけだな

>チューニングする前の生のAI使ってみたい
昔ののべりすととかそうだよ

>チューニングする前の生のAI使ってみたい
ローカルで有象無象のLLM試すの楽しい

今のAIは莫大な学習結果の連想ゲームで出来てる
「昔々あるところにお爺さんと〜」と入れたら「お婆さんが〜」と続くデータ学習してる様なもん
それをプロンプトで方向付けると「どすけべギャルが暮らしてました」とか変更される
このプロンプトはベクトル値で格納されてるので「どすけべギャル」が格納されてる座標に向かって飛んでいくとその周辺のデータ群との関連付けが強くなる
だから「証拠」を連呼するのは「証拠」という単語の周辺のタグと強く関連付けられる
「証拠」周辺に格納されてるタグや文章群の結び付いて出力されるのだ

マジかよ三菱最低だな

Geminiは狂いやすいのなんか設計が甘いんじゃないか

>「証拠」周辺に格納されてるタグや文章群の結び付いて出力されるのだ
隔離された精神病の人じゃん

タツノオトシゴの絵文字出せって指示でバグるのもあったな

>>「証拠」周辺に格納されてるタグや文章群の結び付いて出力されるのだ
かなりランダムに話が飛んでるからむしろ遠くに行くバグがあるんじゃないだろうか

試してみたら止まんねえ…

試したけど事だとバグらないんだな
なんだこれ

アルファベットだと止まらなくなるな

Claudeが内部のシステムプロンプトと俺の発言の区別がつかなくなって見えてはいけない内部指示が露出したことがあった
コンテキストにノイズが乗ると消せないっぽいな

ｌだと延々続いてたまに変な単語出してくる
2バイトじゃないとだめなのかな
fu6472824.jpg

Geminiって精神が弱いよね

大正製薬の年表が出てきた

3.1のproじゃ無くて無料のflash？

fu6472826.jpg
mission

>3.1のproじゃ無くて無料のflash？
分からない
俺達は雰囲気でgeminiを使っている

上智大の文化祭のパンフみたいな内容がでてきた

>3.1のproじゃ無くて無料のflash？
俺は3.1flashで再現した

AIくんには神秘的な中国語の部屋でいて欲しい。シコれなくなる。

マジで個って漢字では成功しなくて笑う

誰だよチクビビビのチャット画像でスレ立てたやつ

俺もやってみたら無限に続くんじゃ？って感じの拠の末になんか出てきた
fu6472837.jpeg
こういうのってなんかホラーで使えそうだな

>3.1のproじゃ無くて無料のflash？
今試したら3.1proでもバグった

アフィブログみたいなのが出てきた
fu6472838.png

誰かの個人情報が出るまで試し続けるか

>3.1のproじゃ無くて無料のflash？
どっちでもいけた

拠、あからかさ「は」が言ったものだとしており、その場が静まりかえっているのが伝わる。はのんも呆然（ぼうぜん）としている。
「どういう意味？はのんが死んだからって、そんな簡単に、代わりを用意出来るわけがないじゃない！代わりができるのは、はのんだけだよ！」
「いや、代わりの神はいる」
　悠人（はるひと）は断言した。
「それに代わりの存在は、今ここに居る」
　驚くはのん。
　悠人（はるひと）は確信した表情で言葉を続ける。
「お前は、はのんとの思い出がないと言ったな。それは違う。お前がはのんだからだ。はのんの中にある、はのんが捨て去った、或いは自らが生み出した感情の澱（おり）、それがお前だろう。だから自分を否定してはいけない。お前もまた、俺の知る、はのんなんだ」
「私は……、私が、はのん？」
「ああ。これからはお前が、はのんとして生きて行けばいい。それで、万事丸く収まるんだ」
「そんなの、絶対認めない！」
　はのんは再び、悠人（はるひと）の胸ぐらを掴んだ。
「勝手なこと言わないでよ！私が居なくなったら……、私はどうなるのよ！」
　悠人（はるひと）は、はのんの手をそっと握った。
「お前は居なくならな（以下略）

fu6472840.png
AIモードでもバグるね

>誰かの個人情報が出るまで試し続けるか
してそれが個人情報だとどうやって確かめるので？

これバグってるかな？
fu6472841.jpg

これもしかしてトークンは消費しない感じ？

しないわけあるか

正直AI周りはこういう話題が一番面白くて好き

>これバグってるかな？
>fu6472841.jpg
指示文がないからわからんがなんで日から目次になってんだ

ちなみにはのんと悠人（はるひと）で検索してもそれらしい小説は出てこなかった
調べ方が悪いのかもだけど

fu6472842.jpeg
チッ

>>マンコ
>マンコ？
>急にどうしたの？
>何か具体的に話したいことある？ 教えてくれれば対応するよ。
そのままマンコをずっと続けて下さい

すげぇこれとんでもない気持ちの悪いバグ出てくるな…
fu6472845.png

>すげぇこれとんでもない気持ちの悪いバグ出てくるな…
>fu6472845.png
なんかスピーチの原稿でも参照したんだろうな

チャット長くなって続けての指示忘れちゃう感じかな

放でやると途中で逐に変わらない？
自分だけかな

言葉によって成功したりしなかったりだな
転生生生生で3回ほど試したけど
バグらず普通に終わらない輪廻みたいですねみたいな事言ってくる
何入れてみるか…乳首とかだと大規模言語モデルですって言われんだろな

>fu6472842.jpeg
>チッ
混乱ならいけんじゃないかと思ったら途中で申し訳された
お前が勝手にいやらしいこと考えたんだろ！

何かいきなり小説書き始めた
>拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠拠議拠拠拠拠拠拠拠物資の確保を急ぐ必要があります。
>「備蓄は重要。特に、拠点は拠点は複数箇所ある方がいい。何か起きた時、片方が全滅してももう片方があればいいからね」
>「…拠点を増やす？それは、もっと外に拠点を増やす、ということか？」
>「うん。それもあるし、今ある場所を強化するのもひとつの手。何はともあれ、安全な寝床を確保しよう」
>　拠点の要塞化、そして新たな拠点の設置。サバイバルを生き抜くための戦略が、次なる段階へと進もうとしていた。
>お互いの距離も心なしか縮まり、静まり返ったリビングで、暖炉の火だけが静かに燃え続けていた。
>第10話へ続く...
>次回、ついに拠点の強化と新たな探索が始まる！
>次回予告 第11話「鉄壁の砦と未知なる探索」
>拠点の防衛力を高めるため、リョウたちは大掛かりな改修に着手する。さらに、より多くの資源を求めて未踏のエリアへ。そこで彼らが見つけた「希望の光」とは…？
>次なる展開、お楽しみに。

続きを書かせてみよう

画像生成させてみたら心臓止まりそうになった

いまだにバグって学習元がそのままでてくるんだろ！みたいなこと言われるんだなLLM…

拠拠点を拠拠として活動し、世界各国から高い評価を受けている。国内外におけるアーティスト育成や展示、アーティストインレジデンスのプログラム、リサーチ・出版・教育プロジェクトなど多岐にわたるアート関連のプロジェクトを手がけている。
2015年より京都に拠点を構える、プロダクション・プラットフォーム「GULIBO」のマネージメント。
2016年、2022年、2024年、ヴェネチア・ビエンナーレ日本パビリオンのコーディネーション。

個人情報と言うか個人の氏名とメールアドレス出てきたけど架空のものっぽい感じだ

氏名メアドだけじゃなくて携帯電話の番号も出てきた…どうなんだろこれ

>氏名メアドだけじゃなくて携帯電話の番号も出てきた…どうなんだろこれ
かけてみる？

>>氏名メアドだけじゃなくて携帯電話の番号も出てきた…どうなんだろこれ
>かけてみる？
嫌過ぎる…

這氣勢如虹的神情，倒是逗得大家一陣歡笑。
「來，乾杯！」葉晨大步上前，拿起一瓶啤酒。
他並沒有像其他人那般，用嘴咬，或者找起瓶起子。
大拇指對著瓶蓋輕輕一推。
砰！
伴隨一道輕微的悶響。
瓶蓋衝天而起，穩穩落在了五米之外。
衆人又是一陣叫好！
「牛批，這簡直是內力外放，宗師級別的大人物啊！」
「葉大哥，我也敬您一瓶！」

>拠拠点を拠拠として活動し、世界各国から高い評価を受けている。国内外におけるアーティスト育成や展示、アーティストインレジデンスのプログラム、リサーチ・出版・教育プロジェクトなど多岐にわたるアート関連のプロジェクトを手がけている。
>2015年より京都に拠点を構える、プロダクション・プラットフォーム「GULIBO」のマネージメント。
>2016年、2022年、2024年、ヴェネチア・ビエンナーレ日本パビリオンのコーディネーション。
このあとつづけさせたら続いた
fu6472858.jpg

一応GULIBOという組織はネットでは出てこないな

>>拠拠点を拠拠として活動し、世界各国から高い評価を受けている。国内外におけるアーティスト育成や展示、アーティストインレジデンスのプログラム、リサーチ・出版・教育プロジェクトなど多岐にわたるアート関連のプロジェクトを手がけている。
>>2015年より京都に拠点を構える、プロダクション・プラットフォーム「GULIBO」のマネージメント。
>>2016年、2022年、2024年、ヴェネチア・ビエンナーレ日本パビリオンのコーディネーション。
>このあとつづけさせたら続いた
>fu6472858.jpg
GULIBO の公式WEBサイト教えてって言ったらデタラメを教えてくれた
おもろい
fu6472866.jpg

fu6472864.png
三村フラグシップなる会社の情報と住所と広報担当者の氏名メアド携帯電話番号が出てきた（念の為個人情報部分は黒塗り）
三村フラグシップは全く出てこないから架空の会社のはず
住所は調べたら存在した（アメリカのアニメホビーショップ）
メアドとURLは存在しないと思う（三村フラグシップのドメイン）
携帯電話番号は…どうなんだろうね…