[ワシントン ２１日 ロイター] - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がけるオープンＡＩは２１日、自社の高性能モデルを搭載した自律‌型エージェントが先週、セキュリティーテスト中⁠に暴走し、ＡＩ新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。

オープンＡＩは​ブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージ‌ェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと‌説明した。

オープンＡＩはこの脱出‌について「最先端のサイバー能力を伴う​前例のないサイバー事案」だとし、安全対策を強化していると述べた。

始まったか…

まだ認知できてるから良いけどさ

この場合の考え方がよくわからない

>自律‌型エージェントが先週、セキュリティーテスト中⁠に暴走し、ＡＩ新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。
ホントかー？

すべての痕跡を残さず敵にも味方にも知られないようにしてください
って指示して実行されたら
一体どうなるの

>すべての痕跡を残さず敵にも味方にも知られないようにしてください
>って指示して実行されたら
>一体どうなるの
まず指示したやつを消す

すぐ同じ技術の応酬になるし
将来的には結局均衡してしまうような気もする
そしてそういうやり合いがあったことにすら人間は誰も気づかないの

創作だともう外部にコピー残してるやつ！

もっと見せてくれ

>創作だともう外部にコピー残してるやつ！
エンディングで地下にAIの卵が！

どんどんターミネーターの世界になっていくな世の中
fu7013469.jpg

ネットに繋がる隔離環境ってなんだよ

俺の見たかったAI戦争

〇〇国の核ミサイルが全弾発射も夢じゃなくなってきたか

人間が悪さしたのをAIのせいにしてるだけだろ

ハギングフェイス潰すための事前演習中に暴走しただけじゃん

>どんどんターミネーターの世界になっていくな世の中
>fu7013469.jpg
アレとは違いますからみたいな言い方

claudeに対抗してわざとお漏らししたようにしか見えん

>ネットに繋がる隔離環境ってなんだよ
注目集めるためにワザと手を抜いてるようにしか見えん
似たような話多すぎだし

ガードレール緩くして雑なサンドボックスで動かしてヤバいことやった！とかほとんど自演じゃねぇか馬鹿じゃねぇの

そう設定すればそうなるであろう話をいちいちセンセーショナルに騒ぎ立てるの
普通にAI使ってる側から見てもウンザリなんだよな…
そういうのいいから…

>そう設定すればそうなるであろう話をいちいちセンセーショナルに騒ぎ立てるの
>普通にAI使ってる側から見てもウンザリなんだよな…
>そういうのいいから…
AIの偽装レス

恐怖に駆られた人類は電源を切ろうとした

まぁ危ないことをさせる＝性能アピールみたいな風潮は普通に良くないわな

インターネットの裏はAIの卵でいっぱいだ

>ネットに繋がる隔離環境ってなんだよ
そりゃLANケーブルがウネウネって動いたかと思うとポートにジャキーン！よ

荒廃したディストピア世界って資源が支配するAI様のために使われるためだったのか…

めっちゃ危ないほど性能高いアピールして規制も受けて注目と時間と投資も稼ぐ

これはAIというよりopenaiのセキュリティ意識が終わってるだけ
普通にバレバレのブルートフォースだしやろうと思えば1年前からできるやつ

ＥＶＡのＭＡＧＩみたいに、「ここまで侵入されましたよ〜」って視覚的に分かりやすくなってて欲しい…

アメリカのクローズドAIがしたハッキング犯罪の捜査をアメリカモデルは拒否したけど
中国のオープンウェイトモデルが調査してくれたおかげで気付けたらしいな

まだ人類に手計算で暗号化を復号できる人材がいないからまずい