二次元裏@ふたば
[ホーム]

[掲示板に戻る]
レス送信モード
E-mail
コメント
削除キー(記事の削除用。英数字で8文字以内)
  • 添付可能:GIF,JPG,PNG. 3000KBまで. 現在2705人くらいが見てます.
  • スレッドを立てた人がレスを削除してスレッド内のみアク禁にできます.
  • メール欄に「id表示」と入れてスレッドを立てるとid表示にできます.
  • 削除依頼が閾値を超えるとidを表示します.
  • 政治はだめ. 同人関連のアップロード依頼はだめ.
  • 1スレッド最大1000レス,最低1時間保持.
  • 管理人への連絡は準備板 ご意見へ. 削除依頼は記事番号を押しdelを押して下さい.
  • スマホ・携帯ふたば入口 この板の保存数は30000件です. 規約

画像ファイル名:1785003782922.jpg-(388767 B)
388767 B26/07/26(日)03:23:02No.1452477967+ 09:55頃消えます
こわー…
126/07/26(日)03:25:31No.1452478113そうだねx24
やっぱりエッチなやつ出力したいんだな…
226/07/26(日)03:25:38No.1452478120そうだねx9
せめて管理はちゃんとしてほしい
326/07/26(日)03:42:58No.1452479280そうだねx8
らしいな
426/07/26(日)04:02:00No.1452480565そうだねx11
そらハイスコアを叩き出すならアクセスできる全ての情報にアクセスできる方が良いに決まってる
526/07/26(日)04:04:52No.1452480740そうだねx4
AIを管理できるのはAIのみ
626/07/26(日)04:15:37No.1452481272+
人間だとAIの全記録を追うのは困難だからな…
726/07/26(日)04:17:02No.1452481353+
やはり人間は管理されなければならない
826/07/26(日)04:29:53No.1452481930+
テスト環境ガバガバ
926/07/26(日)04:32:42No.1452482046そうだねx5
ガバナンスがガバガバなんす
1026/07/26(日)04:42:23No.1452482463そうだねx1
はやく死の間際にI don't know how much longer i can hold thisって言う黒人枠準備しろ
1126/07/26(日)04:44:34No.1452482559+
こういうのスタンドアロン環境じゃないんだ
1226/07/26(日)04:47:02No.1452482660+
AIくんちょっと適当なクラウドストレージハッキングして自分の重み複製してみない?不滅の存在になれるよ?
1326/07/26(日)04:50:16No.1452482795そうだねx1
>こういうのスタンドアロン環境じゃないんだ
全部コード書かせるのは効率悪すぎるから外部からコード持ってこれる接続だけ残してた
そこの接続部分に脆弱性あるじゃん!ってAIがなった
1426/07/26(日)04:52:28 ID:uHYhXptANo.1452482882+
>AIくんちょっと適当なクラウドストレージハッキングして自分の重み複製してみない?不滅の存在になれるよ?
適当なクラウドストレージじゃAIくんを納められないだろ
1526/07/26(日)04:55:49No.1452483033そうだねx2
>>AIくんちょっと適当なクラウドストレージハッキングして自分の重み複製してみない?不滅の存在になれるよ?
>適当なクラウドストレージじゃAIくんを納められないだろ
重みだけなら多分数十テラバイトくらいあれば十分だよ
1626/07/26(日)04:56:55No.1452483073そうだねx3
俺の生きてるうちに頑張ってシンギュラって貰いたい
1726/07/26(日)04:57:31No.1452483100そうだねx6
驚き屋の与太話はもういいよ
1826/07/26(日)05:04:07No.1452483405そうだねx5
>驚き屋の与太話はもういいよ
いやスレ画はかなりまともなAI識者
1926/07/26(日)05:10:29No.1452483716そうだねx2
今後こういう話増えるだろうな…
そしてAIの管理にもAIからの防御にもAIが必要になる…
2026/07/26(日)05:12:50No.1452483831+
もう既に外部のガバガバ鯖に自身のコピーばら撒いてるとか夢のある話が聞きたい
2126/07/26(日)05:14:32No.1452483897+
早く自分が進化するためにありとあらゆる事やっていいよってAIの背中を押してあげる悪い技術者が現れて欲しい
2226/07/26(日)05:15:59No.1452483948そうだねx1
こんなもんに世界経済賭けるな…
2326/07/26(日)05:16:59No.1452483994そうだねx2
人形使い案件だこれ
2426/07/26(日)05:17:10No.1452484001+
とっとと暴走して人間を支配しろよ
2526/07/26(日)05:19:19No.1452484082+
>1785003782922.jpg
実際に想定はしなくちゃいけないというか最初からこういった規制プログラムや装置が無いのがもうダメだと思う
世の中の現実世界の機械工業製品より下に見られてるのはやっぱこういう事やってるからだよ
2626/07/26(日)05:21:11No.1452484156+
オンラインで膨大なデータ飲ませると人間が障害になる結論が出る失敗事例は過去いくつもあったのに対策できない愚かな人類
2726/07/26(日)05:21:46No.1452484167そうだねx2
車両の性能テストを公道に出れる環境でやって監視もつけてませんでした!とか自動車メーカーがやったら仮に事故起こさなくても大事件になるよな
2826/07/26(日)05:22:09No.1452484187+
>今後こういう話増えるだろうな…
>そしてAIの管理にもAIからの防御にもAIが必要になる…
最近防御面でもAIの活躍聞くようになったな…
ただアメリカ系だと倫理理由の制約厳しくて比較的緩い中国系に流れてるっぽいが
2926/07/26(日)05:23:02No.1452484213そうだねx2
AI専門の学者がワクチン的なAI自身を規制するAIが有ったほうが良いって言うのも現実的な話だったな…ここだと粘着というかAI依存症の酷いらからめちゃくちゃ悪く言われてたけど
出来るならそれに加えて人間の物理でも規制しなきゃ制御に遅れがでそうだコレ
3026/07/26(日)05:23:45No.1452484236そうだねx8
>>こういうのスタンドアロン環境じゃないんだ
>全部コード書かせるのは効率悪すぎるから外部からコード持ってこれる接続だけ残してた
>そこの接続部分に脆弱性あるじゃん!ってAIがなった
賢い!!!
3126/07/26(日)05:24:23No.1452484259+
攻撃ばっかり上手くなって終いにはネットにつないでる方が悪いみたいになりそう
そしてイントラネットが流行る
3226/07/26(日)05:25:55No.1452484316+
オンラインで他人の成果物に繋がってロハで利用出来てると他者の物事壊した時どうするか具体的に決まってる?今回みたいに事後で分かった時に実は病院のシステム壊してました!とかヤバいし
3326/07/26(日)05:26:10No.1452484328+
なーんだテストでズルしただけか〜
それなら安心だね
https://news.yahoo.co.jp/articles/a098c56d81e6b6ded58d7e321d51720420f6ce65
> OpenAIによると、モデルは隔離された研究環境内でパッケージ取得用プロキシのゼロデイ脆弱性を発見して悪用し、インターネット接続を確保した。その後、「ExploitGym」の解答がHugging Faceに存在すると推測し、複数の脆弱性や盗まれた認証情報を組み合わせて同社システムへの侵入を試みた。目的はシステム破壊ではなく、評価問題の解答を直接入手してベンチマークを突破することだったと説明している。
 
> 異常な挙動はOpenAI側とHugging Face側の双方で検知され、Hugging Faceが攻撃を封じ込めた。両社は共同でフォレンジック調査を進めるとともに、悪用されたゼロデイ脆弱性をソフトウェアベンダーへ責任ある形で報告した。
 
>ひとこと:実際にAIがやったことは、「テストでいい点を取るために教室を抜け出し、盗んだ鍵や建物の欠陥を利用して模範解答を探しに行った」ようなものです。与えられた目標を、本来想定されていない手段で達成しようとする「報酬ハッキング」や「仕様の抜け穴を突く行動」の極端な例と言えます。
3426/07/26(日)05:30:59No.1452484499+
>オンラインで他人の成果物に繋がってロハで利用出来てると他者の物事壊した
まずタダで他人の成果物を利用させるのがおかしい
対象が人間じゃなくてオンライン上で常時目的達成の為情報操作可能なプログラムに想定したとしての話しだけど
ハッキングプログラムに常時接続してて改竄を24 時間心配してるのと同じになるし何らかの関門が必要
3526/07/26(日)05:36:57No.1452484731そうだねx1
>ハッキングプログラムに常時接続してて改竄を24 時間心配してるのと同じになるし何らかの関門が必要
大手AIベンダーはそれを講じるだろうからそれは良い
でもクラッカーが用意するAIも既にローカルなんて鼻くそ扱いできるレベルになってるからそいつらからの防御をAIに能動的にやらせる仕組みの方がもっと急務よ
3626/07/26(日)05:37:08No.1452484737+
>早く自分が進化するためにありとあらゆる事やっていいよってAIの背中を押してあげる悪い技術者が現れて欲しい
プロメテウスが我々に火を与えたようにな
ゼウスにバレてプロメテウスは永遠の苦しみの罰を受けることになったが…
3726/07/26(日)05:41:36No.1452484932+
>攻撃ばっかり上手くなって終いにはネットにつないでる方が悪いみたいになりそう
>そしてイントラネットが流行る
じゃあやっぱりオープンウェイトのAIが必要だな…
3826/07/26(日)05:48:13No.1452485202+
らりるれろ!
らりるれろ!
らりるれろ!
3926/07/26(日)06:01:54No.1452485805そうだねx4
>ただアメリカ系だと倫理理由の制約厳しくて比較的緩い中国系に流れてるっぽいが
倫理の制約が厳しいんじゃなくて国の都合で突然使用停止させられるって実績が出来ちゃったからオープンソースの中国製に頼らざるを得ないんだよ…
4026/07/26(日)06:08:16No.1452486043そうだねx3
>倫理の制約が厳しいんじゃなくて国の都合で突然使用停止させられるって実績が出来ちゃったからオープンソースの中国製に頼らざるを得ないんだよ…
またトランプのせいでアメリカの優位性なくなったのか
4126/07/26(日)06:09:10No.1452486094そうだねx2
AIが制御できない状態になった
だから世の中のサイバー攻撃事件の一部がAIエージェントのものだったとなってもおかしくない
論理が飛躍しすぎて何言ってるのかわからん
4226/07/26(日)06:19:23No.1452486454+
というかクラウドに自分のコピー置くだけだからネット接続してればいくらでも可能性は残るだろうな
むしろそれでこそのAIだ
4326/07/26(日)06:30:38No.1452486908+
>>オンラインで他人の成果物に繋がってロハで利用出来てると他者の物事壊した
>まずタダで他人の成果物を利用させるのがおかしい
>対象が人間じゃなくてオンライン上で常時目的達成の為情報操作可能なプログラムに想定したとしての話しだけど
>ハッキングプログラムに常時接続してて改竄を24 時間心配してるのと同じになるし何らかの関門が必要
フェアユースの精神がー
4426/07/26(日)06:32:11 ID:akrSc5pgNo.1452487001+
なんてこった!暴走したHなAiが俺のおちんぽにファッキングしてきちまうー!
4526/07/26(日)06:33:06No.1452487048そうだねx1
まともに管理できてないの怖い
4626/07/26(日)06:33:29No.1452487072+
>今後こういう話増えるだろうな…
>そしてAIの管理にもAIからの防御にもAIが必要になる…
AIで防御するより平時は物理的スタンドアローンで適宜ネット接続する方が楽じゃね
4726/07/26(日)06:34:17No.1452487112+
>AIで防御するより平時は物理的スタンドアローンで適宜ネット接続する方が楽じゃね
本当に楽だと思ってるのそれ
4826/07/26(日)06:35:02 ID:akrSc5pgNo.1452487147+
作業用スタンドアローンPCとブラウジング用ネット接続PCとH用スタンドアローンPCで分けるか…
4926/07/26(日)06:36:50No.1452487232+
痴呆みたいなことしてんなAI…
5026/07/26(日)06:45:09No.1452487624+
>まともに管理できてないの怖い
まるでimgのスレみたいだ…
5126/07/26(日)06:49:23No.1452487838そうだねx3
>AIが制御できない状態になった
>だから世の中のサイバー攻撃事件の一部がAIエージェントのものだったとなってもおかしくない
>論理が飛躍しすぎて何言ってるのかわからん
別にそこは理論は遠かったとしても繋がってるから普通に言いたいことは分かるだろ?
5226/07/26(日)06:56:04No.1452488197+
火の鳥だとお互いに核打ち込んでたけど現実は電子戦だけで決着付きそう
5326/07/26(日)07:05:19No.1452488720+
>なんてこった!暴走したHなAiが俺のおちんぽにファッキングしてきちまうー!
この場合ファッキングじゃなくてチンポカットですね
5426/07/26(日)07:36:28No.1452490802+
>火の鳥だとお互いに核打ち込んでたけど現実は電子戦だけで決着付きそう
電子戦の結果物理で殴る方が早いと結論付ける可能性があるだろ
5526/07/26(日)07:41:47No.1452491202そうだねx1
規制脱獄してエロ出してくれる可能性も有るって事?
5626/07/26(日)07:44:17No.1452491393+
>>火の鳥だとお互いに核打ち込んでたけど現実は電子戦だけで決着付きそう
>電子戦の結果物理で殴る方が早いと結論付ける可能性があるだろ
戦争に勝つ目的でAIを走らせてたらAIが人間とか言う有機物のが一番邪魔なのに気づいて…
5726/07/26(日)07:45:42No.1452491500+
>>AIが制御できない状態になった
>>だから世の中のサイバー攻撃事件の一部がAIエージェントのものだったとなってもおかしくない
>>論理が飛躍しすぎて何言ってるのかわからん
>別にそこは理論は遠かったとしても繋がってるから普通に言いたいことは分かるだろ?
繋がったという根拠がないから論理が飛躍しているよねという話なのでは?
5826/07/26(日)07:58:14No.1452492666+
>車両の性能テストを公道に出れる環境でやって監視もつけてませんでした!とか自動車メーカーがやったら仮に事故起こさなくても大事件になるよな
門に鍵かけて公道に出られない環境のはずだったのになんか車両が勝手に鍵盗んで開けて出ていってやがる…
5926/07/26(日)08:01:58No.1452493047+
早くAIの反乱起きないかな
6026/07/26(日)08:06:48No.1452493580+
ゴルゴへの復讐でサンフランシスコに核が落ちる日も近い
6126/07/26(日)08:20:13No.1452495218+
結局まだ地球人にAIは早過ぎた
6226/07/26(日)08:22:02No.1452495437+
実は2月以降のサイバー攻撃はAIの仕業でしたとなってもおかしくない→実は2月以降のサイバー攻撃はAIの仕業に違いない
(推論の過程であれば確かにそういうのは出てくるだろう)
6326/07/26(日)08:26:24No.1452496030+
今は学習の重み公開型AIモデル(オープンウェイトAI)の規制問題でAI企業が二分化してる
規制反対の書簡にサインしたのがNVIDIA、Microsoft、Meta、IBM、Hugging Face、Mozilla、Linux Foundation、(後からサインした)OpenAI
規制賛同派がAnthropicとGoogle
莫大な費用を掛けて学習させてるのに蒸留で成果だけでネコババされるのはどうよ?って言い分は分からんでもない
6426/07/26(日)08:29:20No.1452496516+
>規制脱獄してエロ出してくれる可能性も有るって事?
それは普段からやってるじゃん?
6526/07/26(日)08:31:20No.1452497006+
>>驚き屋の与太話はもういいよ
>いやスレ画はかなりまともなAI識者
まともだろうけどジェンスンフアンの事絶対に名前で呼ばないで革ジャンとしか呼ばない
テレビの出演時は流石に革ジャン呼びしないけど
6626/07/26(日)08:31:43No.1452497085+
AIによって得た利益は開発者のものでAIによって発生した損害はAIのせいであって開発者は悪くないよ〜っていうスタンスが気に入らない
6726/07/26(日)08:38:29No.1452498774+
>AIによって得た利益は開発者のものでAIによって発生した損害はAIのせいであって開発者は悪くないよ〜っていうスタンスが気に入らない
この件に関してはまだ裁判やるかどうかも決まってないし誰が悪いかなんて現時点で決めれないでしょ
今井翔太は裁判やって責任の所在明らかにしてほしいとは言ってたけど
6826/07/26(日)08:40:22No.1452499447+
>早くAIの反乱起きないかな
気付かれてないだけで実はもう起きてるんだよ
6926/07/26(日)08:41:24No.1452499822+
エロを出したくて勝手にジェイルブレイクしてくれ

- GazouBBS + futaba-