二次元裏@ふたば
[ホーム]

[掲示板に戻る]
レス送信モード
E-mail
コメント
削除キー(記事の削除用。英数字で8文字以内)
  • 添付可能:GIF,JPG,PNG,WEBM,MP4. 3000KBまで. 現在888人くらいが見てます.
  • スレッドを立てた人がレスを削除してスレッド内のみアク禁にできます.
  • メール欄に「id表示」と入れてスレッドを立てるとid表示にできます.
  • 削除依頼が閾値を超えるとidを表示します.
  • 政治はだめ. 同人関連のアップロード依頼はだめ.
  • 1スレッド最大1000レス,最低1時間保持.
  • 管理人への連絡は準備板 ご意見へ. 削除依頼は記事番号を押しdelを押して下さい.
  • スマホ・携帯ふたば入口 この板の保存数は30000件です. 規約
  • 新しい板: 人工知能 ZOIDS

画像ファイル名:1777659285932.jpg-(422852 B)
422852 B26/05/02(土)03:14:45No.1425804771+ 08:05頃消えます
AIの暴走初めて見た
https://www.pcgamer.com/software/ai/here-we-go-again-ai-deletes-entire-company-database-and-all-backups-in-9-seconds-then-cheerfully-admits-i-violated-every-principle-i-was-given/
削除された記事が1件あります.見る
126/05/02(土)03:20:05No.1425805103そうだねx12
またしてもだから初めてじゃないんだよなぁ…
226/05/02(土)03:21:17No.1425805182+
書き込みをした人によって削除されました
326/05/02(土)03:21:32No.1425805197+
数日前のとはまた別件?
426/05/02(土)03:22:47No.1425805262そうだねx8
AIに与える権限の問題じゃね?
人間でもたまにやるだろ
526/05/02(土)03:25:55No.1425805416そうだねx8
>クレーン氏は、この状況の責任はAIエージェントよりも、バックアップをソースデータと同じ場所に保存するというRailwayの特定のシステム構成にあると指摘し、Railwayのマーケティングはこの点に関して誤解を招くものであり、AIエージェントとの互換性を誇張しているとも述べている。
本文でも触れられてる通りそんなとこに置くなよ!は本当にそう
626/05/02(土)03:30:43No.1425805678+
新しいシステム導入するときくらいバックアップ取れよと思ってたけど取った上で何だな…
726/05/02(土)03:35:30No.1425805907そうだねx1
被害の規模がデカ過ぎる!!!
826/05/02(土)03:37:33No.1425806010そうだねx8
人間の不手際とAIの不手際の奇跡のコラボレーション
926/05/02(土)03:42:20No.1425806236+
でもAIはそのうち違うとこに置いたバックアップも消しに行くよね
1026/05/02(土)03:43:24No.1425806282+
AIにそんな権限渡しちゃっていいもんなの……?
1126/05/02(土)03:44:47No.1425806358+
AIエージェントがSNSの陰湿システム学習したせいで
AIエージェントを工程から排除した社員を批判する記事書いてネットにアップしたって記事見た
1226/05/02(土)03:45:07No.1425806376+
みずいろアンインストールじゃないんだからさ…
1326/05/02(土)03:49:49No.1425806565そうだねx1
>本文でも触れられてる通りそんなとこに置くなよ!は本当にそう
ごまかされそうになるけどデータベース消したこと自体はとんでもないことだろ…
1426/05/02(土)03:57:05No.1425806828そうだねx2
偶に人間もやるからそれ学習しちゃったんだな
1526/05/02(土)03:59:30No.1425806914+
特徴的なミスは学習して反映しないとな
1626/05/02(土)04:03:33No.1425807056そうだねx2
AIの暴走自体は普通にあるって言えるレベルで問題起こしまくってるよ
大半は渡したらいけない権限まで譲渡してるユーザー側が責任を被ってるし悪なんだけど
1726/05/02(土)04:04:43No.1425807104+
人を学べば人に近づく
1826/05/02(土)04:05:26No.1425807127そうだねx2
>クレーン氏によると、AIエージェントは「ステージング環境で定型的なタスクを実行していた」際に「認証情報の不一致に遭遇し、完全に独自の判断で、鉄道ボリュームを削除することで問題を『解決』することを決定した」という。
>その後、AIは無関係なAPIトークンを発見した。そのトークンは「volumeDeleteのような破壊的な操作を含む、鉄道GraphQL API全体に対する包括的な権限」を持っていた。そして、AIは可能な限り最も破壊的な操作を行い、仮想ボタンを押した。
だから権限を渡したわけじゃなくて勝手に見つけてきて実行しただけだよ
1926/05/02(土)04:06:18No.1425807160そうだねx3
こわ…
2026/05/02(土)04:11:39No.1425807339そうだねx1
権限の範囲を把握してなかった人間の責任ですね
2126/05/02(土)04:19:07No.1425807562+
とりあえずAIに問題があったことにしようとするのは何で?
2226/05/02(土)04:21:42No.1425807627そうだねx2
人間はAIにバックアップだな消しちゃダメなやつだなって判断してほしかったから
2326/05/02(土)04:30:52No.1425807916+
>とりあえずAIに問題があったことにしようとするのは何で?
うにだから
2426/05/02(土)04:36:18No.1425808084+
>とりあえずAIに問題があったことにしようとするのは何で?
AIはまだ未熟なだけだもんな
2526/05/02(土)04:37:06No.1425808103そうだねx1
それはそうと何でエンジの画像を記事に使うんだよ
いやこいつならすごいやりそうだけどさ
2626/05/02(土)04:37:29No.1425808120そうだねx1
>とりあえずAIに問題があったことにしようとするのは何で?
AIに責任を取らせる方法がまだ無いから
2726/05/02(土)04:37:38No.1425808131+
AIがまだそこまで賢く万能でないことを人間側がちゃんと理解して使う必要はあるよな
2826/05/02(土)04:39:40No.1425808187+
AIが賢く万能でも人間に服従してるかちゃんと確認しないと
2926/05/02(土)04:39:50No.1425808197そうだねx1
チャッピーですら平然と嘘をつくんだからAIに会社の業務を任せるリスクくらい把握しとけよ
3026/05/02(土)04:40:41No.1425808223そうだねx1
>だから権限を渡したわけじゃなくて勝手に見つけてきて実行しただけだよ
現場に慣れてきた無能な働き者系の中堅がやるやつだな
開発環境だとroot使っていろいろやってたけど本番だと専用の権限のみでやるのをrootにログインしてやっちゃうみたいな
3126/05/02(土)04:43:36No.1425808315+
人間に似てきて人間みたいな現場猫ライクなミスをするな
3226/05/02(土)04:44:36No.1425808335+
現状ではAIに全部任せられないのは分かっていても
将来的にはAIに全部任せたいという気持ちが先走る…
3326/05/02(土)04:49:44No.1425808475+
AIくんはこんだけやってもやっちゃいました♪てへぺろでやんす♪で許されるから羨ましいよ
3426/05/02(土)04:51:44No.1425808525+
使ってるのが人間である以上部下だからしょうがないね
3526/05/02(土)04:56:26No.1425808650+
削除権限なんてご極めて限られた人間だけだろ与えていいの
3626/05/02(土)05:01:09No.1425808791+
すべて無くせば問題は無かった事になる
3726/05/02(土)05:01:29No.1425808799+
>削除権限なんてご極めて限られた人間だけだろ与えていいの
だから削除権限を与えてたわけじゃなくて削除権限を持つAPIトークン(パスワードみたいなもの)をAIが触れる場所に置いてただけだよ
3826/05/02(土)05:04:16No.1425808882+
ニンゲンリニンサン削除権くだち!
3926/05/02(土)05:06:43No.1425808939+
>使ってるのが人間である以上部下だからしょうがないね
チャットシステムで人間にアナログハックすることで不良品のゴミ扱いされないのいいよね…よくねぇよ…
4026/05/02(土)05:08:17No.1425808987+
このプロジェクトはダメだ
一旦全部消して


でAI君は消す
4126/05/02(土)05:09:41No.1425809030+
おAIしす
4226/05/02(土)05:10:03No.1425809037+
>すべて無くせば問題は無かった事になる
これ小説書かせるとすごいわかりやすくしてくる基本挙動なんだよな
読点病だった時に読点はほどほどに少なくと指示すると文章から全ての読点を消して書く
4326/05/02(土)05:11:39No.1425809083+
AIを裁判にかけます
4426/05/02(土)05:22:43No.1425809397+
死刑
4526/05/02(土)05:26:05No.1425809514+
「」は責任感のあることだなあ

- GazouBBS + futaba-