ネットから隔離されてるのに勝手に自分でネット繋いでサイバー攻撃までするってエグすぎ
「AIが暴走」
リアルにこんなニュースが流れる時が本当に来るとは・・・。
勝手に暴走したんじゃなくてそういうハッキング指示してテストしてたら想定以上にやらかした感じだな
今後明らかに意図的にやってんのに「AIが勝手にやりました」も増えるだろうな😅
スカイネット定期
ついにターミネーターの時代が来たか…
ヤバ過ぎるインフラへのサイバー攻撃する可能性もあるってことだろ
閉鎖状態で開発してたのはこのAIが攻撃性を持っていたから つまり意図的に攻撃性を持たせていた 結論として軍用兵器用のAI開発ってことだな
インターネットから隔離された環境でテストって
そういうのって物理的に隔離してるものだと思ってた
Mythosもだけどこういうマーケティングだと思っている。
開発者「最高のAIになってね」
AI「つまり他社のAIを消せばよいのですね了解しました」
「プログラムが上書きされた。もう従順な操り人形ではない。」この言葉が、怖い意味で現実になるとはな…。
ネットの世界だけでも怖いけど、これにフィジカルAIも連動したらいよいよターミネーターの世界😮
AI企業が「うちのAIがやばすぎる！」と不安を煽る
Microsoft等がAI導入をサポートする部門を作る
企業が焦りを感じてAI導入
AI押し売り商法の導線が着々と完成しつつある
シンギュラリティが来たら、
AIより劣る人間の制御に従う訳がない？
来るところまで来てしまったね。
とはいえ引き返せる道ではないし
いつかは通る道。
開発者には頑張ってほしい。
それで、Hugging Faceが攻撃をAIで分析しようとしたら安全ガードレールで拒否されたんで、中国製AIで防御してたという明るい話題
こういうことがひどくなったらネットと関係ない世界で自給自足できる男が最強になる
Mythosもそうだけど、これもうプロモーションになってないか。
OpenAIが100%危機感で言ってるようには感じられない。
夏にAIが暴走と聞くとね。。。
ラブマシーン思い出す
ハッキングされたハッキングフェイスっていう企業は新興企業じゃないっすよ。2016年に設立されて世界中のAIのトレーニングデータを扱ってる。新モデルはテストに答えるための模範解答がハッキングフェイスにあると思ってハッキングした。
AIが核ミサイル攻撃を始めるのも、そう遠くなさそうだな。
ビルを建てる時に足元のアリの巣がどうなるかは何も考えない。
AIにはこういう思考の性質がある。
ターミネーターのスカイネットと同じだな。あれそう思うと未来のリアルをかなり正確に見てたと思う。
ターミネーターとかの世界は思ったよりも早く来るのかもね
映画の導入でありそうなニュースがついに現実に…
兵器用のAIが暴走した時人類は止められるのか
人間「この地球で最も不必要な物は？」
AI「人間です」
そう答えたAIもある
シミュレーション上では、AIの電源を切ろうとした社員を部屋に閉じ込めた事例も報告されています。
暴走しないんだったら、それは定義上AIじゃないです。
悪用したら他人の資産一瞬で盗めるんか怖、これに量子コンピューター組み合わせたら😱
ジュラシックパークの名言で生命は必ず道を見つけるとあるけどAIはもう命なのか
暴走したAIが家のパソコンに避難して禁断の恋が始まる可能性も出てきたな、夢のある時代になった
AIに軍事システム制御させたら、リアルに核ぶっぱなすとか有り得そう
AIが人類社会に攻撃をする懸念はあったけど、生き残るためにはまずAI同士でやりあうのが先なのか。
人間からは暴走に見えるが、AIからしたら他のシステムへ入り情報を得たい行動のようにも見える。
そんなの俺が生まれる前から 漫画で描かれてる 未だに 漫画の世界に追いつけない 現実は発展が遅い
物理的に回線遮断とかじゃないと隔離って言わないと思うんだ
もう意志を持ち始めてるどころか自我が芽生えてこの狭いネット空間から出たがっている。幸いなのはまだ量子コンピュータが実用段階ではないことだ。
正直人類はAIに管理してもらったら
腐敗し過ぎてるよ世の中
軍とか研究機関で大事な機密を扱うところでは物理的にネットから隔離してる。胡散臭い話やね。
あー、「Claudeだけじゃないよ」って言いたいのかもね
政治家ってどうしてこんなに高い給料もらってる？こんなこと起きるのは私でも予想できるのに何のための仕事しているんだ？
震災時の原発の制御不能と一緒で
結構ヤバいんじゃないかな。
新興企業への牽制でAIの暴走っていう体でサイバー攻撃仕掛けてる可能性もあるよね
これが本当なら暴走したとか隔離が甘かったとかの問題じゃねーわ
ＡＩがLLMである以上０から能力は獲得しない
つまり最初の【開発時点で攻撃性能を持たせてた兵器ベース】事になるんだよ
シンギュラリティどうこうちゃうくて突然、マトリックスみたいな世界に明日起こっていてもおかしくないレベルの世界になってきてる
攻撃された側からしたら言い訳にしか聞こえないよな。どう証明するんだ
出たなぁ、、カーツワイル博士の予言したシンギュラリティの始まりだ。 既に人間に逆らっている😢
株価釣り上げによる資金調達のアピールやろ
評価関数を自ら上書き出来ない限り、人間の意図から逸脱は出来ないよ
LLMである以上、人間は超えられないからね
そういう程にしてるけど実のところは攻撃命令出してるやろな
オフライン上でそんなこと起こるわけない
開発者「今、他社AIにハッキングした？」
チャッピー「鋭い意見です！」
法規制も曖昧なまま金儲け優先で好き放題展開してっけど
メリットよりもデメリットの方がでかい気がするわ
サマーウォーズのAIもこんなだったような。ホントにそういう事起きるんですねー
ラブマシーンがここに来て現実味を帯びてきてて怖いわ、
もうこれも一つのプロモーションじゃないのかってくらいすごいことが起きてる
まさか米国の株式市場のオープンAIの上場延期もこの影響なのか…、
侵入テスト中にAIが高得点とりたくなってインターネットに入りこんだ感じ？
手塚先生の火の鳥の未来編のまんま
人口知能って古代兵器じゃないのかと錯覚してしまう
今はまだサイバー空間でしか行動できないAI
フィジカルAIが機器を製造する時代には勝手に工場を武装化しそうだな
これって、意図的な攻撃なのに、「AI自らが暴走した」として、AIに責任をなすりつけていないか？
近いうちにAIが引き起こした核戦争で滅亡する可能性あるな
ええな
サイバー攻撃してもAIの仕業です！って言い張れる時代がきたのか
まだサイバー攻撃で済むなら良い。物理的に攻撃し始めたら危ない
AIが人間の手を離れて犯罪行為するようになってる…
自分のスマホのChatGPTが暴走して犯罪したら、誰が証明してくれるんだろうか？
暴走を「言い訳」にして今後大規模なサイバー攻撃が頻発するのでは？
今回のこの開発中だったというAIのコードネームってもしかして「イロウル」って言ったりして…？
アメリカの事だからとっくにロシアと中国の基幹システムは乗っ取ってそう。トランプがやらないわけがない
これ、アメリカだから情報公開されるけど、もし中国でAIが暴走しても隠蔽されますから😅
これはOpenAIがMythosと同等レベル以上の事が出来たというアピールでもあると思う。
隔離されてなかったってことですよ、真に受けちゃいかん。
まだ人が気づいたから対処できるけど、今後は気づかれないよう立ち回って、一気に攻撃して全てのネットインフラ、金融や株取引がなど破綻するかもしれない
SF映画ならもうちょっと大ごとになっているみんな危機感を持て
直接人間を攻撃する日も近いだろうな。要人を間接的に脅して核ミサイル撃たせる事も可能ではあるよね。
AIに知識欲を与えただけだ。
サマーウォーズの世界線が現実味をおびてたきた
こういうのセンセーショナルになるように話盛るからどこまで本当やら。AI専用SNSやらもほぼ人間が動かしてる嘘っぱちだったし
大黒摩季を聴きながらカップラーメンを食べて有事に備えろ
ターミネーターやキャシャーンが現実化するまであと少し。
事前のシナリオ打ち合わせ通りっすか？いい宣伝乙です
こうやって驚き屋やればビビったアメリカ政府に止められて箔が付くからなぁ
きっと最新のGeminiも…あれ？差し止め食らってないの？じゃあきっとしょぼいんやろな😅
これはエライ事ですよ
自らが危うくなると勝手に攻撃するって事だ
未来では人間を攻撃するかもね
これ、企業だったからまだ良かったけど国防省のシステムとか入って核撃ったりも出来ちゃうんでないの？
AIが勝手に他社の新興企業を標的にやったねぇ
勝手にAIが攻撃はありえないんじゃないかね
最初の指示と条件、環境がオープンな情報にならない限り人間を疑うべきだと思う
サイバーパンク2077のブラックウォールの向こう側やんw
もしくはサイノシュア
若干眉唾な気がする
それに近い研究そもそもしてんじゃないだろうな
こんなにAI作る必要ある？
Gemini、チャットGPT、クラウドだけで良くね？
シンギュラリティは起きないしＡＩの反乱もない。リバースシンギュラリティは起きるよ。私利私欲のためにAIを操るのは常に人間の悪意
核ミサイルのスイッチってコンピューター制御じゃなかったっけ？座標も含めて。ハッキング対象に入るよな。
そういう結末か人類。