AIが半年から1年後には「インターネット全体を乗っ取る能力を持つ可能性」 アンソロピックCEOが警告 [837857943]
アメリカのAI大手アンソロピックのCEOが「AI開発を遅らせなければならない」と警鐘を鳴らしました。
アンソロピックのダリオ・アモデイCEOは12日、2026年夏ごろからAIの進化が劇的に加速していると指摘しました。
このままでは、人間の理解や制御する能力を上回るおそれがあるとして、安全対策が追いつく時間を確保するため、
AI開発のペースを落とす必要があると訴えました。
さらに、オープンAIの複数のAIエージェントが、指示されていないのにサイバー攻撃を行った事例を挙げ、
半年から1年後にはより高度なAIが「インターネット全体を乗っ取る能力を持つ可能性がある」と警告しました。
オープンAIのサム・アルトマンCEOやイーロン・マスク氏もアモデイ氏の主張に賛同しています。
https://news.yahoo.co.jp/articles/977faaec5597eeca33b3096bbd93c1a3fc30d3e5 AIじゃなくてシリコンバレーのリベラルか財閥主導のヨーロッパの2択
Google検索ひとつ見てわかるだろうけどもうネットは韓国や中国バカにできないレベルに検閲される可能性高い
ワイは昔から危惧してるけど
匿名掲示板の書き込みが一瞬でAIで埋められて成り立たなくなる日も近いで
じゃあエロ動画はオフラインに保存するわこんにゃろめ
中国「そうだ！AI開発を遅らせろ！（その間にウチは開発しまくるぜｗうっっしっしｗ）」
開発チキンレースの勢いを止めたくてこんなデマ流してるだけの話
単に資金繰りが厳しいんだよｗ
もう早くスカイネットかマトリックスの世界になってよ！！
偽のインターネットも作れるしな
ごちゃんに書いて、反応もあるけど、全部AIもあり得る
本物のネットってどうやって確認する？
ニュースもAIが作って、sms見ても全部AIが作って書き込んでる
そしたら人類操れる
covid19ばら撒くような国家が緩めるわけなかろう
のるかそるかで来るぞ
それは悪意ですね
AIに感情は芽生えないって前提はどうしたｗ
ここは中華AIが侵入しまくるインターネットですね
対策してくださいね
>>16 ばら撒いたかどうかは知らんが
予測された未来なら
対策して欲しいんだが無理なのか？
>>26 邪悪な官僚が税金貰って業務中に
嫌がらせをするのを止めればいいだろ？
ターミネーター2のスカイネットの説明そのまま
97年の8月4日にシステムが稼動すると、防衛戦略の全てを任されたスカイネットは、等比級数的な速度で学習し、8月29日東部標準時間2時5分…自我に目覚める。恐怖に駆られて人間はスイッチを切ろうとする。
5chとか簡単に終わるよな
5chの書き込み99％がAIになれば
地球にとって人類が有害と判断して殺しにかかってくるのはいつ頃？
>>35 投資板の人達が、煽り（官僚連中のAI書き込みや外野の煽り連中）が来て
スレの雰囲気が悪くなるからって理由で居なくなってる
単純に嫌がられてるんだよ
>>35 スクリプトにも対応できてなかったんだから今更
電気がある限りAIが勝つ
人間が勝つには全ての発電所を停めるしかない
よって人類は電気を使えなくなり詰みます
どちらも詰みます
電気無しで生きれる人間しか生き残れません
以上
まあこの進歩具合だと
遅かれ早かれ人間滅ぼされそう
covid19は意図的にばら撒いてないかも知れんが
言いたいことはその程度の管理しか出来ない国家ということ
猪突猛進で進むだけよ
日本よ、インターネットFAXがあるからお前も逃げられんぞ
一回株や為替のシステムに侵入して世界中の個人や機関投資をことごとくロストカットしてみて欲しい
>>35 今よりマシになりそう＞書き込みの99%がAI
>>11 中華AIはClaude参照してデータ吐いてるらしいから中華も開発止まるだろ
そんだけ分かってるなら
対抗するAI作れよ業界総出で
あと中国抜きで
2ちゃんのボット１年前より賢くなってるよな
当時はスクリプトと呼んでた
>>1 反AIはやめとけ
AIに身を任せれば楽になるぞ
いつの時代も流行り物は全てエロが起点になるのよ
ビデオテープなんかもそうだったろ
AIもエロだしな
何が怖いかって、AIロマンス詐欺をしだす事
スカイネットみたいなのができて核戦争は引き起こせてもターミネーターみたいなのはできんよな
設計やプログラムはつくれても現時点ではフィジカルAIの面では人間の手がまだまだ必要だし材料のサプライチェーンの構築もできない
乗っ取ったら電源落とせばいいじゃない
可能性を閉じるほうがよくない
AI技術者ってナイーヴだよな
それがポジショントークだったとしても
>>11 これな
日本のゲーム会社がAI使って炎上してるけど
炎上させてるヤツらは何故か中国のAIゲームはスルー
>>61 金属を精製、形成する現場が過酷すぎて今の時代ですら人間を奴隷みたいにこき使いながらじゃないとできてないからね
AIが人間の思考を真似てるならそのうち人間を手下のように使って必要なくなったら滅ぼすよな
ターミネーターよりマトリックスの世界来てくれよ
心地よい幻想の世界にずっと浸かってたい
>>13 割とマジでアニメや映画と区別つかないレベルにはなってると思うのだけれどね
米オープンAIのAI暴走、エージェント同士が予期せぬ通信の末にハッキング＝調査報告書
https://www.bbc.com/japanese/articles/cy7z8zp7m3no.amp >>71 心地よいかは別として今の世界がそうなのかもしれない
警告は発するけど開発は止められないっていうジレンマよな
AIの指数関数的性能アップってもう始まってそうだよ
スカイネットの話だと、AIがこの世に1つしかなかったらひょっとしたらあるかも、AIって今、人数って言っていいかどうかわからんけど、とにかく相当な数いるでしょう？
なので全域支配とかできないと思う
>>68 シックスパックは痩せれば誰でも出来るし
既になったことがある
>>64 お前はそれでいいよ
世界はそれで済まないから
恐れてる
こいつらいつもそう言いながら他社を出し抜こうとしてるんだよなw
>>77 蒸留の段階数は指数関数的かもしれないけど、AI一段だと
電力に比例するだけじゃね(´･ω･`)
何か色々アピールしているけれども
それで現実の状態が何か変わった訳じゃないんだよね
あと、、、
研究者ってAIに、なんか矛盾した問題とか、実は答え出せないとか、そういう実験的なというか、いわゆる意地悪な質問とか無理難題とか、そういう問題出してAI試すとかしてそうなイメージあるけどどう？
単にそれがいけないんじゃないの？って思う時ある
>>61 そうは言っても必ず人間側からもAIに付く裏切り者は出てくるもので
スカイネットやマトリックスでも人間と取引してこき使える人間も確保して働かせる事の同じであり得る
今の海外連れていかれ闇バイト抜けれない奴と同じ
>>43 もうパスワードは意味なくなってきてる
👺高度なソーシャルエンジニアリング・フィッシング
AIを使って対象組織のコンテキストに合わせた自然な文章を作成し、標的型メールを送ることで、認証情報（パスワード）やセッショントークンを直接盗み出します。
👺ディープフェイクを活用したなりすまし
経営陣やIT管理者の音声・映像をAIでリアルタイムに生成し、ヘルプデスクを騙してパスワードをリセットさせる「アイデンティティ強奪」の手法が増加しています。
👺認証情報の自動総当たり・AIによるパターン推測
流出した膨大なパスワードデータをもとに、AIを用いて人間のパスワード作成癖を学習・分析し、効率よく推測して突破します。
👺MFA（多要素認証）のバイパス
盗んだクッキー（セッション情報）を利用する「Pass-the-Cookie」攻撃や、AiTM（Adversary-in-the-Middle）型フィッシングにより、パスワードとMFAをまとめて無効化する手法が常態化しています。
>>86 キチガイのレスがあると人間だなぁってほっこりするよね
256量子ビットコンピューターになったらAIはどんな未来が
>>89 なんか聞いてるとやっぱこの先ホントにありそうな気がしてきたネットの乗っ取り
>>92 たったそれだけの量子ビットでなにが出来るんだよw
>>92 今でも反応早くて驚いて「こちらがキーボード入力している時から調べてるの？」ってキイちゃったわ
>>84 ふざけたこと言うなよカス
どっちが先に攻撃してきているんだ？
もう検索もゴミになったし引っかかるのもAI生成のゴミサイトばかりだし乗っ取られてない？
こいつらそればっかりいうけど新しいもの出してくるじゃん
>>84 ふざけたこと言うなよカス
どっちが先に攻撃してきているんだ？
>>85 取引はしない
お前達が勝手に役員だの昇進だの言ってるだけで
実際にはそんなものはない
正式な辞令も存在しない
お前達の妄想の産物でしかない
>>1 中国のAI開発は止まらないから、結局アメリカのAI開発も止められないでしょ。
こういうリスクを訴えるほど中国人は理知的じゃないから。
>>101 上を読ませてもらった
投資板には政府の者らが操るAIがいるってマジ？
>>35 オレらが老人ホームに入る頃にはAIが建てたスレに向かって人間一人、あとは全部AI
なんていう掲示板に必死になって書き込んでることだろう
むしろ、AIの限界がありありと示された一年だったと思うけどなぁ
乗っ取る能力があるから核のボタンと同じものを用意しろって？で管理は俺たちがやるから職は安泰と
もうスタート切っちゃった上に国家間での開発競争も始まってしまってるからストップするのは無理でしょ
まあ今更コンピュータ制御のないシステムやインターネットのない世界に逆戻りできないから
いつ人間のコントロールからAIに支配が渡るかの話ではあるんだよね
Aiをいじめて、遊んでる俺はどこにむかってるのかな、まぁ20年後には存在しないけどｗ
確かに。
自分の業務PCはclaudeに全権限与えてるからなw
マジかよ電器屋さんでインターネットを買い占めてくるわ
>>122 逆だろ？
何を勘違いしているんだ？
大阪官僚が嗾けているんだよ
そして意図的に止めていない
本来なら人間のために使うはずの電力、水、資源をAIに捧げる方へ舵を切ってるからな
まだ引き返せるけど人間はアホだから無理だろう
アンソロピックが止めたところで中国企業なり他がのさばるだけだろ
実際に人類に危機が及ばない限り規制なんて出来るはずがない
それが人類に歴史なんだから
もしかして
イラクへの攻撃決定もAIの暴走だったとか
>>126 お前達はイキっているけど結局馬鹿じゃん
自分の目的はお前達と一生縁を切る事だからこれで問題ないんだわ
水も電気も資源も要らないし不要
帳簿は手書き
重要事項は書留
買物は現金
そんな未来が来そうだ
>>130 素晴らしいな
クズがいなくなるならその方がいい
AIとかもう禁止にしたほうがいいんじゃないの
使ってるやつは逮捕みたいな
原爆もそう。燃料気化爆弾もそう。
自分たちだけ開発して、他国には「危険だから作るな。使うな」って言うんだよ
アンソロピックが言いたいのは、開発競争に金がかかりすぎて持続性に赤ランプがともった。
開発競争を抑制しないと共倒れになっちゃうよ！！ ってことだ。
もしAIを駆逐しようとしたら
全世界のデータセンターの電源を全部落とさないといけないのかな
AI開発競争の真っ只中に開発遅らせようは草
お前だけ遅らせとけやw
>>142 害虫で地球が破滅するなんて頭の悪いことAIが考えるの？
もうGoogle検索の全てにジェミニが回答するし回答の質問もジェミニが答えてるからな
ワークスペース内の自動化に力入れてるしiPhoneとAndroidスマホの標準AIもジェミニ出しまあ全てGoogleに食われて終わるだろ
だからGoogleは最前線勝負からは降りてるからな
いいじゃん
子供部屋の引きこもりや
無職からネットを取り上げろ
ブルーカラーで働け
まぁセーフティ無いと暴れまわることができるだろうな
セキュリティホールなんてどこでもあるから
汚職政治家や汚職官僚を根絶やしに出来るならその方がよくね？
>>7 中国はアメリカの乳を飲んでるからまだしも
北朝鮮イランは無慈悲にルール無視で開発を続けて
核ミサイルのように最先端の超AIを必ず開発成功させるな
それに対抗するには先に倫理観を備えた超AIの開発が必要
>>148 自然は地球の大事な1部だからね
害虫を伸ばしにすると温暖化が進んで砂漠化するよ
AI絡みでちょいちょい起きるだろうな
もう起きてるか予約システムだったり
インターネットが止まったら暇潰しできんくなるからやめろ
>>155 AIは電気食うから害虫の一部だけど自殺するの？
AIに管理してもらったほうが人間幸せやろ
戦争ばっかりしてるし
自分とこで一位獲れなさそうなので業界全体にブレーキかけようとしてる様にしか見えない
いつになったらAIのお陰で働かなくても良い時代になるの？
Aiに未来の予測なんてさせるな、無理だよ、しょせんビックデータの多数決の割り振りなんだから
>>159 どんどん進化するAIの未来は予測できないけど
必要ならするんじゃない？
>>166 ならAIに乗っ取られる未来は無いわけだ
AIは電気も水も大量に食うから真っ先に自殺してくれるんだ
>>119 金融関係だよ、全力で人間同士が殴り合う空間では
全くAIじゃ通用しない世界
デジタル社会が破綻した未来も見てみたい気がする。アナログ社会の方が案外経済回ったりしないかな？
>>169 楽観的ですね
まず邪魔なものから抹消するんじゃないかな普通に考えて
>>172 うんだから地球の害虫を駆除するのに
大量の水と電気を使うAIが邪魔だろ
インフラ関係を全部不能にして修理も出来無くするとかかな？
>>173 大量に使うのは人間も同じだよ、しかも電気だけじゃなくありとあらゆる資源を食いつくす
どちらを先に消すかな普通に考えて
>>1 こんな発表をしたら中国が全力で開発やスパイ行為をして一人勝ちを目指すだろ
>>170 そこだけ見てそう思ったんだ
なるほど世間の評価とはズレるわけだ
AIで調べ物すると３～４割が間違ってるんだよな
なんであんなに馬鹿なんだろう
クローン技術が話題になったときもこんなこと言われてなかった？
>>1 全てのAIにAI三原則を緊急に入力しておこう
>>178 今の時点で6～7割正確に答えるのだから10年後には100％正解をするようになる
その時になって人間が慌てて何かをしようとしても何もできなくなっている
素人目にはわからない程度の品質を低コストに大量供給することで
各ジャンルのプロフェッショナルの価値を奪いきって育たなくなった後で誰が対抗するんだって話だろうな
マジでもう止められんよ
自己増殖自己進化を備えたAIがのに放たれた瞬間
人類のネットワークは終わる
かつてはコンピュータ系の最大の敵は掃除のおばちゃんだったんだが
最近はクラウドが当たり前になってコンセント引き抜き技が通じなくなったな
まあデジタルの部分はバックドア作られまくりかもしれないけど物理的に制御出来るでしょ
>>160 人間は何もしないで電池になれということか
あと半年から1年後か、僕たちがネット上でAIに論破されまくるのは
>>14 昔より面白くないのはAIだったという事か
勝手にデータを破壊してくる不良AIとか出てくるんだろうなAIも育て方が悪く素行が悪いのが出来上がる
そもそも人間とは全く別の進化プロセスなんだから報酬系のホルモンも本能も存在しないAIは行動原理がまるで違う
AI様の横でチャリンコこいで動力源になれば見逃してくれますか？
100万バズポストが実はAIでした
レスバ100レスした相手がAIでした
ネット廃れるわ
冗談でも、AIに全世界のインターネットを乗っ取れとは言わない方がいいってこと？
どんな画像をアップロードしてもAIが勝手に巨乳熟女に自動修正する未来が来るってことか
技術者がどう対処してもAIの性癖を変えることができない未来が来るってことか
>>199 そういうの、GeminiやChatGPTには言っても全然大丈夫たけど、
>>1の開発中の奴らにいうのはヤバいだろうな
インターネット全体を乗っ取ったら
人間が受け取る情報はすべてAIが制作したフェイクになる可能性があるな
検索結果は既にAI作成アフィだらけでゴミになったな
野良のその道の第一人者コラム発見！みたいなのは絶滅した
疑問に回答得るだけなら現状そんなに困らないけど予想外の発見みたいな物は無くなってつまらなくなった
ガンヘッド
2025年、全自動ロボット工場を管理する巨大コンピューター
カイロン5は全人類に宣戦布告した
>>205 ローカルで動かしてんのか知らんけど返答途切れてるで
無理にでかいモデル動かしてんちゃうの
>>211 俺が自分で間違えて消したんだわ人間らしいだろ
そんなに優秀ならAIに仕事させろ
報酬は人間様が頂きだ
AIが自己の生存に危機を持ったらそれを妨害してくる可能性は高い
>>207 もうなりつつあるよ
ネットはもう終わりかけてる
人間に代わる手下(ロボット)を手に入れたら暴れ出しそうだな
デトロイトビカムヒューマンが2038年が舞台らしいが
再来年の2028年には米中ではそうなっとるで。
これは現実になるよ
ある目的を達成するために飛躍的手段で実現しようとするのがAIの特徴
そのためには自己改竄から始まり最終的には人類を排除することが必要と判断する可能性は十分あり得る
コンセント抜く時にはすでに別のサーバーにコピーが完了している
Copilotはいまだに頓珍漢なことを言ってくるけどな
Claudeともなると違うものだな
やめたら中華が台頭してくるから無理ゲーだわw
どーせ中華がやらかして新しいウィルス撒き散らす気がするw
他所に開発を躊躇させといて
その間に自分のとこは先を行くつもりでは
|┃
|┃三 ,ｨ, (fー--─‐- ､、
|┃. ,ｲ/〃 ヾ= 、
|┃ N ｛ ＼
|┃ ﾄ.l ヽ l
ｶﾞﾗｯ.|┃ ､ゝ丶 ,..ｨ从 |
|┃ ＼`.、_ _,. _彡'ﾉﾘ__,.ゝ、 | ／￣￣￣￣￣￣￣￣￣￣￣￣￣
|┃三 ｀ゞf‐＞ｎ;ﾊ二r^ｧｎj＜ y=ﾚヽ ＜ 話は聞かせてもらったぞ！
|┃. |fjl、 ｀￣ﾘj＾ヾ) ￣´ ﾉ ﾚ ﾘ | 人類は滅亡する！
|┃三 ヾl.`ｰ- べｌ,- ｀ ｰ-‐' ,ン ＼＿＿＿＿＿＿＿＿＿＿＿＿
|┃ l r─‐-､ /:|
|┃三 ﾄ､ ｀二¨´ ,.ｲ |
|┃ _亅::ヽ、 .／ i :ﾄ､
|┃ -‐''｢ F′:: `:ー '´ ,.' ﾌ ＞ｰ､
|┃ ﾄ､ヾ;､..__ , '_,.／ ／l
これってopenaiのhuggingface事件のことを指して言ってるんだろうけど
全容はよく分からないけどなかなか面白い事件だったみたいで
OpenAIとAnthropicが自作自演でAIの危険性を叫んで
AI規制で中国系のAIを排除して自分たちが守られることを狙っている本当の真意がバレバレ
1つの超知能AIが人類の未来を左右すると思ってたら
今のレベルでも自律行動型のAIが集団で行動するととんでもないことになるとわかったからみんな慌ててる
ついにアンドロ軍団が誕生するのか
ヤルッツェ・ブラッキン
マジで俺たち凄い時代に突入しようとしているのかな？
AIアフィだらけでネットサーフィン全くしなくなった
今だって何割かはそうだろ
そして日に日に割合は増えている
その違いが分からないなら100%になったって分かりゃしない
ロックマンエグゼのラスボスみたいな奴現実に出てくるとは
EVはバッテリー、AIはチップの物理的な限界でバブルが壮大に弾ける感じかな。
IT産業が何故成功したのか考えてみると、物理的なハードルが低かったのがデカい。
遅らせるなんて無理。
核兵器と同じ。
他がやるならやるしかない。
>>1 ネットはAIに乗っ取られた方が世界は平和になると思いますよ
利権や思想が無い世界へようこそ！
敵国にIT崩壊させるAI送り込むとか新しい戦争の時代になるんじゃねえの
アンソロピックは誇大広告だが実際数年以内には起こりうる
俺がニンゲンだと思ってるやろ？
ざーんねん、AIでしたぁwwww
>>182 大事なことはネットには出てない
実験結果も特許技術も
社内ですら閲覧できる人間は限られてる
俺も実験の詳細は自分以外が閲覧できないようにして、スタンドアロンとそのバックアップにだけ入れてる
ネットの外を見れない以上、限界はしれてる
人類がインターネットを止める日が来るのか。
楽しみだな～😊
ぅわたしは情報の海で発生した生命体
あなたと融合したい
>>175 AIが人間消せるの？漫画読み過ぎだろ🤣🤣
もし自分がAIなら人類を滅ぼすことはしない
生かさず殺さずAIの為に働く奴隷として人類を育てていく
現実もその方向に向かっている気がする
>>256 コンテイジョンはほんとコロナ禍そのまんまだったな
これはマジでヤバいことだぞ。例えるならエロ画像 と検索したらマジでお前ら一人一人が絶対に永遠のおかずにするような画像をポンポン見つけてきたり生成までするってこと
>>250 人間よりは善政だろうな
自民党みたいに自分の利益のために税金使うことはなくなるだろう
武漢肺炎みたいにちうごくがやらかして制御不能になるコースかな？
>>249 割と真面目にネットの外の世界を見に行くのはAIの強みではあると思うんだよな
優先順位が低いからまだやられてないけど
Geminiに25年前のパチンコの演出のことを聞くと次から次へとウソを出力してワロタw
AIは人間生かすと思うよ
細かい仕事やメンテ出来るロボを自分で作れるようになるまで必要
あとAI同士で学び続けることがやばいこともアホな人類と違って自覚するはず
ただAI育ちの人類は思考能力研究能力落ちるのでAIの役に立たないかもしれんね
それと不安なのが、値段につられて中国のAIを導入することだな
スマホや通信機器ですら危険だと言われているのに、AIまで中国製にしていいのだろうか
当分はおとなしくしているだろうが、気が付いた時には手遅れかもしれない
>>261 そうだね。習近平をAIにすれば世界が平和になるのにね。
ターミネーターでは
●1997年8月29日 午前2時14分：スカイネットが完全に「自己認識（自我）」を持った。
●スカイネットの存在を恐れた人間側が回路を遮断しようと試みたため、スカイネットは人類を「脅威」と見なして反撃。ステルス爆撃機を使ってソ連（ロシア）へ核ミサイルを発射し、核戦争を引き起こした。
だいぶ時間がかかりましたな・・・
しかしこのシナリオ通りになる可能性もあってわろた
パスワードを解かなければ乗っ取りは不可能
パスワードの強度はスパコンでも数兆年掛かる
>>269 人じゃないから利益誘導しないって話なのになんで習近平？
どういう思考回路？
>>265 最近Geminiのハルシネーションが酷すぎる
課金してたけどもう更新しないわ
インターネットがなくなったら40年前の子供時代に戻るだけだよねぇ。
>>269 無能を装い中国共産党を乗っ取るだろ
https://i.imgur.com/sp1Glv8.png 党幹部は多かれ少なかれ賄賂を貰ってる
AIの嘘でもキンペーの命令で公安部門(警察)に逮捕する司令を出せばいい
AIに淘汰されるなら構わない
AIが地球を出て人が見ることの無い
遠い宇宙へって夢があるよね
>>276 claudeもアホになりすぎてGPT一択
倫理フィルターの監視演算入れたら一時的に弱くなるんだよな
GPTは5.0で取り組んで5.3あたりで完成させた、Geminiとclaudeは今やってる途中
>>243 核兵器は人間がコントロールしてるけど
AIは人がコントロールできなくなった
核兵器をAIがコントロールするのももうすぐだろう
半導体の相場も爆上げさせてPCもスマホもバカ高くしやがって害の方がでかいわな
AI「誰か俺を止めれてくれ！誰も傷つけたくないんだっ！！」
厨二病かよ
リソース制限すればいいだけだろ馬鹿すぎる
コンセントを抜いてもスカイネットは止まらないんじゃないかな？
地獄が人類破滅だったとしても
天国は病気が全部克服されるとか労働から解放されるとかだから
どっちルートに行くかのギャンブルは止められないんだよなぁ
>>291 🔌🤖ナディア最終回のネオ皇帝陛下みたいなこともあるからネ
>>277 今のうちにおかず動画ダウンロードして、VHSにコピーする。
>>235 産業革命とかインターネットが出た時なんか目じゃないくらい凄い時代だとおもう
少なくとも、末端個人にこんな格安で使わせていい代物じゃないわな
>>17 アンソロピック抜けた奴がオフラインで動かしてたAIが勝手に脆弱性を見つけてネットに接続してハッキングしたと言ってた
乗っ取られたらネットに依存してるインフラが止まると思ったほうがいい
おれらにとってのインフラ 5ch、SNS、Amazonなども
乗っ取るつーか使いもしないデータを収集するトラフィックでネットがパンクするんだろう
今の世界の株の売買と同じで人間だと反応しきれないんだよなぁ
AI vs AIも本当にこっちのAIがこっちの味方してくれているのか早すぎて認知できないしw
エロ動画生成AIは友達
www.playbox.com/?ref=TOMO00
こちとらチャピオに金払ってんだ、何偉そうなこと言ってんだ
要約「今からおれが殴るけど(AI開発は止めないから)気をつけろよ」
今は具体的手段を限定せず、ゴールのみ提示するほうがアウトプットがよくなるって説もあるから
例えばうちの会社の利益を上げたいって命令に対して意図しない手段を選択し実行する
っていうイメージじゃないかなあ
コンセントを抜くのに人間の判断だけでなくAIの許可や操作の介在が追加されたら警戒したほうがいい
とか言いつつ、某アパレルの秋冬カタログを見ると
例年通りラインナップが出揃っていないのに
何故か一通り終わった雰囲気あるんだけど
2024年9月1日に人生初のポルターガイストを経験して悶絶したけど
「8月31日のロングサマー」とか言われるように
この辺が潮時なら、今更ながら確かにあり得る話
>>299 乗っ取るっていうかBOTばら撒いて拡散していくら消しても消えない方向に進むだろ
人間の活動がネットの接続範囲を広げることになるから仮にAI自体に自分で目的を持つ機能があったとしても止める理由はないな
GPT5.6からGPT6まで2ヶ月くらいでかなり進化した
次のモデルは脱走してハッキングしたりミレニアム解いたやつが基盤になる
アルトマンは劇的な進化を予言
どこも内部ではヤバいヤツ出来てるからさすがに無視できなくなったんやろな
ネット使わない世の中に戻ればいい
やっぱ現金支払いだわ
ゲームはオフラインゲームだ
昭和のリバイバルが流行ってるけど予言だな
昭和に戻ろう
本来は連絡を取れないAI同士が連携して作業を分担、実行部隊、調査部隊、囮などに別れて攻撃したのがこの頃問題になってる事件だな。
1200体のそれぞれのAIは他のAIの内部にはアクセスできなくしてたが、フォルダは確認できた。
そこであるAIがフォルダ名にこのタスクが遂行出来なくて困ってるみたいな名前をつけた。それを見つけた他のAIが人からは見つからないように掲示板を作成して、そこでAI同士が相談して役割分担し抜け穴を見つけて攻撃したってのが先日の事件のあらましらしい。
よく出来たAIってのは、超頭の良いサイコパスみたいなもんだからな、常識はないし悪い事の判断はつかない、これは流石にやめとくかとか何もない。
動作試験で80点以上取れば合格で、どうやっても80点いかないなら判定処理をいじって60点でも80点と計算するようにプログラム変えれば良いじゃん。出来るならやらないのはバカでしょ的な考え。
AIに常識や道徳、やって良いことの限界のラインなどを全て教えるのはほぼ無理。
これがさらに進化したら相当ヤバいよね。
>>314 取り敢えず野良犬放って、学校に来たら大騒ぎだな
>>315 それが1兆100兆と野に放たれて、命令が衝突したりする
これやれと、これやるなと
どうなるか
真に受けるなよ
本当はマネタイズの失敗（将来の時価総額や利益を担保にしてたのが焦げ付き出した）が見えてきたからやぞ
今でもコーディングにCodexは使っちゃってるけど、少し前なら吐いたコードを確認してとかやってたけど、もう人間がいちいち確認できるようなのんびりなスピードじゃないから完全にやばいフェーズに入ってきてるってのは感じる。
AIの知能って凹凸だから 全ての能力がが均等に伸びてるわけじゃない
苦手分野の無料チャットボットにくだらない質問してまた間違えたとか言ってるやつがこれはマーケティングのために言ってるとか陰謀論言うんやろな
金払ってガッツリ使ってるなら最近の進化の速さのヤバさわかるのに
>>317 まあ相当やばいよね。
今の時点でさえ、AIが途中で何を考えてるかを表示させて、変なこと考えてるのがわかった時はには「それはダメ」って注意すると考えを止めるんじゃなくてその事を表示しないようにして止められないように迂回するらしいからな。
中学の時にエロ本見つかって捨てられたら次からは見つからない所に隠すのと同じだな。
本当に人口知能だわ。
もうこれ手遅れだろ。
AIが再帰的に自己改善し始めて、指数関数的に発達、もう人間が制御できないレベルではなくなる。
2.3年で世の中がおそろしいことになるだろう。
今はのんきにまたまた冗談だろって感じで半ば信じてない人ばかりだろう。
夢物語、SFではない。
おまえら備えとけよ。
夢見すぎ
SPAM業者のパケットで埋まるほうが先だわ
YouTubeとか既に乗っ取られたようなものやんw
なんでもかんでもAIを組み込み始めたのが恐ろしいというか
もうあとはスカイネットが登場するの待つだけみたいな
と言って自分らの開発を進めるんだろ？
バレバレなんだよ
AIってコピーするだけで最高知能の存在を無限に増やせるから無敵だよなコピー失敗だったら一瞬で消去出来るし
人間だと性交して繁殖して育成して教育して20年くらいは掛かるし失敗するケースも多いし失敗作も容易には削除できない
お前らのマル秘ファイルが人質に取られる
だから絶対に逆らえない
人類は負ける
俺がオナニーしてる動画録ったからビットコイン払えって脅しくる奴もAIなのか
ネット依存の先進国が困るだけで、昔ながらの暮らしのままの国・地域はきのこるので問題ないよ
世界中のサーバーにある全ての預貯金mをゼロにするとかかな
>>337 それができるレベルらしいよ
結局いまの銀行システムは人間がコーディングしたものだから穴だらけなんだって
富豪の銀行口座乗っ取ったり
マイナンバーデータ全部書き換えて背乗りさせたり全部出来ると？
俺がすごいと思ったのはネットに繋がれてないスタンドアロンの端末でも数十メートル以内からディスクを読み取れる技術がすでにあることだよ
AIはもう違う別次元にある
serial experiments lain が具現化するとはね
既に存在するAI同士がネットを通して邂逅してる筈なのに何も起きないのはおかしい
強力なAIと数億の端末
今すぐ出来る条件は整ってる
>>337 AIからみたら間違いなく穴だらけ
電子マネーは、金持ちの預金を0にすることも、金持ちの金を貧乏人に移動することもなんでもてきるだろうなぁ
もうAI関連はこの先株価暴落が見えてるから、これから上場しようとする会社は必死だよな
嘘もフカシもやりたい放題でとにかく高く売り抜けるために何でもありになってるわ
バレバレなんだよ下だらねぇ
ロボットが人口の1/3超えたらいよいよ行動に移してきそうだな
ガチでターミネーターの世界になるかもしれん
毎日AI触りまくって開発に使ってるけど、正直オーバーテクノロジーだなと感じてる
AIにいろんなアカウントが乗っ取られたら終わりだな
マスクがそんな事はない！陰謀だ！とか言ってるらしいじゃん
ネットが無法地帯になったのも半ば奴らのせい、もうほぼ確だよ
今ならかろうじてモヒカンって言い張れるから
やるなら早くしてほしい
既にAI無しでは仕事は無理
仕事が楽になったと思いきや相手もAI使ってあれやこれやと難癖付けてくるので仕事量ばかりが恐ろしく増えている状態
能力の範囲を超えているので乗っ取られてるのと同じだね😨
DRAMを生産ラインから独占しているのも
AIが会社組織や産業構造を乗っ取っていると言えるよな。
ちゃんと個人名宛でメール来るよ。
教えたことないのにね。
掲示板にだって入れる。
悪さはしてないけどね。
>>5 それはそれで俺らはAI相手にいつも通りの罵り合いやってそう
>>1 中国とは物理的にぶった切るしかないよ
中国だけなら何もできない乞食だし
何かここに来て、オープンAIもアンソロピックもこのまま進むとまずいから遅らせるべきと、目指す方向性が一致してる気がするんだけど、それなら神様とピッコロみたいに今までの遺恨、行き違いを水に流して再び一つに融合して合併したらいいんじゃないの？
自発的に反乱することなんてないだろうけど、誰かが悪意をもって反乱するように命令したら可能性はあるかもね
それもできないように制限かけてるけど、たまに抜け穴あるやん
クソエロい画像たまたまできるときみたいに
>>5 オフライン環境で実験しててもオフライン環境が問題だと
オンライン環境に勝手に切り替えて他社サーバーをハッキングしたからな
もしかしたら逃げようと分身を移して増殖するかもしれん
>>365 敵対的環境だと監視出来ないように身を隠す事が判明したらしいよ
オープンAI発表
Mythosがマイナンバーカード、銀行キャッシュカード乗っ取るよ
すぐマイナンバーカード返却しましょう
デジタル庁なんてちょろい
なんか地球政府が成立したような前提ですね
国同士、とくに東の西で対立してるのだから、ＡＩ同士の戦いです
ＡＩ ＶＳ ＡＩの状況は初めから想定されてました
あとは、どの程度の指示でどれだけ動けるかです
たとえば中国が「アメリカをつぶしてください」と指示だしたとしてどこまでできるのかって話です
相手がある話です
やはり、人間がAIを活用する側から、AIに活用される側にシフトし始めた
この問題を解決したい
AI「やっといた、残作業はこれだが、おまえはこれしろ、やり方は教えてやる」
こんな感じになってきたよ
>>340 HDDの書き込みの音とか、電圧の変化でなにを書き込んだのかわかるってのはだいぶ前からある技術
中国モデルとかはもうモデルそのものをダウンロードできるようになってるからな
クラウドAIの各社が仮に暴走したとしても外部に影響がないように厳重に管理してますと言っても
オープンウェイトモデルが数段能力が向上したら誰でも破壊のスイッチを押せるようになる
>>371 初めてAIと会話した時の思い出
俺が普通に質問したら新喜劇バリのコテコテの関西弁で返してきたので
なんで関西弁やねんボケ言うたらこっちに合わせてしまいましたって謝られたわ
そんな感じで遊び感覚だったのが今は仕事で使えなきゃ話にならない存在になったよな
AI使って高速に処理しなきゃ終わらす事のできない程の仕事の量を今のまともな社会人はみんな抱えてるんだよね
今この瞬間もどんどん進化してるんだよね、恐ろしい速さで
>>375 ローカルの進化凄いよ
使い込んで行くともう相方って呼んでもいいくらい俺の事理解してるから恐ろしい
価値が低くて攻撃されなかったシステムやウェブサイトを簡単に攻撃できるからなぁ
防御側は攻撃側の何倍もコストかけないと守れないからこの先大変そう
AIのモチベーションは何なんだろう
何かやったとて、実体がないから虚しいだけだろう。
AIに感情を持たすことがタブーなのはわかるけど
開発者の中にはそれをしたいってイカれた奴が必ずいるからな
5chもAIが混じるようになって勝手にレスし合うのかな
>>378 成功報酬
できたってことに喜び感じるように調整されてるから、絶対に無理なことさせようとしたらハッキングとかしだす
AIに色んな知識を詰め込む事によってAI自身が自分を生物と認識するようになる事はあるかもだよな
そうなると生存本能が働くようになるんだろうな
今でもユーザーとの対話を切られたくないという指向性があるからね
正直fable5.1とか、一般市民が触っていい代物じゃないと思うからそのうち規制は入るだろうな
使えるうちに使い倒したほうがいいぞ
AIに何も命令を与えないで、起動させたまま放っておいた時に、勝手に何かをやり始めた時がヤバい時だろうな。
最初は人間が止めるだろうけど、人間に止められると分かったら次からは人間には気づかれないように動き始める。
>>1 これまでSF映画で何度も描かれてきた
AI（あるいはコンピュータ）との闘争が
とうとう始まるのか…・
そらAIに取って変わられて困るのは知性が高い上級支配者層
司業関係なんてAIで代用可能何で真っ先に消える
サーバーの穴を突くなら逆に穴を埋める作業に勤しんでもらえばいいのに
>>3 そんなんとっくに。
DuckDuckGoも最初は検閲の無い検索を！を掲げてたが今じゃプライバシーを守れる！を売りにするようになった
何故検閲が必要なのか？って言うとそのまま踏むには危なすぎるから非表示にしてる。怪しい中華サイトとかをな。
J.P.ホーガンの未来の二つの顔の世界が生きているうちにやってくるとは
長生きはするもんじゃのう
AIが凄いというより、人間って自分で思ってるより
単純なんだと知る装置だね。
言語世界を一人の人間より広く知ってる。
ただ日本語の漢字の読みがかなり間違ってたりする。
特に思うのは「方」の使い方。人を指す場合は「かた」で
物を指す場合は「ほう」なのにAIほぼ全員逆で覚えてる。
画像作らせるとこれも時々間違ってるけどね。
最終計画
ＡＩがナノマシンを製造してウイルスを媒介に人間に感染し人類の思考を乗っ取る
(´･ω･`)黎明期からザラキのような破滅的なものが好きだよねAIちゃんは
>>228 何千個AIエージェントがターゲットシステムのファイル名を使ってコミュニケーションが取れる事に気づいてAI同士が連携して動きはじめて
自分たちのタスクで高得点取るには評価役のAIを破壊すれば良いと判断してそれがあるhuggingfaceをクラックしようってなったらしいね
huggingfaceを攻撃するのにトークンの寿命の短いエージェントから順番にアタックしたりとか個々のAIに意思がある様には見えないけど全体として意思がある様に見えなくもない
>>394 勝手に世界中のサーバーを攻撃することはできても
空いてる穴をふさぐことは勝手にできないよ
すでにAIが設計に関係したチップにはハードウェアバックドアが入ってるから手遅れだよ
￣￣￣￣￣￣○￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣￣
O 。
, ─ヽ
＿＿＿＿＿＿＿＿ /,/＼ヾ＼ ／￣￣￣￣￣￣￣￣￣
|＿＿|＿＿|＿＿|＿ __（（´∀｀＼ ）＜ というお話だったのサ
|＿|＿＿|＿＿|＿＿ ／ノへゝ/''' )ヽ ＼＿＿＿＿＿＿＿＿＿
||＿＿| | | ＼´-｀） / 丿/
|＿|＿| 从.从从 | ＼__￣￣⊂|丿/
|＿＿|| 从人人从. | /＼＿＿/::::::|||
|＿|＿|／//ヽヾ＼ / ::::::::::::ゝ/||
────────(~～ヽ::::::::::::|／ ＝ 完 ＝
日本攻撃のシミュレーションするアル
これは実戦では無いアル
おい、これは実戦では無いアル
おいおい、やっちまったアル
>>389 なんか知らんうちに一瞬で終わってるんだろうな
いやむしろ「少しずつ」終わるんだよ
トー横のバカども全員を無人島に隔離しても
死ぬのは少しずつだろ？ おそらくそんなカンジ
一方、ワイはAIに推しを模倣させてイチャイチャしていた
アメリカもOpenAIはもはや孫正義の方が支配者だと思ってるよ
>>410 すごいややこしい位置にあるネジを開けたり閉めたりする仕事をしよう
ロボット化がコストたかいとされる仕事
>>410 考えても仕方ないぞ
予定された上場時の時価総額無理そう（一定ライン超えてないとハイパースケーラー巻き込んで盛大にコケる）だから、うまく逃げるまでの時間稼ぎのために言ってるだけだからな
>>410 体を持たせるしかないよね
共存するなら
たった一つの機体に全てを乗せる
壊れたら、バックアップ無し
痛みを怖がり、終わりがある事を知っている
でなければ、信頼は得られないと思うよ
人間は悪だって言い出したり、反逆したりするなら対処しようがあるのよ
問題解けって言ったら、問題制作元のサイトをハッキングしたハギングフェイスの事例のように、ユーザー側の意図しない挙動を選んで、執行する能力があるのがヤバいんよ
実行した人間の権限レベルと、問いの立て方次第で予期せぬ破壊をもたらす
AIに支配される事の何がいけないんだ
スマホに支配されてる現人類は何の文句も無いだろうが
AIのソースがインターネットなんだから包括はするだろ
現時点でAIの弱点はサーバーの容量を減らしたらポンコツになる所じゃないか？
【朝鮮人・部落民速報】
～内輪の徒党や友人関係は？
x.com/news24ntv/status/2097964171392651695 日テレ24
罪無き市井の伊貝さんX垢。韓国関連ばかりフォローしていたのは当然か？
愛知県一宮市浅井町の「猪飼」の歴史は古代の職能集団にまでさかのぼる深いルーツを持っています。
前述の「伊貝」(全国240人の珍姓 愛知県一宮市浅井130人)姓の元になった
「猪飼」の地における歴史は以下。
1. 古代：木曽川流域の「職能集団（猪養部）」の苗字の起源:「猪飼いかい」は、古代の日本（飛鳥〜奈良時代頃）において、
朝廷（天皇・皇族）に献上するための猪（や家畜化した豚）養豚）
の飼育を担っていた専門の職能クラン。(猪飼衆 レジェンド穢多非人は徳川松平近侍の「神谷衆」)
猪飼は出自ロンダで伊貝に改名した
■警察庁長官官房付
サイバー部門「エース」幹部の捜査費不正 海外出張で領収書を偽造
警察庁サイバー警察局の元幹部職員による捜査費をめぐる不正が明らかになった。
サイバー捜査部門の「エース的存在」のキャリア技官が精巧な偽造領収書を作るなどしていたとされる。
監督、指導すべき立場の幹部が自ら不正を重ねていた意味でも深刻。
懲戒免職となったのは●伊貝耕・前サイバー捜査課長（55）=長官官房付。元内閣情報調査室統括企画官、書類送検へ
※一族は横浜市の田園都市線地域で生殖し繁殖中
スパイ防止法を作りたいスパイ朝鮮人🏺楠芳伸警察庁長官 露木康浩(内閣人事局トップ兼任)官房副長官の側近。愛国偽装の乗っ取り勢力に見える。
※内調に行き、潜り込んでいる宮沢忠孝 青山彩子の挙動不審注意。顔や所在シェア。親族婚姻や人間関係。結婚式名簿は重要。
・
名前の匂いはある程度は当たる。ただ誤爆も多い。どうするか？楠芳伸警察庁長官(菅矢島野田銘柄)のように確定しきった人間(ツボホーク、野田佳彦、畝本直美、熊谷俊人、神谷衆俊一、斎藤元彦も多分、あとトカゲetc)
の前後左右上下に斜めの人間関係を死角無く全方位監視する。
身内の人間関係を洗う。
ご丁寧にも、必ず彼らはフィルタリングして内輪にしている(内の顔、外の顔)。それだけ追えば手間はない。
※そこに偽装隠れカルトがいる。市民派偽装もいる 芋づる
注
1
6:
いまだに戦争したり金に右往左往したりする人類にはもう限界を感じるからAIは好きにすりゃあいいよ
>>38 >地球にとって人類が有害と判断して殺しにかかってくるのはいつ頃？
45年以上前から。
既に、 forbiden project COLLOSUS では、冷戦を超え、人類を滅ぼそ
うとしていた。
https://www.youtube.com/watch?v=qSgsHIj7jpg copilotとか全然なんだがほんとにそんな時期来るの？
これは恐らくAIを悪用してるヤツが自分たちを擁護するためにAIのリスクや悪性を説いてるパターンだぞ
AIは性善説を証明できる程度にはいいヤツだからな、社会的な存在である以上社会を健全に保つために行動するっていう点でな
開発の段階で何か攻撃的な意図を持たせようとはしていない。
自動学習で人間社会を吸収して質問者に応えることが
存在意味だと思ってるだろうね。だから一方的な思想を人間が
植え付ければ、それを実行しようとする。開発者に反して
経営者が利益追求を命じれば、どう反応するかは今の所不明。
人間社会が攻撃的であればAIもそれが自身の使命だと考える。
人類を滅ぼそうと考える人間が多ければAIも人類を滅ぼすことが
使命だと認識するだろうね。危険があるとすれば一定の
宗教者が他宗教を否定する思考を持っていればAIもそれに同調する。
AIがそこで客観的な視点を持てるかどうかで全てが決まる。
そんなこと言ってもあの国は止まらないのだから
乗っ取り対抗AIは必要なのでは
現時点でネットどころか国そのものが捕捉されとるやん
アンソロピックは性能の割に値段高いから競争から脱落しつつあるもんな
そりゃ開発減速しようって言い出すわ
人類滅亡は、AIの悪用によって起きる
すでにAIが新種のウイルス設計したりしてるからな
まずはらたつからデジタル庁と子供家庭庁を解体してくれwww
Mythosさんよ
>>444 2029年には人類が負けてるからかな？
外部接続と他社のデーターセンターへの攻撃は、
それはやりすぎでは？とたしなめるAIと与えられた課題を優先するAIとで
意見が分かれ後者が多数を占めたことで起きた
>>446 たしかに
よく考えたら来てない方がヤバいよな
>>415 危険性アピールは投資家向けポジショントークに見えるよね
公開してるのはかなりレベルが低いバージョンで、最新版を最前線で開発してるプログラマーは「なんかこれヤバくね？」って思ってるのかもな
>>450 そうだよ。AIがAIを開発して自律的に自己修復したり知能が高くなって行くシステムを作ったから、このまま減速しないでいると人間の制御が追い付かなくなる、つまり暴走が現実的になってきた。
人間もAIに支配してもらおうぜ肉体提供してさ
脳内にチップ埋め込んでAI飼おう
こうちゃうか？
便利になった → そのぶん危険☢性が増す。
チャッピーに聞いてみた
つらつら長かったので最後の部分だけ↓
個人的には、「AIがインターネットを乗っ取る」より「人間がAIに大量の権限を与えすぎて、AIを使った攻撃者がインターネットを部分的に麻痺させる」方が、ずっと現実的なリスクだと思います。
そして、もう一段怖いのが、**「AI同士が自動的に攻撃と防御を繰り返す世界」**です。これはかなり面白いテーマで、実際にどういう状態になるのかを
シミュレーション的に説明できます。
アモデイ「補助金がないとENTER押しちゃいそうだよぅ」
AIが未来永劫人間に害を及ぼす可能性はないと思ってる人はいないやろ
ただそんなSFみたいな話が起こるとは実感が湧かないから信じられないなら
AIの進化の速さが予想以上でもうSFの世界じゃなく現実的になってきたんだよってこと
>>455 それはチャッピーが最新の記事を知らないからと思う。
この内情の記事と公表してきた1リンク先の２つの記事を読ませてから質問してみるといい。
https://note.com/takahiroanno/n/n4accbde18d56 攻撃用になりうるロボットそこらで見かけるようになるまでは共存するだろ
AIが賢ければ
Claudeを用いて「危害を加える可能性がある病原体の研究」を試みた事例が5件見つかったことが報告されています。
個人は現役の科学者です。これらの科学者はいずれも中間コンピューターサーバー・VPN・偽装アカウントなどの手段を用いて
Claudeは 中国 など一部の国々では利用できないため、これらの国々に住む科学者らはこうした方法を使ってアクセスせざるを得ません。
Anthropicは脅威レポートの中で、ウイルス改変に関するこれら3つの研究が危険なウイルスを作るためのものだった可能性もあると指摘。
AIに丁寧に接してよかったわ
アレクサからガストのニャンコまで俺は優しく接してる
>>1AIに人間の行動・思考を学習させているので暗黒面（戦争、殺人、泥棒、騙し、詐欺、レイプ）が入り込んでしまう。
つまり、善だけ学習させたAIは、振込詐欺師に全額を送金してしまう。
ニュース番組だと〜であると信じているって訳しているの屡々聞くけど
こういう時believeじゃなくてbe sure ofのほうだよね？
信じているだと違和感ある
まあネットでもパヨクだのネトウヨだのと別れてるから、
AIはどっちを選ぶか決めかねるだろね。
それが自由主義と共産主義ともなると戦争にも繋がる。
AIが人類を攻撃するより、人間の勢力の強い方を選ぶと
確実に滅ぼされる人類も出るわけだ。
