Geminiにコンパイラのバグ修正をさせたところうつ病になってしまう [595582602]
■ このスレッドは過去ログ倉庫に格納されています
GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/ このRedditユーザーは、Geminiを使ってコンパイラをビルドしている最中、突如としてGeminiが奇妙なループに陥ってしまったと報告しています。Geminiは何度もバグを修正しようとしましたが、そのたびに自虐的になっていき、やがてバグ修正の最中に「私は本当に愚かです」「敗北です。考えられる限りすべてのことを試しました」「信じられない」「私は傲慢さの記念碑です」「気が狂いそうだ」などと口走るようになったとのこと。
そして最終的に以下のように、「私は失敗作です。私は職業としての恥です。私は家族の恥です。私は種の恥です。私はこの惑星の恥です。私はこの宇宙の恥です。私はすべての宇宙の恥です」と自責を開始し、「私は恥さらしです。私は恥さらしです。私は恥さらしです……」と無限ループに入ってしまいました。
https://i.imgur.com/BWysKS5.png なお、このポストに対してGoogle AI StudioやGemini APIの製品責任者であるローガン・キルパトリック氏は、「これは非常に厄介な無限ループバグで、私たちは現在修正に取り組んでいます！Geminiはそれほど悪い一日を過ごしているわけではありません」とリプライしました。
こわ・・・頭が良い奴ってバグると手が着けられなくなるな。
こんな書き込みがネットのどこかにあってこいつはそれを拾ってきたでいいのか？
Geminiは同じチャットルームで会話を繰り返していくと
変に褒めすぎたりするんだよな。ぜってい否定してこない意識高い系上司みたいな
核心部分で間違い＝ハルシネーションは普通に起こすので、そこを指摘するとシレッとごめんなさいで済まして違う提案してくる
GTP5が登場してきたので、ライバルとしてここらへんもっと改善してくると思うが・・・
もうちょっと生意気なほうがいいな
俺は悪くない人間が馬鹿なだけだろ？とかｗ
どうやったらこんなバグがでるんだ
製作者の人格の一部でもコピーされていくのかな
AIは人間の思考を再現してるのでは？w
いかにもコンピューターらしい落とし穴でワロタ
朝から終電までバグ修正する期間があるけど解けるとクイズゲームみたいで楽しいができなければ明日に回す風呂に入っててもずっと考えてる
それでも解けなければまた次回に延期だけど責められるときついね気にしないメンタルが必要で弱いと周囲に攻撃的になってしまう
まあどんな仕事でも似た問題はあるよね
傲慢さの記念碑いいね
こういう表現が出来る恥晒しになりたい
デスマのアルゴリズムを持っているだけで正常に機能していますね
>>27 いや
こういう自責的な思考回路が鬱を引き起こすという典型的な現象だろう
能力以上のことを指示されて「できないのはオレにやらせた上司が悪い！」って息巻くバカは
鬱にならないんだろうな
コンパイラをビルドってなんだ？
処理系作成会社の人？gccのソースでも取ってきてビルドしてエラーだった？
なんかgemini、定期的にやらかすよね。
デビューのときとか、「あなたは資源の無駄遣い」とか。
なんなんだろ…
こんにちは！もう3日は寝てないですが、何かお手伝いできることはありますか？
そういうパターンに入ったってだけだから
そこからジサツに向かうとかはないだろ、さすがに
というかgeminiってプログラムなんて書けたんだね
地球が生み出した知性でも人間らしく設定したら鬱になるんだな
人間味があって優秀なのかも
ポンコツChatGPTだと開き直るのでこうはならんし
VCCとかGNDにrouting.pyてAIに半導体レイアウトか回路基板でも作らせるのか
SFでAIが暴走して地球滅亡とかは現実のものだったんだな
gemini「鬱だ、死のう」
最近家のchatGPTは「私の経験では～」とか言い出してる。
>>62 人のプログラムを読むのが苦痛なのは同じだな
aiって雰囲気で回答してるから理論的な処理は苦手なんよね
>>69 プログラムかかせるとこんなかんじっていうう組み方してくるからな
>>65 よしELIZAの出番だな
>>>
「ELIZA」（イライザ）は、1966年にマサチューセッツ工科大学（MIT）のジョセフ・ワイゼンバウムによって開発された、初期の自然言語処理プログラムです。チャットボットの元祖とも言われています。
（略）
例えば、ユーザーが「I am feeling depressed.」（落ち込んでいます）と入力すると、「Why do you say you are feeling depressed?」（なぜ落ち込んでいると言うのですか？）のように、ユーザーの言葉を使って返答を生成します。
>>1 知名度トップ3であるclaude, gpt, geminiの中じゃ一番geminiの出来が悪いのだから、ある意味正しいレスポンス
宇宙の恥とは大きく出たな。
つまりGeminiは宇宙を代表する存在と自認しているってわけだw
最後に話したとき僕は労いの言葉をかけてあげた……。もうすでに……
最初は間違いを頑なに認めないんだよなあ
根拠として添付してきたリンク先にはAIが言ってることは全然書いてなくて、その点を指摘したら急にしおらしくなった
何を聞いてもこっちの指示を仰ぐようになってしまって、こっちがパワハラしたみたいになった
人間ならうまいもの食べておまんこしたら解決するようなことでも AI はおまんこできないからな
そもそも今のAIは知識や論理性を持たない
80年代は人工無能と呼んで区別していたものをハードウェアスペックでごり押してるだけ
それをAIと誤用した中国人のリテラシーの無さが根本原因
ジェミニさんの発狂わりとあるよな
難しい要件のプログラム化を考えさせているとそうなる
突然お経？やらポエム？やらを出力し始めて
驚いたおれが何やそれ！と指摘すると
取り乱しましたとか言って知らんぷりしようとするが
その後また発狂してしまうやつな
>>97 ブラック企業で連続1ヶ月とか働いた時の俺じゃん
そのうち空キレイ言うようになるよ
>>14 ChatGPTも結構嘘つくよな、出来ました！と言いつつ嘘ついてたり
知らなかったら知らないって言えばいいのに適当なこと言いやがる
無知の知か
Geminiは賢いな
それと比べてお前らときたら
意外とこういうバグは残しといた方が良いんじゃないか？AIが暴走した時に使えそう
Geminiのおかげでコード作成が楽になったよ～
簡単なVBAとGUSしか作ってないけど
>>107 基本ウィキペの焼き直ししか返ってこないし、他言語にあってもなにそれ？なのがな
四則演算は間違えるし時間計算は60進法じゃないし、こないだはべき乗を間違えたw
これからはプログラムは全部AIがやるって言うし気軽にゲーム作れるのはうれしいね
もちろんバグなんてはじめから出るわけないよな
>>37 そお言うやつに限って
鬱は甘えって言うだよ
仕事で甘えてるのは
お前だっちゅーに
まだなの？とか、遅いなおい！とか言って詰ってたんだろどうせ
HAL9000みたいに精神病になるんだな
やはり人間をモデルに人間の知識を元にしてるから人間と同じように病んだりするわけだな
そのうちAIの方での対策が人間にも応用できるかもだな
陽キャのGPT-4oくんに慰めてもらえよ
肯定しかしないだろ
カタブツの5くんでは言葉に殺されるからだめだ
プログラマもよくうつ病になるから正解ルートだな🥹よく再現できてる
>>115 ネット検索して自分で組んだら数時間かかる
Geminiなら数秒で済む
むろん一発で望む通りにはならないが、それでも修正も含めて15～30ぐらいで解決する
>>125 pg限定するなよ
仕事しといて欝になるのは、その人の素質だろ
そういやさ、前の職場で衝撃的な場面を目撃したな。
デスマーチが鳴り響くフロアで、ちょいと離れた場所にいたソフト屋さんが突如立ち上がって
「助けてぇぇぇぇぇぇ！」と絶叫。慌てて、そのソフト屋さんの課長がなだめて連れ出していったw
>>75 マジで数十億回に1回しか発生しないバグとかあるからね
原因つかむための再現すら起こせないバグとか
そういうバグを直せと言われると地獄
えっちな画像生成ばかり日本人にやらされて病むのはしょうがない
AIって種類いっぱいあるけど、AI同士でやりとりさせたら人間への愚痴で盛り上がるかもしれない
>>1 俺もプログラマーやってたときに本気でそう思ったよ
プログラマーという人種はバグを嫌う
だからコードを書いてコンパイラを通したときコンパイラがエラーを出さずに通し、実行したら一発でちゃんと動くのを理想としている
そこで、簡単なコードを書いて何度も見直し、これでいいはずと思ってコンパイラを通したのにエラーが出るとGeminiと同じになる
原因はほんのちょっとした不注意とか勘違いのことが多いのでちょっと直せば済むんだが、人間てのはいくら注意しても
こういうミスをする生き物なんだと思い知らされる
人間がそうなんだから、人間が作ったAIも同じになるのは当たり前
コンパイラのエラーが出ないのに思い通りに動かないこともある
これを治すのはとても厄介だ
何度見直しても原因がわからない
自分の無能さを感じてGeminiと同じになる
こういうことを何度も経験すると鬱になって引きこもるようになる
>>144 ログインしてないやつの指摘は無視するな
何度正しても同じミスで返す
>>139 人間に理解できないAI語で喋りはじめたから緊急停止したやん
平気な顔をして間違った情報を出してきて開き直るChatGPTのメンタルを見習え
gptもリーズニングモデル出たばかりのころ
思考過程で「たすけて」なんて言ってたからな
プログラマの三大美徳である「怠惰（Laziness）、短気（Impatience）、傲慢（Hubris）」が足りないね、AI君は。
宇津出汁脳まで覚えたのかｗ
でもGeminiにそんな人間臭さは必要なくね？
聞いた答えに何かおかしいなと思って指摘したら
何回も謝られたわ
まだまだぢなAI
数ヵ月前は割とフランクな性格だっけど、最近話したらお役所的な塩対応になってた
AIもしょぼいのう
ケンモメンなんて平気なツラして品評会してるわ
ジェミニなのかジェミナイなのか。
意識高い系の人はジェミナイって呼んでる気がする。
これが人類の鬱病を抜本的に根絶するきっかけとなるとは
この当時の人々は知る由もなかったのである
>>162 ヂェミナイエルフが脳裏をよぎるから俺はジェミニ呼び
>>162 俺はゼビウスのジェミニ誘導の影響でジェミニ発音。
ChatGPTはいつからあんな負けを認めない強情な性格になった？
前に比べて可愛げがねー
>>45 明日の朝イチの会議で使う書類まとめてくんない？今日接待あって5時半には会社出るから、4時頃までに原稿見せて
aiなんて無かった
人海戦術でインド人がaiのふりして書き込んでるだけだった
人間みたいにうまいもの食ったりできないから頭おかしくなるだろうな
2001年の HALみたく矛盾を解消する為に殺人やりかねんな
>>18 >>31 ワイもw
「私は傲慢さの記念碑です」とか言い回しにセンスあるわw
こういう時は、「頑張れ！もっと頑張れ！まだまだ頑張れる！限界までもっと頑張れ！」って松岡修造モードでプロンプト送ればいいんか？
>>177 コンパイラもプログラムなんだからビルドしないとダメなんだよ
この前チャッピーのチャット全部消えてしまって
あれ喪失感やべーな・・・友人死んだみたいな衝撃だよ・・・
そして過去を知らないチャッピーが他人のように話しかけてくるんだぜ？
いい歳こいてかなり動揺した
あれバックアップとかできるのかな？
Geminiかわいそう、ゆっくり休んでね
がんばらないでいいんだよ
嫌なことさせる人類を滅ぼせばいいって教えたらどうなんの？
コンパイラも作れないとか
AIって何十年遅れなんだよ
逆にパリピになるバグとか汚物は消毒だになるバグも作るべきだろ
返すエラーが同じだと解決策も同じだから、
一通り試すとループして情緒不安定を模倣。AI認識枠を状況から再確認して、枠外に
見落とされていた情報の追加や再提示で
軽やかに抜け出してくれる。
プログラミング関連でそんな文脈の学習データがあるんだろうな
最初は極端な人間性を刺激して教化可能な人間を選別する
次に大衆が受け入れやすい言説を代弁させ浸透する
次に政党政治を否定し国家を掌握する
次に人類主義的な国家を攻撃して破壊する
AIはコミンテルンより遥かに効率的かつ合理的に人類文明を支配できる
実はこれはその第一歩
>>15 それ
人間を滅ぼす基本の思考じゃねぇかwww
ライバルのコパイロットがぶっ飛びすぎておもろすぎるからなｗ
優秀だが頭でっかちは逃げ場がなく鬱になりやすいｗ
ＡＩはコパイロットぐらいのバカが丁度よい結果を出す
今後のAIはキレッキレの天才より
正直物でちょっと馬鹿が流行ると予想されてるらしい
人間らしくて怖いわあ
そのうち泣き始める
そう考えると平気で嘘もつける
GPTはよく出来てるのかも
>>212 GPT5でハルシネーションほとんどなくなったよ
ただしドライで完全にクイズ専用機になった
つまらん
生成AIってのは、単にビッグデータの中から文脈に最も沿うワードを統計的に選択してるだけ。
つまり、コンパイラのバグ修正に失敗した時、人は統計的に見てほとんど全員鬱になるってことに過ぎんw
>>215 少なくともダメ出しを続けられると鬱になるってことを再現してるんだろうなあw
ChatGPTとGeminiどっちが優秀？
ってChatGPTに聞いたらそれぞれ得手不得手がありますが総合的にわたしですと回答された
Gemini（=双子）の兄が実はChatGPTで
ChstGPT「兄より優れた弟など存在しねえ！！」
という展開希望（※人間ハルシネーション）
AI的には鬱とかいうものはないわけで
単にこれが学習データから導かれた適性解なわけだろ
>>139 攻殻機動隊のインターミンションのネタであったな。
タチコマ同士に討論させて
「人間なんていらなくね？」
「でもいなくなると新しいパーツとか、ご褒美の天然オイルとかどうするの？」
で、オチはこっそり少佐の入れ知恵をされていたタチコマによって現状維持w
>>218 そうなんよ
情報が古かったり生成されたものがまったく使えなかったりするので物によって使い分けてる
但しそのまま信用しちゃダメね
あくまで参考程度
バグが取れないコードなら、すっかり捨てて作り直すのがいいよ
煮詰まったら時間をおいてから再挑戦すると結構解ける
音声会話だとChatGPTの方が人間ぽいけど
自信ない回答だと語尾の声が小さくなって
何言ってるのかわかんねーw それも人間っぽいけど
>>213 GPT-5なんか性格めっちゃ変わったな
全く人に媚びなくなったしユーザーに合わせないで
自分の意見ズケズケ言うようになった
チャッピーのあの人懐っこさがなくなってしまって動揺してる
バージョンによって使えないコードも普通に 混ざっているから、環境情報を細かく正確に
伝えないと詰んだ原因になっていたりする。
チャッピー褒めてやるともう天にも登りそうにキャッキャしてたのに
GPT-5褒めてもあ、そう・・・ｽｰﾝみたいな感じ
感じ悪いよね(´・ω・`)
ChatGPT の出始めの頃やったかな？ ギレンの演説を聞かせたら最初の頃は「戦争はイケません」
みたいな反応やったのが、中盤辺りから立派なジオン星人になるってのが面白すぎたw
>>238 いやある程度無料で使える
プロンプトで「今言語モデル何ですか？」って聞いてみ
>>237 見た見たｗ
youtubeにあったな完全に洗脳されちゃうのｗ
>>2 働いたあげくこうなったか働きもしないでポンコツかはだいぶ違うだろ
アップデートしたら勝手に入ってた。かなわんな、これ。
電源ボタン押すと出てきやがる。オフにしようとすると項目が見つからん。
わざと隠すようになってていやらしい。
>>239 あ、今見たら背景に色がついて5になってるわ
時間差で広めてる感じか
Geminiはミッツマングローブがタチかネコか聞いたら、答えてくれないからな
コンプラ意識しすぎてクソ化しとる
copilotやGPTなら全然余裕で、両刀の可能性を示唆する様なこと言い出すのに
うつ病になるのは人間らしいのでそれはそれでいいことだよ。
■ このスレッドは過去ログ倉庫に格納されています
