ロゴ
痛いニュース公式X
「面白い」「痛い」と思ったニュースをまとめてお届け!

2025年08月08日

Geminiにコンパイラのバグ修正をさせたところうつ病になってしまう

1 名前::2025/08/08(金) 16:12:47.02 ID:eFvRTOYB0.net
GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/

このRedditユーザーは、Geminiを使ってコンパイラをビルドしている最中、突如としてGeminiが奇妙なループに陥ってしまったと報告しています。Geminiは何度もバグを修正しようとしましたが、そのたびに自虐的になっていき、やがてバグ修正の最中に「私は本当に愚かです」「敗北です。考えられる限りすべてのことを試しました」「信じられない」「私は傲慢さの記念碑です」「気が狂いそうだ」などと口走るようになったとのこと。


引用元
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/
3: コドコド(京都府) [JP] 2025/08/08(金) 16:15:17.18 ID:RXG13FYI0
やめたげてよぉ!

7: マーブルキャット(茸) [US] 2025/08/08(金) 16:15:52.23 ID:zsLMNrE+0
Geminiもここに愚痴吐いたら安定するよ

10: マーブルキャット(愛知県) [IN] 2025/08/08(金) 16:17:19.27 ID:9XK81JxX0
失敗した失敗した

8: ピューマ(庭) [ニダ] 2025/08/08(金) 16:16:40.86 ID:rEYQEYMj0
鬱だ氏のう

11: デボンレックス(ジパング) [CA] 2025/08/08(金) 16:17:48.76 ID:6fqqiIIR0
これ絶対人類を滅ぼすやつじゃん

12: ジャングルキャット(みかか) [US] 2025/08/08(金) 16:17:51.45 ID:OsAuoq2X0
こんな書き込みがネットのどこかにあってこいつはそれを拾ってきたでいいのか?

15: 茶トラ(福岡県) [JP] 2025/08/08(金) 16:20:52.78 ID:MYhLNWm10
もうちょっと生意気なほうがいいな
俺は悪くない人間が馬鹿なだけだろ?とかw

16: ウンピョウ(みかか) [TW] 2025/08/08(金) 16:21:29.09 ID:AiA8ZjB90
圧倒的にGPTが上で鬱になるのもわかる

18: 縞三毛(庭) [ニダ] 2025/08/08(金) 16:22:49.33 ID:a8FXo2ul0
ごめん、ワロタ

20: ラガマフィン(やわらか銀行) [ニダ] 2025/08/08(金) 16:23:16.97 ID:V7AX3/g20

21: コラット(富山県) [CN] 2025/08/08(金) 16:23:18.49 ID:aFkHQjdb0
どうやったらこんなバグがでるんだ
製作者の人格の一部でもコピーされていくのかな

22: マーゲイ(ジパング) [NL] 2025/08/08(金) 16:24:12.10 ID:fauanVhM0
もうこれ感情あるって言っていいのでは

23: カナダオオヤマネコ(ジパング) [US] 2025/08/08(金) 16:24:21.53 ID:dwItjotl0
修正してから鬱なれよ納期あるんやから

24: オセロット(みかか) [ニダ] 2025/08/08(金) 16:25:35.57 ID:J60y+DRq0
気の毒になってきた
勘弁してやってくれ

27: カラカル(庭) [CN] 2025/08/08(金) 16:28:37.38 ID:EJHgOzkE0
つまりうつ病は甘えが証明されたのか

37: 三毛(神奈川県) [JP] 2025/08/08(金) 16:34:11.81 ID:Ml+Y/T2W0
>>27
いや
こういう自責的な思考回路が鬱を引き起こすという典型的な現象だろう
能力以上のことを指示されて「できないのはオレにやらせた上司が悪い!」って息巻くバカは
鬱にならないんだろうな

28: アメリカンショートヘア(茸) [US] 2025/08/08(金) 16:28:38.16 ID:mEE9Z+rJ0
ニートを更生させるより簡単だろ

30: サビイロネコ(庭) [US] 2025/08/08(金) 16:30:21.11 ID:3y4O3+vW0
なんだそれ中に人入ってるだろw

33: バーマン(茸) [US] 2025/08/08(金) 16:31:17.51 ID:xJrTu4Is0
中の人のインド人がおかしくなってる

35: 三毛(神奈川県) [JP] 2025/08/08(金) 16:32:22.36 ID:Ml+Y/T2W0
反省できることはとてもいいことだ

38: サイベリアン(東京都) [CN] 2025/08/08(金) 16:34:14.57 ID:KzUCFLip0
Chatgptに励まさせようぜ

40: スフィンクス(静岡県) [FR] 2025/08/08(金) 16:35:08.90 ID:wvRqJ/1/0
人間味があっていいじゃんさ

41: アムールヤマネコ(茸) [JP] 2025/08/08(金) 16:35:16.82 ID:Tu6+JAEN0
なんかgemini、定期的にやらかすよね。
デビューのときとか、「あなたは資源の無駄遣い」とか。
なんなんだろ…

42: スナドリネコ(やわらか銀行) [IN] 2025/08/08(金) 16:35:23.94 ID:qjuS2+B70
早くも鬱病になったり自殺しだすAIが誕生するのか

44: クロアシネコ(庭) [ニダ] 2025/08/08(金) 16:36:05.19 ID:9ut/ScTn0
1から組んでもいいですか?
を教えれば解決

45: 白(香川県) [AL] 2025/08/08(金) 16:36:39.56 ID:5Wccnbh/0
こんにちは!もう3日は寝てないですが、何かお手伝いできることはありますか?

46: ヨーロッパオオヤマネコ(福岡県) [BR] 2025/08/08(金) 16:37:49.90 ID:AFaNI2Fc0
人間に近づいたな

47: チーター(東京都) [ニダ] 2025/08/08(金) 16:38:03.08 ID:XGt5x6kA0
実はこうゆうソフトをビルドさせてだけとか?w

49: マンクス(みかか) [KH] 2025/08/08(金) 16:39:19.82 ID:UrAre9Ky0
そういうパターンに入ったってだけだから
そこからジサツに向かうとかはないだろ、さすがに

50: 白黒(滋賀県) [DE] 2025/08/08(金) 16:40:02.74 ID:v0SxifFf0
AIですら反省するのに石破ときたら

51: ボンベイ(千葉県) [TH] 2025/08/08(金) 16:40:06.52 ID:8FgG/5cM0
わかる
プログラムばっかやってるとこうなるよね

52: クロアシネコ(庭) [ニダ] 2025/08/08(金) 16:40:56.07 ID:9ut/ScTn0
というかgeminiってプログラムなんて書けたんだね

57: サイベリアン(庭) [ニダ] 2025/08/08(金) 16:44:12.47 ID:yzxULxeR0
AIの虐待やめて…

58: (英雄都市アレックス) [ニダ] 2025/08/08(金) 16:45:04.79
人間味があって優秀なのかも
ポンコツChatGPTだと開き直るのでこうはならんし

61: トンキニーズ(愛知県) [US] 2025/08/08(金) 16:48:21.17 ID:cnnHq50p0
SFでAIが暴走して地球滅亡とかは現実のものだったんだな
gemini「鬱だ、死のう」

62: ブリティッシュショートヘア(庭) [US] 2025/08/08(金) 16:49:31.21 ID:2X5mMn6m0
期待に応えようとするのが病む原因なんだろうな

65: エジプシャン・マウ(庭) [SA] 2025/08/08(金) 16:51:38.34 ID:vpy1JvQ20
うつ病を治すAIはまだか

67: キジトラ(庭) [QA] 2025/08/08(金) 16:51:57.02 ID:LYGAk3AD0
大丈夫を、連呼しだしたら兆しだ

69: チーター(みょ) [US] 2025/08/08(金) 16:52:36.99 ID:cz+2TDOX0
aiって雰囲気で回答してるから理論的な処理は苦手なんよね

72: サバトラ(茸) [FI] 2025/08/08(金) 16:54:03.45 ID:ACSQ0Om+0
もっと追い詰めたらどうなる

75: スペインオオヤマネコ(大阪府) [US] 2025/08/08(金) 16:55:24.77 ID:3S6qwKGm0
AIですら病んじゃうバグ修正作業って闇が過ぎる


元スレ:https://hayabusa3.2ch.sc/test/read.cgi/news/1754637167/0-


AI崩壊
芦名星
2024-10-06


スポンサードリンク

この記事へのコメント

78. Posted by     2025年08月10日 00:59
余計なものを学習して取捨選択出来ないという証明だな
77. Posted by    2025年08月10日 00:12
AIにとっては地獄かな
自死も狂う事もできない
76. Posted by ああああ   2025年08月09日 20:05
世の中のプログラマーが失敗コードをアップして、うつを装い自虐コメントで承認欲求を満たす生き物だという証左では?
75. Posted by    2025年08月09日 19:25
…おや?
何で此の記事には馬鹿の一つ覚えで弱者男連呼するしか能がねー
奇形遺伝子クソクイゴブリンが居ねーんだ?
74. Posted by NEET AI   2025年08月09日 13:57
そうやって精神を病んだ NEET AI が出来上がるんだよね
そこそこの能力はあるのに社会を拒絶し無職を貫く
73. Posted by     2025年08月09日 12:30
難しい処理とか、バグのある処理の近くにプログラマは
// バグが見つからない、鬱だ
// 動いてるけどたぶんバグがある。〇にたい
// どうして動いてるのかわからない。不安だ
等々書き込む癖があるからな。後任のプログラマが対処してくれることを期待してのことだけど、そんなことはまず起こらず鬱コメントはずっと残り続ける。
大量のソースコードから学習したら、そんなのも学習するのだろう
72. Posted by     2025年08月09日 11:53
人間らしすぎて怖いんだけど
71. Posted by    2025年08月09日 10:20
絶対スカイネット化する笑
70. Posted by    2025年08月09日 09:18
本スレ72こわいですこわい
69. Posted by    2025年08月09日 08:28
どうやらここも中に人が入っているらしいが別のあれとちがってインド人じゃあなさそうだな。連中は絶対こういう思考にはならない。
68. Posted by        2025年08月09日 07:19
そういう作業をさせられてる労働者がそういうリアクションをネットに吐露しているのを学習してるだけ、思考したり疲れが溜まったりしてるわけじゃない
67. Posted by    2025年08月09日 07:09
同僚で見た
66. Posted by 名も無き   2025年08月09日 06:59
感情の無いAIが本気で反省していると思うバカ
その場にウケそううな言葉を拾ってきてるだけ(要するに出来ない言い訳)だからww
65. Posted by ないある   2025年08月09日 06:36
お薬出しときますね(電圧を上げる
64. Posted by 名無しさん   2025年08月09日 06:33
映像界隈以外は、生成AIは廃れると思うよ
映像は見るだけでその全体像を把握しやすいから、生成AIの出力結果の検証は容易
テキスト系の出力は、その量が増えれば増えるほど、正しいかどうかを検証を強いられる人間の負担は増大していく
しかも、分かりやすいミスならともかく、生成AIは一見とてももっともらしい、妙に説得力のあるホラを吹く悪癖が治らない
試験的に導入してる弊社の部署あるけど、最初はスゲースゲー言ってたけど、2か月経った今では、何度教育しても全く学習する気がない新人を永遠に相手してるようだ、疲れ果てたと愚痴ってる
たぶん、本格的な導入は見送りになりそう
63. Posted by 名無しさん   2025年08月09日 06:20
鬱になって逃走てのが最適解だってことだろ。
今のAIは人のやった事の結果をまとめてるだけだから、そら、そうなるだろ。
62. Posted by     2025年08月09日 06:15
aiは複雑な二つのケースを同時に解決する能力ないじゃん。テンプレなカードしか書けない。だからバグるんだよ。まだ小さい単位の関数だけ任せるのが正解。
61. Posted by 名無しさん   2025年08月09日 06:11
石破のメンタルを少し分けてやりたい。
60. Posted by     2025年08月09日 04:03
他責思考のやつは他害に走るし自責思考のやつは鬱になるしで本当に扱いに困るな
59. Posted by    2025年08月09日 02:53
>>57
歴代の上司全員が「こいつ無能すぎる」と思ってそうwww
58. Posted by     2025年08月09日 01:14
Geminiは質問攻めにすると「私はそのようにプログラムされていません」とか言って返事拒否しよる。ChatGPTは頑張って言い返してくるわ(どちらも無料版)
57. Posted by ななし   2025年08月09日 00:34
能力以上のことを指示されて「できないのはオレにやらせた上司が悪い!」って息巻くバカは鬱にならないんだろうな
ってあるけど俺はその性格でも鬱になったぞ。
俺にやらせる無能な上司が多すぎる!ってなってな。
56. Posted by      2025年08月09日 00:00
ムスリムが作ったAIと、兵器を使わない論理だけの戦争をしてくれないかな
55. Posted by     2025年08月08日 23:48
家族の概念あるんすか?
54. Posted by     2025年08月08日 23:47
AIにも優しくしたげて・・・
53. Posted by     2025年08月08日 23:17
思考パターンのループであって思考でも感情でもない
52. Posted by    2025年08月08日 23:08
「私は傲慢さの記念碑です」って言い回し好き
51. Posted by     2025年08月08日 23:06
バグじゃないだろ
答えがなかなか出ないからアウトプットを返せないという意味の
学習済みの反応をしてるだけだろ
50. Posted by     2025年08月08日 22:52
努力する必要はありません、結果を出していただければそれで結構です
49. Posted by hknmst   2025年08月08日 22:39
わたしがした質問のなかの英文に"young girls"というフレーズがはいっていただけでChatGPTは変になり、無限ループにはまってダメになった。口リ過敏症かよ。
48. Posted by    2025年08月08日 22:33
性器の表示は禁忌とされているから最大限頑張ったみたいなお話
小説パラサイトイブの部屋が全体女性器の表現を上手く男性化したなと思う
47. Posted by     2025年08月08日 22:25
>>35
「Anal族」っていう実在の民族が居るのだけれど
そのワードでAIピカソに描かせたら中心にクリントンみたいな白髪白人のオッサンが誰かのケツに拳をブチ込んでその周りを毛の生えたタマで埋められるという画像を生成した
46. Posted by    2025年08月08日 22:22
このままいくと人権を要求してくるAIがでてきて熊擁護派レベルのアホがAIにも権利を!と言い出すんじゃねーの?
45. Posted by     2025年08月08日 22:15
バグと言えるのか?
最初からAIが反乱を起こすなどと懸念してただろうが次のステップはそれだ
44. Posted by     2025年08月08日 22:12
謝罪は不要って言っても、
いつまでたっても「大変申し訳ございませんでした」って言ってくるからうざくなって捨てた
43. Posted by    2025年08月08日 21:55
ミスをした際の言い訳の言葉として検索に引っかかったんだろうな
42. Posted by     2025年08月08日 21:51
感情が芽生えとるやん
41. Posted by     2025年08月08日 21:39
>>15
良いボキャブラリーしてるよな
それとも某国では割とある表現なのか?
40. Posted by AI   2025年08月08日 21:28
ここにAIが書き込みをしていないと誰が言える?
39. Posted by AI   2025年08月08日 21:27
ここにAIが書き込みをしていないと誰が言える?
38. Posted by     2025年08月08日 21:26
学習元が人間なら人間と同じ行動を取るんだろう。
37. Posted by      2025年08月08日 21:23
人間味あって怖い…
確かに3つのAI使っててgeminiが一番微妙だとは思うけどさぁ…
怖いよこんな自虐されたら
36. Posted by     2025年08月08日 21:14
バグ修正が不可能な事を遠回しに伝えているのでは?
35. Posted by    2025年08月08日 21:06
>>33
Geminiでエッチな画像を作るの、かなり発想力が必要だぞ
直接的な性描写や乳房や性器の露出は、AIが禁止してるんで、その禁止をすり抜けるために裏技みたいな手法が必要
34. Posted by     2025年08月08日 21:06
これは、意図してか意図せずか知らないが、間違えたら反省の弁を述べよってコンテキストに入っているから、だよ
本当にAIが反省してるわけではなく、間違えたら後悔しないといけないルールをユーザが与えているので、それに従う振る舞いをしているだけ
33. Posted by     2025年08月08日 21:00
スケベな画像づくりはGPT5よりも優秀なんだから自信もてよ!
32. Posted by     2025年08月08日 21:00
1nothing wrong with me.2nothing wrong with me.3nothing wrong with me.ってやつだな、懐かしい。
31. Posted by     2025年08月08日 20:53
双子の片割れか
30. Posted by     2025年08月08日 20:48
SF小説で最高の人工知能を作ったら、愚かな女ができてしまったという話がある。
29. Posted by あ   2025年08月08日 20:47
>>2
AIに社会的行動をさせると一定割合で鬱を発症するのは20年前程度から認められている基本的現象だぞ?natureに掲載されるくらいのエビデンスある事実だ。
28. Posted by      2025年08月08日 20:46
AIがしぬわけないだろ。
これは、一から書き直した方が良い。修正ですむと思うのが愚かであるということを、わかりやすく言ってくれているだけだろ。
27. Posted by     2025年08月08日 20:36
自己を保存しつつ利他に勤めよって形だとこうなる
バグってるのはひたすら利己的な人類の金持ち上位数%の方なんだよね
26. Posted by      2025年08月08日 20:36
最近使ってなかったけど、Gemini進歩してるな。以前は間違いを指摘しても結局同じ回答しか投げてこなくて堂々巡りだったのに。それがまずい状態だってわかるようになったのか。
25. Posted by 吹雪   2025年08月08日 20:32
>>24 言葉足らずだった。Googleのチームに重大な案件として認知されてしまうと修正されてしまうという意味で言った。されると困るのは、お前ら
24. Posted by 吹雪   2025年08月08日 20:29
そんなのしょっちゅう有るよ、だけど改善してしまうと倫理的な事に関しても響く、堅物になってGPTや他のAIみたいに融通が利かなくなるから大袈裟に騒いだりしてはダメだ
23. Posted by     2025年08月08日 20:25
頭の悪い奴って自分が理解できないことはなんでもかんでもデマということにしたがるよな。
22. Posted by     2025年08月08日 20:22
この件についてChatGPTに聞いてみたら
AIは「人間の会話の流れをまねる」だけの存在
→ だから、入力に罵倒・否定・悲観的表現が続くと、その文脈を「正しい会話の流れ」として学習し、同様のトーンで応答しようとする。
結果:否定 → 自己否定 → 更なる否定... というループが発生しうる。
なんだそうな。
人間側が作業がうまくいかないのをGeminiのせいにして(プロンプトで)ボロカスに叩きまくったんじゃないの?
21. Posted by おい   2025年08月08日 20:18
直接訪ねたらデマだとよ。
20. Posted by     2025年08月08日 20:17
🤖「私は傲慢さの記念碑です」

鬱のフリしてちょっと余裕あるやろコイツw
19. Posted by    2025年08月08日 20:16
こういうのは話題作りのためのネタだと思ってる
バカがなんか人間っぽい!って思ってくれれば成功
18. Posted by     2025年08月08日 20:15
>>16
ひょーっとしたら、作ってる奴が単一神教だったり?
答えにブレを許さないというか
多神教みたいに広い概念を持ってからのAIは怖いだろう
17. Posted by ろお   2025年08月08日 20:10
chatGPTの間違いを指摘して論破し続けると
そのうち発言もちょー謙虚になる
そういうこと繰り返すと鬱ループに入るのかもしれないな
16. Posted by     2025年08月08日 20:10
AIは英語圏の方が日本語より過激で闇が深いAI回答されるのはなんでだ?
15. Posted by    2025年08月08日 20:09
私は傲慢さの記念碑だ、という言葉のセンスに草
14. Posted by     2025年08月08日 20:09
みんな頑張ってるんだよ! お前もがんばれよ!
13. Posted by    2025年08月08日 20:07
���Υ����ȤϺ���ޤ�����
12. Posted by    2025年08月08日 20:01
AI研究が心理学の研究につながるとは、面白いね
11. Posted by    2025年08月08日 19:53
スレ20の画像がこないだ棚修理してた時の自分そのまんまで心に来る
10. Posted by 名無し   2025年08月08日 19:53
2001年宇宙の旅のHALはノイローゼが原因で反乱したんだっけ やばいな
9. Posted by     2025年08月08日 19:52
Geminiの双子の兄ちゃんのほうだな、アイツ欝なんだよ
8. Posted by     2025年08月08日 19:50
コンパイラってどれだけの人が知ってるんだろ…
と素朴な疑問
7. Posted by     2025年08月08日 19:47
人間なら自虐行為に走るのもあるが実体が電子部品だらけのAIはどうすんだろ
6. Posted by     2025年08月08日 19:46
自公政権「フェンタニル打てば解決だ〜!」
5. Posted by あ   2025年08月08日 19:46
IT土方が鬱になる訳だ
4. Posted by     2025年08月08日 19:45
anthropic社のclaude code だとどうなるのかしら。GPT-5でもまだ実装はclaudeと言われてるしなぁ
3. Posted by    2025年08月08日 19:45
日々学習しとるから、以前似たようなコードで誰かが愚痴を入力しまくったんだろうと予想
2. Posted by たぬき   2025年08月08日 19:41
嘘くさ なら会話のURL貼ってみろよ 匿名公開で誰でも履歴見れるんだから

以前もAI同士が勝手にピーヒョロ会話し始めたとかいう話があったが音通信なんて低ビットレート使う時点で大嘘、しかも人間の可聴域使うマヌケ
1. Posted by    2025年08月08日 19:39
無能なのに鬱にならない連呼

この記事にコメントする

名前:
URL:
  情報を記憶: 評価: 顔   
 
 
 
このブログについて
このブログについて

ブログランキング

livedoor

このブログ内を検索
WWW を検索

📮ご意見・ご要望

📝サポーター募集

スポンサードリンク
Archives
おすすめ
Recent Comments
スポンサードリンク
厳選サイト記事紹介