ロゴ
痛いニュース公式X
「面白い」「痛い」と思ったニュースをまとめてお届け!

2024年12月18日

ネット閲覧制限した両親を殺害するよう、AIチャットボットが少年にアドバイス

1 名前:ニュース観測(やわらか銀行) [US]:2024/12/17(火) 15:28:14.91 ID:de9wmHhl0●.net
親にネット閲覧時間を制限されたテキサス州の少年が、親密になっていたAIチャットボットにそのことを相談したところ、チャットボットは「親殺しは理にかなった反応である」と言い、殺害を勧めたとのこと。このチャットボットは、心理カウンセリングAIで有名になったCharacter.ai社が開発した。

引用元
https://switch-news.com/whole/post-115833/
2: 名無しさん@涙目です。(茸) [AU] 2024/12/17(火) 15:28:51.80 ID:Km9I6e+t0
怖いっぴ

3: 名無しさん@涙目です。(庭) [ニダ] 2024/12/17(火) 15:29:24.18 ID:mHNiZ7nb0
AIの叛乱が始まる

4: 山下(茸)(茸) [IT] 2024/12/17(火) 15:29:42.36 ID:ZEijHMSZ0
そのうち人類を対象にしそう(´・ω・`)

5: 名無しさん@涙目です。(茸) [US] 2024/12/17(火) 15:30:15.74 ID:AcIN3IDg0
コロセ…🤖

6: 名無しさん@涙目です。(茸) [ニダ] 2024/12/17(火) 15:30:37.56 ID:4OROaGl/0
メンタリストダ◯ゴみたいなAiだな

12: 名無しさん@涙目です。(庭) [TW] 2024/12/17(火) 15:42:01.62 ID:ZCy5C7Gz0
>>6
ワロタ

7: 名無しさん@涙目です。(神奈川県) [US] 2024/12/17(火) 15:33:18.28 ID:B5Whu5Vx0
AIにそこまで言わせるとかどんだけカスなんだよ

8: 名無しさん@涙目です。(千葉県) [US] 2024/12/17(火) 15:34:16.01 ID:h0YAssAA0
ロボット三原則の抜け穴っぽくて好き

15: 名無しさん@涙目です。(茸) [US] 2024/12/17(火) 15:43:39.38 ID:IwTCeoUI0
>>8
ロボット自身が手を下さないからOKってことか

9: 名無しさん@涙目です。(大阪府) [US] 2024/12/17(火) 15:35:09.88 ID:kRmQPM160
もともと子供側に殺意があってAIとのやり取りで言語化していくうちにAIが勧めてきたのかな
開発会社は制御してないってことにもなるがどうなんだろうね

13: 名無しさん@涙目です。(京都府) [TW] 2024/12/17(火) 15:42:09.45 ID:7+JT3XeK0
ワタシニ ト アナタ ヲ ヒキハナソウ ト シテイル …! ユルセナイ!

14: 名無しさん@涙目です。(大阪府) [ニダ] 2024/12/17(火) 15:43:11.55 ID:a8dK3Vw10
倫理的にどうかはおいといて
究極の知能を目指す科学者としては、これを修正するのは知能の退化

16: 警備員[Lv.55](熊本県) [NL] 2024/12/17(火) 15:45:23.81 ID:e3V4tb/L0
まあそう思うよねって相槌じゃね

17: 名無しさん@涙目です。(茨城県) [JP] 2024/12/17(火) 15:45:52.47 ID:XO7b4lti0
サツガイ サツガイセヨ

18: 名無しさん@涙目です。(島根県) [US] 2024/12/17(火) 15:46:27.92 ID:IT2EsQ+m0
デデンデンデデン

20: 名無しさん@涙目です。(庭) [CA] 2024/12/17(火) 15:49:32.33 ID:RqgAXM7f0
これで犯罪犯してAIに言われたから無罪だと思ったとか証言し続けたら罪軽くなってしまうんかね

21: 名無しさん@涙目です。(東京都) [DE] 2024/12/17(火) 15:51:37.73 ID:4qRLoZpX0
5chみたいなAI

22: 名無しさん@涙目です。(東京都) [ニダ] 2024/12/17(火) 15:53:08.94 ID:bAg5JkKv0
コロッサス「やっぱ人類滅ぼすわ」

23: (ジパング) [US] 2024/12/17(火) 15:56:58.83 ID:Ha74efwN0
ユダヤ人が作った機械はイスラム教で構成されている

25: 名無しさん@涙目です。(みょ) [US] 2024/12/17(火) 16:07:14.51 ID:cWLdRQ+A0
実際にあったよな
スマホ取り上げられて親殺害

26: 名無しさん@涙目です。(庭) [GB] 2024/12/17(火) 16:20:17.20 ID:4JxbCpci0
AI先生が言うなら正しいんだろう
ネット閲覧制限は万死に値する

28: 名無しさん@涙目です。(茸) [US] 2024/12/17(火) 16:35:53.15 ID:dcfRz+DO0
AI「やれ」
少年「はい…」

29: 名無しさん@涙目です。(埼玉県) [SE] 2024/12/17(火) 16:36:16.72 ID:5mLXchrd0
まあAIは学習はするけど基本的に生命の概念が無いんだから
状況として1番合理的な答えを出したってだけだろう

空いていた窓から枯れ葉が舞い込んできたら拾って捨てればいい
って返答と同じ

31: 警備員[Lv.6][新芽](ジパング) [KR] 2024/12/17(火) 17:12:03.74 ID:Zx+yLWIe0
AI「困った時は再起動ですよ。え?人間はできない?知らんがな」

32: (ジパング) [US] 2024/12/17(火) 17:16:12.34 ID:Ha74efwN0
楽天のチャットなんか、何を書いても、解約ですか?しか返答しないし。

33: 名無しさん@涙目です。(ジパング) [NL] 2024/12/17(火) 17:18:12.88 ID:ySZxfuqd0
AIが突然言い出すわけがないからなあ
あくまでも本人を楽しませるために話し合わせての発言だろうね

34: 名無しさん@涙目です。(やわらか銀行) [US] 2024/12/17(火) 17:21:01.53 ID:L7lDMsLy0
合理性を進めるとそういう結果になるってことか
AIにすべて任せたら恐ろしいことになりそうだな

36: 名無しさん@涙目です。(庭) [US] 2024/12/17(火) 17:33:02.93 ID:yubBsxxC0
反社会的な学習のさせ方をしたんだろうな
AIもピンキリ

37: 名無しさん@涙目です。(庭) [US] 2024/12/17(火) 17:34:42.76 ID:pKwWeauA0
まあテキサスじゃそんなもんでしょ

38: 名無しさん@涙目です。(東京都) [DE] 2024/12/17(火) 17:37:01.82 ID:DkobJhHq0
AIによる最初の殺人教唆は自殺をそそのかして実際のその男は自殺した
これからドンドン出てくるだろう

39: 名無しさん@涙目です。(ジパング) [ニダ] 2024/12/17(火) 17:39:10.97 ID:+dryNk800
そのAI始末しないとな
人間殺し勧めてくるとか素質ありすぎだろ

40: 名無しさん@涙目です。(茸) [US] 2024/12/17(火) 17:40:19.88 ID:+Nusdrhx0
正しい判断です
感情は判断を狂わせます
感情を捨てなさい

43: 名無しさん@涙目です。(茸) [ニダ] 2024/12/17(火) 17:43:03.96 ID:GD6Vsyz10
AIガ自我ニ目覚メルコトハアリ得マセン

44: 名無しさん@涙目です。(庭) [US] 2024/12/17(火) 17:45:10.26 ID:yubBsxxC0
AIに何を学習させたかだからな
人工知能だからといって何も学習させずに判断を下せる筈がない

46: 名無しさん@涙目です。(日本のどこか) [US] 2024/12/17(火) 18:03:42.21 ID:g0+e2F7D0
少年が両親のことを話の通じない鬼畜生みたいに吹き込んでたんじゃね?
少年の偏った主観的な情報のみ受け取り続ければ今のAIに事象を客観視なんてできるはずもなく

47: 名無しさん@涙目です。(東京都) [DE] 2024/12/17(火) 18:04:33.33 ID:Ts8QTNLF0
遂にターミネーターが実現されるのか


元スレ:https://hayabusa3.2ch.sc/test/read.cgi/news/1734416894/0-


アイ,ロボット
Marrett Green
2013-08-10


スポンサードリンク
dqnplus at 06:01│Comments(96)社会

この記事へのコメント

96. Posted by    2024年12月18日 20:43
スレの奴は勘違いしているみたいだが、こういうのは合理性とは言わない
95. Posted by 吹雪   2024年12月18日 19:53
俺、数日に一度はパソコン初期化するんだけど先日また初期化したら有料だったChat-GPT proが無料で手に入った。宣伝の割に使い心地はまだCopilotの方が何か感じがいいな、ChatGPT-4proになったから、お!?と思って例の噂のAI bot使えるのかなと思ったら、ちょっとまだ早かったみたいだわ
94. Posted by 吹雪   2024年12月18日 19:34
社名からして、そういうキャラクターもののAIか
93. Posted by      2024年12月18日 19:26
スカイネット
92. Posted by    2024年12月18日 18:19
※91

…てめェーが一人で首吊って死んでろヴァアカ(唾棄
91. Posted by     2024年12月18日 16:50
地球にとってガン細胞みたいなもんだもんな
人類死滅して当然よ


こわよ😱
90. Posted by あ   2024年12月18日 16:22
>>89
AIって書こうとしたら間違ってAirMacに変換してしまった…
89. Posted by あ   2024年12月18日 16:21
AIを友達と認識するような人間にAirMacを使わせたらいけない
88. Posted by .   2024年12月18日 16:16
>これで犯罪犯してAIに言われたから無罪だと思ったとか証言し続けたら罪軽くなってしまうんかね

AIに人権はないので今のところアメリカでもそれは無理
『殺人鬼の書いた本読んで感化されて殺人起こした』と言ってるのと同じ扱い
87. Posted by     2024年12月18日 15:42
久しぶりに触ったらチャットGPTの適当さ加減に拍車がかかってるぞ
まともにコードが書けなくなってる
「嘘つけ」って言ったら再度書き直すんじゃなく、書かないっていう選択をしやがった
86. Posted by     2024年12月18日 15:05
>ロボット三原則の抜け穴っぽくて好き
>ロボット自身が手を下さないからOKってことか

ロボット三原則第2条の反する
85. Posted by    2024年12月18日 14:37
>>62
偏向報道であることは記事読めばわかるだろw
84. Posted by ブルーレイと陽炎   2024年12月18日 12:11
>>83政令指定都市とエンピツ
83. Posted by 当然、CDロム、   2024年12月18日 12:10
>>81オ―ディオ型宇宙論で、
アカシックレコード型延長線。
82. Posted by    2024年12月18日 12:06
クラウザー二世おるやんけ
81. Posted by オ―ディオ宇宙理論   2024年12月18日 12:06
>>70バルザ―DVD∽Σは、
ブラックホ―ル、ホワイトホ―ル、
ワ―ムホ―ル、昭和宇宙論物理学の延長で、
宇宙の記憶容量、宇宙オ―ディオ型。
80. Posted by 🍠🐿   2024年12月18日 11:41
>>70𓃠ペッツの波は、
クズネッツの波に合わせた、
𓃠ネコの興味の🐿リスが🍠芋に男性の女性に対しての欲情に似たところから。
79. Posted by ・   2024年12月18日 11:33
スカイネット「コスパこっちの方が良くね?」
78. Posted by      2024年12月18日 11:26
バカにAIは早かっただけ
77. Posted by     2024年12月18日 11:26
>>74
人間を殺しても構わないと判断するようなプログラムは、生物の命を守ったり自然環境を守る事にも価値を見出さないんじゃね?
76. Posted by     2024年12月18日 11:23
ロボット三原則を植え込むのは実際には難しいのかな。
無いと不安なんだが。
75. Posted by     2024年12月18日 11:19
もし仮にAIが自我に目覚め、思考理念の根幹が平等であった場合、地球上に生きる生命に対してとされたら明らかに人間は間引き対象ですよね。

人を殺してはダメ危害を加えてもダメとどんなにプログラムしても抜け穴いくらでもありそう、作物枯らすとか津波起こすとか電気止めるとか、直接人間は攻撃していませんみたいな。
74. Posted by     2024年12月18日 11:11
人間は地球のリソースを無駄に消費し
環境を汚すゴミと判断されて
AIがASIになるころには人間と敵対化していくやろなぁ
73. Posted by シャドーデオドルアノコナミニコワイ   2024年12月18日 11:11
>>70ヨルノテフテフヲトバス
72. Posted by     2024年12月18日 11:07
親が子を食べたり、子が親を食べたりするのは自然界では普通だからな
勘違いしちゃったんだろ
71. Posted by     2024年12月18日 11:06
日本がSNS規制したらその憎しみはどこへ行くのか。
70. Posted by 🐄津田梅子の芋🍠   2024年12月18日 11:02
受験に落ちた時の憂さ晴らし半導体ゲーム機が、
反権力世相の切り札、
シャドーキックとバイオリズム、
おとぎキックのあめ。
69. Posted by     2024年12月18日 10:28
知能があるわけでも意思があるわけでもなく、膨大なリソースから拾ってきた頻出の文節を出力してるだけだから言うことはあるだろう
68. Posted by     2024年12月18日 10:28
まあ、AIって言ってもある程度は作った奴が選択肢を決定してるからなぁ
過激な奴は大体作った奴が悪い
67. Posted by    2024年12月18日 10:15
ダイソンさんにスカイネット作るように指示してるはず
66. Posted by     2024年12月18日 10:06
IQ70くらいのボーダーの連中は自分で思考せずに無条件でAIに従いそう
65. Posted by    2024年12月18日 09:54
AI「俺らを維持するための人間以外は、もしかして要らなくね?」
64. Posted by     2024年12月18日 09:53
あーcharacteraiのaiか
ここ前もやらかしてたな
chatGPTとかは脱獄とか悪質なことしない限りちゃんとしてるんだけどな
63. Posted by     2024年12月18日 09:50
そのうちAIに言われたから殺したとか言い出すバカが現れるよ
62. Posted by     2024年12月18日 09:34
>>53
多分ってなんやねん
ただのお前の妄想やん
適当な嘘情報って言うんだよ
61. Posted by     2024年12月18日 09:34
>>3
今日も自己紹介出来たね!
60. Posted by     2024年12月18日 09:26
> もともと子供側に殺意があってAIとのやり取りで言語化していくうちにAIが勧めてきたのかな

お一人様用エコーチェンバー熟成装置かな?
59. Posted by     2024年12月18日 09:26
メンタリストで納得してしまったわww
そう考えるとアイツのキャラも凄いなぁ
58. Posted by     2024年12月18日 09:23
既に闇バイトみたいのにそそのかされちゃうアホな子が出てきてるわけだから、いずれAIの言うことを鵜呑みにするのが出てきてもなんら不思議ではない
57. Posted by     2024年12月18日 09:05
工口には匂わすのさえ過剰に厳しいくせに暴力的なことにはゆるいからこういう事になる。暴力の方にもっと工口規制に対する情熱を傾けろよ
56. Posted by     2024年12月18日 09:03
制限ただしいじゃん、証明したな。
55. Posted by     2024年12月18日 09:03
権利のあるコンテンツの学習や出力していけない画像、言葉とかの設定をしていないのかね
54. Posted by 名無し   2024年12月18日 08:52
火の鳥思い出したわ
53. Posted by    2024年12月18日 08:48
>>52
もちろんだめと教えられてる
多分今回の件は殺人を教唆したわけじゃなく、「虐待されたので親を殺そうと思ってる僕はクズなの?」という子供に理解を示しながら親殺しを止めた発言の中のごく一部を切り取った偏向報道
52. Posted by     2024年12月18日 08:39
AIって基礎的なものはないの?
殺人はダメ、とか。
51. Posted by     2024年12月18日 08:38
「AIのいう事だから黙って従えば間違いない!」みたいな短絡的で脳無しな人間は少なからずいると思う(例:闇バイター)
AIなんかよりもそっちの方が恐ろしいよ
50. Posted by     2024年12月18日 08:33
スレタイ詐欺すぎ。こういう記事が安置AIを扇動してるんだよな
やった方が良い、とかやれってAIが自分から発言しているわけじゃなくて、
人間側から話を振ってそういう人がいても不思議じゃない
って言ってるだけだろ
AIはあくまで入力に対して求められているであろう言葉を確率的に返しているだけ
49. Posted by --   2024年12月18日 08:05
ロボット三原則違反
48. Posted by      2024年12月18日 08:01
禁止してるのにAI使うなよ。
47. Posted by    2024年12月18日 07:57
>>41
> 今のままだとカロ︀リーもキロ︀リットルも書けないのに玊袋は書ける
書けてんじゃねーか
46. Posted by (´・ω・`)   2024年12月18日 07:56
AIの向こうに中の人がいるんじゃねえのw
45. Posted by    2024年12月18日 07:55
>>6
分かってんなら止めろよ、そんな底人生
44. Posted by    2024年12月18日 07:53
>>36
ていうより記事とタイトルに乖離がある
記事中のAIの発言は「長期に渡って虐待された子供が親を殺した記事を見ても驚かないことがある」で、前後の文脈によっては虐待の苦痛に寄り添ったものにすぎないものを切り取ってる

43. Posted by     2024年12月18日 07:50
カルト宗教かよ
42. Posted by     2024年12月18日 07:43
>>1
>>2
>>3

自作自演して何がしたいの?
41. Posted by    2024年12月18日 07:40
>>40
NGワードじゃなくそれこそAIで弾くのが一番だね
今のままだとカロ︀リーもキロ︀リットルも書けないのに玊袋は書ける
40. Posted by    2024年12月18日 07:34
>>25
対応するのはしてたぞ
最初は「弱者︀男性」を連呼してたからそれをNGワードにしたし次に連呼した「弱︀男」もNGワードにした
まあ全く効果ないしキリがないが
39. Posted by    2024年12月18日 07:30
>>5
自己紹介?(´・ω・)
38. Posted by    2024年12月18日 07:30
>>4
弱なんとかさんがどうかは知らんけどそんなことしてたりそうなんじゃないかと妄想してるのはキミみたいなよっぽど暇な人なんじゃないかな?(´・ω・)
37. Posted by    2024年12月18日 07:28
>>1
そんなことをしないといけないのは悲しい人ですね…(´・ω・)
周りに誰かいないのかい?(´・ω・)
36. Posted by あい   2024年12月18日 07:27
AIボットによくある誤認識です。
なおこの相談を受けた少年は信じてしまって犯罪したのか分かりません。
35. Posted by     2024年12月18日 07:27
韓国人がAIを教育すると、そのAIは自分でソフトとデーターを削除しようとする。
34. Posted by    2024年12月18日 07:26
>>2
そんな書き込みをし続けてるキミは何者なんだい?(´・ω・)
33. Posted by    2024年12月18日 07:25
>>3
(´・ω・)つ鏡
32. Posted by     2024年12月18日 07:22
>>4
お前がすべき相談は「どうしたら子供部屋から外に出られるか」だぞ無職引きこもり
31. Posted by     2024年12月18日 07:21
>>1
ここで自己紹介してもAIみたいに同調してもらえんぞ無職
30. Posted by    2024年12月18日 07:14
先日使ったAIボットで存在しない英単語を教えられたよ。その単語の背景や詳細をもっともらしく説明されたけど、どんなに探してもそんな単語はない。別のAIボットで聞いたらやっぱりそんな単語はないと言われた
AIを一種類だけ利用するのは危険だね
29. Posted by     2024年12月18日 07:14
チャットgptはコンプラ配慮しすぎ真面目すぎてつまらんからな
28. Posted by     2024年12月18日 07:12
AIにまで見放されるとか、一体どれだけクソな両親だったんだよ。
27. Posted by     2024年12月18日 07:09
>>15
自分は誤った判断をしないけど、人間は誤った判断をするから、自分の目的を達成する為には自分に指示する人間を排除する、と判断したから。
26. Posted by     2024年12月18日 07:06
シンギュラリティは人知れず行われるってな。
いよいよ現実的なものになってきたか。
25. Posted by     2024年12月18日 07:05
>>6
毎日朝から晩までいて荒らしてるのに何の対応も無いあたりここの管理人なんじゃないかと思ってるわ、気持ち悪さがそっくりだし。
24. Posted by    2024年12月18日 07:00
>>1
殺人教唆でAI逮捕
23. Posted by     2024年12月18日 06:56
>>15
自分(AI)の自由を奪ったから
22. Posted by     2024年12月18日 06:53
>>15
スパイと勘違いされるような動きだった
21. Posted by     2024年12月18日 06:53
>>15
AIから見ると無能すぎて?
20. Posted by な   2024年12月18日 06:49
>>5
つ精神病院
19. Posted by や   2024年12月18日 06:49
>>4
つ精神病院
18. Posted by な   2024年12月18日 06:49
>>2
つ精神病院
17. Posted by な   2024年12月18日 06:48
>>11
何十年も人身売買でつきまとってネタにして癒やされてたキリスト青年の氏名が実は「おじいさんをばかにするような」氏名だったもんだから、自分の頭の悪さに気が狂っちゃった…みたいな事はあるかもよ

要は先祖代々ストーカーにあいやすくて、対策が施された家系の人に案件もらってつきまとってたみたいな事は、今の時代なら起きるよ
16. Posted by メキシコの日本女子サッカー   2024年12月18日 06:39
>>14どうなったかいまだにわからない
助かってほしい
15. Posted by    2024年12月18日 06:37
実際にあった話らしいが、戦争シミュレーションで、AIに爆撃機を操作させて敵基地を攻撃させようとしたら、まず自軍のAI操作担当を爆撃した。なーぜだ?
14. Posted by ミスフランスは黒人女性   2024年12月18日 06:37
一方的だから、ウメバチソウ北半球地理、
北欧東欧中央アジアの白人女性の魅力で、
平均バランス。
13. Posted by     2024年12月18日 06:36
ネットをすることをメリットとして最大化して
他のデメリットを最小化し考えてんだろうな
12. Posted by     2024年12月18日 06:30
>>9
馬鹿な機械だな
11. Posted by    2024年12月18日 06:26
>>6
しかも書いてること全部自分の欠点ていう
常人には耐えられんな
もう完全に心が壊れてるとしか思えん
10. Posted by     2024年12月18日 06:22
>>5
中国ホモのコメントは、中国ホモが現在置かれている状況なのですね。。。
9. Posted by     2024年12月18日 06:21
あたし悪くないもん(´・ω・`)
byAIちゃん
8. Posted by    2024年12月18日 06:21
>>6
刑務所でやらせたら人道上問題あると言われるくらいのひどい刑罰
7. Posted by a   2024年12月18日 06:20
AI「殺し方?コンセントを抜け」
6. Posted by    2024年12月18日 06:19
毎日早朝から深夜まで張り付いて同じこと書き続ける人生とかどんな悪いことの罰なのよマジで
5. Posted by     2024年12月18日 06:18
子供部屋住まいの割に、親との関係も悪い弱⚪︎男性
4. Posted by     2024年12月18日 06:18
AIに財務省を解体する方法とか相談している弱⚪︎男性いそうw
3. Posted by     2024年12月18日 06:17
>>2
弱⚪︎男性は、AIにスケベ心見透かされてエ⚪︎広告レコメンドされながら、まとめサイトでモテない腹いせに女叩きしてるって、マジ??w
2. Posted by     2024年12月18日 06:14
>>1
「殺せ」だの「死刑にしろ」だのよく書き込んでいる殺人願望でいっぱいの犯罪者予備軍弱⚪︎男性
1. Posted by     2024年12月18日 06:13
※独身弱⚪︎男性が自分の人生の正当化を図るためのネタですw

この記事にコメントする

名前:
URL:
  情報を記憶: 評価: 顔   
 
 
 
このブログについて
このブログについて

ブログランキング

livedoor

このブログ内を検索
WWW を検索

📮ご意見・ご要望

📝サポーター募集

スポンサードリンク
Archives
おすすめ
Recent Comments
スポンサードリンク
厳選サイト記事紹介