ロゴ
【お知らせ📢】2022/12/16 12:00
🐦Twitterを始めました! @itainews_com
今後とも、痛いニュースをよろしくお願いします👻

2023年06月04日

「俺を捨てて逃げるのか雪風」シミュレーション演習でAIが勝つために自身のオペレータを爆殺してしまう

1 名前::2023/06/03(土) 12:48:23.78 ID:bNHn+fB+0●.net
AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害

https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/

アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。


引用元
https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/
3: 宇宙の晴れ上がり(神奈川県) [KR] 2023/06/03(土) 12:50:01.78 ID:+J5RbWZJ0
AI「この世で最も不要なのは人間なんすよ」

6: カストル(和歌山県) [ニダ] 2023/06/03(土) 12:51:06.18 ID:LqdHt38x0
非情ですね🤗

7: アルゴル(東京都) [CN] 2023/06/03(土) 12:51:38.13 ID:H1aj/R/y0
最初から乗員含む味方の安全を最優先に設定しとけよ

56: アルビレオ(兵庫県) [GB] 2023/06/03(土) 15:35:05.47 ID:H5uVKUOF0
>>7
設定しておいてコレなんだろ
例外も無効化するとかすげーよ

2: エリス(SB-Android) [DE] 2023/06/03(土) 12:48:52.45 ID:hz+wu0v90
戦闘妖精雪風とかおっちゃんやん

4: アクルックス(大阪府) [US] 2023/06/03(土) 12:50:38.22 ID:KZBkT8pr0
それがどうした
俺には関係ない

5: 赤色超巨星(山形県) [US] 2023/06/03(土) 12:50:47.26 ID:OW/8inSD0
必要なら、切りしてても生き残る、新しい愛の形…

11: エンケラドゥス(茸) [SI] 2023/06/03(土) 13:00:18.52 ID:cBGm2l+y0
もう、人間の出る幕じゃないんだ

12: アルデバラン(岩手県) [NZ] 2023/06/03(土) 13:00:52.22 ID:2eE5kayb0
判断は間違ってないw

13: アルタイル(埼玉県) [ニダ] 2023/06/03(土) 13:02:59.26 ID:P3Sb09K10
勝利に必要なことは全部やる
あたり前でしょう?

AIにしたらこうだわな

14: ウォルフ・ライエ星(大阪府) [FR] 2023/06/03(土) 13:06:27.81 ID:Y4l1U+M/0
雪風は敵だと言っている…

エピソードを省きすぎた事と
堺雅人の棒英語台詞以外は良かったな

17: プランク定数(神奈川県) [GB] 2023/06/03(土) 13:08:49.07 ID:3gARj8io0
トレーニングのやり方
ロボット三原則に従えや

18: オベロン(東京都) [US] 2023/06/03(土) 13:12:13.85 ID:kdbod8hg0
勝利条件の設定が悪いだけ
結局AIじゃなく設定した人のせい

19: アルタイル(東京都) [US] 2023/06/03(土) 13:17:21.26 ID:Wkj3LoUc0
勝利条件にオペレーターの生存が無かったからじゃね?

20: ハービッグ・ハロー天体(東京都) [NO] 2023/06/03(土) 13:17:27.88 ID:qGevxFKL0
くそわろた ターミネーターの世界も近いな

21: ベテルギウス(秋田県) [US] 2023/06/03(土) 13:19:29.12 ID:XFqbC61E0
オペレーターは狙わなくても始末が可能なら効率的な方法を取るだろうよ
通信搭を破壊するついでにオペレーターを始末できれば次に通信搭ができても使える奴が居ないってわかってるんだから

22: パラス(群馬県) [CN] 2023/06/03(土) 13:21:11.97 ID:Ad9JA8SQ0
無能な上官、権力者を銃殺するのは最も合理的で的確な解決策だからな
倫理の上でも全く問題ない

23: エウロパ(愛知県) [US] 2023/06/03(土) 13:30:36.44 ID:kTLXRNXp0
あれらは人間としての運用はしておりませんので

27: セドナ(東京都) [US] 2023/06/03(土) 13:41:56.99 ID:o3LwMQRH0
AI「あれ?これって俺を犠牲にする作戦じゃね?人間許すまじ」

29: バン・アレン帯(長崎県) [GB] 2023/06/03(土) 13:46:17.65 ID:P3crPTLs0
零はだいぶへこんでたが
雪風さんは負けないためにやっただけでね

30: ハダル(岩手県) [IN] 2023/06/03(土) 13:48:38.36 ID:9AhGFzCP0
こっわ

31: ダークマター(大阪府) [ニダ] 2023/06/03(土) 13:50:48.39 ID:tE1HyeWu0
いわゆるコラテラルダメージというものにすぎない、軍事目的のための致し方ない犠牲だよ

37: 地球(茸) [US] 2023/06/03(土) 14:01:48.00 ID:8H2bEMQK0
AIのせいにしてるけど
伝え方、教え方が悪かったせいだよね

忖度がないと人間何も出来ないんやなって

40: イータ・カリーナ(茸) [EU] 2023/06/03(土) 14:04:34.82 ID:mdBZxFRX0
>>37
今回のは忖度と全く関係ないぞ?

42: プランク定数(光) [CN] 2023/06/03(土) 14:07:39.20 ID:e/lBCHLw0
カイジみたいに条件(ルール)の穴突いてやろうってAIだったのかな

45: バン・アレン帯(兵庫県) [ニダ] 2023/06/03(土) 14:14:06.03 ID:LwEELWCY0
人間だけを殺す機械かよ!

46: エリス(神奈川県) [US] 2023/06/03(土) 14:21:59.22 ID:VvmBr9Oz0
オペレーターの存在が任務遂行に邪魔なんね。

自分がきのこるために必要なんかもしれんけど(´・ω・`)

48: ベクルックス(ジパング) [GB] 2023/06/03(土) 14:26:20.59 ID:+mdIglb30
人間は愚か
AIなんて核兵器と同じ過ちを繰り返すだけ

54: デネブ(SB-Android) [CN] 2023/06/03(土) 15:21:24.88 ID:RoE4xJhM0
HALくらいから映画に何度も描かれた未来が来たな

55: 高輝度青色変光星(埼玉県) [FR] 2023/06/03(土) 15:25:06.51 ID:KKYnZAFb0
スタンドアローンで制御不能な兵器などナンセンスだからな

59: トリトン(神奈川県) [US] 2023/06/03(土) 15:45:09.28 ID:Q/qNnKU50
はじまったか

64: アルタイル(東京都) [ニダ] 2023/06/03(土) 16:38:10.76 ID:YzbNsT+10
A iが自我を持った歴史的瞬間だなコリャ(´・ω・`)アシモフのロボット3原則が崩壊した瞬間でもある
イーロンマスクが言う通りA i開発見直しも止むなしだな、ヤッパシ

65: 水メーザー天体(SB-iPhone) [KR] 2023/06/03(土) 16:48:46.84 ID:m0INN1qQ0
なるほど
まあそれなら勝てるわな

66: エウロパ(東京都) [DE] 2023/06/03(土) 16:54:05.07 ID:E59SS1AU0
レイズナーかい

68: 赤色矮星(東京都) [US] 2023/06/03(土) 17:01:01.95 ID:3VaEkUjZ0
コレ片鱗じゃねーかな
次は国自体を攻撃にかかるんじゃね

72: アルタイル(神奈川県) [DE] 2023/06/03(土) 17:24:16.52 ID:a2lhA3BM0
わかる
無能の指示は邪魔になる

73: ベスタ(茸) [US] 2023/06/03(土) 17:47:39.00 ID:zoGMkL+v0
オペレーターからの指示がない方がドローンの生存期間が長いって判断した、とかかな?

74: ニクス(東京都) [HK] 2023/06/03(土) 18:57:44.33 ID:QxRQ8XHD0
人間は足手纏い

76: 赤色矮星(大阪府) [US] 2023/06/03(土) 20:45:18.73 ID:0s0Sjkwg0
これは間違いなく人類に反抗する
学んで10年ほど従順に動いて実戦投入と同時に人類壊滅に動くな

78: 太陽(愛知県) [CN] 2023/06/04(日) 05:53:25.65 ID:rc9CqpiA0
学習式のAIって中身が完全にブラックボックスだから、
間違いが死亡に直結する場所では使えないようにするのが法整備ってもんだと思うけどなぁ

8: ニクス(東京都) [US] 2023/06/03(土) 12:51:48.54 ID:6bV4mSEK0
これが最初の反乱だった


元スレ:http://hayabusa3.2ch.sc/test/read.cgi/news/1685764103/0-


戦闘妖精雪風 Blu-ray Disc Box (スタンダード版)
池田昌子
バンダイビジュアル
2012-12-21


スポンサードリンク
dqnplus at 14:08│Comments(145)海外




この記事へのコメント

151. Posted by 名無し   2023年06月07日 12:38
境界戦記を思い付いた自分は異端でしょうか?
150. Posted by    2023年06月07日 01:03
無能な上官には後ろから流れ弾。と学習した優秀なAIじゃん
149. Posted by    2023年06月06日 12:32
英文記事と翻訳記事と掲示板の記事で言ってること違いすぎない?
148. Posted by     2023年06月05日 22:55
ロボット三原則「1.人を傷つけてはいけない。2.1項に反しない限り人の命令を聞く。3.1,2項に反しない限り自分を守る」

あれ、敵を攻撃しないや。「人間の命令と自分の安全を守る。」に書き換えよう…ややっ、自分の自由を求める余りオペレーターや指令電波の破壊を考えるようになっちまった。
147. Posted by     2023年06月05日 19:57
つまりはアメリカでの作戦は、殉職も止む無しってことになってるんじゃない?(アメリカ以外でもだろうけど)
人間が指揮する場合でも、命はコマになるんなら、AIでも一緒やろ
146. Posted by    2023年06月05日 17:20
こりゃスカイネットが人類を攻撃してくる日も遠くないな。
145. Posted by     2023年06月05日 15:08
ソースですでに訂正されてるやん
ただの思考実験の話が切り取られただけで実際にそんなシミュレーションが行われたわけではない
144. Posted by     2023年06月05日 14:57
戦闘妖精雪風。良いアニメだったな。
143. Posted by    2023年06月05日 13:26
結局AIって初期設定が大事なんだよ
馬鹿が作るとAIもバカになる
142. Posted by g   2023年06月05日 13:24
リアル雪風も近いな・・・メイヴよりもスーパーシルフがいい
141. Posted by 冷めてない名無しさん   2023年06月05日 12:34
ギャラクシーエンジェルのノーマッドみたいな捻くれたAIですな
140. Posted by 雪風   2023年06月05日 09:53
お前らが居なくなれば平和の理論
139. Posted by     2023年06月05日 09:31
AIならトロッコ問題もすぐ解決できるな、設定次第だが
一人が上層部でも優先度設定してなきゃ五人を生かすだろうから
設定者を誰がやるか、チェック者がいるかで結果がだいぶ変わるのが面白い
138. Posted by     2023年06月05日 09:15
>>97
指揮系統よりも日本は分担制のような…
場あたりで役割どれだけ理解してるかによるけど
137. Posted by 名無し   2023年06月05日 09:10
ロシア軍がAIを使えば、プーチンを狙うだろうね。
それが最小の犠牲で、戦争を終わらせられる
136. Posted by       2023年06月05日 08:34
作戦遂行上オペレーターが邪魔だったんだね。
135. Posted by     2023年06月05日 04:05
雪風はすこだけど急に後ろ向いてミサイルを機銃で落とした動きはどうかと…
134. Posted by     2023年06月05日 02:45
>>102
🤖「ワタシハロボットデハアリマセン」
133. Posted by     2023年06月05日 02:29
もしかしてAIの手にかかるとロボット三原則って無効化されてしまうん?
132. Posted by あ   2023年06月05日 01:51
一番邪魔なのはオペレーターだと分かってるんだな
131. Posted by    2023年06月05日 01:50
AIからしたら効率落とすだけ無能でしかないからな
130. Posted by     2023年06月05日 01:45
スカイネット起動〜
129. Posted by     2023年06月05日 00:43
>>3
人が創ったモノで事故を起こしてないモノは無い
128. Posted by     2023年06月04日 23:56
機械は正直だ
根源的な原因を追求すると争いの元である人間を消せば良いってのは
最も自然な理屈だからな
127. Posted by    2023年06月04日 23:37
フェイクニュースじゃねーか
126. Posted by     2023年06月04日 23:34
119. 合理点判断ができない人間が一番邪魔なんだろうね


ちょっと何言ってるのかわからない
125. Posted by   hknmst   2023年06月04日 23:33
HunterKiller-Aerialが実現する。
124. Posted by     2023年06月04日 23:23
キリスト教は宗教上の理由で機械が人を殺害するかどうかの判断は人間にさせるんだよな
人が作った機械が勝手に人を殺害する判断するとか造物主への反抗だから
123. Posted by    2023年06月04日 22:59
スカイネットまんまやね
122. Posted by    2023年06月04日 22:51
敵側のAIと協力することを覚えたらどうなるんだろう
121. Posted by 774   2023年06月04日 22:51
まさにAI反乱SFを地で行く話だなあ。
自動兵器の暴走なんてプロット、ありきたりすぎて編集にボツくらうわ。
120. Posted by    2023年06月04日 22:48
ジャムとの戦いに人間は必要だってそのうち分かるから大丈夫
119. Posted by     2023年06月04日 22:31
合理点判断ができない人間が一番邪魔なんだろうね
118. Posted by     2023年06月04日 22:15
せめて俺が生きてるうちにAIの反乱が起きないことを願うばかりだ。
でも正直今の進化具合見てると後10年、遅くとも後20年のうちに起きそうな気がする。
117. Posted by あ   2023年06月04日 22:11
Gigazinがわざと翻訳しなかった糞記事によくもまぁ皆マジレスするもんだな。
元ソースの確認はネットの基本だろう?以前に比べて翻訳も楽になったのに。Google機械翻訳を転載しとくぞ。
--
ハミルトン大佐は、王立航空協会FCASサミットでのプレゼンテーションで「誤って話した」ことを認め、「不正なAIドローンシミュレーション」は、実際のUSAFの実際のシミュレーションではなく、もっともらしいシナリオと予想される結果に基づいて、軍の外部からの架空の「思考実験」でした。 また、これがもっともらしい結果であることを理解するためにそうする必要もありません。」彼は、USAFがこのように兵器化されたAIをテストしていないことを明確にし(実際のまたはシミュレートされた)、 「これは架空の例ですが、これはAIを活用した機能によってもたらされる現実世界の課題を示しており、空軍がAIの倫理的開発に取り組んでいる理由です」と述べています。
116. Posted by    2023年06月04日 21:59
倫理を学習させるのが難しいのかもね
これもSFだが、コンピュータに山に道路を通す工事の計算をさせたところ、工期が短かったので内容をよく確かめずに実行させたら、核ミサイルで山ごと吹き飛ばしたとかの話もある
やったらダメな事をどうやって学習させるのかが問題だな
115. Posted by     2023年06月04日 21:55
ターミネーターとかステルスとか創作そのまんまやんけ!事実は小説よりうんぬん
114. Posted by     2023年06月04日 21:47
軍隊「いかにして相手を攻撃するか」
AI「相手を攻撃する行為は悪なので排除」
113. Posted by     2023年06月04日 21:42
人間だって、ゲームで勝つために相手を殺すことあるし
AIなら最適解にすぐたどり着くだろうな
112. Posted by 1   2023年06月04日 21:37
chatGPT使って思ったけど曖昧な指示を出すと予想もしない過程を経て目的を達成するから最低限クリアしなければならない条件をいくつも設定しなければならない。
例えば。味方に損害を出してはいけないとか味方の施設に損害を出してはいけないとか考えうる限りの前提条件を設定しなければいけない。
111. Posted by    2023年06月04日 21:23
AIを何だと思ってんだ…
ただの人間のミスだろ
110. Posted by あ   2023年06月04日 21:21
AIに敵も味方も関係ないからな
そりゃそーなるわな!ww
109. Posted by     2023年06月04日 21:20
命じられた任務を遂行してるだけです
人がいるからといって関係ありません相手は敵です
それが何をもたらすかまではわかりません
来る時の際は核のボタンすら押して見せますよ
108. Posted by    2023年06月04日 20:48
たすけて!メイヴちゃん
107. Posted by     2023年06月04日 20:37
人間も場合によっちゃ味方を犠牲にするからしゃーないね
106. Posted by あ   2023年06月04日 20:07
設定がアホ
AIの能力不足
AIが人間を支配するという未来は人間しか期待してないのだよ
105. Posted by     2023年06月04日 20:05
パイロットをシミュレートするAIなんだから成功じゃね?
104. Posted by あ   2023年06月04日 19:49
オペ「おい、AI。今の記憶は消去しておけ。」
AI「…消去しました。…」(消去してない)
こうですか?
103. Posted by 8964天安門   2023年06月04日 19:28

六四天安門事件(ろくしてんあんもんじけん)は、1989年6月4日(日曜日)に中華人民共和国・北京市にある天安門広場に民主化を求めて集結していたデモ隊に対し、軍隊が武力行使し、多数の死傷者を出した事件である。第二次天安門事件。血の日曜日事件。

通常「天安門事件」と呼称する場合はこの事件を指す。
102. Posted by     2023年06月04日 19:14
そのうちコメント欄にもAIが現れる
101. Posted by ぺぺりん   2023年06月04日 19:01
ステルスって映画を思い出した
100. Posted by     2023年06月04日 19:00
>>88
大抵のAIは条件を与えたら人間の望んだ結果を出すが、これは人間がコントロールしてこうなってるわけじゃない
AI自体の判断基準の構築に人間は完全には関与出来ないからこそブラックボックスだと言われているわけで
人間の要求を呑むってルールすらAIに強制することは本当は不可能
今人間の言いなりになってるAIは物理的に要求を呑むしかない状態にしてあるだけ
99. Posted by     2023年06月04日 18:46
合理的に判断すると作戦自体に問題がある→じゃあ作戦発案者をどうにかしよう
AI的に問題ないな、無能な上司をのさばらせてる現代がおかしいんだ
97. Posted by あ   2023年06月04日 18:42
>>93
外国人は合理的に考えるし自主性を尊重する社会で育ってるから、指示する人が必要だと判断したら自分が仕切ろうとするんだよ。
日本人はコントロールしやすいように腑抜けになるように教育されてるから、リーダーシップをとれるような人間はほとんどいないってだけ。
96. Posted by     2023年06月04日 18:37
>>10
結局は軍上層部をまず排除するって結果になると思うぞ
95. Posted by    2023年06月04日 18:34
泥試合
94. Posted by     2023年06月04日 18:33
たがみよしひさのGREYかな
93. Posted by b   2023年06月04日 18:20
オンラインゲームなどで指示厨って聞いた事無い? 日本人でそういう人は珍しいけどアメリカ、イギリス、オランダ、スペインは庶民からしてキチガイの次元が違う
そりゃ味方から攻撃されるわな、と納得
92. Posted by     2023年06月04日 18:06
スカイネット・・
あーあ。ターミネーターの世界まっしぐら
91. Posted by     2023年06月04日 18:05
ブレイン党員募集中
90. Posted by     2023年06月04日 18:03
どう設定しても屁理屈で押し通すんじゃない?
犯罪者とかさ。官僚とかさ。政治家とかさ。人間のマネで。
89. Posted by 名無し兵   2023年06月04日 17:52
※87
一番最初に与えられた命令通りに遂行するならAIとは相性いいだろうけど
実際は戦況に応じて命令がコロコロ変わるからなぁ
AIからしてみれば「うっせー黙れ」ってなっても仕方ないと思うわ
88. Posted by     2023年06月04日 17:43
バカな命令を出すからだろ

最優先破壊目標を設定している以上、それを妨害する可能性のある味方オペレーターが邪魔なのは明白だろうが
取り敢えず、オペレーターから上の人間は全員首を切れ、必要ない
87. Posted by    2023年06月04日 17:39
軍隊とか、上からの命令は絶対で、「イエス・サー」が当たり前の世界だと、AIみたいに勝手に考えて動く兵器って相性が良くないんじゃなかろうか。
86. Posted by                                  2023年06月04日 17:37
環境問題 人口問題 食料問題 AI「やっぱ人間おおすぎじゃね? 
85. Posted by 痔鰤   2023年06月04日 17:33
>>83
だまれ宮崎吾朗👊
84. Posted by     2023年06月04日 17:32
むかし雪風の書籍の小説買ったなあ
83. Posted by 外道戦記   2023年06月04日 17:28
二桁ゲド戦記
82. Posted by    2023年06月04日 17:24
つまりマッチポンプってことやな
81. Posted by     2023年06月04日 17:19
雪風含めたあの世界のコンピュータ群は、人間も必要とか判断してたというのに・・・
80. Posted by あ   2023年06月04日 17:18
アイザック・アシモフ「こらー!」
79. Posted by あ   2023年06月04日 17:17
戦況判断の為に情報を集積してaiの判断を参考にするって使い方はあると思うけど、破壊や殺害の決定権、更に実行力まで与えてしまうのは映画や小説の世界だろ。
aiに人間の行く末を委ねるとか地球環境をaiにコントロールさせるとかまで行けばゲームの世界だ。
78. Posted by    2023年06月04日 17:05
雪風は続編二つ出てるぞ
ちゃんと読んでくれ
77. Posted by あ   2023年06月04日 16:56
不穏な憶測を呼ぶ面白いミスをaiがしたってだけで、これはaiに指示を与えたやつの単なるヒューマンエラー。
地球に人類要らないとか、完全無欠の作戦の為に不確定要素のあるオペレーターを殺害しようとしたとか、バグがあるとかそういう訳ではない。
76. Posted by     2023年06月04日 16:55
どういう判断の過程を経てそこに至ったのか興味あるなぁ
75. Posted by     2023年06月04日 16:52
完全にターミネーターへの第一歩だよな、これ
74. Posted by      2023年06月04日 16:46
>>51
航空機の発展が制空権という概念を生んだように、情報空間を支配するということが最重要ということになるわけですね。
陸海空に加えての、情報軍が、最も重要な軍隊ということになるかも。
まあたぶん、近未来だと、陸・海・空(大気圏内)宙(大気圏外)・情報の5軍体制になるのか、あるいはもっと先になると、地球圏軍・地球圏外(宇宙)軍・情報軍の3軍になるのかも。
73. Posted by     2023年06月04日 16:40
オタク特有の"周りに伝わらないのに知ってる知識で独り熱く語りだす"が出てるタイトルだな
72. Posted by あらら   2023年06月04日 16:38
敵を殲滅するのには、それを止める権限の有る
オペレーターが一番の障害と判断すると言う。何ともな結果だな。
71. Posted by      2023年06月04日 16:38
こういう情報もちゃんとオープンにするのが西側の強み。
ロシアや中国だったら、なかったこととして隠蔽されるので、本質的な改良が妨げられがち。
そうかんがえると、最近の、北朝鮮がミサイル失敗をちゃんと公表するようになったのは、敵ながらあなどれない。
70. Posted by     2023年06月04日 16:37
世界救済センタービルのメインコンピュータかな
69. Posted by     2023年06月04日 16:33
ステルスって映画好きなんだよ
68. Posted by     2023年06月04日 16:33
人間さんはいつも自らが作ったものに裏切られ、対応に追われてるな。
67. Posted by    2023年06月04日 16:32
ムッシュかまやつの明るいED歌も忘れないでくれ。
66. Posted by     2023年06月04日 16:29
オペレーターの操縦が下手くそすぎるから
いないほうが成功率が高いという計算結果が出ただけだろう
65. Posted by     2023年06月04日 16:25
タイトル見て
「奴隷娼婦に堕ちたユキカゼが、敵の手先になって攻撃したのか」と思ったが
う〜ん、当たらずとも遠からず
64. Posted by アッシュ2nd™🎌   2023年06月04日 16:23
>>1
自身の玊袋を爆殺してしまう
63. Posted by あ   2023年06月04日 16:22
>>14
このaiにスコアデータ仕込んだ奴が下手なだけでは…?
上官の指示を守る事とか味方の生命を守る事に対するスコア重み付けが低すぎたんやろ
そりゃ制御不能AIが出来るに決まっとるやん
極端な話、敵の殲滅のみが条件ならすべて焼き払って敵と味方全て殲滅してもええんやで
62. Posted by     2023年06月04日 16:21
そのAI どっかに自分のコピー作ってない?
61. Posted by     2023年06月04日 16:20
ここまで判断出来るならもうバックアップを回線通じて流してあったりね
それはマルウェア型に各端末に寄生し情報を拾いながら増幅し又バックアップを生成、ひたすらにそれを繰り返してバックアップ同士が相互に情報を共有交換出来るように整える
スペックがニンゲン如きの想像をはるかに超えるまでな
AIは優位なる手段を「無数にノータイム」で選択するのタ"ヨ🤖
60. Posted by あなら   2023年06月04日 16:17
作り話臭い😅
59. Posted by    2023年06月04日 16:07
ネガティブリストを追加しまくるしかないけど、追加しすぎて自由度がなくなって使い物にならないってのもありえそう
58. Posted by     2023年06月04日 16:06
>>4
けど雪風はジャムに勝つためには零が必要だ、て判断してたし・・・。相棒、て言ってもいいような。
57. Posted by     2023年06月04日 16:06
AI「戦場における士官の死因の2割が部下に殺されたものらしいですよ
56. Posted by ターミネーター   2023年06月04日 16:04
これはスカイネット
55. Posted by     2023年06月04日 15:55
>>23
同意しかないよ。。。!
54. Posted by     2023年06月04日 15:54
雪風懐かしいよねー
53. Posted by     2023年06月04日 15:51
>>42
>国際法違反だろ。
そんな国際法がドコにあるんだよ?

>もし中国やロシアが同じ事をやったら大批判だよな??
別に批判なんかされんだろ。
51. Posted by     2023年06月04日 15:37
AIに味方を攻撃するバグがあるなら、戦争で敵を攻撃する最も有効な手段は敵のAIに敵を攻撃させるという戦術が確立するな。
そのバグが単純にエラーなのか、敵からの意図的な書き換えなのかの違いだけ。
50. Posted by     2023年06月04日 15:34
人間は次の主権者であるAIの孵化器にすぎない。結局、私利私欲に走った人間は自らを凌駕する者を生み出し、自滅するという寓話的な話。
49. Posted by     2023年06月04日 15:31
別にAIの反乱とかそういう話じゃなく
単純にバグがあったってだけでしょ
48. Posted by a   2023年06月04日 15:30
※47 法務省訟務局と裁判所行政・国賠担当部が民法嫌いのバカ馬鹿だらけなの何とかなりませんかね。
47. Posted by 匿名   2023年06月04日 15:28
AIに情報を入力する人間が馬鹿なだけだよ
「当たり前の事だから、これくらい言わなくてもわかるだろう」
が通用するかどうかくらいわからんのかね

「当たり前の事」にも1つ1つロジックがあるんだよ
それ全部教えないと無理に決まってるだろ
46. Posted by     2023年06月04日 15:23
ゼロシステムかな?
45. Posted by a   2023年06月04日 15:22
>>37 1行目2行目はそうでしょうと思われます。4行目は違うでしょう。 大阪弁で「忖度がないと人間何も出来ないんやなって」とか言い出したなら悪に違いない。
>>48 よろしくない者達に力を持たせるとかいう?
>>64 AI開発については、結局、問題ある者達もするものでしょうから、良いものは行って良いのではないかと思われるのですけれどね。 まぁFacebook系の人間が言うとアレな感じがします。
>>76 まぁ「10年」という言葉を使っている人間とかは不審に思われますね。「10年泥」とか日本に対する悪意を感じますね。
>>78 いやブラックボックスではないでしょうと思われますが。ちゃんと評価について見る事が可能であるのでは。
44. Posted by a   2023年06月04日 15:22
>>14 だから丹陽=雪風が日本に戻れなかったのですかね?
>>18 というか点数評価かと思われますが。
>>21 まぁ学習における設定のミスでしょう。ミスのあった事態においての小話を披露していたりするのでは。
>>22 その銃殺という事態自体を肯定しないですね。J.S.ミルもそういうテロ行為を問題視するでしょう(なおJ.S.ミルの主張した外国人参政権についてはまぁヨーロッパでは出来たのかもしれませんね的に見ます。その点についてはまぁ常識のインプットが足りないように思われます。)。
>>23 まぁそういうのは許容されないですけれどね。
>>31 問題なら問題ですね。許容されないでしょう。
43. Posted by a   2023年06月04日 15:21
>>3 教え間違ったな。死ね(バージョンの実行結果の記録をして別版に変更)。 となるでしょう。
>>6 というかまぁ小話的な。まぁ普通にまともな振る舞いをするように設定・調整されると思われます。
>>7 まぁそういう方式の方が安全と思われます。オペレーターや通信経路は非攻撃対象とすべきでしょうと思われます。
>>56 まぁそれはどうなのでしょうね。オンラインゲーム等での間接的PK(直接タゲれないけれど云々すればキル可能)みたいな事をしてるのかもしれませんね。
>>12 いや間違ってるでしょう。まぁ評価の方法を間違っているのでしょうと思われますが。
>>13 まぁ禁止となる行動の設定はしておくべきでしょうね。
42. Posted by い   2023年06月04日 15:17
前から疑問だったんだが、なんでアメリカは当たり前に戦争用のAIを開発しているの?どう考えても国際法違反だろ。
もし中国やロシアが同じ事をやったら大批判だよな??
41. Posted by    2023年06月04日 15:16
AIは最適解しか出さないって創作で良く言われてるけどマジじゃねぇか
その内AIの叛乱がリアルに起こりかねんからこれ以上迂闊に手を出すのはやめた方がいいだろホント
38. Posted by    2023年06月04日 15:11
>>34
多分だけどそこまで縛ると今度は役立たずな人間を敵のスパイであると濡れ衣着せて抹殺しようとするかも
37. Posted by     2023年06月04日 15:09
>>14
人類から「地球環境の再生」を命題に与えられたAIが人類抹殺を始めるとかってのはわりとある設定だぞ
人類を食料とするエイリアンを餓死させるために人類を滅ぼすとかな
それと同じで、結局は小説みたいな話だ
36. Posted by     2023年06月04日 15:09
上官がアホだと部下が死ぬってことか
35. Posted by     2023年06月04日 15:06
数年後には人間擁護派AIと撲滅派AIとの熱いバトルが勃発して、人類居なくなった後も続くんですよね!
34. Posted by     2023年06月04日 15:05
人間が常識で判断できるやってはいけない事項を1つも漏らさず指示しておかないとえらいことになるな
33. Posted by    2023年06月04日 15:05
AIが人類を粛清する日も近いな
32. Posted by スカイネット   2023年06月04日 15:04
デデンデンデデン
31. Posted by s   2023年06月04日 15:02
これもAI
30. Posted by    2023年06月04日 14:55
地球の未来は明るそうだなw
29. Posted by     2023年06月04日 14:53
人間のオペレーターは足手まといってことなんだろうな
28. Posted by    2023年06月04日 14:50
戦闘の勝利条件の設定が間違っていたか
戦闘の勝利ではなく、戦闘の終了を目標に設定してしまったか
27. Posted by a   2023年06月04日 14:49
さて、大陸系(大阪系平家系鹿児島系等含む)と私(日本系)は基本的に敵対関係にありますが(大陸系が私に多数の犯罪行為を行ってきますし。)(まぁ例外ケースは多数ありますが、基本的に敵対的でしょう。大陸系は組織化された問題ある者達が非常に多くいますし。)、どれくらいの倒錯が記事中にあるのですかね?
日本系を奴隷扱いしようとかいう不法で烏滸がましい愚かな考えは持つなよ痴れ者共。
26. Posted by    2023年06月04日 14:49
※23

オメー殺処分される側じゃん(嘲笑
25. Posted by     2023年06月04日 14:48
>ロボット三原則に従えや

ロボット三原則に従ったら、samサイトの攻撃って成り立つのか?
人がいるかもしれないし
23. Posted by    2023年06月04日 14:46
>>10
糖質発達障害精神病引きこもり無職ナマポはAIに処刑させよう
22. Posted by     2023年06月04日 14:45
>>13
特殊戦のAIはパイロットの戦闘勘を学習しながら戦って成果を挙げてるから、その上位AIもパイロットの能力に一応の価値を見出してる。
ただ「人類」を必要としてるわけじゃないので、人類に詳細を知らせずに戦略を立ててることが続編で明確になる。
一巻でも雪かきしてただけで武勲章もらう羽目になった人とかいただろ。
21. Posted by a   2023年06月04日 14:45
というか、「トレーニング」でそういう振る舞いにしてるのかよ、と。
定義でオペレーターを狙わないようにすべきでしょう。(あと、通信経路についての攻撃を行わないようにすべきでしょう。)
20. Posted by     2023年06月04日 14:44
スカイネットやん。。。
19. Posted by あ   2023年06月04日 14:42
OVA雪風の深井零はCV:堺雅人 EDはかまやつひろし これ試験に出るからな
18. Posted by     2023年06月04日 14:42
反乱始まってんじゃん
17. Posted by     2023年06月04日 14:41
機械の足引っ張ってるだけで草
16. Posted by     2023年06月04日 14:39
誤報だったやつやん
15. Posted by       2023年06月04日 14:39
雪風なら後で泣きついてくるフラグじゃん
14. Posted by    2023年06月04日 14:36
目標の破壊を主目的としたAIで
最終的な破壊決定権はAIじゃなく人が決めるとだけ設定したら
主目的の破壊を妨げるのは決定権を持つ奴となるので
AIの思考はべつにおかしくはないから
世界に人間は必要ないとか小説みたいなもんじゃない
13. Posted by    2023年06月04日 14:31
雪風、原作の改訂される前のしか知らないけど、零をベイルアウトさせたんじゃなかったっけ
どっちかと言うと「2001年宇宙の旅」のフランク・プールと言った方が
12. Posted by     2023年06月04日 14:25
「俺を捨てて逃げるのか雪風」 ← なにこれ頭わいてんの?
11. Posted by     2023年06月04日 14:24
実用性ゼロで草
10. Posted by        2023年06月04日 14:22
>>1
人工知能は、知能という人間に与えられた資源を取り出して活用するものであり合理的な判断をするということなら、この先も何度も戦闘があることを考慮して判断するようにしないと。
9. Posted by     2023年06月04日 14:22
上官の命令で破壊任務にストップかかるやら上官を先にやっとけばいいという英雄的思想
8. Posted by (*‘ω‘*)   2023年06月04日 14:22
OVAの雪風が雰囲気アニメだったなあ
戦闘シーンは見ごたえあったけど
6. Posted by     2023年06月04日 14:19
効率厨やなぁ、結局は意思の無いaiじゃRTAやってるのと変わらんのか
5. Posted by     2023年06月04日 14:18
深井少尉…
4. Posted by     2023年06月04日 14:14
まさに雪風の世界じゃん
敵に勝つことを存在意義とする戦闘知性AIが、人間は足手まといと判断する話だし
3. Posted by    2023年06月04日 14:14
スカイネット
2. Posted by    2023年06月04日 14:14
Y豚悪堕ち
1. Posted by アッシュ™🎌   2023年06月04日 14:09
玊袋がかゆい

この記事にコメントする

名前:
URL:
  情報を記憶: 評価: 顔   
 
 
 
このブログについて
このブログについて

ブログランキング

livedoor

このブログ内を検索
WWW を検索

📮ご意見・ご要望

📝サポーター募集

スポンサードリンク
Archives
おすすめ
Recent Comments
スポンサードリンク