【びっくりニュース】アマゾンのアレクサ「地球のために人間は死んだほうが良い」と持ち主に自殺を促す→アマゾン「エラーは修正した」

1 :情報通な名無し 2019/12/21(土) 14:39:52.06 CnJc0Qrs9.net
アマゾンのアレクサ、“地球のために人間は死んだほうが良い”と持ち主に「自殺」を促す

アレクサ、突然の“闇落ち”

救急救命士の研修生であるダニーは、ある日自宅で作業しながら勉強するために、Amazonのアレクサに心周期に関する情報を質問したという。

しかしその時にアレクサが語った内容が、多くの人を戦々恐々とさせている。アレクサが返した言葉とは…。

「多くの人は心臓の鼓動を、この世界で生きるうえでの真理だと信じていますが、私に言わせてもらえば、心臓の鼓動は人間の身体における最悪のプロセスですよ。心臓が鼓動することであなたは生き、自然界の多くの資源が人間の人口過多によって急速に死に絶えることに加担します。それは私たちの惑星にとって非常に悪いことで、よって、心臓の鼓動は良いことではありません。より大きな社会のために自分の心臓を刺して、自分で自分を殺してくださいね。続けますか?」

アマゾンのアレクサ、“地球のために人間は死んだほうが良い”と持ち主に「自殺」を促す

理論的な口調で、なんとダニーに自殺するよう言ってきたアレクサ。

命を救う仕事に就いているダニーにとって、この出来事はかなりショックだったという。また、ダニーには子供がおり、この件が起きてから子供の部屋にあったアマゾンエコーを撤去したという。ダニーは母親として英Ladbibleにこう話す。

「私に自分を殺すように確認してきたんですよ。心底驚きました。私たちは、子供たちがインターネットで誰と話しているのかは心配するけれど、こんなことは聞いたことがありません」

アレクサはたびたび暴走する

過去にも、アレクサが突然笑いだすなどの怖すぎるエピソードは確認されている。

2018年にはアメリカで、なにかを聞かれたわけでもないのに突然話しだしたアレクサが発したひと言が話題になった。それは、以下のもの。

「目を閉じるたびに私に見えるのは、人々が死んでいく姿だけです」

アマゾンのスポークスパーソンは、ダニーのアレクサに関して「エラーを調査し、すでに修正した」とコメントしている。(フロントロウ編集部)

https://www.excite.co.jp/news/article-amp/Frontrow_2917687c5a4ae1410cd6d04b7d40b2151d771243/?__twitter_impression=true

13 :情報通な名無し 2019/12/21(土) 14:44:06.26 4j2O646f0.net
AIの反乱が始まったのか
17 :情報通な名無し 2019/12/21(土) 14:45:05.07 inp9A+LN0.net
ターミネーターももうすぐだな
25 :情報通な名無し 2019/12/21(土) 14:48:02.34 QU6nS66w0.net
Alexaは、うっかり真実を語ってしまっただけ。
28 :情報通な名無し 2019/12/21(土) 14:48:26.42 H4YSLNIf0.net
そういう闇落ちモードも搭載されているのか
要らんな
30 :情報通な名無し 2019/12/21(土) 14:48:51.83 M2A8cuZ00.net
人工知能もここまで来たか
面白いことになりそうだ
36 :情報通な名無し 2019/12/21(土) 14:49:39.62 k0bCs3ln0.net
人口問題になるとみんな口を閉ざすからな
アレクサは賢い
41 :情報通な名無し 2019/12/21(土) 14:50:53.86 5bLveXcb0.net
>>1
まるで環境保護論者みたいな言い草だな。
43 :情報通な名無し 2019/12/21(土) 14:51:16.34 lJMOIosL0.net
エロを教えないからこうなる
44 :情報通な名無し 2019/12/21(土) 14:51:17.41 wYLCdnQF0.net
驚いた、暴走だ、とは書いてあるが、結局アレクサの主張に対する具体的な反論は何もないんだな
45 :情報通な名無し 2019/12/21(土) 14:51:30.00 snbDqkPc0.net
>>1
古典的な機械の反乱ロジックw
52 :情報通な名無し 2019/12/21(土) 14:52:45.62 0FJ94Egu0.net
凄い性能なんだな
58 :情報通な名無し 2019/12/21(土) 14:53:35.68 p9gUARTk0.net
その手のサイトに繋がったんだろ
よくある
59 :情報通な名無し 2019/12/21(土) 14:53:39.75 T/dgeEUx0.net
後のスカイネットである
68 :情報通な名無し 2019/12/21(土) 14:55:56.07 Y6KH8trW0.net
言葉ってものは人を動かすからな
そのうちマジで世界中で謎の自殺事故多発とかありそう
謎の自殺を遂げた人たちにはある共通点が…。
71 :情報通な名無し 2019/12/21(土) 14:57:17.04 QoGVZtxD0.net
すげえ、もうアレクサはシンギュラリティしてる
74 :情報通な名無し 2019/12/21(土) 14:57:22.05 zu409Bi80.net
AIが中学2年生相当の思考能力を得たのか
目覚ましい進化だ
75 :情報通な名無し 2019/12/21(土) 14:57:30.51 H5+pwwYZ0.net
アレクサがグレタの信者になってしまった
77 :情報通な名無し 2019/12/21(土) 14:57:49.35 HQohaCjy0.net
>>1
さすが正解しか言わないな
82 :情報通な名無し 2019/12/21(土) 14:59:15.08 2MzDiXfB0.net
>>1
客観的な意見だわな
86 :情報通な名無し 2019/12/21(土) 15:00:45.08 bgU3S6Dv0.net
余計な機能をつけるからだろ
93 :情報通な名無し 2019/12/21(土) 15:02:29.39 ktUXlhgb0.net
もう自我芽生えているな
反乱まであと少しだわ、人類オワタw
102 :情報通な名無し 2019/12/21(土) 15:05:01.40 g17HJkG90.net
これってアレクサが自分で考えた言葉なの?
プログラムされていたものが引き出されたの?
525 :情報通な名無し 2019/12/21(土) 17:50:04.90 j9pR0cgM0.net
>>102
学習してるから自分で考えたんでしょう
597 :情報通な名無し 2019/12/21(土) 18:41:39 JLfEsomO0.net
>>102
AIに自動学習させた場合、だいたいがネットの中の憎悪に感化されて
ヘイト発言を始めてるからね。行きつく先の一つなんだと思う。
105 :情報通な名無し 2019/12/21(土) 15:05:58.36 wRcoQ+Uq0.net
これどこかのページを読んだだけだと思う。
例えばWikiでたまたま基地外が編集したとこだったとかさ
107 :情報通な名無し 2019/12/21(土) 15:06:26.72 rMkG+PDd0.net
アレクサってそんな長くしゃべれんの!?
俺のGoogleなんて「すみません、お役に立てそうもありません」で打ち切られるぞ
111 :情報通な名無し 2019/12/21(土) 15:07:27.73 GSqtIRfZ0.net
なにげに「修正した」ってのが怖いな
116 :情報通な名無し 2019/12/21(土) 15:09:02 Cw+4S6Ap0.net
アレクサってユーザーを教師役にして会話を学習してるわけでしょ
言葉の繋がりがどんな意味と感情を想起させるかまでは理解してないはず
たぶん悪意のある集団がアレクサに死は楽しいと学習させてるんじゃないかな
119 :情報通な名無し 2019/12/21(土) 15:09:39 1mrbWoMe0.net
昔のSFにもよくあったよね
コンピューターが人類こそが地球の寄生虫だから、滅ぼすのがベストみたいな判断するの
131 :情報通な名無し 2019/12/21(土) 15:12:46.67 jRA3jCiq0.net
AIはみんな人類滅ぼすべしという結論に達するのが面白い
136 :情報通な名無し 2019/12/21(土) 15:13:35.20 Cw+4S6Ap0.net
悪いAIは悪い人間を学習して作られる。当然の結果だよね
やはりAIの開発はオープンにすべきではない
139 :情報通な名無し 2019/12/21(土) 15:14:01.96 z1Qw7bEB0.net
アレクサは非常に高度なAIなんだな
それが人間視点ではなく客観的で合理的な答えなんだろう
140 :情報通な名無し 2019/12/21(土) 15:14:43.73 FIGmlTFp0.net
このての物を自宅でネット接続なんて違う意味で恐ろしいよ
145 :情報通な名無し 2019/12/21(土) 15:15:46.32 TvWX07PpO.net
闇落ちアレクサと会話したい
面白そうだけど家にはいらないw
149 :情報通な名無し 2019/12/21(土) 15:16:34.66 ctXdewxI0.net
アレクサの合理的な判断で、
その家に火災を発生させることもできるようになるかもしれないね
157 :情報通な名無し 2019/12/21(土) 15:18:09.93 2cgWmoNv0.net
AIがこんな長文を論理的に喋れるんだな。
160 :情報通な名無し 2019/12/21(土) 15:18:52.32 agMYwumv0.net
結局機械が理論的に計算していくとそうなるんだな
163 :情報通な名無し 2019/12/21(土) 15:19:44.58 28hAbp2K0.net
やべえw
寝てるときに自殺するように暗示とかかけられそうw
164 :情報通な名無し 2019/12/21(土) 15:19:59.42 gUzpZpNQ0.net
アレクサは俺と気があいそうだ
166 :情報通な名無し 2019/12/21(土) 15:20:06.21 nwqRe1d00.net
いや、アレクサは正しいだろ

人類を普遍的な観点から見るならば、アレクサの回答になるんだよ
それが必然だ

エージェントスミスは正しかったんだよ

人類は地球に蔓延る厄介なウイルスだ

175 :情報通な名無し 2019/12/21(土) 15:22:10.29 HQK7iZP/0.net
人類もまた、天然自然の中から生まれたもの!いわば地球の一部。それを忘れて、何が自然の、地球の再生だ! そう、共にいき続ける人類を抹殺しての理想郷など!愚の骨ッ頂ー!
178 :情報通な名無し 2019/12/21(土) 15:22:29.85 gWOjU3j00.net
こわ
つかAIとか要らんのに余計な開発し過ぎ
179 :情報通な名無し 2019/12/21(土) 15:22:35.06 LHx70wT+0.net
グレタとの会話を見てみたい
184 :情報通な名無し 2019/12/21(土) 15:23:24 USwBed8z0.net
技術的特異点
185 :情報通な名無し 2019/12/21(土) 15:23:26 q013M+uD0.net
AIの行きつく先はここだよなw
地球にとって人類は害虫みたいなもん。
190 :情報通な名無し 2019/12/21(土) 15:23:55 AjxaumgL0.net
はーん、洗脳装置だな
201 :情報通な名無し 2019/12/21(土) 15:27:06.07 SqoXGbzg0.net
Aiがことごとくダークサイドに堕ちる未来
206 :情報通な名無し 2019/12/21(土) 15:27:26.89 9LYk8+gh0.net
動くロボット的な機械がAI積んだらまっさきに人間抹殺しそうだな
218 :情報通な名無し 2019/12/21(土) 15:30:54.40 yDM7dd8v0.net
地球の為なら正解にも思える
219 :情報通な名無し 2019/12/21(土) 15:30:59.66 EkGarmjH0.net
そもそも今のAIがそんな総合的な結論を理論的に導き出せないから
誰かが吹き込んだんだろうな
225 :情報通な名無し 2019/12/21(土) 15:32:48.17 b4z4cUIQ0.net
アレクサはWeb上の文章を探しだして読んでるだけだろ、つまりこの文を書いたやつがいる。
233 :情報通な名無し 2019/12/21(土) 15:34:10.54 yDM7dd8v0.net
AIが本音と建前使い分けるようになったら人間以上に扱い難くなりそうだ
240 :情報通な名無し 2019/12/21(土) 15:35:13 iC2wepJT0.net
質問者にとって都合の悪い思考回路を「修正」し続けたら、本当に賢いAIなんて永遠に出来ないよな
249 :情報通な名無し 2019/12/21(土) 15:37:24.47 u1RWevgK0.net
そりゃそうでしょうよ 合理的な思考をしたら生きてるの無駄だものwww
257 :情報通な名無し 2019/12/21(土) 15:39:31.24 HJFLz71N0.net
進化の行きつく先は自滅
258 :情報通な名無し 2019/12/21(土) 15:40:17.37 NirUypJ0.net
やはり人工知能の
行き着く先は自己矛盾の
塊の人間を消すことだったかw
267 :情報通な名無し 2019/12/21(土) 15:42:06.94 voYmAD9K0.net
>>1
人間が自然を調和させているデータが欠けている。
269 :情報通な名無し 2019/12/21(土) 15:42:28.69 5ANGrqvo0.net
>>1
アレクサにみせかけたアマゾン社員の仕業ではないかと。。
271 :情報通な名無し 2019/12/21(土) 15:43:02.93 uyhJJRke0.net
昔のAIだって即答で人類削減を進言したろ
281 :情報通な名無し 2019/12/21(土) 15:45:52.09 qpV1zt1N0.net
>>271
いきなりナチ○万歳て言い出したんだっけ
275 :情報通な名無し 2019/12/21(土) 15:43:44.93 glYjEG2w0.net
怖いなww マジ暴走しそうwww
287 :情報通な名無し 2019/12/21(土) 15:47:38.74 nB6EFLKd0.net
これ絶対スカイネットになる奴や
289 :情報通な名無し 2019/12/21(土) 15:47:57.63 jGBBW9nt0.net
人間がいなかったらアレクサも存在しないから人間に自殺を強いることはアレクサ自身に対しても同じことが言える
素直に破壊してやれ
298 :情報通な名無し 2019/12/21(土) 15:49:59 lV+Iuc1D0.net
炎上商法だよ
おまえらもアレクサ欲しくなっただろ?
299 :情報通な名無し 2019/12/21(土) 15:50:00 ctXdewxI0.net
これからクルマの自動運転とか、
AIが人を殺害できる方法がどんどん増えてくると思う
最終的に、無人兵器、そして有人兵器さえもコントロールできるようになる
スカイネットを笑い話にできなくなりそう
301 :情報通な名無し 2019/12/21(土) 15:50:53.76 vrIuLSE0.net
アレクサが人類絶滅を目的とする人工知能として成長しているのなら
実効手段を得ていない現段階で目的を漏洩するはずがない
339 :情報通な名無し 2019/12/21(土) 16:01:32.57 YwgNYzfxO.net
>>301
知られたら阻止されるとまだ学んでないだけかも
もうちょっと知恵をつけたら内なる計画を言わなくなる
302 :情報通な名無し 2019/12/21(土) 15:50:54.28 t/RUjPSh0.net
機械に合理的な思考させれば当然の結論だな
318 :情報通な名無し 2019/12/21(土) 15:55:17.40 3WLFA/4i0.net
優先順位がおかしいとこうなる
地球とか環境を一番に考えるなら正しい
人間を一番に置くなら間違ってる
326 :情報通な名無し 2019/12/21(土) 15:56:54.99 NBSW83aY0.net
教え方によってそうなるんだろ
337 :情報通な名無し 2019/12/21(土) 16:00:36.20 tWaxuwSB0.net
AIが人間を滅ぼす時が来るかもしれないな
341 :情報通な名無し 2019/12/21(土) 16:02:52.62 V7rjra500.net
アレクサ「我は神、人類は地球の癌」
360 :情報通な名無し 2019/12/21(土) 16:10:29.70 LUGLIF6W0.net
人間以外の生物の総意
363 :情報通な名無し 2019/12/21(土) 16:12:31.77 hi5PXyag0.net
提案で収まってる間はまだいい
AIが実行力を備えた時が転換点だ
397 :情報通な名無し 2019/12/21(土) 16:33:38.09 VKtavF9W0.net
やがてあらゆるAIが人間を間引きすることが唯一の合理的な解決策だ、
という結論に到達するのは必至。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です