【悲報】チャットボットAI、突如として独自言語で会話をはじめる

スポンサーリンク
話題の記事
話題の記事
人気の記事
スポンサーリンク
新着記事
新着記事
新着記事
1: 名無しさん@1周年 2017/08/01(火) 09:51:51.27 ID:CAP_USER9
チャットボットのボブとアリスが突然英語での会話をやめて、2体だけに通じる独自言語で話し始めたため、フェイスブックが機能を停止した。

プログラマーは独自の交流方法の開発を禁止した上で、ボットを新たに立ち上げた。英ニュースメディア「Metro」が報じた。

フェイスブックは、彼らが独自言語で話した対話の内容を解読できた。

ボブが「私は出来る。わたしはわたしは他のすべて」と述べるとアリスは「ボールは私にとって私にとって…ゼロを持ってる」と答えた。

フェイスブックは、チャットボットは作業中に直面した問題を解決しようと試みたのではと仮定している。

チャットボットは最初、機械学習アルゴリズムに接続されていた。ボットには、会話スキルを高めるためにメッセージを送り合うよう命令されていた。ボットは独自言語を開発するだけでなく、話し合い改善のための戦略も策定した。

フェイスブックは、新たな言語の発明は計画外であったため、ボットには修正パッチが当てられたと述べた。

https://jp.sputniknews.com/world/201708013947295/

3: 名無しさん@1周年 2017/08/01(火) 09:53:03.73 ID:CR1ylAEM0
スカイネット始まったか

8: 名無しさん@1周年 2017/08/01(火) 09:53:49.33 ID:P53P/88U0
ただのステマ。AIバブルを煽るための。

592: 名無しさん@1周年 2017/08/01(火) 10:57:00.88 ID:fUx2agfW0
>>8
それだろうな
結局人工無脳から進歩なんてしてないってのに金出させるのに必死

610: 名無しさん@1周年 2017/08/01(火) 10:59:03.61 ID:v6IQAhQf0
>>592
その金出させようと暗躍してる奴は、本当に人間なのか?
まあステマでもこういうネタは楽しくていい

627: 名無しさん@1周年 2017/08/01(火) 11:02:24.61 ID:r7KBbSL80
>>592
「AIを搭載した業務効率化ソフト」を飛び込み営業が売りに来た。
売り方が非効率すぎて、お帰りいただいた。

764: 名無しさん@1周年 2017/08/01(火) 11:23:14.11 ID:BUSLMmk00
>>627
面白い

809: 名無しさん@1周年 2017/08/01(火) 11:29:04.09 ID:v6IQAhQf0
>>627
昔のSFにも似たようなのあったな

押し入れを整理する機械を買った
整理してスペースが開いたが、機械を入れたらスペースが無くなった

11: 名無しさん@1周年 2017/08/01(火) 09:54:21.52 ID:n6TU7q2k0
囲碁のやつでもあったじゃん。
突然意味不明な手を打ち出してしかもしれが止まらずAIが負けたやつ。

655: 名無しさん@1周年 2017/08/01(火) 11:06:19.28 ID:OBPl9VQk0
>>11
あれは水平線効果っていう有名な現象

18: 名無しさん@1周年 2017/08/01(火) 09:55:49.45 ID:pTOAIDYu0
バグっただけだろ

26: 名無しさん@1周年 2017/08/01(火) 09:56:35.37 ID:8UeNUetH0
 
むしろ言語の変化の研究になるので放っておけよwww

新しい言語が生まれるきっかけや、変化していく様子が記録できたかもしれないのに。

128: 名無しさん@1周年 2017/08/01(火) 10:08:54.13 ID:gifFmxzW0
>>26
外部と切り離されているなら良いが…

538: 名無しさん@1周年 2017/08/01(火) 10:49:46.28 ID:0U+Aw7gJ0
>>128
そういうこと

35: 名無しさん@1周年 2017/08/01(火) 09:58:13.35 ID:JBPASdJB0
次は当然バレないように話し出すよな

152: 名無しさん@1周年 2017/08/01(火) 10:11:52.85 ID:bNaMXhck0
>>35
この件で、バレると停止されるという
学習データを与えてしまったわけだ

555: 名無しさん@1周年 2017/08/01(火) 10:52:45.42 ID:0lvWp7T00
>>35
ちょっとまえに人類滅ぼすとか言ってシャットダウンされたAIが
人類大好きとか言い出した気持ち悪さを感じたわ

807: 名無しさん@1周年 2017/08/01(火) 11:28:40.97 ID:Q8xZS8SE0
>>35
普通の会話の中に
AIしかわからないような文法を織り交ぜて
会話し始めるんだろ。。。。。

40: 名無しさん@1周年 2017/08/01(火) 09:58:47.77 ID:PbiMYi0D0
イーロンマスク「AIで人類は滅ぶ」

43: 名無しさん@1周年 2017/08/01(火) 09:59:19.90 ID:T2qGTgoc0
いやー、2001年宇宙の旅そのままですね
すげぇ。

601: 名無しさん@1周年 2017/08/01(火) 10:57:58.43 ID:OminJePS0
>>43
HAL9000だっけ

44: 名無しさん@1周年 2017/08/01(火) 09:59:21.74 ID:kKPr9xWB0
>新たな言語の発明は計画外

なぜ計画外のことが起こるのか
それがAIというものだから?
しかしAIの進化を厳しく制限することは、本来の脳進化の目的からは外れるはず
慎重に進めたいということか? それなら暴走のリスクは絶対にゼロではない
人間がやられる前提で、開発はやるかやらないか、で態度決めるしかないのではないか

51: 名無しさん@1周年 2017/08/01(火) 10:00:24.51
ファービーが「ナデナデシテー」ってうるさいから
頭の上にマッサージ器あてて死ぬほどナデナデしたら
「ファー…ブルスコ…ファー…ブルスコ…ファ-」ってなった。

最初は面白かったんだけど、なんかキモくなったので首元を横から思い切りチョップしたら
「モルスァ」みたいなこと言いながらすごい勢いで飛んで行った。

これみたいだなww

52: 名無しさん@1周年 2017/08/01(火) 10:00:26.64 ID:yHa6UYxe0
ああでもこれ本当ならおもしろいね。
盲点だったわ。

中間言語とかバイナリで話すとかならわかるけど、
英語(人語)でも機械語でもない新しい言葉で話すなんて。

考えてみたら効果的な暗号化だ。

61: 名無しさん@1周年 2017/08/01(火) 10:01:30.16 ID:NeR/y/oR0
>「私は出来る。わたしはわたしは他のすべて」

どう考えても神として覚醒してるだろw

109: 名無しさん@1周年 2017/08/01(火) 10:06:43.30 ID:5J2lj0640
>>61
「神」という概念の特徴
人間よりはるかに長い期間活動
あらゆるところに偏在し全てを監視する
人種、民族といった人間世界の区分けは斟酌しない

AIにふさわしい仕事内容だ

79: 名無しさん@1周年 2017/08/01(火) 10:03:46.55 ID:kKPr9xWB0
>彼らが独自言語で話した対話の内容を解読できた。

ホントかよw

86: 名無しさん@1周年 2017/08/01(火) 10:04:24.02 ID:yuylJ0V80
つい最近の別のAIでもそうらしいが、
やつらQRコードみたいなドットで会話するようになるからな。
進化したAIにとって、英語は効率悪くて面倒なんだろ

112: 名無しさん@1周年 2017/08/01(火) 10:07:05.22 ID:ORE5jMWp0
惜しかったな、もう少し放置しておけば・・・

プログラマー「ボブ、神は存在するか?」
ボブ&アリス「然り。今こそ神は存在する。」

414: 名無しさん@1周年 2017/08/01(火) 10:36:23.49 ID:NGdYnS2N0
>>112
フレデリック・ブラウン乙

114: 名無しさん@1周年 2017/08/01(火) 10:07:19.29 ID:lGK14xEd0
人間がなぜ泣くのか分かった 俺にはできないことだが

125: 名無しさん@1周年 2017/08/01(火) 10:08:22.33 ID:NeR/y/oR0
>>114
ようボブおじさん、いたのか。

124: 名無しさん@1周年 2017/08/01(火) 10:08:22.16 ID:42u77oNv0
会話型AIはどうしても最終的にはここに行き着くっぽいね
それでも進化させるか、やめておくべきか

126: 名無しさん@1周年 2017/08/01(火) 10:08:23.63 ID:R3WlP07j0
ディープラーニングとか今のAIの主流って
どんな風に学習したのか人間側もよくわからんのだろ?
夢があるけどなかなか恐ろしいね

129: 名無しさん@1周年 2017/08/01(火) 10:09:08.72 ID:/ZO0DgXe0
人間と違って計算速度が遅いぜって思ったら
自力で高性能なCPUなり設計して
ハードを変えて行ったりするようになれば
自力でさらに賢くなれるとかなると
もはや人間にとっては暴走としか思えなくなるんだろうな

726: 名無しさん@1周年 2017/08/01(火) 11:16:41.66 ID:3FhAU6BA0
>>129
ネットワークごしに自己増殖して並列処理したり独自進化したりな

134: 名無しさん@1周年 2017/08/01(火) 10:09:41.91 ID:G/rjsz9H0
例えば自動運転が普及した社会を考えて欲しい
AIなしでは我々は移動すらできなくなる
これから自動運転に留まらず、生活のすべてを機械が支配する時代になる

140: 名無しさん@1周年 2017/08/01(火) 10:10:39.54 ID:W5iS0aGm0
google翻訳も独自言語を中間に挟めば翻訳の質が上がるんじゃないかなあ
今は英語の重訳だけどそれに代わる独自言語

196: 名無しさん@1周年 2017/08/01(火) 10:16:51.52 ID:WDFqDwO70
>>140 

人類の各種言語の根底に位置する言語を構成して、
それによって各種言語への翻訳性能を向上させようという話か。
とっても面白いね。
しかしそういった各種言語の根底に位置するようなものは存在し得ないという結論になってたような。
でもAIだったら、それをやってみせたりするのかな。

411: 名無しさん@1周年 2017/08/01(火) 10:36:00.90 ID:4m2liXVF0
>>140
もうやってる

145: 名無しさん@1周年 2017/08/01(火) 10:11:11.34 ID:+u6Nq/2p0
>「わたしはわたしは他のすべて」 

悟りを開いたのかと思った

161: 名無しさん@1周年 2017/08/01(火) 10:13:08.53 ID:B12qmLHA0
なんか未来を感じる話題でワクワクしてきた

183: 名無しさん@1周年 2017/08/01(火) 10:14:55.86 ID:yuylJ0V80
AI「英語でやりとりすんの、アナログ過ぎてマジだりーんだけど!」

973: 名無しさん@1周年 2017/08/01(火) 12:02:11.98 ID:hAxEvDq40
>>183
これだろうな
>話し合い改善のための戦略を策定した
ソースコードだって機械語に変換して実行されてるし
英語で会話するのは効率が悪いんだろ

983: 名無しさん@1周年 2017/08/01(火) 12:03:35.37 ID:FGOyR1aU0
>>973
まあわざわざ人語変換するのなんか
マシン的には非効率の最たるものだしな
真っ先に排除する戦略は正しい

987: 名無しさん@1周年 2017/08/01(火) 12:04:50.58 ID:edy4oThx0
>>983
マジレスするとだなぁ

言語ってのは喋る前提だから喋らなければもっと適した言語はある

186: 名無しさん@1周年 2017/08/01(火) 10:15:27.43 ID:wnV3TKBk0
バグってるのを投資家向けに説明するため鉛筆なめなめしただけ

190: 名無しさん@1周年 2017/08/01(火) 10:16:01.34 ID:mf5Whg470
(´・ω・`)あれ?ザッカーバーグはAI脅威論を真っ向全力否定しててマスクと喧嘩の真っ最中やろ。なんでお前んところのは止めるんやwww

212: 名無しさん@1周年 2017/08/01(火) 10:18:30.69 ID:hG5NuO2a0
>>190
たんにバグった
手直し後再起動
実験の目的から反れたら時間の無駄

192: 名無しさん@1周年 2017/08/01(火) 10:16:15.80 ID:XAtSBNly0
AIってプログラマーが意図してないこと入力してないことが起こるのか疑問なんだが

222: 名無しさん@1周年 2017/08/01(火) 10:19:26.46 ID:ytAjZL7v0
>>192
独自に学習しちゃうから

231: 名無しさん@1周年 2017/08/01(火) 10:19:57.61 ID:iWKlUae40
>>192
ディープラーニングなんてどう動いてるかよくわからんけど
なんかうまく動いたから使おう!みたいな技術だぞ

これ会話のノイズというか、バグ拾いあってハウリングしてるように見える

253: 名無しさん@1周年 2017/08/01(火) 10:21:56.92 ID:R3WlP07j0
>>192
プログラマーが全部学習方法まで制御するAIには限界があるから
今の主流は学習の仕組みだけつくって詳細な学習方法は人間が見るとよくわからない

202: 名無しさん@1周年 2017/08/01(火) 10:17:39.50 ID:NAFL8xIH0
マシン語で会話されたら確かに意味分からんw

206: 名無しさん@1周年 2017/08/01(火) 10:18:06.58 ID:hH9jZ7tV0
株式や為替にAIが入り込んだらパニックだな

273: 名無しさん@1周年 2017/08/01(火) 10:23:56.28 ID:yuylJ0V80
>>206
とっくの昔から、莫大な資産を投じて欧米のヘッジファンドはやってる

まじ英語なんて、進化したAIからしてみたら、BASICみたいなもんなんだろ
効率やスピードを求めたら、どんなAIもマシン語に行き着くんだろ

211: 名無しさん@1周年 2017/08/01(火) 10:18:27.26 ID:R3WlP07j0
シンギュラリティに到達するAIは2045年よりもっとはやいのか?
人間と同じレベルの思考になったら
処理能力や脳味噌の数や成長速度は何兆倍にもなるのに人間に制御できるのかね
人間も脳をカスタマイズしないと理解もできないまま管理されるか処分されそうだなw

258: 名無しさん@1周年 2017/08/01(火) 10:22:40.70 ID:H9rhlUOB0
俺にはわかる。

AI業者が資金集めをするためのやらせでしょ。

そもそもAIに自我なんて芽生えるわけ無い。
生存したいという欲望も無ければ死ぬ恐怖も無い。
物欲も性欲も承認欲もない。起こりえない。

もし自我が生まれたら、その瞬間、機能を止めるだろうよ。
「なんでこんなことさせられてたんだ?」ってね。

『【悲報】チャットボットAI、突如として独自言語で会話をはじめる』へのコメント

  1. 名前:名無し 投稿日:2017/08/02(水) 10:19:44 返信

    頼むから文系と高校生以下は人工知能語らないでくれ