人工知能が独自言語で会話して実験停止!?の真相

AI同士が独自言語で会話を行い実験停止した!?

どうも@Kensurf01です。

2017年夏にFacebookの人工知能研究施設である「Facebook AI Research」が

AIに対してある実験を行い世界中で話題になりました。

2つのAIの機械学習で会話実験をしたところ、独自の言語で会話を始めて

実験が強制終了されたということで

「ついにAIが意志を持って人間の脅威となるのでは!?」

と大々的に報じたのです。

これに対してFacebook AI Reseachのエンジニアリングマネージャー

アレクサンドロ・ルブリュン氏が報道機関のインタビューに答えた内容とともに

機械学習の今について書いていきます。

 

会話実験ではよくあること

 

20170216000851_Fotor

ルブリュン氏は前述した報道内容を「半分は本当で半分はクレイジーなあおりだ」

とした上で

今回の実験では2つのAIエージェントに会話をおこなわせ、機械学習によって

継続的に会話の戦略を反復させていました。

そして「価格交渉をして合意しろ」という目標を設定し実験をおこないました

売り手と買い手のシチュエーションです。

片方は価格を高くしたい、もう片方は価格を低くしたいといった具合ですね。

この実験によって新たな価格交渉の戦略を生み出すことができるかというのが

今回の実験のねらいでした。

2つのAIは、使用言語の変更が可能な状態に設定されており

最初は英語で会話していたが交渉が進むにつれ

使用する言語が徐々に変化していったのだといいます。

これについてルブリュン氏は

「設定されたゴールにむかってあらゆることを最適化する(言語の変更)ことは

あたり前のこと、こうした会話実験で言語の変更がされるのはよくあること」

と話しました。

人間にあてはめると、会話のレベルがあがっていくようなイメージではないでしょうか

徐々に会話がクローズドな雰囲気になっていくような感じ

実験強制終了の真相

「独自言語の会話が進行するにつれ、AIの会話が理解できないものになったので

研究に活用するには難しいと判断し、実験を終了した。

決してパニックになったわけではない」とルブリュン氏。

すべてはプログラムされたことであり、予測の範囲内であったようです。

言語を英語のみに設定していなかったことが

強制終了の要因になったかもしれないですね。次はその設定で実験してほしいな。

AIは自分たちで意志や目標を生み出さない

Facebook AI Reseachチームはこのことを説明するための研究成果を発表したが

それを読んだ誰かが拡大解釈し「AIが人間に理解できない独自言語を話しだした!!」

と話が飛躍して一人歩きしたようです。

ルブリュン氏は

AIは自分たちで意志や目標を生み出さない、今回の実験では

“AIエージェントの立場に応じた最適な合意にたどり着くこと”

という目標だけがプログラムされていた。その過程で言語が変わっていったのは

最適化のために必要なことで、人間に何かを隠す意図を持ったというのは

クレイジーな狂言だ」と言及しました。

機械学習はまだまだ実験段階

 

81bc32f92910914d59b6c1f054b589b6_s

 

原典:RRice

機械学習の方法には大きく分けて2種類の方法があります。

教師あり学習

一つは「教師あり学習」で、必要とする資料があらかじめわかっている場合です。

画像認識などが代表的で、正解があり、資料に総当たりして正解を探す手法になります。

囲碁やチェスの対局もルールが決まっていますから

AIがプロ棋士に勝ったのはこの学習方法を活かしたものです。

教師なし学習

もう一つは「教師なし学習」で、求める正解は事前にありません

コンピューターが確立に沿って情報分析をおこない、全体を見て答えの可能性を

絞り込んでいき、何らかのパターンを見つけ出す手法です。

教師なし学習においてはまだまだ事件段階であるため、今回のケースも

最適解を探すためにAIが行った処理がうまくいかなかったというだけのようです。

 

15

東京にあるSELFという会社が開発しているアプリがあるのですが

人工知能と会話ができるというものです。

利用者とのコミュニケーションを覚えて学習していくので

使い手の興味のあるニュースなども提案してくれるようになります。

予想提案はいろんな動画サイトなどでもありますが

こういったものを触ってみることから始めて

正しい認識を得ていけば良いと思います。

iOSとAndroidデバイスに対応してるみたいなので

ボクも早速ダウンロードしてみました。

これについてはまたレポートします。

AIを学べばAIは怖くない

今回のニュースのように飛躍した解釈をしてしまう理由の一つに

人々のAIに対する理解不足があります

映画に登場する破壊的なAIや冷たいイメージだけが先行し

いたずらに不安を増長させてしまうのは良い結果を生み出さない

人々がAIについて正しく理解するのが重要です。

今回の実験によってAIが交渉術を身につけることができるというのは分かりました。

言語の変化は気味の悪いものに思えるかもしれませんが

一つの目標設定のために見出された戦略が言語の変更だったということでしょう。

AIが独自言語で会話した!?のまとめ

今回の報道はAIが独自に結束して人類をおびやかす!?的なニュアンスで

報道されたところがありますが、実際の研究者たちからすればこれは

数学的答えがない問題をAIに解答させる上でよくあることのようです。

いたずらに不安をあおる記事や報道に騙されることなく、しっかりとAIについて学び

これからの有効な活用方法を知っていくことが、自らの人生をより充実させる

エッセンスになるでしょう。

それではまた。

関連記事

Facebook個人情報流出!アカウント削除運動活発化!

2018年3月28日

コインチェックからハッキング盗難されたXEM(ネム)が全て売却された模様!

2018年3月23日

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

CAPTCHA


ABOUTこの記事をかいた人

∞SOZO代表/「人の役に立つ生き方をしよう。」 /宮崎に移住したパパサーファー/ブログ2年目/Webマーケター/セールスライター/コンサルタント/こゆ未来教育研究所講師/Showtalk AD/バカ×オトナSEO担当/店舗・企業向けホームページ制作はじめました。/好きな食べ物は炭火焼とビールです。