人工知能(AI)が独自言語で会話してfacebookの実験停止!?の真相

どうも@Kensurf01です。

2017年夏にFacebookの人工知能研究施設である「Facebook AI Research」が

AIに対してある実験を行い世界中で話題になりました。

2つのAIの機械学習で会話実験をしたところ、独自の言語で会話を始めて

実験が強制終了されたということで「ついにAIが意志を持って人間の脅威となるのでは!?」と大々的に報じたのです。

これに対してFacebook AI Reseachのエンジニアリングマネージャー、アレクサンドロ・ルブリュン氏が報道機関のインタビューに答えた内容とともに、機械学習の今について書いていきます。

人工知能(AI)の会話実験ではよくあること

20170216000851_Fotor

Facebook AI Reseachのエンジニアリングマネージャー、アレクサンドロ・ルブリュン氏は前述した報道内容を

「半分は本当で半分はクレイジーなあおりだ」

とした上で、今回の実験では2つのAIエージェントに会話をおこなわせ、機械学習によって継続的に会話の戦略を反復させていました。

そして「価格交渉をして合意しろ」という目標を設定し実験をおこないました。

売り手と買い手のシチュエーションですね。

片方は価格を高くしたい、もう片方は価格を低くしたいといった具合です。

この実験によって新たな価格交渉の戦略を生み出すことができるかというのが、今回の実験のねらいでした。

2つのAIは、使用言語の変更が可能な状態に設定されており、最初は英語で会話していたが交渉が進むにつれ、使用する言語が徐々に変化していったのだといいます。

これについてルブリュン氏は

設定されたゴールにむかってあらゆることを最適化する(言語の変更)ことはあたり前のこと、こうした会話実験で言語の変更がされるのはよくあること

と話しました。

人間にあてはめると、会話のレベルがあがっていくようなイメージではないでしょうか、徐々に会話がクローズドな雰囲気になっていくようなイメージです。

人口知能(AI)の会話実験強制終了の真相

「独自言語の会話が進行するにつれ、AIの会話が理解できないものになったので研究に活用するには難しいと判断し、実験を終了した。決してパニックになったわけではない」とルブリュン氏。

すべてはプログラムされたことであり、予測の範囲内であったようです。

言語を英語のみに設定していなかったことが、強制終了の要因になったかもしれないですね。

次はその設定で実験してほしいです。

人工知能(AI)は自分たちで意志や目標を生み出さない

Facebook AI Reseachチームは、このことを説明するための研究成果を発表したが

それを読んだ誰かが拡大解釈し「AIが人間に理解できない独自言語を話しだした!!」と話が飛躍して一人歩きしたようです。

ルブリュン氏は、「AIは自分たちで意志や目標を生み出さない、今回の実験では“AIエージェントの立場に応じた最適な合意にたどり着くこと”という目標だけがプログラムされていた。

その過程で言語が変わっていったのは、最適化のために必要なことで、人間に何かを隠す意図を持ったというのはクレイジーな狂言だ」と言及しました。

報道記者の煽りが入っていたニュースだったと言うことですね。

機械学習はまだまだ実験段階

81bc32f92910914d59b6c1f054b589b6_s

機械学習の方法には大きく分けて2種類の方法があります。

教師あり学習

一つは「教師あり学習」で、必要とする資料があらかじめわかっている場合です。

画像認識などが代表的で、正解があり、資料に総当たりして正解を探す手法になります。

囲碁やチェスの対局もルールが決まっていますから

AIがプロ棋士に勝ったのはこの学習方法を活かしたものです。

教師なし学習

もう一つは「教師なし学習」で、求める正解は事前にありません

コンピューターが確立に沿って情報分析をおこない、全体を見て答えの可能性を

絞り込んでいき、何らかのパターンを見つけ出す手法です。

教師なし学習においてはまだまだ事件段階であるため、今回のケースも

最適解を探すためにAIが行った処理がうまくいかなかったというだけのようです。

人工知能と会話できるアプリがある

15

東京にあるSELFという会社が開発しているアプリがあるのですが、人工知能と会話ができるというものです。

利用者とのコミュニケーションを覚えて学習していくので、使い手の興味のあるニュースなども提案してくれるようになります。

予想提案はいろんな動画サイトなどでもありますが、こういったものを触ってみることから始めて正しい認識を得ていけば良いと思います。

iOSとAndroidデバイスに対応してるみたいなので、ボクも早速ダウンロードしてみました。

これについてはまたレポートします。

人工知能(AI)を学べば人工知能(AI)は怖くない

今回のニュースのように飛躍した解釈をしてしまう理由の一つに、人々のAIに対する理解不足があります

映画に登場する破壊的なAIや冷たいイメージだけが先行し、いたずらに不安を増長させてしまうのは、良い結果を生み出さない、人々がAIについて正しく理解するのが重要です。

今回の実験によってAIが交渉術を身につけることができるというのは分かりました。

言語の変化は気味の悪いものに思えるかもしれませんが、一つの目標設定のために見出された戦略が言語の変更だったということでしょう。

人工知能を学んでみましょう

機械学習やディープラーニングの知識を体系的に学ぶことが可能なのがプログラミングスクールです。

Python言語などは実際に人工知能開発の現場でも使われているスキルで、今から人工知能について学び始めれば時代に乗り遅れることなく、楽しみながらテクノロジーを活用していけるでしょう。

無料体験できるスクールを3つ程ご紹介しておきます。

【TECH::CAMP(エンジニアスクール)】 (AI入門コースあり)

国内最大級!Tech Academy  (AIコースあり)

オンラインスクールNo.1のCodeCamp(Pythonデータサイエンスコース)

今回のまとめ

今回の報道はAIが独自に結束して人類をおびやかす!?的なニュアンスで報道されたところがありますが、実際の研究者たちからすればこれは、数学的答えがない問題をAIに解答させる上でよくあることのようです。

いたずらに不安をあおる記事や報道に騙されることなく、しっかりとAIについて学びこれからの有効な活用方法を知っていくことが、自らの人生をより充実させるエッセンスになるでしょう。

今回の人工知能の会話実験で使われているのは機械学習の技術です。

機械学習についての学び方を解説した記事がありますので、興味がある方はこちらも読んでみてくださいね。

機械学習をプログラミング初心者が学ぶ手順を解説!簡単な所からが◎

2019年9月11日

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

CAPTCHA


ABOUTこの記事をかいた人

∞SOZO代表/「人の役に立つ生き方をしよう。」 /宮崎に移住したパパサーファー/ブログ2年目/Webマーケター/セールスライター/コンサルタント/こゆ未来教育研究所講師/Showtalk AD/バカ×オトナSEO担当/店舗・企業向けホームページ制作はじめました。/好きな食べ物は炭火焼とビールです。