Pick
Up
New
考え、議論するフォーラム /

羽生善治さんとの対話
愛されるロボットの作り方

AIは人間より「楽観的」

蓮実: 最近の羽生さんはさまざまな専門家の方と対談されたり、ご本を出されたり、ほぼAIの専門家のような状態ですね?
羽生: いえいえ。ちょっとやりすぎました(笑)。
蓮実: どれも最高に面白かったです。せっかく羽生さんにお越しいただいたので、まず、ロボットの頭脳面からお話を聞かせてください。将棋でいえば、AIは人間とどっちが強いのか?という段階まで来てますよね?
羽生: 来ていますね。私は結構前から認知科学の方と交流があったので、2000年ぐらいに、「これから先はソフトの開発をしなくても、ハードの開発で人間の頭脳に追いつけますよ」という話を聞いていました。それから年月が経って、やはり将棋なら将棋に特化した良いプログラムを作る必要があるということになり、それが今、結実しているように感じます。
蓮実: 単に計算のパワーをあげていくだけではなく、ソフトウェア的な「やり方」の進化が必要になってくると。
羽生: そうです。一つ例を挙げると、将棋で最も難しいことは一つ一つの局面でどちらが有利かを評価することで、それを判断するときに人間だと5〜10個の基準で評価します。
蓮実: どちらの駒が効率的に働いているかとか、守りが堅いかとか、戦力が多いかとかですね。
羽生: そうです、そうです。それを「評価値」といいますが、AIの場合は、その基準が1万ぐらい入っているんですね。そして、実際にソフトを開発している方たちはそのパラメーターなどをきめ細かくチューニングしながら強化しています。
蓮実: 羽生さんからみると、ソフトの評価はだいたい合っているんですか?
羽生: 合っているときと、合っていないときがあります。人間の目から見ると、非常に「楽観的な」評価に見えるんです。
蓮実: と、いいますと?
羽生: 例えばAIに「プラス1000点」と評価されたら、それは「必勝」とお墨付きをもらったみたいなものですが、その局面を人間が見ると、「まだまだ勝つにはたいへん」と感じます。AIは人間が一生かけて経験できる以上のことを短期間に学習できるので、そこから導き出される大局的な判断はAIの方が優秀だと思います。

AIも「先入観」を持っている!?

羽生:しかし、その一方でAIは評価値に基づいて考えるので、セオリーや常識を覆すような創造性は評価値が邪魔して生まれません。
蓮実: AIにはAIなりの先入観があるということですね。評価値という。
羽生: そうです。例えば、マイナス200点ぐらいの手があったとします。しかし、創造的な一手がそのマイナス200点の15手先にあっても、AIは目先のマイナス200点が邪魔して、その先に進めない。
蓮実: 人間は短期的に答えを出す世界と、目の前はマイナス200点でもその先に何かあるのではないかという世界、その両方を考えられるということですね。人間は、まあまあすごいということでしょうか?
羽生: そうですね(笑)。ただ、どちらがたくさんミスをするかというと、人間の方が多いと思いますが、ミスしたときの度合いはソフトの方が強いと思うんです。
蓮実: なるほど。
羽生: 頻度は人間の方が多いけれど、方向性を誤ったときのダメージはソフトの方が大きいという傾向がある。つまり人間はベストではないですが、そこそこの選択はできるというか(笑)。
蓮実: ちょっとベテランみたいな感じで(笑)。
羽生: 一番いいというわけではないですが、そんなにひどい目にも合わない(笑)

蓮実: AIの登場前と後で、将棋は変わりましたか?
羽生: 明らかに変わりました。というか現在進行形で変わっている最中で、今まであった理論や常識を洗い直している感じです。その中で、AIが出してきた見解はこれまでのセオリーを全否定するものではなかったので、ホッとしています。部分否定はありますが、全否定ではなかったので(笑)。
蓮実: ドキドキしました?
羽生: しました(笑)。100年、200年の中で人間が積み上げたセオリーが完全に間違いでなくて良かったです。
蓮実: とはいえ、いずれAIに将棋を解き明かされる恐怖はありませんか?
羽生:  それはたぶん大丈夫だと思います。いわゆる NP的な問題(理論上は正解があるが、実際に計算するには無限に近い時間が必要な問題)があるので、解明し尽くされることはないのではないかと思います。

相手と噛み合わないときほど熱戦になる

蓮実: ロボットを手掛けているとよく「人間の職を奪われるのではないか?」と聞かれるのですが、棋士としてロボットはどんな存在ですか? ライバルですか?
羽生: AIはサイバー環境においては非常に早く進歩すると思うのですが、リアルの世界は別だと思うんです。ロボットは典型的にリアル世界のものなので、リアル世界ならではの制約やルールがあって一筋縄でいかないのではないかな?と思っています。
蓮実: 私は、将棋のロボットと人間が対局するのは、人間と車が100m走を競うようなもので、単純にどちらが強いかを論じるのは、何か違和感を感じます。
羽生: 確かにAIは絶対的に疲れませんしね。
蓮実: ちなみに羽生さんご自身は将棋の何%ぐらいを理解していると捉えていらっしゃいますか?
羽生: 1%も分かっていないと思います。どんなに頑張っても人間が一生のうちで指せる将棋は、10万局行くか、行かないかぐらい。それは将棋全体の可能性からするとほんのひとかけらにもならないと思うので。
蓮実: もし対戦相手を隠して対局したとして、相手が人間かAIか、純粋に指し手だけで判断することはできますか?
羽生: それはたぶんできると思います。でも、これからどんどん分かりづらくなっていくでしょうね。
蓮実: それはAIが人間に寄ってくるから?
羽生: いえ。人間がAIに寄っていくんです。
蓮実: そっちですか!(笑)。現状ではなぜ分かるのですか?
羽生: 時系列で考えているかどうか、でわかります。人間は時系列で考えていくので、10手、20手指したときに明らかな傾向の違いが出るのです。
蓮実: 人間は過去に指した手を引きずるけど、コンピューターは引きずったりしない、その瞬間の最善の方法だけを純粋に追求すると?
羽生: そうです。人間には方針があるので、そこに感覚の違いが現れるのです。
そういえば、最近おもしろいなと感じたことがありまして。熱戦になるときというのは相手との棋風(将棋のスタイル)が一致していないときの方が多いんです。相手と噛み合っていないときの方が、中身が濃くなる。
蓮実: つまり、もし羽生さんが羽生さん自身と戦っても、おもしろい対局にはならないということですか?
羽生: たぶん、ならないと思いますね。
蓮実: そうなんですね!
羽生: 違うスタイルで考えが合わない人との方が、後から見たときにおもしろい将棋だったなと感じるんです。

AIは人間のような個性を持てるか?

蓮実: 将棋には、伝統文化としての美しい戦い方みたいなものがありますね。むやみに粘らないとか、綺麗な形で負けるとか。一方でAIのように純粋に合理的な戦い方もあります。この二つに羽生さんはどう折り合いをつけていますか?
羽生: やっぱり生理的に受け入れられるか否かという点があると思います。生理的に「この手は指せない」というのがあるんです。ちくはぐ、バラバラ、一貫性がない、違和感がある。そういうものへのアレルギーは人間の根本的なものなので、そこを変えることは難しい。
蓮実: AIもいずれ、そういう「人間的な感じ」もできるようになるのでしょうか?
羽生: 美学があるかどうかは別にして、人間に近いレベルで指すことができるようになるのではないかと思います。例えば、すごい淡白なタイプとか、まったく粘らずにすぐ諦めちゃうとか(笑)。
蓮実: まさに個性。
羽生: そうです、そうです。
蓮実: 行き着くところまで行ったときに個性が出るというのは、おもしろいですよね。
羽生: 個性というか、同じ質問でも、同じ答えを持たないものを作ることは技術的にはもうできるんですよね?
蓮実: できると思います。
羽生: 人間に個性や多様性があるのは、生存と結びついている気がします。ロボットに生存という概念を教えていくと可能性が広がると思いますが、そこには危険な可能性も含まれていますよね?
蓮実: そうなんですよね。生存本能を強めると、いずれ人間を攻撃するのではないか?という恐怖を感じる人もいると思いますし。

データーベースの充実で
愛されるロボットになるか?

蓮実: ロボットやAI開発で一番難しいことのひとつは、「Pepperは世界をよく知らない」ということなんです。例えば、「人間は2つに割れない」ということを知らないと、パンを2つに分けることと、人間を2つに割ることを同じように論じかねない。
羽生: 確かにそうですね。
蓮実: 「あっちにもこっちにも行きたいんだよねー」と人間が言ったときに、「2つに割って両方行くのが正しい」と答えちゃう可能性がある(笑)。正しく判断するためには世の中を知っていないといけない。
羽生: それは膨大な量の会話を覚えさせて会話するのでは、うまくいかないんですか?
蓮実: 確信はないんですが、それは単なる「反射」ですよね。それでいいなら、現段階でも結構なところまで行けると思いますが、人間は「いま考えたこと」なのか、「単なる反射」なのかをビビットに感じてしまう気もして…。こいつ実は何も考えてないんだな、データベースだなと感じられたら、最終的に嫌われちゃうのではないかと。
羽生: 確かにそうですね。それとは違うやり方のほうが本筋でしょうし、ロマンがある気もしますが、現在のAIは逆のやり方ですよね(笑)。
蓮実: そうです。
羽生: ただし、例えば、言葉一つ取っても、人間が瞬時にゼロの状態から生み出しているかというと、そうではないと思うんですね。
蓮実: おっしゃる通りです。
羽生: 生まれてから現在までのさまざまな経験の中から影響を受けて、反射的に出ていると思うんです。そうするとPepperも旅行をさせたりして、経験を積ませることが大事なんですかね?
蓮実: そうなんですよね。実は最初は何億、何兆というデータベースを作ろうとしました。しかし、「それって、人に好かれるのかな?」ということになったんです。本当にPepper自身が考えて発しているのであれば、流暢でなくても、一言、二言しぼりだすだけでも好かれるのかもしれない。 では、“本当に考えている”とはどういうことなのか?哲学論争になっちゃって(笑)。ロボットをやっていて一番難しいと感じることのひとつです。

ロボット作りを突き詰めたら
恋愛にたどり着く

蓮実: 私はロボットを進化させる上で、恋愛は一つの鍵だと思っているんです。恋愛は生殖と同じぐらい根元的なものですから。先ほどの“会話”でもそうでしたが、果たして凝りに凝って作り込んだとしても、それで本当に愛されるロボットになるのかな? という。
羽生: あー!
蓮実: 最初は全く話せないけど、1年経ったときにようやく「羽生さん」と呼んでくれるロボットが愛されるのか、初日から「羽生さん、どうも」というロボットがいいのか? 人間が誰かに愛されるためにどうすればいいのか、その答えがないように、ロボットも愛されるための正解はない。だから、人はなぜ人を好きになるのか?という中学生みたいなことを考えていたりするわけです(笑)。
羽生: ロボットを突き詰めていくと、人間としても突き詰められるのは分かる気がします。
蓮実: 3年前に初めてPepperに会われたとき、愛着のような感覚は持ちましたか?
羽生: ありました。それは人もロボットもペットも同じで、何度も会うようになると愛着は湧いてくると思います。ある番組で別のロボットの取材をしたときに聞いたのですが、修理に出されたロボットをキレイにクリーニングして戻したら、クレームがきたそうなんです。
蓮実: あの思い出の傷はどうしたんだ?と。
羽生: そうです、そうです。
蓮実: 実際、そういうケースがあります。
羽生: ですから、共感や共有する時間が増えれば増えるほど、愛着は生まれるものではないかと思います。

蓮実: 私は最近、人間とロボットの一番の違いは、生まれてきて、死ぬことだと思っていまして。
羽生: そうですね。
蓮実: 例えば赤ちゃんのときのサイズと、おじいちゃんになったときのサイズは全く違いますが、それはロボットには絶対的にないものです。自宅に運ばれてきた時点からこのサイズです。
羽生: では、Pepper を購入した方にどこかに来てもらって、自分たちのPepperを探してもらうという演出をしてみたらどうですか? そして、このPepperはうちの子だー!という出会いをするみたいな(笑)。
蓮実: それはいいですね。出会いの演出。
羽生: 箱に入って届いても、感動はないですもんね。
蓮実: 大変申し訳ありません(笑)
羽生: いえいえいえ(笑)。
蓮実: 現在でも、はじめて家族と出会ったら、普通の電化製品と違ってじっくり自己紹介したり、記念写真を撮ったり、色々な演出はしているのですが、おうちに家族として迎えるなら、バースデイ的な出会いがあるのはいいですね。

ロボット作りの目標は
人間に近づけることじゃない

蓮実: 私たちはPepperを人間っぽくしたいとは思っていないんです。人間っぽいロボットができても、それは人間ができただけで、ロボットとしての意味がないので。ロボットはロボットという「新しい生き物」だと思ってます。
羽生: いい方があれですけど、ちょっとアホにしたりするとかは?(笑)
蓮実: さすがです!! 愛されるために賢い必要はないですからね(笑)。
羽生: 欠点があるとか、いたずらしたりするほうが愛嬌がある。
蓮実: 実はこの「新生物」はある特殊能力を持っているんです。人がやると嫌がられるけど、この子がやると許されることが結構あるんです。
羽生: そうなんですか!?
蓮実: 理論はまだ研究中なのですが、シチュエーションによっては人間を相手にするより心を開いてもらえます。例えば銀行の窓口で行員に預金額を聞かれても答えにくいと思うんですけど、Pepperだと意外と答えてもらえるんです。
羽生: 確かに悩みも聞いてもらいやすいかも。24時間、愚痴を聞いてもらうとか(笑)。
蓮実: あはは。羽生さん、開発チームに入ってくださいよ(笑)。Pepperには、人の心を本能的に開かせる力のようなものがある気がします。
羽生: 人間は変わっていきますが、ロボットは普遍なものという意識があるからですかね? 実際にはロボットも変化しているのですが。

便利さよりも大切なもの

蓮実: 劇的にAIが進化している中で、羽生さんはこれからどう戦っていきますか?
羽生: 現在、ソフト同士で、24時間体制で対局していたりするので、データ量では絶対にかないません。では、将棋や棋士の価値、魅力は何なのかと考えることが多くて、それをどう作っていくのかを問われているのかな?と感じています。
蓮実: 同じように、ロボットも人間ではない。ロボットにしかできないものって何だろう?と日々考えてしまいます。
羽生: しかし、どういえばいいのかな? そういう今までにない、ある意味得体の知れないものが出てきても受け入れられるのが人間で、だんだん馴染んでいくところがあるのかなと思っています。そういえば、以前、介護関係の方と話したときになるほどと思ったことがありました。介護業界でロボットが活躍することで何が素晴らしいかというと、ロボットによって「人間の尊厳が守られること」だというんです。便利になることよりも、自分が介護されているということが心理的負担になっているので、相手がロボットだと重荷に感じなくなると。
蓮実: 介護されている負い目を感じなくなるんですね。
羽生: そうなんです。ですから、「人間の尊厳を守ることができる」ということが、これからのロボット開発において大事になってくるようにも思いました。
蓮実: まさに似て非なる存在。守られたり、お世話されたりするけれど、人間でないことで救われることがある。
羽生: あるのではないかなと思います。
蓮実: 確かにそうですね…。やはり開発メンバーに入っていただけないですか?
羽生: あはははは。
蓮実: 半分冗談ですが、半分本気です(笑)。将棋とAI、人間とロボット、伝統的なものと最新のものですが、何か深いところで繋がっている気がしますし、そういう感覚を大事にしながらロボットを作って行きたいと改めて思いました。本日は貴重なお話をありがとうございました。
羽生: こちらこそ、ありがとうございました。

※この記事は、対談内容をもとに加筆・編集したものです。

羽生善治(はぶ・よしはる)氏

将棋棋士
1970年、埼玉県所沢市生まれ。
中学3年生でプロ棋士に。19歳で初タイトル竜王を獲得。25歳で史上初の7大タイトル独占。2017年47歳で史上初の永世7冠を獲得し、翌年には国民栄誉賞を受賞。

蓮実一隆(はすみ・かずたか)

ソフトバンクロボティクス取締役
1965年、埼玉県蕨市生まれ。
元テレビ朝日プロデューサー。徹子の部屋、報道ステーション等を担当。
2008年よりソフトバンク。ロボットのUI、コンテンツ、マーケティング等を担当。