ロゴ

人間とAI――不完全さを互いに補う共生的自律関係とは?

「人工知能の発展によって、人の仕事が奪われる」――そんな記事を見かけたことがおありになるでしょう。レイ・カーツワイル氏が提唱した“シンギュラリティ(技術的特異点)”のように、人間の脳をテクノロジーが上回る時代が来るという考え方を示す専門家もいれば、別の考え方を提示する研究者もいます。

カーネギーメロン大学で機械学習学部長を務めるマヌエラ・ヴェローゾ氏は、「未来においてさえも、AIシステムは人の手を借りる必要があるでしょう」と言います。ここでは、同教授の見解をご紹介します。

***

ハリウッド映画が、AIシステムが命令に従わなくなるというディストピアの未来図を浸透させたにもかかわらず、人類と人工知能システムは、共生的自律(それぞれ独立しつつ互いに依存している関係)の道をまっすぐに歩んでいます。そうした世界では、AIシステムは、知らないこと・できないことを自ら判別し、人間に助けを求めます。これは、人類とAIとの相互作用に関する新しい考え方であり、その研究はすでに始まっています。

マヌエラ・M・ヴェローゾ氏
カーネギーメロン・コンピューターサイエンス大学内のハーバート・サイモン大学教授
機械学習学部長

カーネギーメロン大学では、自律型の「コラボレーション・ロボット(コボット)」を開発しました。コボットは、大学への訪問者に対して自らキャンパスを案内し、必要であれば助けてくれるよう人間に自分で頼みます。例えば、コボットには手が備わっていないので、訪問者がエレベーターに乗る場合、人間の同僚にエレベーターのボタンを押してほしいと頼みます。

これは、人間と同じように行動する、完璧で『完璧ではない』AIです。その意味は、AIのアルゴリズムがこれは自分の能力を越えていると判断したなら、「探すよう指示されたものが見つかりません。それが見えません」と警報を出すということです。たとえば「あなたは私に『オフィスに鍵はあるか?』と尋ねました。私には鍵は見えません。もしかしたらあれがそうかもしれませんが、私のセンサーでは鍵の束である可能性のあるものは何も見つけられません」というように。

この共生的自律が、人類と、人類に奉仕するAIシステムとが共存する未来への土台となります。AIシステムにはデジタル空間を扱うソフトウェアが組み込まれると同時に、ロボットや自動運転車のように物理空間の中も移動して、人間をサポートします。AIシステムはいずれ、交通の管理、気候やリスク回避などの複雑な予測といった、社会における幅広い課題を引き受け、大きな決断をする上で人間の役に立つことでしょう。

なぜポルシェではなくてパンダなのか?

AIシステムに判断を任せるとしたら、それが大きなものであれ小さなものであれ、AIシステム出す提案が信用できるものであり、人間の利益が最大となるように作られていて、与えられた指示に忠実であるということを、人間が学ぶ必要があります。そのためには、どのようにして特定の提案や結論に至ったのかを、AIシステム自身が説明できなくてはなりません。それができて初めて、人間は機械が出した答えを訂正したり確認したりすることが可能になります。

例えば、AIシステムに対して、今あなたが購入を検討しているたくさんのクルマを一晩かけて評価し、最適な選択肢を示しなさいという仕事を与えたとします。朝起きると、AIシステムがあなたにフィアット・パンダを購入するように勧めていました。一体何の間違いで、AIは3200ポンドの車ではなく愛らしいパンダを買うよう勧めたのでしょう?こんなとき、「なぜ、ポルシェではなくパンダを勧めたんだい?」と質問できることが必要です。

質問することは、最善の答えを決定する場合にも非常に重要です。想像してみてください。医療研究者が、AIシステムとともに難しい症例の診断に取り組んでいます。研究者はAIが答えを見つけてくることを期待しますが、思ったような結果が得られず落胆します。もしAIシステムに何が足りなかったのかを尋ね、システムが「この化学物質を用いた治療とこの症例との相互作用についてより詳細な説明がもらえたら、私は適切な診断と治療についてもっと調査することができます」と答えるとしたら、どうでしょう?科学が必要な回答をすぐに出すことができないとしても、AIシステムとのそのような関係は実現可能なのですから、いかに大きな研究分野が生まれるか、想像してみてください。

こうしたことは一夜のうちに起こるものではありません。アルゴリズムに関しても手法に関してもAIは揺籃期にあり、多くのことに関してまだ模索している段階です。それでも、いろいろな形で、一歩一歩、AIはこちらに近づいて来ています。高度な情報処理を可能にする新たなアルゴリズムやアプリ、プログラムも日々開発されています。

共生的自律は楽観的な未来図です。人類はコンピューターとプログラミング言語、AIシステムのプログラム開発者らを生み出しました。ですから、すぐれた機械、有益な機械、人類の利益に奉仕する情報処理能力の高いツールが確実に開発されるよう、教育に投資することこそが極めて重要です。つまり、最後は人間、ということなのです。

※最上部の写真:カーネギーメロン大学にある自律型コボット。さまざまな仕事が可能であり、動きを遮られた場合、近くにいる人間に助けを求める知性を持つ。(写真提供:カーネギーメロン大学)
※この記事はBRINKに掲載されたものです。ここに示した見解は、マヌエラ・M・ベローゾ教授によるものです。