AIの父親は未来を心配している

以下のBengioさんのインタビューの翻訳です。間違いがあればご指摘ください。

https://www.technologyreview.com/s/612434/one-of-the-fathers-of-ai-is-worried-about-its-future/?utm_source=twitter&utm_campaign=site_visitor.unpaid.engagement&utm_medium=tr_social

Geoff HintonとYan LeCunと並んで、Bengioは近年、学問的好奇心から地球上で最も強力な技術の1つになっている深層学習を研究していることで有名です。

深層学習は、人間の脳を静かにシミュレートする大規模なニューラル・ネットワークにデータを供給することを含み、音声認識や画像分類から自動運転の制御、ビジネス上の意思決定の自動化まで、あらゆる種類の実用的なタスクに対して非常に強力で効果的です。

Bengioはあらゆる大手企業の誘惑に抵抗してきました。 HintonとLeCunはそれぞれGoogleとFacebookに加わりましたが、Bengioは今でもモントリオール大学の常勤教授を務めています。 (しかし、彼は2016年にElement AIを発見しました。大企業がAI研究の商用アプリケーションを探索するのを助ける非常に成功したビジネスを構築しました。

Bengio氏は最近、MIT Technology Reviewのシニア・エディター、AI、Will KnightとMITイベントで会見しました。

Q:あなたは、各国間にAIレースがあるという考えをどうしますか?

A:私はそれが好きではありません。私はそれが正しい方法だとは思わない。

私たちは集団的にレースに参加することができますが、科学者であり、共通の利益を考える人は、よりスマートなマシンを構築する方法と、AIが多くの人々にとってより良くなることのための方法を考える方が良いと思います。

Q:国間の協力関係を強化する方法はありますか?

A:途上国の人々がここに(Bengioの研究所やアメリカ)来ることをより容易にすることができます。 今は大きな問題です。 ヨーロッパやアメリカ、カナダでは、アフリカの研究者がビザを取得することは非常に困難です。 それは宝くじであり、非常に頻繁にアクセスを拒否する言い訳を使用します。 これは完全に不公平です。 ほとんどリソースを必要とせずに研究をすることはすでに難しいですが、コミュニティにアクセスできない場合は、それは本当に不公平だと思います。 その一部に対処する方法として、我々は2020年にアフリカでICLR会議(主要AI会議)を行うつもりです。

包括性は、我々がよく見えると言う言葉以上のものでなければなりません。 開発途上国でAIが有用である可能性はさらに高い。 彼らは私たちよりもさらに技術を向上させる必要があり、彼らはさまざまなニーズを持っています。

Q:あなたはAIの分野を支配している西部とおそらく中国の少数のAI企業を心配していますか?

A:はい、AI研究にもっと民主主義を持たせる必要があるもう一つの理由です。 AI研究だけでは、権力、金銭、研究者の集中につながる傾向があります。 最高の学生は最高の企業に行きたい。 彼らははるかに多くのお金を持っており、より多くのデータを持っています。 そして、これは健康的ではありません。 民主主義であっても、いくつかの手に力が集中するのは危険です。

Q:AIの軍事利用には多くの論争があります。 あなたはどのような立ち場ですか?

私は断固として反対の立場です。

Q:人を殺さないAIの使用でさえも?

まあ、私はそれを防止したくありません。 私たちは殺人ロボットを持つためには不道徳にする必要があると思う。 私たちは文化を変える必要があります。変化する法律や条約が含まれます。 また、それは大いに役立ちます。

もちろん、あなたはそれを完全に防ぐことは決してできませんし、人々は「ある種の悪意のある国がこれらのものを開発するでしょう」と答えています。私の答えは、1つ、私たちはそれをするために有罪と感じるようにしたい、2つは、 防衛技術の構築から 無人機を殺す防御兵器と人間を標的とする攻撃的兵器には大きな違いがあります。 どちらもAIを使用できます。

Q:これを確実にするためにAI専門家は軍隊と一緒に作業すべきではありませんか?

A:彼らが正しい道徳的価値を持っていれば、大丈夫です。 しかし、私は軍事組織を完全に信頼していません。なぜなら、彼らは道徳の前に義務を負う傾向があるからです。 私はそれが異なっていたいと思います。

Q:あなたは新しいAI研究の面で最も興奮していることは何ですか?

A:AIの困難な課題を考慮する必要があり、短期的で段階的な進歩には満足していません。 私は深層学習を忘れたいと言っているわけではありません。 それどころか、私はそれに基づいて構築したいです。 しかし、私たちは、推論、因果関係の学習、情報の学習と獲得のための世界の探求などのことをするために、それを拡張できる必要があります。

私たちが本当に人間レベルのAIに近づきたいのであれば、それは全然別の戦いです。 私たちには長期的な投資が必要です。私はアカデミアがその知識を広めるのに最適な場所だと思います。

Q:あなたの因果関係という言葉を言い換えればデータから正しいパターンを把握できないということ、それはなぜ起こるのですか?それは謎それほど難しく、それほど重要なのですか?

あなたが扱っている世界の良い因果モデルがあれば、あなたは未知の状況でさえ一般化することができます。 それは非常に重要です。 私たち人間は、私たちの日々の経験とはまったく異なる状況に自分自身を投影することができます。 マシンは、これらの因果モデルを持たないため、そうではありません。

我々はそれらを手作りすることができるが、それだけでは不十分である。 因果モデルを発見できるマシンが必要です。 ある程度、完璧になることは決してありません。 現実の完璧な因果モデルはありません。 そういうわけで私たちは多くの間違いを犯します。 しかし、私たちはこれを他の動物よりもずっと楽にしています。

今、私たちは本当にこのために良いアルゴリズムを持っていませんが、十分な人がそれで働いて重要であると考えるなら、私たちは進歩を遂げるでしょう。

コメントを残す

メールアドレスが公開されることはありません。

このサイトはスパムを低減するために Akismet を使っています。コメントデータの処理方法の詳細はこちらをご覧ください