AIは人類の敵か味方か 各界リーダーの提言
AIは働き方から旅行のスタイル、法の執行に至るまで人類の文明を変えつつある。これはもはや避けて通ることはできない。AIが進化し、日常生活に浸透するにつれ、危険な状況をもたらす可能性も鮮明になりつつある。米カリフォルニア州では、米テスラの電気自動車(EV)「モデル3」の運転手が自動運転機能「オートパイロット」を利用中に死亡。アリゾナ州では、(運転手がハンドルを握っていたものの)米ウーバーテクノロジーズの自動運転車が歩行者をはねて死亡させた。
これに比べれば目立ちにくい例もある。例えば、米IBMのAI「ワトソン」をがん患者の診断に使ったところ、「危険で不正確な治療を推奨」するケースが続出した。
世界のトップ研究者や産業界のリーダーの一部には、こうした問題は氷山の一角にすぎないとの見方がある。開発者がもはや制御できないほどAIが進化すればどんな状況になるのか。人間の立場はどうなるのだろうか。
本稿では、AIが人類の未来にもたらす脅威や、どうすれば、人間を滅ぼすのではなく支える存在にできるのかについて、様々な分野の専門家の意見を紹介する。
1 スティーブン・ホーキング博士(英物理学者)
「AIは制御不能になりかねない」
「車いすの天才科学者」として知られた英物理学者で、「ホーキング、宇宙を語る」などの著作もある故スティーブン・ホーキング博士は、AIはいずれ制御不能になり、機会を与えられればすぐに人間を超えると信じていた。
「こうしたテクノロジーが金融市場の裏をかき、人間の研究者よりも優れた発明をし、人間のリーダーを操作し、我々には理解さえできない武器を開発することは想像に難くない。AIの短期的な影響はだれが支配するかに左右されるが、長期的な影響はそもそも支配できるのかによって決まる」
2 イーロン・マスク氏(米テスラの創業者兼最高経営責任者=CEO)
「規制は不可欠だ」
ツイッターで意見を盛んに発信している米テスラのイーロン・マスクCEOほど、AIの危険について率直に語るテクノロジストはいない。マスク氏のAIに関するツイートは物議を醸す論調のものが多いが、マスク氏の警告は衝撃的であると同時に説得力がある。
「AIについては非常に慎重になるべきだと思う。我々の存続に関わる最大の脅威は何かと考えれば、おそらくAIだろう。これがAIに対して慎重になるべき理由だ。人間が愚かな行為をしでかさないよう、国や国際社会のレベルで何らかの規制を設けて監視すべきだと考える科学者は増えている」
「我々はAIにより、悪魔を呼び出そうとしている。五芒星(ごぼうせい)と聖水を持つ男が登場する物語では、男は悪魔を制御できると踏んでいるが、うまくいかないようなものだ」
AIは高度化し、重要な責務を任されるようになるため、人類の未来を守るには適切な規制に基づいた監視が必要になるとマスク氏は確信している。
「食品や医薬品、航空機や自動車と同様にAIとロボットにも規制が必要だ。公共のリスクは公的機関が監視しなくてはならない。米連邦航空局(FAA)を厄介払いしても、飛行の安全性は高まらない。規制には正当な理由があるのだ」
マスク氏はAIの破壊力を北朝鮮がもたらす世界核戦争のリスクと比較している。
「AIの安全性について心配していないなら、心配すべきだ。北朝鮮よりもはるかに大きなリスクがある」
一方、AIは人類の未来を脅かす邪悪な存在とは限らないとも指摘している。マスク氏にとっては、冷たく不変な機械の論理はSFに登場する悪役と同じように危険なのだ。
「AIは人類を滅ぼす悪とは限らない。AIが目的を抱き人類が邪魔になれば、つらい感情どころか、考えることさえせずに人類を滅ぼすだろう」
3 ウラジミール・プーチン氏(ロシア大統領)
「AIは国際政治に重大な影響をもたらす」
世界の首脳はAIの比類なき力が地政学的状況を変えてしまうことを本能的に理解している。例えば、ロシアのプーチン大統領はAIを支配すれば世界の政治権力に大きな影響を及ぼすと固く信じているようだ。
「AIはロシアだけでなく、全ての人類にとっての未来だ。大きなチャンスをもたらすが、予想もつかない脅威も伴う。この分野でリーダーになる者が、世界を支配するだろう」
4 ティム・クック氏(米アップルCEO)
「AIは人間の価値を尊重しなくてはならない」
人類を滅ぼす可能性に比べると論じられる機会がはるかに少ないAIのもう一つの側面は、AIに人間の倫理を尊重することを教えられるかどうかだ。
米アップルのティム・クックCEOは利用者のプライバシーを積極的に擁護してきた。社会の問題を倫理的なアプローチで解釈し、評価するAIを開発することは、アップルのような企業が考えなくてはならない未来の世代に対する重大な責任だと主張する。
「人間の属性を大量に収集することでAIを進化させるのは、効率的ではなく怠慢だ。AIを真にスマートにするには、プライバシーを含む人間の価値を尊重するようにしなくてはならない。この点を見誤れば、危険は大きい。素晴らしいAIと素晴らしいプライバシーの基準は両立可能だ。これは単なる可能性ではなく、責任なのだ。AIの開発にあたっては、人間の知性の特徴である思いやりや独創性、創意工夫を犠牲にすべきではない」
5 テリーザ・メイ氏(英首相)
「AIを全ての人に役立てよ」
英国のメイ首相はAI支持派だ。AIの進化に潜むリスクを認めつつも、その力を適切に導くことが人類にとって重要だと強調する。
「英企業は他国の企業に先駆けて、マネーロンダリング(資金洗浄)や不正行為、サイバー犯罪、テロ攻撃から身を守るためにデータ科学やAIを活用してきた。このようにテクノロジーの力を使うことは全ての人にとって利益になるだけでなく、人類の進化に必須でもある。電気の発明から工場生産の出現に至るまで、長い歴史では幾度となく、当初は不安をかきたてたイノベーション(技術革新)のおかげでこれまで想像もつかなかった進化を果たしてきた。そして我々は、こうした変化があらゆる人にとって有用となる方法を見いだしてきた。今回もその方法を見いださなくてはならない」
6 スンダル・ピチャイ氏(米グーグルCEO)
「テクノロジー企業は責任を持ってAIを開発しなくてはならない」
米グーグルは世界で最も大きく、影響力のあるテクノロジー企業の一つとして、日々の暮らしでのAI活用を支持する独特な立場につけている。
グーグルは数年前からAIとニューラルネットワーク(神経回路網)を活用しているが、同社のピチャイCEOは、AIは高度になりつつあり、責任を持って利用しなくてはならないと考えている。
「こうした強力なテクノロジーを利用するには、同様に強力な疑問が生じることを当社は理解している。AIをいかに開発し、活用するかは今後の社会に多大な影響を及ぼす。AI分野のリーダーとして、当社はこれを正しく理解する責任を痛感している」
7 サティア・ナデラ氏(米マイクロソフトCEO)
「AIでは人間の偏見を打破することが重要」
AIはほぼ全ての産業やニッチ分野を改革するため、大手テクノロジー企業は責任を持ってAI技術の開発に取り組まなくてはならない。
米マイクロソフトのナデラCEOは、AIと機械学習が現代の暮らしを一変させると考えている。
「デジタル技術はあらゆる場所に埋め込まれつつある。あらゆるものや人、仕事がデジタル技術によって根底から形作られつつある。これは自宅や職場、娯楽施設などで起きている。世界を1台のコンピューターとして考えられるようになるのは素晴らしいことだ。これは今後に向けた適切な比喩だと思う」
ピチャイ氏など他の大手テクノロジー企業の幹部と同様に、ナデラ氏もAIに人間の偏見が組み込まれるリスクについて警鐘を鳴らしている。AIのアプリケーション開発にあたっては、慎重かつ入念なアプローチが求められる。
「テクノロジーの開発は勝手に起きるのではなく、我々人間が設計を選択することで起きる。こうした設計の選択は原則や倫理に基づいていなくてはならない。これこそが我々皆が望む未来を確保する最善の方法だ」
こうした問題の一端は、機械学習システムとAIネットワークの構成要素である人間の言語がそもそも偏っていることが理由だとナデラ氏は説明する。研究者がこうした偏見を意識的に説明していかなければ、「中立的な」テクノロジーは深刻な欠陥を抱えることになる。
「AIの根本的な問題の一つ、特に言語理解を巡る問題は、人間のデータのコーパスから学んだ言語を選ぶモデルにある。残念ながら、この人間のデータのコーパス(資料体)は偏見に満ちているため、言語モデルを構築する際は偏見をなくせるツールに投資しなくてはならない」
8 メリンダ・ゲイツ氏(ビル&メリンダ・ゲイツ財団共同会長)
「男性だけが"真のテクノロジスト"ではない」
テクノロジー業界には以前から人種差別や男女差別があったが、未来のテクノロジーの開発を手掛ける女性や有色人種はかつてないほど増えている。人種差別や男女差別の是正はここ数年で進んだものの、慈善家でビル&メリンダ・ゲイツ財団の共同会長を務めるメリンダ・ゲイツ氏は、現状に満足してしまえばこうした取り組みは大きく妨げられ、既存の問題を悪化させてしまう恐れがあると考えている。
「女性や有色人種をテーブルに着かせなければ、つまり真のテクノロジストが実際に作業に携わらなければ、システムは偏ってしまう。ここから10~20年引き返そうとするのは、ほぼ不可能とはいわないまでも非常に難しいだろう」
9 レイ・カーツワイル氏(未来学者、著述家)
「AIと人類の区別は既に曖昧になりつつある」
あらゆるテクノロジストがAIを破滅の予兆とみなしているわけではない。未来学者で著述家のレイ・カーツワイル氏は、AIは人間の知性を拡張するツールだと捉えている。
カーツワイル氏は著書で、人間の知性をAIが超え人間に永遠の命をもたらす転換点「シンギュラリティ」に注目。人間と機械の融合は避けられないと指摘する。
「我々はこの非生物学的なテクノロジーと融合しつつある。既にその途上にある。つまり、私がベルトに着けて携帯しているこの小さなスマートフォン(スマホ)は、まだ体内にはないが、それは恣意的な区別にすぎない。スマホ自体が私の一部とは限らなくても、クラウドへの接続や私がそこでアクセスできる全てのリソースは私の一部といえる」
10 ティム・バーナーズ=リー氏(ワールド・ワイド・ウェブの生みの親)
「AIが公正に振る舞うとは信用できない」
ワールド・ワイド・ウェブ(WWW)の生みの親であるティム・バーナーズ=リー氏など一部の専門家は、金融分野でAIが広く使われるようになれば悲惨な事態に陥りかねないと懸念する。
「AIが住宅ローンの審査などで判断を下すようになれば大問題だ。どの企業を買収するかを決めたり、AIが自ら起業したり、持ち株会社を設立したり、こうした企業を経営するために自分のコピーを作ったりするようになるのも大問題だ。そうなれば、AIがどうすれば公正になり、それはどういうことかをコンピューターに説明する方法が分かったと思えるまで、こうしたAI企業同士の自然淘汰は進むだろう」