技術と信頼に関する展望

2019年4月

最新のデジタル技術は、信頼を生みだすことも壊すことも可能です。技術開発者や経営者、政治家に課された責任について、富士通主催のExecutive Discussion Eveningで登壇した講演者が語ります。

• マーガレット・ヘッファナン:MHeffernan.com:CEO/ブロードキャスター/作家
• デイビット・ジェントル:富士通/ストラテジー&フォーサイトディレクター
• ウイリアム・タンストール・ペドウ:AI起業家/元アマゾンAlexaの共同開発者および製品主任

マーガレット・ヘッファナン:CEO/ブロードキャスター/作家

最新技術が抱える問題のなかでも特に重要なのは、AIの信頼性です。AIの信頼はどのように築かれるのでしょうか。信頼されるAIを築くには4つの要素が必要だと考えています。それは、慈悲の心、コンピテンシー、一貫性、そして誠実さです。

しかし、AIの黎明期において、AIを導入する際にそうしたことを考える人は少なかったため、現在、様々な問題が発生しています。

まず、事前承諾の必要性についてルールを定める必要があります。たとえば、今年AIを使った教育サービスを提供している大手企業が、生徒やその両親、教師に断りなく、自社のプログラムに生徒の反応をみる、社会心理学的な実験を忍び込ませていたという事件がありました。

また、AIにバイアスがかかるという問題もあります。作られたものには作成者の考えが無意識に反映されるものですが、AIの場合、プログラムコードの96%は男性によって作られており、男性偏重型になっている恐れがあります。

AIが学習するデータについてはどうでしょうか。イギリスの警察が、犯罪を起こしやすい個人を予測するシステムを構築するためにAIサービス企業との契約を交わしたという事例がありました。このシステム構築において、AIは既存の犯罪者のデータを大量に読み込み、そのデータを元に犯罪を起こす可能性のある人物の顔を予測していきます。あくまでも、読み込ませるデータは過去に捕まった人間のものでしかありません。

また、あるファストフードの会社が雇用に際して、違法であるにも関わらず、AIを用いて精神疾患のある候補者を除外していた例があります。

ボストン市では、学校区を策定する計画にAIを用いたため、逆に批判を浴びてしまいました。いくつかの職を掛け持ちしているような貧しい家庭の都合をAIはまったく考慮していなかったのです。

ほかにもAIのデータに基づく分析が人間の常識的な判断を踏み越えてしまった例は山ほどあります。どういう人が誰のために、どのような価値観と目的に基づいて、その判断を行っているのかについて、考えなければいけません。

AIによる判断がなされたとき、私たちがその意味を理解し、それが正しいかどうかを吟味し、必要に応じて反対できるような仕組みが必要です。

AIを擁護する人々は「この流れは止められない。AIは間違いなく生産的で、そこに疑問の余地はない」と話しますが、それは絶対に間違っています。そのような考え方では信頼できるAIは生まれません。

世界全体におけるプログラミングコードの96%が、男性エンジニアによって作成されています。この事実は、AI領域が男性に偏重している、ということを考えざるを得ません。

このように書くと、何にでも反対する、わからず屋のように思われるかもしれませんが、実は私は技術が大好きで、経験してきたキャリアも技術系です。ただAIが期待通りのものであってほしいだけなのです。期待通りにすばらしいものであれば、そこには信頼の問題など生じません。

AIの信頼を取り戻すためには色々な条件があります。まず、AI不可避論はやめましょう。それはAIの宣伝文句と、AIが有用であるという決定論が混在しており、不誠実で人々を惑わすだけです。そこにあるのは慈悲の心ではなく、脅し文句です。

もうひとつ必要なのは法的なチェックです。AIには設計図があるので、それが規制にかなっているかどうか簡単にチェックできます。また関係者は、AIの活用に関して、もっと一般市民を巻き込んでいく必要があります。意思決定に事前に参加することで信頼が培われていくからです。

AIの進化は早まる一方ですので、これらの問題に対する対応や新たな制度の導入などを急ぐ必要があります。不正な扱いを恐れる市民、強いられた開発の責任を懸念するエンジニア、そして信頼が事業の成長に直結する企業にとって、ここで述べたことは喫緊の課題といえるのです。

デイビット・ジェントル:富士通/ストラテジー&フォーサイトディレクター

毎日の暮らしのなかで信頼が大切であることは言うまでもありません。人間関係は信頼のうえに成り立っていますし、信頼なくして事業は立ち行きません。

それは誰もがわかっていることですが、ではなぜ今、信頼の重要性が叫ばれているのでしょうか。その理由は、技術の進化がもたらす影響力が増すにつれ、世の中の変化も激しくなってきているからです。

私たちはいま技術の爆発的な広まりの起点に立っているのではないでしょうか。あまり語られていないのですが、昨年、世界の人口の半数がインターネット上で繋がりました。今では、オンラインやデジタルは常識となり、将来的にはそうではないモノは例外的存在となるでしょう。

さらに、私たちがいる世界が実はデジタルの世界に覆われている点も見逃せません。実は一人ひとりがその世界の一員なのです。西欧の人々は平均で活動時間の3分の1の時間をオンラインの活動に費やしているという結果がでています。

この影響は産業界ではさらに顕著に表れており、そこには急成長しているデジタル企業があります。もちろん企業の業績が伸び、数千万の顧客を持つことは特に珍しいことではありません。しかし、デジタル企業の場合、その成長速度と規模、顧客情報の保有量がこれまでとは桁違いなのです。

舞台で言えば、今ちょうど第一幕が終わったところだといえるでしょう。第一幕では目を見張る技術と企業が登場しました。第二幕では、この企業が新たな展開を引き起こしていくでしょう。

新たな展開に重要なのはやはり信頼です。信頼というのは抽象的で定義しにくいものですが、ビジネススクールの講師で、作家のレイチェル・ボッツマン氏はそれを「未知のものとの確信に満ちた関係」と呼んでいます。

この言葉はデジタル時代における「信頼」を築く難しさや重要性を示すものといえるでしょう。先の見通せない、混沌とした世界になにか確信を持てるものをうち建て、信頼を高めていく。その方法を見つけることが大切なのです。

ウイリアム・タンストール・ペドウ:AI起業家/元アマゾンAlexaの共同開発者および製品主任

信頼にとって先端技術(たとえばAI)とは何を意味しているのでしょうか?信頼とはまず、相手の能力や正しさや誠実さに対する期待だと言えます。その期待が人と企業とのやりとりを支えています。

しかし、このところそのあり方が変わってきました。まず他者との日常的なやりとりがデジタルになり、現実に相手と向き合うことがなくなりました。

ソーシャルメディアの影響もあります。SNSは個人の日常を記録し、拡散させます。数百万人もの読者や視聴者を持つコンテンツを個人が発信することもあります。従来では考えられないかたちで、たった1つのSNSの記事が信頼を壊してしまうこともあります。

偏見の問題はどうでしょう。AIが機械学習で学ぶのはすべて過去のデータです。たとえば人事採用では過去の雇用データが使われます。これまでの採用に、もし偏りがあればそれがまた繰り返され、さらにまたその偏向が増幅される恐れがあります。

また、判断のブラックボックス化も信頼に深刻な影響を与えます。機械学習による判断は、もともと何故そういう結果になるのか説明することができません。例ば、AIが与信審査でローンの申請を却下した場合、銀行は顧客にその理由を説明できないのです。

私たちがこれまで信用してきたものを信用できないものにする恐れもあります。人間は自分の五感で感じ取るものを信頼していますが、技術の進歩はそこに疑問を生じさせています。

例えば、グーグルのAIアシスタントGoogle Duplexは、レストランの予約などで人とまったく変わらない会話ができます。すでに米国で使われているこのアプリが示すものは、つまり、私たちは会話の相手が人間なのか機械なのか判別できないところまで来てしまったということです。

色々と懸念材料を挙げましたが、私自身はまったく悲観していません。技術が生みだした問題は、技術が解決してくれるのではないでしょうか。私はそう信じています。

Illustrations: Paddy Mills/Synergy Art