問われるレコメンド機能の倫理性

デジタル化が進む私たちの生活に、アルゴリズムは避けられないものになってきています。なぜなら、アルゴリズムは「レコメンデーション機能」に必要不可欠なものであるためです。YouTube や NETFLIX などは絶えずアルゴリズムで、ユーザーが視聴しそうな動画を計算し、レコメンド—おすすめしています。さらに、TwitterやFacebookなどのSNSでもアルゴリズムは使われており、ユーザーが持つフォロワーやフォローしている他のユーザーなどの情報やユーザーの興味、またアルゴリズムそのものの意図などをもとに、表示する投稿コンテンツが決められています。

このようなアルゴリズムによるレコメンデーション機能は、ユーザーが気に入るコンテンツ、欲しいコンテンツを探してきてくれるという便利なものです。例えば、Netflix上でサスペンス系のドラマを見た後には、サスペンス系ドラマのリストが表示されたり、おすすめコンテンツの中にサスペンス映画が追加されたりします。次に視聴する映画やドラマを「探す」・「調べる」などの手間が省けるため、ユーザーにとって嬉しい機能です。また、レコメンデーション機能を導入する企業にとっての効果も認められています。実際に、YouTubeはユーザーのコンテンツ総視聴時間の70%以上がレコメンデーション機能を経由したものであるとしています。

しかし、こうしたレコメンデーション機能には、人々にとってのデメリットもあるということを知っているでしょうか。そのデメリットは、システムを設計する企業によって生み出されているといいます。

「ユーザーが費やす時間を最大限にする」ためのレコメンド機能

企業がレコメンデーション機能を導入する際、ユーザーにとって便利なサービスを提供するという目的の裏には、「ユーザーに自分たちのサービスもっと利用してもらうため」という理由があります。そのために、必ずしもユーザーのためにはならないようなレコメンドがされる場合もあると、YouTubeのレコメンデーション機能の開発に携わっていたギヨーム・シャロ―は指摘しています。

“AIは内容が薄いが、扇動的でインパクトのあるタイトルをつける手法—クリックベイトを用いている動画を探してくるように最適化されている”

ユーザーがサイト上でより多くの時間を費やすようにすることが、レコメンデーション機能の目的のひとつになっていることが事実であり、それはアルゴリズム、システム上に組み込まれているのです。

レコメンデーションのプロセスははっきり分からない

こうした状況の中、世界の様々な専門家がより倫理的なレコメンデーションアルゴリズムの開発を目指しています。ニューヨークの企業家である、ブライアン・ウィットマンもその一人で、音楽レコメンデーションエンジン、「The Echo Nest」を開発し、2014年アメリカの大手音楽サブスクリプションサービスSpotifyに売却しています。

ウィットマンはその経験から、アルゴリズムの価値を再確認したと同時にその恐ろしさについても言及しています。

“レコメンデーションシステムには、ユーザーについての可能な限りのデータをかき集め、それをブラックボックスに入れるプロセスがつきもの。そのため、結果としてレコメンドとして提示されたものが、本当に自分に最適化されたものなのか、それとも企業の収益を最大化するため最適化されているのか、国に操作されているのか、それは分からない”

ウィットマンは、本当にユーザーにとって「ためになる」レコメンデーションの構築を目指し、後悔するような時間の使いをユーザーに強いることのなく、本当に有益なポッドキャストや読み物をレコメンドするアプリ「Canopy」を開発している。また、より倫理的なレコメンデーションシステムを開発しようとする世界の動きの一端を担っています。

最近ではFacebookなどのテック企業も、世間のアルゴリズムによるバイアスなどへの懸念を受けて、レコメンデーション機能を見直そうという動きが出てきています。EUの個人情報の取り扱い・保護を目的としたの制の影響もあり、レコメンデーション機能の倫理性という問題が各社でそれぞれ取り組みが進んでいくかもしれません。

参考:WIRED “レコメンデーション機能に潜む「負の側面」は解消できるのか”(https://wired.jp/2019/04/23/make-internet-recommendations-less-toxic/