問われる レコメンド 機能の倫理性

問われる レコメンド 機能の倫理性 - Truestar Consulting Group

問われる レコメンド 機能の倫理性

デジタル化が 進む 私たちの生活 に、アルゴリズム は 避けられないものに なってきています。 なぜなら、 アルゴリズム は 「レコメンデーション機能」に 必要不可欠 なもの  であるためです。YouTube や NETFLIX などは 絶えずアルゴリズム で、ユーザー が 視聴 しそうな 動画を 計算し、 レコメンド — おすすめ — しています。 さらに、Twitter や Facebook などの SNS でも アルゴリズム は 使われており、 ユーザーが 持つ フォロワー や フォロー している 他の ユーザーなどの 情報 や ユーザーの 興味、 また アルゴリズム そのもの の意図 などを もとに、 表示する 投稿 コンテンツ が決められています。

このような アルゴリズム による レコメンデーション 機能 は、 ユーザーが 気に入る コンテンツ、 欲しいコンテンツを 探してきてくれるという 便利 なものです。 例えば、 Netflix 上 で サスペンス系の ドラマを 見た後には、 サスペンス系ドラマの リストが 表示されたり、 おすすめ コンテンツの 中に サスペンス映画が 追加 されたりします。次に 視聴する 映画や ドラマを 「探す」・「調べる」などの 手間が 省けるため、 ユーザー にとって 嬉しい 機能 です。また、 レコメンデーション 機能を 導入する 企業に とっての 効果 も認められています。 実際に、 YouTube は ユーザーの コンテンツ 総視聴時間 の 70 % 以上が レコメンデーション機能を 経由 したものである としています。

しかし、 こうした レコメンデーション 機能 には、人々 にとっての デメリット もある ということを 知っているでしょうか。 その デメリットは、 システムを 設計する 企業によって 生み出されているといいます。

「ユーザーが 費やす時間 を最大限 にする」ための レコメンド機能

企業が レコメンデーション 機能を 導入 する際、ユーザーに とって 便利な サービスを 提供 するという 目的の 裏には、「ユーザーに 自分たちの サービスもっと 利用してもらうため」 という 理由があります。そのために、 必ずしも ユーザー のためには ならないような レコメンド がされる場合 もあると、 YouTube の レコメンデーション機能の 開発に 携わっていた ギヨーム・シャロ― は指摘 しています。

“ AI は内容が 薄いが、 扇動的で インパクト のあるタイトル をつける 手法 — クリックベイト — を 用いている 動画を探してくるように 最適化 されている ”

ユーザーがサイト上でより多くの時間を費やすようにすることが、レコメンデーション機能の目的のひとつになっていることが事実であり、それはアルゴリズム、システム上に組み込まれているのです。

☞ 関連記事 EC サイトの要らないものを買わせる罠

レコメンデーションのプロセスははっきり分からない

こうした状況の中、世界の様々な専門家がより倫理的なレコメンデーションアルゴリズムの開発を目指しています。ニューヨークの企業家である、ブライアン・ウィットマンもその一人で、音楽レコメンデーションエンジン、「The Echo Nest」を開発し、2014年アメリカの大手音楽サブスクリプションサービスSpotifyに売却しています。

ウィットマンはその経験から、アルゴリズムの価値を再確認したと同時にその恐ろしさについても言及しています。

“レコメンデーションシステムには、ユーザーについての可能な限りのデータをかき集め、それをブラックボックスに入れるプロセスがつきもの。そのため、結果としてレコメンドとして提示されたものが、本当に自分に最適化されたものなのか、それとも企業の収益を最大化するため最適化されているのか、国に操作されているのか、それは分からない”

ウィットマンは、本当にユーザーにとって「ためになる」レコメンデーションの構築を目指し、後悔するような時間の使いをユーザーに強いることのなく、本当に有益なポッドキャストや読み物をレコメンドするアプリ「Canopy」を開発している。また、より倫理的なレコメンデーションシステムを開発しようとする世界の動きの一端を担っています。

最近ではFacebookなどのテック企業も、世間のアルゴリズムによるバイアスなどへの懸念を受けて、レコメンデーション機能を見直そうという動きが出てきています。EUの個人情報の取り扱い・保護を目的としたの制の影響もあり、レコメンデーション機能の倫理性という問題が各社でそれぞれ取り組みが進んでいくかもしれません。

参考:WIRED “レコメンデーション機能に潜む「負の側面」は解消できるのか”(https://wired.jp/2019/04/23/make-internet-recommendations-less-toxic/

To TopPAGE TOP
✉ お問い合わせ