2021.Sep.10

REPORTS

Phebe Vayanos先生講演会「Towards Robust, Interpretable, and Fair Social and Public Health Interventions」報告

8月27日、B’AI グローバル・フォーラムのイベントとして、フィービー・ヴァヤノス先生（米国南カリフォルニア大、Phebe Vayanos）を招いた英語のフォーラムが開かれた。“Towards Robust, Interpretable, and Fair Social and Public Health Interventions”をテーマとし、社会福祉分野における、効果的かつ公平なAIの活用に関するご講義をいただいた。このイベントは、同フォーラム運営メンバーであり、東京大学大学院情報学環・学際情報学府所属の板津木綿子教授が“AI and Social Justice” 講演シリーズの司会を務め、B’AIグローバル・フォーラムのプロジェクトディレクターであり東京大学大学院情報学環所属、東京大学理事・副学長でいらっしゃる林香里教授による開会の辞を受けて始まった。

 

講義冒頭、ロサンゼルスにおけるホームレス問題が挙がった。現在ロサンゼルスでは、6万人以上の人々が路上生活を強いられている。限られた支援物資を効率的かつ平等に分配するために、路上生活者たちは“VI-SPDAT”と呼ばれる「支援なしに生活状況を改善できる可能性」のスコアに基づき3つのグループに分類され、支援の必要性の高いグループから順番に分配する仕組みがとられている。これにより、支援の対象となる人々の人種比率を、ロサンゼルスにおける路上生活者の人種比率とほぼ等しくすることも実現した。しかしながらヴァヤノス先生は、この制度が真の平等を達成できていないと指摘する。支援対象となった人が再び路上生活に戻ってしまう割合が、黒人に大きく偏っていることを示し、現在の制度で達成されている「平等」は機会平等であって結果平等ではないと主張された。

 

講義終盤ではこういった状況を改善するために、先生たちが具体的に取り組まれている3つの課題についての議論が行われた。まずは「今以上に効率的で、かつ平等な分配制作をデザインすることはできるのか」という点。先生たちの最適化手法によって、年齢、人種、性別のどの切り口で見ても結果（支援期間終了後も路上生活に戻らない確率）に不均衡が生じず、かつ支援を受けられるまでの待機時間が「登録された人から順に」と言う最もシンプルな制度と同程度に抑えることができると紹介いただいた。次に「どのような指標が、平等さを表すのに望ましいか」という点。「legitimate factors (過去何度デフォルトしたかなど)が等しい元では、group(その人が属する集団)によらず、待機時間や受けられる支援の可能性が常に等しい」と言ったことなどの定式化が示された。最後に「政策担当者ごとの倫理観に合う政策をデザインできるか」という点。AIアルゴリズムには、平等さ、効率性、そしてモデルの解釈性に関してトレードオフの関係があり、どのようにこれらのバランスを取るかについては、政策担当者それぞれの価値観によって異なる。そこで、一対比較をオンラインで行う（１つ前の比較が次の比較に影響する形で次々に質問していく）ことにより、非常に短時間で膨大な選択肢から最善の策を効率的に選択できることを説明いただいた。

 

AI技術の進歩は凄まじく、その出力の正確さは日々進歩している。しかしながら今回のご講演を通し、その出力を過信してはならないと、再認識することができた。AIの推論は客観的なものではない。学習に利用されたデータの偏り、何をもってそのアルゴリズムが優れているとするかの指標を人間がデザインする際に入り込む先入観、その他様々な部分でバイアスが生じうる。推論時に人の手を介さず自動で出力をしてくれることから、非常に客観的な出力を得られると誤解してしまうことが多い。しかし認識と事実のこの乖離が、これまで社会に存在してきたバイアスをより堅固なものにしてしまう危険をはらんでいる。だからこそ、実運用を開始する前に慎重にテストを重ねること、偏りに気づいた時に原因を特定しすぐに修正をする姿勢、そしてその修正を行いやすくするために、モデルが十分な透明性を持っているのかどうかは、強く意識しなくてはならない観点であろう。

 

様々な切り口からAIの抱える課題をめぐる一連の講義が行われる中、学生同士では「果たしてAIは本当に社会にあるべき技術なのだろうか」という疑問についても話し合われた。自分は、数々の課題があってもなお、AIは社会に新しい価値を与えると信じている。自分が現在の学科への進学を決断したのも、AI技術の可能性を強く感じ、将来AIエンジニアとして仕事をしてみたいという想いを抱いたからなのだ。そもそも、すでに様々な場面でAIの活用は始まっており、AIのない社会に戻るのはもはや不可能なのではないだろうか。そのような中で、本講義で示された多くの課題を心に留め、何に対して、どのようにアルゴリズムを使用していくべきなのかを自ら判断する姿勢を大切にしていきたい。