2021.Mar.30

REPORTS

B’AIグローバル・フォーラム発足イベント「AI時代におけるジェンダー正義：参加と活動をめぐる対話」報告

2021年3月17日（水）、B’AIグローバル・フォーラムはZoomとYouTubeを通じた発足イベント「AI時代におけるジェンダー正義：参加と活動をめぐる対話」を開催した。今回のイベントは、B’AIグローバル・フォーラムの正式な発足にあたっての重要かつ大きなローンチ・イベントとなる。またより多くの参加者が議論に活発に参加できるように英語だけでなく日本語同時通訳も提供された。

 

今回のイベントは二部構成となっている。第一部では、インド・ベンガルールを拠点とする NGO、IT for Change エグゼクティブ・ディレクターのアニタ・グルマーシーさんが「情報知識産業におけるフェミニスト的未来を目指して」というテーマで基調講演を行なった。グルマーシーさんはインドにおけるインターネット環境の政治経済、ジェンダー正義、女性の工学分野への進出などについての共同研究に取り組んでいるアクティビストである。第二部では、一般社団法人Waffleの共同創立者である斎藤明日美さんと東京大学大学院情報学環の中尾彰宏教授も参加してパネル討論を行なった。各部の論点をまとめると次のようになる。

 

第一部でグルマーシーさんは、アルゴリズムの影響力のもとで動いている今日の資本主義について考察しながら、アルゴリズムが資本主義の経済原理ではなく、社会的秩序にまで高められていると指摘した。またプラットフォームのもとで生まれる仕事が、アルゴリズムを通して、権力とジェンダー構造をいかに再構築しているかを示す事例をいつくか紹介した。

 

最初に挙げた例は、各種家事手伝いや修理などのサービスを提供するオンライン・プラットフォームであるUrban Company(UC)で働いているダミニさんであった。特にグルマーシーさんは、サービス提供者すなわち労働者の立場から見ると、誰がどのようにして業務委託を受けるのかが不透明であることを問題点として指摘した。また、手数料のポイント計算方式が非公開であることや、サービス提供者が顧客のレビューを見ることができない点も批判した。

 

２番目の例はライドヘイリング(運転手と乗客をマッチングする配車サービス)のUberとOlaに登録しているスシラさんで、こちらもマッチングの不透明性が指摘された。具体的にはアルゴリズムによってドライバーの登録が停止されたり、無効にされることがあっても、その理由が明らかにされない点である。

 

３番目の例はアマゾン・メカニカル・ターク(Amazon Mechanical Turk: AMT)で仕事をしているジャヤスリーさんであった。AMTというのはアマゾンが展開しているコンピュータ系の安価な単純労働（画像処理、データ確認など）請負サービス・プラットフォームである。この例でグルマーシーさんはアメリカ居住者に優先的に仕事が回され、インドには２割程度しか配分されないとし、利用者の国籍による差別が行われていると述べた。またAMT に登録した労働者たちは、登録が停止されてしまう不安を常に感じ、アルゴリズムの判断に申し立てすることもままならないと説明した。

 

最後の４番目の例はインドの女性自営業者組合に所属しているサクシさんとディヤさんである。この事例は、サヘリ(Saheli)というプラットフォームとアマゾンの業務提携についてのアプローチでの問題の指摘である。この例で問題点として指摘されたのは商品がどこにどのようにプラットホーム上に掲示されるかはアルゴリズムが決定し、目立つ場所と販売数との相関も不明であることであった。また商品提供者も購買者もレビューを残せるが、悪いレビューが商品の優先的な表示や推薦順位に影響するのかが不明であることも批判された。

 

以上の例の検討結果を踏まえて、グルマーシーさんはアルゴリズムが社会を作り変えるアクターとして力を発揮すると評し、そのメカニズムの一つとしてプラットフォーム労働が自己監視システム化していることを指摘した。つまり、アルゴリズムの恣意的処罰の対象となり得るという恐怖感で労働者は主体性を失い、仕事と収入を確保するため常に自分の行動を監視し、自らを規律するようになるということである。またグルマーシーさんは選択肢の幅を狭める社会要因に関しても説明した。アルゴリズムに基づいた職域分離は、家父長制の社会構造という伝統的世界によって正当化されていると指摘し、アルゴリズムの中に埋め込まれた労働の諸条件と、アルゴリズムの外の社会環境は相互に影響しあってインドの厳しい現実を固定化すると強調した。

 

グルマーシーさんによると、プラットフォームのエコシステムを是正するために必要なことは二つある。一点目は、労働者がデータの権利を与えられることである。具体的には、プラットフォーム上の労働環境において、女性の労働者/販売者のためのアファーマティブ・アクションを適用し、ジェンダー平等なアルゴリズムを設計する必要がある。二点目は、デジタルの枠組みそのものを現在の植民地的視点から切り離さなければならない。アルゴリズムは新しい社会関係に基づくものであるべきで、そこから根本的な社会変革をもたらす条件が生み出されるはずである。

 

この基調講演でグルマーシーさんはアルゴリズム化されたプラットフォームで人権が侵害されている状況を女性たちの語りを通してみた。最後にグルマーシーさんは、私たちはもっとも疎外された人びとが新しい主体性を得られるよう努力しなければならないと述べながら、いままで「コンピュータの仕事」と考えられてきたものは、新しい制度的倫理に根ざした政治への要求活動にあわせて、再編されなければならないと主張した。

 

第二部では一般社団法人Waffleの斎藤明日美さんと東京大学大学院情報学環の中尾彰宏教授も参加し、パネル討論が行われた。まずグルマーシーさんの基調講演についての斉藤さんと中尾教授の感想があり、特に中尾教授は広島の漁業活動にITC（Information Technology Communication）を適用した自分のプロジェクトとそこから収めた成果を紹介しながらグルマーシーさんが取り組んでいる活動との接点を説明した。中尾教授は「ITCを通じて偏見を取り除き、人間にリスクを与えずに合理的に労働市場を再構成することができる」と付け加えた。

 

続いて視聴者との質疑応答が行われた。最初に紹介した視聴者からの質問は、「アルゴリズムの偏りを是正することで経済的公平性をもたらすように変化できるというグルマーシーさんの話は理解できるが、実際にどのようにそれを実現していくのか」であった。これに対してグルマーシーさんは、「個人がプラットフォームから断絶して一人で仕事をしていくのは難しいので、結局はアルゴリズム自体を新たに構成しなければならず、特に企業が自律的規制を通じて社会的責任を果たすべきだ」と強調した。斎藤さんはグルマーシーさんの意見に共感し、日本の場合はまだAI産業があまり成熟していないため、関連する政策やシステムを作る時間的余裕があると付け加えた。これに対して、モデレーターを務めたB’AIグローバル・フォーラムの板津木綿子教授が「一般の人々にアルゴリズムの偏向について教育する団体があるか」という質問を追加したところ、斎藤さんはMIT Technology Review とfast.ai を挙げた。

 

2番目の質問は「男性を含め、より多くのグループの人々が現状改善に関わることはできるのか」であった。グルマーシーさんは自分たちがしてきた労働組合のための教育活動を例に挙げ、フェミニズム的分析の目的は男性を排除することではなく、「抑圧がどのように働き、なぜ起きるのかを分析すること」だと強調した。また、板津教授は中尾教授に「パブリック5Gとは異なる形でローカル5Gにこそできることはあるのか、例えば技術確信を活用することで不平等を是正することなどは可能なのか」について尋ねた。これに対し中尾教授は、「ローカルとパブリック5Gができることの違いについて正確に語るのは難しいが、ひとまず、多くのデータを収集し、それがどのように使われているかを透明にするのが重要だ」と答えた。これに対して板津教授は、「巨大技術会社の倫理観と行動を変えることが実際に可能か」と聞き、中尾教授は「大手テック会社はこの問題についてよく分かっていないはずなので、問題提起をすることが重要だ」と答えた。同じ質問に対してグルマーシーさんも、「会社を信じるよりは、学界と市民社会がさらに鋭く分析し、発表するなど、外部から圧力を加える必要があり、パブリック·クラウド·サービスなどの共用インフラも必要だ」と語った。

 

最後の質問は、教育がIT産業の再構成とアルゴリズム偏向の改善にどのように役立つかということであった。これに対して中尾教授は、「多くの学生を挑戦にさらし、また問題解決のために努力するようにすることが重要だ」と答え、グルマーシーさんも「小さなデータを使った人工知能実験を学生にさせることで、データが作動する方法を教える必要がある」と話した。斎藤さんは、今の教育は、大半が男性や特権層によって設計されたものなので、これが次の世代でも構造的格差を生みかねないことを指摘し、多様な人々の様々な背景を技術教育に盛り込むことが重要だと話した。

 

閉会挨拶に立ったB’AIグローバル・フォーラムの矢口祐人教授は、ジェンダーと社会正義の観点から技術の社会的重要性を理解しようとするのがB’AIグローバル・フォーラムの精神であり、これは単にジェンダー間の公平性だけでなく、社会全体の公平性を追求するための核心的な観点であると強調した。今回のイベントは多様な分野の専門家が集まって具体的な事例と多角的な観点を共有できたという点で大きな意義があったと言える。