2023.Nov.07

REPORTS

第12回 B’AI Book Club 報告
Gary Marcus and Ernest Davis (2019) Rebooting AI: Building Artificial Intelligence We Can Trust.

2022年6月28日、B’AI Global Forumのプロジェクトメンバーとその関係者が参加する書評会「B’AI Book Club」の第12回がオンラインで開催された。今回の書評会では、伊藤たかね特任教授が書籍『Rebooting AI: building artificial intelligence we can trust』（2019）を紹介した。

本書では、AIについての世間の認識や期待と実態が乖離していることを指摘した上で、現在のAIにはできないことやその理由を理解し、新たな戦略を提案している。本書が提案する戦略は、現在の深層学習を用いるAIではジェネラル・インテリジェンスを作ることはできないが、人間の脳や心の働きを参照することで解決が目指せるというものである。

なお、本書が執筆された後の2020年に、著者の一人であるGary Marcus氏は論文 “The Next Decade in AI: Four Steps Towards Robust Artificial Intelligence”（https://doi.org/10.48550/arXiv.2002.06177） において、古典的なナレッジベースの学習モデルと深層学習の両方を用いるというハイブリッドのアプローチによるモデルを使うことを提案しており、こちらの論文を参照するとさらに理解が深まるだろう。

今回の書評会で議論の対象となった主な内容は、本書では意図的な訓練データの操作について、操作ができてしまうことを問題と捉えているが、バイアスを排除するために意図的な操作を行う必要があるという立場もあるという点や、AIに価値観を持たせ自己チェックを可能にするためには多種多様の一般常識や意見をインプットする必要があるが、クラシカルAIでは学習させるべき事実が大量すぎて人間が教えることができず、どう論理形式に落とし込むかが課題とされていることなどである。2つめの点に関しては、人間の子どもの常識の獲得方法は生活の中で徐々に獲得していく部分もあれば、ある民族ではストーブを触らせて熱いことを理解させている例もあるなど様々であり、そもそも常識は一つではないため単にインプットすればよいというものはないのではといった意見も出された。

AIを用いた翻訳や要約などが院生や研究者にも非常に身近なものとなっている現在、その背後にある訓練・学習データの課題について考えることは極めて重要である。人間の脳や社会活動の理解とそのAIへの応用によって課題をどこまで解決できるのか、今後の研究の展開に期待するとともに、倫理的観点からの検討を重ねていきたい。