今回ご紹介する本は、最近読んだ「AI VS. 教科書の読めない子供達」の著者である新井紀子さんがオススメしていた本です。少し厚めの本なのですが、これが超おもしろかった！ので僕がオススメする５点について紹介できたらと思います。
AIやビッグデータにはあまり興味ないよ！って方にも理解しやすくおもしろい内容なのでオススメしますよ。
目次
本書は何が主張されているか？
はじめに、この本について簡単に説明します。
『AI・ビッグデータ』に潜むダークサイド
タイトルにある通り、今や聞かない日がないと言っても過言ではない「AIやビッグデータの活用」についての罠、すなわち危険性についてが書かれています。
そんなのは自分には関係ない。と考える人も多いと思います。実際、僕もそう思っていました。しかし、この本を読んでこれらは誰にでも影響のあることで、この時代に生きる人が必ず認識していなければならないことだと感じました。
本書では、危険をもたらすAIツールのことを「数学破壊兵器」と呼んでいます。AIツールとあえて簡単な言葉に置き換えましたが、例えば以下のようなツールを指します。
- その人がローンを組んでも安全かを判定
- 就職に送った履歴書から二次面接に通すかを判定
- 購買履歴などからその人が優良会員かどうかを判定
- スマートウォッチで取得するデータから今の健康状態を判定
これらは一般的にはAI活用が有効であるとされていて、現時点でもかなりの範囲で使われているものでもあります。筆者はこれらの中に多くの数学破壊兵器が潜んでいるという警報を鳴らしています。
数学破壊兵器の定義
それでは数学破壊装置とは何か？筆者は以下の３点が当てはまったAIツールのことを数学破壊装置と定義しています。
- 不透明
- 規模拡大
- 有害
不透明
全てのAIツールは「入力データ」から「アルゴリズム（特別な論理を使った計算）」を使って「判定結果」を出力しています。「アルゴリズム」に使われる計算部分は一般的には「モデル」と呼ばれ、あるデータから学習をして作られます。
不明瞭となる項目としては「入力データ」と「モデル作成に使われる学習データ」となります。例えば僕が家のローンを組もうとした場合、このようになると思います。
<入力データ>：男性、３５歳、勤め先、勤め年数、借金の有無など。
<モデル >：入力データを大量に使ってそれぞれの重み付けを決定する。年齢や勤め先は特に重要視されるはず 。
「どんな情報を使って」「どんな判定の仕方をしたか」これらがわからない状態のものを不透明としています。
規模拡大
例えばマクドナルドのアルバイト面接にAIツールが使われているとした場合、すぐにガストや吉野家のアルバイト面接でも使われる可能性が高いと言えます。
これを規模拡大とし、それが無害なものであれば良いですが、有害であった場合は最悪の性質となるのです。これは例であげた飲食店のアルバイトの業界では留まらなく、そのままあらゆる企業の就職応募に使われた場合、もし不正な入力データやモデルで「不適合」と判断された場合に、どの企業でもそれが採用される可能性が高くなります。
このように被害が大きく拡散されることが、一番危惧されるリスクとなります。
有害
では何を有害とするか？となりますが、それは目的に大きく関わります。無害と有害ではこのような違いがあると筆者は区別しています。
- 公平性があり社会全体が潤う
- 適切なフィードバックが行われモデルを更新できる
- 利益率や効率が目的となっている
- フィードバックの仕組みがなくモデルの更新ができない
企業で使用されるAIツールは当然「利益を目的」としています。さらに企業リスクを考慮するとモデルを「ブラックボックス（外には見せない）」にする可能性が高くなります。
本書をオススメする５つのこと
僕の思う「本書が優れている点」は以下の５点です。
オススメする５つの理由
- 「僕たちの生活に関係のある分野」についてがフォーカスされている
- それぞれの根拠が具体的なので、理解しやすく説得力がある
- 論点が「ココが数学破壊装置の定義と一致している」に統一されている
- 自分では知り得ない世界の話が多く、単純におもしろい
- AIというこれから普及される技術について「最大の問題点」を理解できる
① 「僕たちの生活に関係のある分野」についてがフォーカスされている
「教育」「宣伝」「仕事」「信用」「健康」「政治」「犯罪」と僕らが日常の多くの場面で接する分野にフォーカスされています。これらは章立てとなっていて、区切りよく読めるのも特徴です。
また、僕らが良く使っているGoogle、Amazon、Facebookなどのサービスも多く絡めていて、それらが与える影響や課題などもわかりやすく語られています。
② それぞれの根拠が具体的なので、理解しやすく説得力がある
よくある統計データや著者の個人的な意見ではなく、「どこ」の「誰（ほぼ実名）」が「どんなAIツール」で被害を受けたのか、が詳細に書かれています。
どのくらいの具体例があったか覚えていないくらい多いのですが、その分説得力が増しています。というかどうやってここまでの事案を調査できたのか。すごすぎ！
③ 論点が「ココが数学破壊装置の定義と一致している」に統一されている
それほど多くの具体例が出てくると余計わかりづらくなるのでは？と思われるかもしれません。しかし、語られる論点がズレないのでどれもスッと入ってくる内容になってます。
また、誰が何を考えてなぜこのようなことになったのか、といった背景が細かく書かれているのがより理解を深めることになる構造になっているところも素晴らしいです。
④ 自分では知り得ない世界の話が多く、単純におもしろい
銀行、ヘッジファンド、教師、広告会社、警察、大学、数学者・・・その他多くの業界についての細かい描写があります。
これらは普段は僕の生活では内部のことは全く知りません。なので、新鮮ですし「この業界でもこんな課題があるのか」「こんなところにもテクノロジーを活用しているのか」などの学びがめちゃ多かったです。
同時にあらゆる業界でも数学破壊装置がはびこっている事の何よりの証拠であり、だから「あなたにも影響があるかもしれない」と著者が警告している事の理由にもなります。良くできています。
⑤ AIというこれから普及される技術について「最大の問題点」を理解できる
AIはこれから10年・20年とこれから成熟していく技術です。その中でこの本で指摘されている「数学破壊装置」問題は最大の問題点の１つだと推測されます。
これはこの本の結論でも書かれていますが、これらは裏を返せば「数学破壊装置」の武装を外せれば人々に幸福をもたらすツールにも変われると主張されています。詳細は本書をご覧いただければと思いますが、これを実現させるのはAIではなく人間にしかできません。
そのことを良く理解していることは個人または人類にとってとても有益なことだと思います。少し大げさな表現となってしまっていますが、それほど貴重な情報をこの本からは会得できると感じました。
まとめ
今回は要点とオススメする５つの理由についてまとめました。しかし、この本の情報量はとてもブログでは伝えられない内容になってます。是非本を手に取っていただき、じっくり読んでもらいたいです。
ちなみに、統計学など数学に関しての知識は不要だと思います。（もちろんあった方がいいですが）ある程度文脈を読み取れる人であれば、誰でも楽しめる内容だと思います。
知的好奇心を満たすという意味で僕には最高の本でした。是非あなたも読んでみて！
最後までお読みいただきまして、ありがとうございました。
AIについてとんでもなくおもしろい本を発見！