スポンサーリンク

【読書】ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る

Book

感想

私が本書を書こうと思ったのは、AIに関する技術と方法の全体像を、難解な部分もすべて含めて説明するためだ。

AIのゴットファーザーの一人であるヤン・ルカン(Meta/New York University)が、このような意気込みで書いた本なので、気になり読んでみました。

ニューラルネットワーク(NN)の誕生から停滞、後退、躍進までを、第一人者のヤン・ルカンの視点から語られており非常に面白かったです。NNのアイディアの全体像や、飛躍するまでに活躍した様々な人の努力、研究者としての考え方なども興味深かったです。NN、AIについて学んでいる人、知りたい人は必読です。一部、数式が用いられていますが、そこは別の本や記事の方がわかりやすいので流しても良いと思います。

特に個人的に興味が惹かれたのは、畳み込みニューラルネットワークは人の視覚野を模倣して作られていて、アーキテクチャ自体は1980年代に日本の福島さんが完成させていたこと。そのアーキテクチャをどのように学習させるかが課題だったわけですが、絶え間ない努力で、同時期に似たようなアルゴリズムで複数の人が学習を成功させたこと。これらが非常に面白く、先人たちの研究成果(他分野を含む、この場合は神経科学の研究が特に貢献している)が、脈々と受け継がれ、それが同時期に共起し、大きな技術革新を生んだことに感動します。

また余談ですが、ザッカーバーグがヤン・ルカンをFacebookに引き込むために、論文を読み込んだ上で議論したり、トップクラスの人工知能研究者たちを採用するために、学会のワークショップに参加したりと、さすが技術会社のトップだなと感嘆しました。ヤンルカンも条件として、研究はオープンで、ソフトウェアはオープンソースにして共有すること、製品やサービスも含め、コードを提供して誰にでも使えるようにすることを問いたようです。この理由も、明確に書かれており、ふむふむという感じでした。

ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る (KS科学一般書) 

以下。目次です。

第1章 AI革命

1-1 偏在するAI
1-2 アーティストAI
1-3 人型ロボットのまやかし
1-4 GOFAIから……
1-5 ……機械学習へ
1-6 新旧のブレンド
1-7 定義の試み
1-8 今後の課題
1-9 アルゴリズムの外側

第2章 AIならびに私の小史

2-1 終わりなき探求
2-2 まずは論理
2-3 ゲームの世界
2-4 神経科学とパーセプトロン
2-5 冬の時代 2-6 「異端の過激派」
2-7 舞台に上がる
2-8 実りある読書
2-9 学習のコネクショニズムモデル
2-10 レズーシュでのシンポジウム
2-11 誤差逆伝播法
2-12 大御所たちの殿堂
2-13 ベル研究所時代
2-14 タブー視されるニューラルネットワーク
2-15 「ディープラーニングの陰謀」
2-16 畳み込みニューラルネットワークの有効性が立証される

第3章 単純な学習機械

3-1 発想の源アメフラシ
3-2 学習と誤差の最小化:その一例
3-3 xの関数yを予測するf(x)を求める
3-4 数学好きのための補足
3-5 ガリレオとピサの斜塔
3-6 画像その他を認識する
3-7 ローゼンブラットとパーセプトロン
3-8 25ピクセルのグリッド
3-9 CとDを区別する
3-10 教師あり学習と汎化
3-11 パーセプトロンの限界
3-12 解決策:特徴の抽出
3-13 まとめ

第4章 最小化学習、学習理論

4-1 あらまし
4-2 コスト関数
4-3 谷底を見つける
4-4 勾配計算の実際
4-5 確率的勾配降下法
4-6 ニセの谷底
4-7 学習の一般理論
4-8 モデルの選択
4-9 牛と3人の科学者
4-10 オッカムの剃刀
4-11 訓練のプロトコル
4-12 妥協点を見つける
4-13 ブール関数のめまい
4-14 ありうる関数のいくつかの例
4-15 正則化:モデル容量の抑制
4-16 人間のための教訓

第5章 深層ニューラルネットワークと誤差逆伝播法

5-1 ミルフィーユ
5-2 連続的なニューロン
5-3 わがHLM!
5-4 先陣争い
5-5 誤差逆伝播法の数学的理解
5-6 多層の有用性について
5-7 反論に打ち勝つ
5-8 特徴の学習

第7章 ディープラーニングの現在

7-1 画像認識
7-2 コンテンツの埋め込みと類似性の測定
7-3 音声認識
7-4 音声と音の合成
7-5 言語理解と翻訳
7-6 予測
7-7 AIと科学
7-8 大規模アプリケーションのアーキテクチャ:自律走行車
7-9 自律と混合システム
7-10 完全自律? エンドツーエンドの訓練
7-11 大規模アプリケーションのアーキテクチャ:仮想アシスタント
7-12 大規模アプリケーションのアーキテクチャ:医用画像と医学
7-13 昔のレシピ:検索アルゴリズム

第8章 Facebook時代

8-1 マーク・ザッカーバーグにスカウトされる
8-2 Facebook人工知能研究所
8-3 目論見
8-4 情報のフィルタリング
8-5 ケンブリッジ・アナリティカ問題についてひと言
8-6 ニュースフィード
8-7 Facebookとメディアの未来
8-8 新しいFacebook
8-9 FAIRの現場
8-10 チューリング賞

第9章 そして明日は? AIの今後と課題

9-1 自然は発想の源(ただし、ある程度まで)
9-2 機械学習の限界:教師あり学習
9-3 強化学習
9-4 強化学習の限界
9-5 常識という問題
9-6 人間の学習方法
9-7 自己教師あり学習
9-8 多重予測と潜在変数
9-9 予測能力?
9-10 自律知能システムのアーキテクチャ
9-11 ディープラーニングと推論:動的ネットワーク
9-12 知能をもつ物体
9-13 AIによる未来

第10章 AIの問題点

10-1 AIが社会や経済を変える
10-2 AIイノベーションエコシステム
10-3 AI革命の恩恵を受けるのは誰か?
10-4 軍事転用の危険性
10-5 バイアスとセキュリティ逸脱
10-6 AIは説明可能であるべきか?
10-7 人間の知能に対する理解は深まるか?
10-8 脳は機械にすぎないのか?
10-9 すべてのモデルは間違っている
10-10 心配する声
10-11 AIが飛躍的発展を遂げるには?
10-12 生得的なものと後天的なもの
10-13 機械に意識は宿るだろうか?
10-14 思考における言語の役割
10-15 機械に感情は宿るだろうか?
10-16 ロボットは権力を握ろうとするだろうか?
10-17 価値観の一致
10-18 新たなフロンティア
10-19 知能の科学?

参考記事、参考資料

コメント