ナンクル力学系

学んだ事を書き連ねていこう。

情報幾何とか簡単に学べる本見つけた

leave a comment »

昨日久しぶりに大学に行って生協に入ったら「情報理論の基礎 新版―情報と学習の直観的理解のために (SGC Books M 3)」という本を発見してしまった。そして衝動買い。

情報理論の基礎 新版―情報と�習の直観的理解のために

情報理論の基礎 新版―情報と学習の直観的理解のために

サイエンス社のページに行くと目次が見られる。

<目次>

第1章 はじめに
  1.1 情報とは何だろう?
  1.2 学習とは何だろう?
  1.3 確率変数としての情報の記述
  1.4 確率モデルのいろいろ
  1.5 補遺

第2章 情報理論の基礎事項
  2.1 情報源
  2.2 通信路
  2.3 符号化
  2.4 情報量
  2.5 補遺

第3章 情報幾何の考え方
  3.1 確率分布の空間
  3.2 KL-情報量
  3.3 “まっすぐな”線と“平らな”面
  3.4 直交葉層化と射影
  3.5 補遺

第4章 符号化と種々の情報量
  4.1 情報源符号化
  4.2 通信路符号化
  4.3 連続情報の離散化
  4.4 補遺

第5章 モデル選択
  5.1 モデル選択の考え方
  5.2 推定量のばらつき
  5.3 AICの考え方
  5.4 MDLの考え方
  5.5 AICとMDLに関する補足
  5.6 リサンプリング
  5.7 補遺

第6章 混合モデルとアルゴリズムの幾何学的理解
  6.1 混合によるモデルの拡大
  6.2 EMアルゴリズム
  6.3 ブースティング
  6.4 バギング
  6.5 補遺

付録A 確率論の基礎

情報幾何、モデル推定、AIC、混合モデル、EMアルゴリズム(とemアルゴリズム)とか、勉強したい!と思ってたことじゃないですか。これは俺のための本ですかw

しかも、これらの内容は確率・統計、あと情報幾何については微分幾何学にもかなり学ばないと勉強出来ないようなものばかりなのに、かなり簡略化して書いてある。おかげで、地道に積み上げていかなきゃいけない知識をぶっとばして学ぶことが出来る。すばらしい!

もちろん、去年解析力学やるために勉強した微分幾何(のイメージ)が多少頭に残っているし、確率・統計についても少し勉強しているので、それが訳に立ってるはず。

この本だけを読んでもなんちゃってな理解しか出来ないだろうとは思うけれど、最初に知りたいことを(大雑把に)知ってしまうのは経験上良い策だと思っている。行き着く先が面白そうか・役に立ちそうか検討がつくし、ゴールが分かっていれば安心して(かつ期待しながら)勉強出きるし、なかなか進まなくてもっと読みやすい本は無いか?とか探さなくてすむし。

次の土日月の3日間はラボの停電で研究がまったく出来ないので、いっぱい本が読める。この本は一日目で読んでしまいたいな。

Written by tkf

October 23, 2008 at 10:58 pm

Posted in 研究日誌

Tagged with ,

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s

%d bloggers like this: