ナンクル力学系

学んだ事を書き連ねていこう。

Posts Tagged ‘悩み

「水滴系のカオス」と「ベイズ統計と統計物理」を眺めたら統計(熱)力学っぽいことが必要だと感じてきたので悩んでいる

with 4 comments

「水滴系のカオス」と「ベイズ統計と統計物理」を読んだ.でも読んだというと著者に 失礼かなと思ってしまうくらいの理解力だったので,眺めた,と言うことにした.

ベイズ統計と統計物理

式をがんばって睨めば分かる気がしたけど,とりあえずさーっと読んでみた感じ. 統計物理の話を理解していればもっと高い視点(?)からまとめて理解できそう.

  • 理解力が落ちる部分のキーワード抜粋:
    • カノニカル分布(ギブス分布),スピングラス,強磁性イジング模型,マルコフ連鎖, 自由エネルギー

水滴系のカオス

帯に,「現象の予測という観点からカオスの情報構造を考える」って書いてあったので 衝動買いした.力学系と情報理論を結びつけた話を展開している.

章立ては整理されてない(意図的にしなかった?する必要がなかった?)感じで, 階層なしでべたっと22の章(節?)に分かれている.数式はそんなに出てこないけど, それは行間をつなぐ計算とか知識は持っているでしょ,という前提らしい. 9章までは,「ふむふむ系のダイナミクスは過去から未来への通信路って考えるのかー おもしろいなあ.」って読めてた(それでも部分的に理解できなかったりしてた)んだけど, 10章あたりから完全に置いてかれた.(早すぎwww

系に蓄えられる情報量の話は記憶と関連がありそうだし,ノイズ付きの力学系の話は 時系列を最尤推定して力学系を構成している人としては理解してるべき話じゃないだ ろうか.数学的に妥当じゃない結論なんて出したらなんの意味もないしね. (そんな研究するか分からないけど.)

  • 理解力が落ちる部分のキーワード抜粋:
    • ギブス分布,自由エネルギー,不変測度,エントロピー,熱浴

何を勉強する?そもそも首つっこむ?

さんざんさけてきた?統計熱力学を理解しないとこの辺の話は分からないな. でも,物理屋さん的な知識がごっそり手に入ってオイシイ気もする. NNの論文で面白そうだと思うやつには↑のキーワードがからんでいることも多かったし.

しかし,こんなこと勉強して将来やる研究に役立ったりするのかなあと不安に思ったりする. 役立てたいと思うけどね.

とりあえずこの辺おさえるにはHaken先生のSynergeticsをいいかげん読むべきなんだろう か.それとも,普通の統計力学の教科書かなやっぱ?でもそうなると量子やんなきゃだし うわわああ.

Written by tkf

February 16, 2009 at 9:10 pm

Posted in 研究日誌

Tagged with , ,

卒論についてとりあえず書いておくか

with 4 comments

ほとんど書く気なかったんだけど,自分の卒論がどんなんだったかを忘れてしまうのは 悲しい気もするので書いてみる.

卒論書いてた状況は(多分)すこし特殊だったと思うので説明すると,主に活動してい た場所は大学の研究室(以下,研究室)の外の研究所のラボ(以下,ラボ). 研究内容とか設備とかは最高だなと思うんだけど,曲者なのはその研究内容がうちの 学科ではあんまり理解してもらえないところ.研究室の同期も,「なんか難しいこと やってるね」くらいに思ってる感じ(…は言い過ぎかw).

だから,発表のための準備が大変で,何でそんな研究をやるかとか何でそれでうまく いくかとか,教科書の1ページ目から全部,説明しないといけない感じになる. まあ,そんなことはどんな研究でも程度の差はあれあり得ることなんだろうと思って, 研究の内容には関係ないからおもしろくはないけど頑張ったと思う. というか卒論にかけてた時間の8割くらいそんなんだった気がs(ry

それで理解してもらえたならよかったんだけど,まあほとんど理解はされなくて, がっかりする気持ちだけが残りましたとさ.

それで思うのは,

やっぱり,評価されないのは辛いので,評価されるような場所に居るということも研究の 戦略(というか生き方?)として重要だ,という結構あたりまえなこと. でも,これを実感できたのはプラスだったととらえることにしておく.

これから(研究内容,進路)どうするかとか,ボスとかと話し合うことになっているので その辺ふまえて動いていかないとな. ボケっとしているひまは無い.

Written by tkf

February 11, 2009 at 8:39 am

Posted in 研究日誌

Tagged with ,

どのワークショップへ行こうか悩む

leave a comment »

見事にかぶった。

まだどっちも応募してない。

研究室的にフィールドは明らかに後者。しかし、前者にも興味があるしな。分野が拡散(?)していてついていけるか不安だけれど。

というか、卒論的に自由に動けるのかねこの時期w

Written by tkf

January 5, 2009 at 9:53 pm

Posted in 研究日誌

Tagged with ,

ニューラルネット使い見習いの言い訳

leave a comment »

昨日寝る直前と今日の朝にニューラルネットを使って認知科学やロボティクスの分野を考える積極的な理由をやっと思いついたので書いてみる。

悩みが解決するとなんで悩んでたかすぐに忘れてしまうな、と思っていたら運良くブログに書いていた:

人の認知的な働きを理解するためにモデルを考えてロボット実験で検証する、ってのが今のラボでの研究の方法。問題となる認知的な働きは認知心理学から、モデルのアイディアは脳・神経学から引っ張って来る。このモデルというのが曲者。そもそも人工ニューラルネットワークで実験して出来る、ってことが脳でも起こっていると結論付けることの論理は飛躍しすぎていないか。当然そういう議論はされてきたはずで、それが分かっているならここまで不安にはならないんだろうな。

そうか、地続きじゃないから不安なんだ

「そういう議論はされてきて」なかったみたいで、ラボの人と話をしたりしたけれどその分野の人々はこの本質的な問いに答えを見つけきれずにいるみたいだった。だからと言って、ラボの人たちがそういう疑問から目をそむけたまま研究をしているわけではない(当然、か)ことも分かった。それでも自分自身の理由にまではならなかった。

AIは記号を仮定して世界を理解する(=認知の)モデルをつくろうとしたのでシンボルグラウディング問題などにぶちあった(この辺はちゃんと勉強してないので怪しすぎる)わけだけど、ニューラルネットを使えば記号の仮定は要らない。それは、要請(例えば教示信号)から創発するものだというのがニューラルネットを使ってこの問題を考える人たちの立場。

しかしもっとも重要なことは、記号を仮定しないで記号を扱える(ように見える)仕組みを作れる、という点では無くて、その仕組みが「何も出来ないニューラルネット」から「機能(例えば記号処理)を実現したニューラルネット」まで連続的に変化した結果として得られたものだ、ということだ。ラボの人たちとの会話に出てた話なのに、これを理解するまでなんでこんなに時間かかったんだろう。

科学的な方法なら、何が機能の実現に必要かを見極められなければいけない。例えば、ノックアウトマウスみたいな。機能が実現するまでの連続的なパス(ラボの人の口癖だなあ)があれば、それをがんばって見極められるかもしれない。初めから完成しているシステム(例えばAI)ではなく、ニューラルネットを使うのは未完成と完成が一つの道でつながってるからなんだ。

この連続的だ、ということを理解したもう一つのうれしさは、「GAじゃダメなの?」という問いにはっきり「ダメ」だと答えられるようになったこと。BPを使った勾配法は統計的回帰なので収束する論理的背景があるれけど、GAはいまいち理解出来ないから使いたくない、今まではそう答えてきた。確かに今でもそう思ってるんだけど、「GAで出来るならそれで良いじゃん」と言われると「くぅっ…」となってしまう。今なら、「学習が連続的じゃないからつかえない」と一言で言える。これはうれしい。

書いていて、穴があるなあと思い始めたのがまた悩みどころなんだけど、当分はこれが建前(笑)になりそう。

一応、穴と思った点:

  • 別に、学習中に連続じゃなくても、出来たやつを連続的に壊していけばいいじゃん。
  • だったらGAでもいいよね!(ちょw

悩みます。まだまだ悩みます。

twitterに書き捨てるだけじゃなくて良かったー。

追記

でも連続な(1本の)パスでかつ学習する方向に変化させるには勾配法だよね。言い換えればパラメタ空間にベクトル場張れる、みたいな。

Written by tkf

December 1, 2008 at 12:39 am

Posted in 研究日誌

Tagged with , ,

立ち止まって考えないと。

leave a comment »

異常に多いワークスペース

今週はボス+M1と共同でやっている研究でド激務な日々。上の画像みたいにワークスペースを30個くらい使ってプログラムをまわしている。このプログラムは実行すると必ずX Winodwが立ち上がるという激しい仕様(笑)なので一つの実験を回すために一つワークスペースを使うことにしている。linux機二つあって良かったー。メインのubuntuでこれはやりたくないw

関係ないけど、上の画像は非常にブロガーっぽいので気に入ってる。Picnik良いよPicnik。吹き出しの根元がずれているのはご愛嬌。

最近、ボスのボスから来年のテーマこれやってねオーラがひしひしと伝わってくる。ボスもやって欲しいことをかなり提示してくる。もうすこし今の分野全般と周辺の知識を手に入れて、自分の場所をしっかり確かめてから歩き出したいのに。ボス曰く「今は勉強する時間、なんてとれないから研究と並行してやらないと。」いや実際そうですよね。もう来年から院生ですもんね。でも、「そこは深く考えないの?」「定式化そんな適当でいいの?」「数学的ツールの使い方あってんの?」みたいな質問をとばしてどんどん先に研究を進めている様子を見ていると焦ってくる。しっかり勉強した後には、そこには枯れたテーマしか残っていないんじゃないかとも思えてくる。

ほぼ毎日夕方に、ラボの人たち数名集まってコーヒーを飲む会があって最近それに参加し出した。この会で、最近のもやもやした疑問をぶちまけてみようかと思っている。そのためには、下調べと自分の考えの整理をしなければいけない。来週の月曜までにもう少し本読んでまとめてみるか。

自分で時間確保して本を読んでいくしか無いことは分かっているんだけど、今週みたいに全然時間が取れないとかなり焦るな。

Written by tkf

November 14, 2008 at 10:05 pm

Posted in 研究日誌

Tagged with

そうか、地続きじゃないから不安なんだ

with 2 comments

数学は定義・公理から定理まで、物理は原理・基礎方程式から法則まで理論的に地続きだ。そして地続きなことが科学的だ、と言える理由なんだと思う。

なら、今の自分の研究はどうだろう、と考えてみた。分からなかった。だから最近不安なんだ、と気づいた。分かっていたけどこうして書いてみるとなぜかすっきりする。

人の認知的な働きを理解するためにモデルを考えてロボット実験で検証する、ってのが今のラボでの研究の方法。問題となる認知的な働きは認知心理学から、モデルのアイディアは脳・神経学から引っ張って来る。このモデルというのが曲者。そもそも人工ニューラルネットワークで実験して出来る、ってことが脳でも起こっていると結論付けることの論理は飛躍しすぎていないか。当然そういう議論はされてきたはずで、それが分かっているならここまで不安にはならないんだろうな。

数学や物理にも○○予想、実験法則の形で論理の飛躍はある。脳と人工ニューラルネットワークの飛躍もそれに似たものなのか?前者(数学・物理)はそう期待するだけの理由があるのだけど、後者(脳科学)にはあるのか?

早く理由を見つければ不安はなくなる。

はず。

Written by tkf

November 8, 2008 at 1:29 pm