生物と機械の間(自然言語処理研究と徒然。DeepにLerning中)

自然言語処理研究@レベル1。「コンピュタと人間の相互理解を深める」を大きなテーマにしています。タスクは対話システム。分子生物学から興味が移動したため、生物と機械の間を探しています。生物をモデルにしたプログラムが好きです。

このブログについて

ーこのブログについてー

開始日:2017-8-6。

内容:日々の研究についての記録とアウトプット。日常の徒然。ライフハック。時々筋トレ(?)とか。

分野自然言語処理機械学習。DeepLearning)。

ルール:

1日5分帰りの電車で、昨日より内容の濃いブログを書く(そうすることで加速度UP)。数年後の自分が見返しても意味のわかるブログを書くよう目指して。

→現在鬼速PDCAをやっているので、週レベルに落とす。

 

徒然

自然言語処理研究@レベル1。「研究し社会実装」「コンピュタと人間のコミュニケーションレベルの向上。それにより多様な人がより深くコンピュタからの恩恵を得られるようにする。また、新たな文化を創出する」を死ぬまでにしてみたいと考えています。タスクは外部知識を利用した対話システムです。

お仕事をしながら、細々と個人で研究者として一人前になれるよう足掻いています。やる気は十分!ですが、自分の能力のなさにうえってなってます。時間の使いかた、元気の保ちかた、効率的なやり方、などをもっとあげていかないととてもたちゆかないなと思っているため、ライフハックなどに興味津々です。ちなみにお仕事の方では、「文献情報をより便利に、より早く」を目標にしています。

分子生物学から興味が移動したため、生物をモデルにしたプログラムが好きです。言語獲得や認知などにも興味があります。生物と機械の間を探しています。

ピアノと読書が娯楽です。好きなものは美人とスーツ。最近からだを鍛えるのが楽しいなぁと思っています。

 

 

 

エモい!と思ったもの

エモい!と思ったものを忘れないように羅列してみる。

 

落合陽一(研究者etc)

報酬系をデザインするということに尽きる

 

www.shigoto-ryokou.com

石黒浩(研究者)

趣味のような仕事で食べていけていいですね、とよく言われますが、もしそうなりたいなら、僕が言ったことはすべて忘れることです

 

趣味のような仕事で食べていけていいですね、とよく言われますが、もしそうなりたいなら、僕が言ったことはすべて忘れることです。同じことをしていても、同じようにはなりません。人のマネでは成功できない。やっぱり自分の頭で考えるしかないんですよ。

 

エモい、、、!

next.rikunabi.com

 

 

佐藤オオキ(デザイナー)

 

デザイン以外のことは考えたくなかった

 

syufufuu.com

 

 

安藤忠雄(建築家)

www.kinokuniya.co.jp

 

ルイス・カーン(建築家)

www.mirainoshitenclassic.com

 

 

清家清(建築家)

 

アインシュタイン(研究者)

 

久石譲(作曲家)

コンサートのあの一言がとてもグッときた。

 

ビル・エバンス(jazz ピアニスト)

 

 

 

 

 

 

 

論文の書き方、サーベイの仕方、研究の進め方。#自然言語処理 #初心者 #学部生・修士生向け 

論文の書き方、サーベイの仕方、研究の進め方。

今までの学びを忘れないようにまとめてみます。

自分メモです。

 

論文の初めに、の書き方。

前の論文の構造をまるまんまパクれ。文章の意味だけをすり替えろ。

そして毎日やれ。スキルが確立するまでは。ピアノ、弓道、と一緒。身につくまでは毎日やらないと、身につかない。細かい文章ほうなどの指摘は、昔された指摘や本などに書かれている注意点を見て修正。

 

モデル論文の論理のパッケージ(型)に自分の言葉をすり替える。そういうことをただひたすら繰り返せ。

論文を写経して、自分の言葉を研究者の共通語に翻訳しろ。

 

以上

今回の失敗例:

自分の文章から始める→整形しようとする→失敗

過去の成功例を忘れて失敗するの良くない。

 

成功例:

先行研究論文のパッケージを使ってそこに自分の文章を当てはめる→当てはめたあと、先輩や同期に見てもらった指摘を反映(今後のために指摘チェックリストを作る)→oK

このやり方は、ビジネスメール、小説など他の文章にも行かせる。

 

サーベイの仕方。

落合先生のでまとめろ。目安は1論文15分でまとめる。以上。

www.slideshare.net

 

 

研究の進め方、時間観。

落合先生のの鬼速の時間観(↑)と、小町先生の研究の進め方を参考にしろ。以上

cl.sd.tmu.ac.jp

 

 

タイムマネジメント、人生全般

理系のための人生設計ガイド

www.kinokuniya.co.jp

 

 

モヤモヤ、停滞、を言葉に

うーーん、進みが激遅でモヤモヤする最近です。

 

inputとoutputをめちゃくちゃ早く回さないとなのに、全然できていない。

人より時間が取れないから、3倍ぐらいは頑張らないといけないのに。

このままじゃ9月までに実装一つをあげることができないぞっ

 

①多分締め切りをもっと細かくする必要+②他人の目+③危機感がたりない。

基本怠惰な性格だから、危機感、他人の目をプラスしないと。

 

でも、ブログをぼちぼちでも更新しているのを見ていると、ノロノロでもやってはいるんだなぁ。と思うから救い。

 

●今月やったこと(研究)

今月の目標:仮説を作るためのパイロットスタディをする

→データを作るだけで1ヶ月;;

・LFDA(LDA)のためのデータ集め

→これ、絶対作業に時間かかりすぎ。

・報告書の作成

→自分が伝えるのド下手なことに絶望。

ストーリー性のある文章を短く、わかりやすいスキルが低い。

ロジカル・シンキングという本を借りて、この本が一冊を飲み込めるぐらいまで、毎週この本を参照しつつ報告書やイントロダクションもどきを書く。繰り返しが大事。諦めるな。相手に期待する反応を考えて伝える。

ブログの下書きにイントロの書き方を書き中

 

・勉強会のスタート(5/24~)

 

→素朴なDeepLerinngの勉強会を発足。雑談も楽しい。なかなかDeepLerningに興味ある人身近にいないから嬉しい。朝早起きする動機になってさらによし。

毎週書いて

 

●7月やること、 パイロットスタディ(上旬)→実験仮説の確定(下旬)

いよいよ、tensorとか、テクニカルな部分にはいってきて面白いところだ。

ワクワクしないとね。

 

今日中に4層ニューラルネットワークtensorfowで作っていきたいな。

 

今週のいちばんの学び

土日の夜更かし、だめ、絶対。9時には寝よう。

 

ユーモアが大事。いろんなところにニコちゃんマーク。ファイルの末尾にもね^^

 

 

日記;思うようにデータがうまく行かなくて焦る

思うように実験のためのデータが取れなくて、焦る。

でも、焦ってもいい結果は絶対出ない。焦ったら、何かが間違っている。

考え方なのか、計画なのか。それを見返す。

 

抽出部:

◽︎LFDA

◽︎AE?外部知識を利用したAE?ってなんだ、LFDA以外に抽出できるのあるのか。良く対話とか翻訳とかに使われている分散の平均か?

 

関係学習部:

◽︎ NN

◽︎︎遺伝的アルゴリズム

 

早く、各種で検討したいが、起点のLFDAうまくいかない。

NNも遺伝的アルゴリズムも用意できているのに。

 

そろそろ、最新の論文が読みたいかも。

最近の動向さらっとでも知りたい。

 

日曜日に報告書をまとめたい。

 

鬼速PDCAのKPI3つは

朝方ルーティーン隔離する

15分デットライン。デットラインを大切にする。

毎日、毎週、毎月、通信簿を書く

 

になりそうだ。

 

本当にやりたいのか。を明文化

とにかく、人に言う

鬼速PDCA

の優先順位!

日記:えいや!と起きる。焦らず一つ一つ。

データが無くまたまた、日記。

とにかくブログを更新しないと気持ち悪くなるところまで、もっていきたい

LFDA、ダミーデータでやってみようかな。

 

コーヒーのせいか、寝起きが悪い。

コーヒーやめよう。

 

朝しかやる時間がないので、眠くても、

「今しかやる時間ないんじゃ!」と「えいやっ!」と叫んで布団ひっくり返して起きる。

布団ひっくり返すのは良い。

 

・研究を進める

・スキルを身につける(色々身に付けたいスキルいっぱい!)

PDCA工程表を作る

・目標を明確にする

それぞれおに対して焦って色々やりたくなるけど、優先順位をつけて、一つ一つ。

まず、目標とPDCAはやる!

日記

今日はデータが手元になくて何もできていないのでただの日記。

遺伝的アルゴリズムや、もう一つの手法としてのAE(オートエンコーダ)や論文読みなどをしてもいいかも。

 

最近誰ているので、色々徹底し直したい。

とにかく鬼速PDCAを完成させることに注力!