生物と機械の間(自然言語処理研究と徒然。DeepにLerning中)

自然言語処理研究@レベル1。「コンピュタと人間の相互理解を深める」を大きなテーマにしています。タスクは対話システム。分子生物学から興味が移動したため、生物と機械の間を探しています。生物をモデルにしたプログラムが好きです。

1年間振り返り ー1

年末年始の過ごしかた反省

年末年始おやすみ。

28 寝

29 お買い物 研究室 

30 研究室 人に会う

31 研究室いくも空いておらず。仕方なくカフェで2時間ほど論文読み

 

せっかくのお休みをひたすらポケーッとしてして過ごしてしまった気がする。

どうせならお片付け!とか、パーっと遊びに行った方が良かったかな。読めなかった本読んだりDVD見たりしたりさ。

色々と濃度の低い四日間をすごしてしまった。反省。どうせなら思いっきり遊んでた方がましだったな。

 

1年間やったこと

振り返らないと、1年やったことが、パーっとどこかに飛んでしまいそうな気がするから、振り返ってみる。

今年やったこと・できたこと・できなかったこと↓

●研究(ボトムアップでの研究に挑戦。しかし、失敗)

研究(1-3月)冬春

wordnetを使って、wikipediaの単語の上位語、もしくは下位語を永遠につたって取れるようなシステムを作った。(つまり、上位語の上位語の上位語、、とかを取れるようにした)

②chainerでAE(オートエンコーダ)を実装し、単語の分散表現をAEにかけてベクトルを圧縮した時word2vecにどういう風にマッピングされるかをみた。

③chainerでCNNも実装した。

④ゼロから作るdeeplerning1をあらかたやった。

⑤春ごろになると、8:30寝3:30起きが大体できるように

概要:自然言語処理システム、主に対話システム、未知語問題を解決すべく、未知語を、未知じゃない語に統制させれば良いのではないかと思った(概念的なにか)。

無理やり機械学習をしたかったので、単語に分散表現をAE(オートエンコーダ)すれば、その隠れ層に上位語的な概念的何かが得られて面白いのでは。使えるのでは。と思った。

→色々と研究というものがわかっておらず、問題提起からして間違っていた。ぼつ。記録を見たら、ぼつを二回繰り返している。オートエンコーダと、CNNどちらも、対和文からの話題語の推定がタスクである。

 

 

研究 夏(1ヶ月ぐらい体不調でロクに研究できず)

積ん読で論文を読むことを覚えた。

トップダウンの着想を得た。

⑧報告書を毎週かいた。

 

研究(秋・冬)夏(トップダウンの研究方法に変更。タスクを丸ごと変える)

⑨ゼロから作るdeeplerning2半分までやった

⑩クエスチョンアンサーの文章をwebからスクレイピングするプログラムを書いた

11 fasttextを使ってデータ分類をした

12 LDAとその拡張版の構築をした。文章のトピック推定を行なった。

13 fitに行った。

 

 

●英語(toeicの点数700点超えられず、、がっくし。ただ英語論文は前より読めるようになったし、利用者対応度も若干UP)

①毎日英語で日記を書いた。

②毎日英語でラジオを聞いた。

英会話教室週一を1ヶ月ぐらいやった。

TOEICスコアアップ研修を週一2ヶ月ぐらいやった

TOEIC-IPの最高スコアを更新した(655)(本当は700超えないと人事様が悲しむ、、から伸びなくて悲しい)

⑥オンライン英会話を1年間やった

⑦先輩に週一で英語1分間スピーチを見てもらった

⑧英語論文前より苦なく頭に入ってくるように読めて感動。やっぱり、翻訳機通すと手間だし、なんか頭に入ってこない感じというか理解しにくい感じがあったから大分楽に。もっと英語力あげたら、もっと楽に読めるのかな、

概要:特に苦なく楽しくやっていた。そこまで結果も求めてなかった。が、継続的に行ってたことにより、結果的にtoec上がってた。

●仕事

の反省は後で。

 

 

 

反省

・冬・春・夏ともに、常に疲れていたみたいだ。貧血が原因なのも大きい。そんで、自分に期待した作業量ができなくて悔しくて、そんで結果が出なくて泣いてばかりだったんだな、って記録を見て思った。体も一回軽く壊しているし。今ぐらいになって、ようやく体を壊さなくなっているかもしれない。それはだらけているからとも言えるけど笑

自分では必死すぎて気づかなかったけど、はたから見ると随分と辛そうに過ごしてたんだなって思う。いや、でもやっぱり本人的にはそうでもなかったけどね。

 

気づき

辛いのは効率が悪い。ストイックは効率が悪い。多分。

「結果が全て」「行動が全て」と考えて、

逆算で計画して実行しようとするのはとても大事。

でもそこに「辛さ」があって、それを乗り越えようとするスタンスは多分。効率が悪い。日本的で美しい感じもするけど。

自分に厳しく、人に優しく。それを目指しなさい。と言われていた私には。そして、「泣くまでやれ。泣くまでだ」と思っていた私には受け入れ難いけど。

楽しい。中毒性。没頭性をベースに。そこをフル活用して。それでも行動できないときは厳しさを利用する。という風に変えてみたい。

 

来年の方向性

・作業スピードめちゃ遅かった。びっくりだ。爆速にしたい(どうすれば)落合陽一さんみたいに。

・「辛さ」を無くして行動量を多くしよう

・やりたいことを全部やる!!!スタンス?

 

来年はいかに「辛い」を捨てて「中毒的に没頭し」作業量を爆速にあげて、やりたいことを全部やる。に変えていけるかかな。

メインは仕事、研究、筋トレ、美容、生活、とかになりそうだ。ほんっと生活疎かだからなんとかしたい。

うんでも、ここはしっかり練り直そう。

良い結果は、良い計画から

 

ああ、この記事書くのに1時間45分もかかってるよ、本当になにをするにも遅いなぁ。しかも、ただの自分記録。寝る時間を一番優先にするつもりが、、、、

もう。優先を忘れない!!

まぁ、ブログは続けることをメインにね。

 

明日はお部屋の片付けと、来年の計画練り終わるまで何もしないぞ!