生物と機械の間(自然言語処理研究と徒然。DeepにLerning中)

自然言語処理研究@レベル1。「コンピュタと人間の相互理解を深める」を大きなテーマにしています。タスクは対話システム。分子生物学から興味が移動したため、生物と機械の間を探しています。生物をモデルにしたプログラムが好きです。

このブログについて

ーこのブログについてー 開始日:2017-8-6。 内容:日々の研究についての記録とアウトプット。日常の徒然。ライフハック。時々筋トレ(?)とか。 (分野:自然言語処理。機械学習。DeepLearning)。 ルール: 1日5分帰りの電車で、昨日より内容の濃いブロ…

最近思うこと、研究は山登り。

研究は山登りに近いと思う。 ザッザと登頂に向けて、うんしょこらしょと登って行くイメージ。 今まで、仕事と同じようにやっていたけど、うまくいかなかった。 なので、土日は山登りするぞって感覚でいる。 今週だれてしまっていたので、 鬼速PDCA 山登りメ…

よっしゃ!今週で荒削りでも文章生成まで行くぞ!

ちまちまLFDAなどをやっており、データのデカさに悩ませられ、 データ作成だけで1ヶ月も使ってしまった。 もっとスマートなやり方すればらぶん3日で終わった。 教訓:愚直にやるな。スマートにやる方法を必死こいて考えろ あと、また鉄欠乏になってきたた…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。9

続き kenkyuublog.hatenadiary.jp 頭の中がやることで、やりたいことでごちゃごちゃしてイマイチ集中できず。 優先順位。一つひとつ! 部屋に入ったらやること。 ▪️①目標を叫ぶ(9月までに実験終わらし、文章にまとめる。1週間に40時間研究する)。 ▪️②…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。8

続き kenkyuublog.hatenadiary.jp 最近きちんと電車の時間は研究!って出来ていない。余計なことしてる。 電車の時間は研究以外のことはやらない!絶対だ。 そのほかのことは降りてから。 そして、今日のノルマが終わらなかったら、駅から離れて家に帰らない…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。7

kenkyuublog.hatenadiary.jp うだうだスケジューリングが下手で データのリムーブすら終わっていない状態 精度向上のアプローチの方向性を決めて、何をどう優先順位つけて、しかも一つ一つやる意識が足りなかった。無駄に力が分散していた。 ひとつ、ひとつ…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。6

続き kenkyuublog.hatenadiary.jp 今日やったこと。 LFDAのコヒーレンスの評価メトリクスについて書かれた論文のまとめ。 LFDAを使ったやつの大体の評価と、どういったパラメタでやればいいのかはわかったから。LFDA(LDA)が他タスクに生かすのにはどれぐら…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。5

続き kenkyuublog.hatenadiary.jp コヒーレンスの評価のプログラムを書いていた。 がげきおそ、途中で終わる。 普通1時間で描けるのに。 土日集中して長い時間できないのなんとかしなくちゃ 焦ってまとめて進めないで後で痛い目見るので、 一回LFDAプログラ…

研究の土台は、美容 (筋トレ・マッサージ と 料理 と 掃除)

最近思うこと 最近時間のかかる娯楽に時間を割けなくなったため(生き残ったのはピアノぐらい)、今年度は時間コスパの高い「美容を娯楽に」をテーマに生活していた。 具体的にやっていたのは下記メソッド(私命名) ・本メソッド(身に付けたいスキルの、初…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。4

続き kenkyuublog.hatenadiary.jp ●今日のやりたかったこと→その成果⇨なぜできなかった?なぜできた? ・コヒーレンスの評価→計算式をどうプログラムに反映すればいいのかわからず。類似度の中央値じゃダメなのか ⇨だらだらやってしまう。しっかり時間計って…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。3

続き kenkyuublog.hatenadiary.jp 遅すぎる 作業が。 今日中にコヒーレンスの評価がしたかったのに、それすらできていない。 意識に上る回数。研究のトリガーを沢山作らないとな。

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。

続き kenkyuublog.hatenadiary.jp 今週中にやりたいのは、 ★・twiiterの推定が途中で切れてるから、それをきっちり10万文やる! ★wikipediaで学習し、推定をtwitterにしてみる?(うまく行く気があまりしない) ・twitterデータの「こと」「もの」「その」…

LFDAを実験ようにふわっとしてやってたのを、改めて精密にやる。

ふわっと続いている。 kenkyuublog.hatenadiary.jp LFDAを終わり、そのデータを用いて色々いじったけど、結果があまりよくない。 通しでやってみた感触を大事に、LFDAの精度を上げる。 来週やることは2つ ・LFDAの精度を参考文献レベルに上げる。 ・git-hub…

kearsを使ってmultiな入力と出力NN 8

続き kenkyuublog.hatenadiary.jp 報告書の提出が終わり、またもこちらに戻ってきた。 ダミーデータで動いていたものの、そもそもLSTMを使ったmultiNNとかじゃあかんということに気づく。 やっぱり、自分で作りたいもの作るには、しっかり理解する必要がある…

また、毎日書き続ける。

ブログの使い方についてちょっと悩んでいたけれど、 とりあえず。この日記は毎日やったことを書く日記とし、 有用なこともたまに書くぐらいのスタンスでいきたい。 有用なことを書くときは、しっかりとタイトルや構成などを考えたい。 ゆるく。ゆるく。 毎日…

エモい!と思ったもの

エモい!と思ったものを忘れないように羅列してみる。 落合陽一(研究者etc) 報酬系をデザインするということに尽きる www.shigoto-ryokou.com 石黒浩(研究者) 趣味のような仕事で食べていけていいですね、とよく言われますが、もしそうなりたいなら、僕…

論文の書き方、サーベイの仕方、研究の進め方。#自然言語処理 #初心者 #学部生・修士生向け 

論文の書き方、サーベイの仕方、研究の進め方。 今までの学びを忘れないようにまとめてみます。 自分メモです。 論文の初めに、の書き方。 前の論文の構造をまるまんまパクれ。文章の意味だけをすり替えろ。 そして毎日やれ。スキルが確立するまでは。ピアノ…

モヤモヤ、停滞、を言葉に

うーーん、進みが激遅でモヤモヤする最近です。 inputとoutputをめちゃくちゃ早く回さないとなのに、全然できていない。 人より時間が取れないから、3倍ぐらいは頑張らないといけないのに。 このままじゃ9月までに実装一つをあげることができないぞっ ①多分…

日記;思うようにデータがうまく行かなくて焦る

思うように実験のためのデータが取れなくて、焦る。 でも、焦ってもいい結果は絶対出ない。焦ったら、何かが間違っている。 考え方なのか、計画なのか。それを見返す。 抽出部: ◽︎LFDA ◽︎AE?外部知識を利用したAE?ってなんだ、LFDA以外に抽出できるのあるの…

日記:えいや!と起きる。焦らず一つ一つ。

データが無くまたまた、日記。 とにかくブログを更新しないと気持ち悪くなるところまで、もっていきたい 。 LFDA、ダミーデータでやってみようかな。 コーヒーのせいか、寝起きが悪い。 コーヒーやめよう。 朝しかやる時間がないので、眠くても、 「今しかや…

日記

今日はデータが手元になくて何もできていないのでただの日記。 遺伝的アルゴリズムや、もう一つの手法としてのAE(オートエンコーダ)や論文読みなどをしてもいいかも。 最近誰ているので、色々徹底し直したい。 とにかく鬼速PDCAを完成させることに注力!

twiiterのデータと鬼速PDCA

夜更かししてしまい、体の調子が良くない。 ●●が終わるまで寝ない作戦をしようと思ったけど、 終わってないし、次の日すこぶる気分も体も調子悪いし、ダメ。 夜型、ダメ絶対。 土日の朝に予定を入れるルールを設けた。 twitterのデータは学習用に3対1に分…

twitterの文章に対してLFDA

今日からは、twitterのデータに対して、どういったトピックが検出されるかのLFDAを作る。 研究や仕事や生活に対して鬼速PDCAを回して見たい! やるぞー!

kearsを使ってmultiな入力と出力NN 7

続き kenkyuublog.hatenadiary.jp ダミーデータで動いた! 次はいよいよ本ちゃんのデータを入れたい。 データの整形の仕方とか忘れかけてるから、複数しないと、

kearsを使ってmultiな入力と出力NN 6

続き kenkyuublog.hatenadiary.jp ふむ。やっぱりディープなニューラルネットワークをやるのは楽しい。 泣きたくなるほど楽しい。 ピアノ弾いているときとちょっと似てる。 公式様のをぼちぼちやって見ているけれども、 https://keras.io/getting-started/fu…

kearsを使ってmultiな入力と出力NN 5

続き kenkyuublog.hatenadiary.jp お昼休みです。 まさかの公式発見。経験的に公式様は最強だと言うことを知っているので、これを元に作成していきたい。 https://keras.io/getting-started/functional-api-guide/#multi-input-and-multi-output-models 本当…

kearsを使ってmultiな入力と出力NN 4

続き kenkyuublog.hatenadiary.jp パスがあまりにも解けないので別サイト様のをやってみる。 複数の分類を出力するディープラーニング→ https://qiita.com/cvusk/items/1439c1c6dde160c48d13 たまたまこのサイト様のはjupyter使っているな。 せっかくだから…

kearsを使ってmultiな入力と出力NN 3

続き kenkyuublog.hatenadiary.jp 今日は、google Colaboratoryを友人さんに教えてもらった。 パスがあまりにも解けないので、これでやってみたい。 ノートかけるの面白い。 新しいものを使うのはワクワクする。

描きたい記事

描きたい記事、あります。 【本当に本当に初心者さんがpythonを始めるまで】 →実体験元に。もっと体系的にやれば早く習得できただろうなぁと。 【プログラミング初心者が、独力でtensorflowを使って対話システムを作るまで】 →自分の実体験。先生が深層学習…

自分でなければ救えない人。自分でなければ喜ばせられない人

最近、 「情報発信は「自分でなければ救えない人」のために行おう!」 と言う文面にえらくグッときた。 自分は、多分、初心者さんや素人さんに教えるのが好きだ。 人にパーソナライズ化して教えるのが好きだ。 www.facebook.com そう言うことをもっとしてい…