生物と機械の間(自然言語処理研究と徒然。DeepにLerning中)

自然言語処理研究@レベル1。「コンピュタと人間の相互理解を深める」を大きなテーマにしています。タスクは対話システム。分子生物学から興味が移動したため、生物と機械の間を探しています。生物をモデルにしたプログラムが好きです。

このブログについて

ーこのブログについてー 開始日:2017-8-6。 内容:日々の研究についての記録とアウトプット。日常の徒然。ライフハック。時々筋トレ(?)とか。 (分野:自然言語処理。機械学習。DeepLearning)。 ルール: 1日5分帰りの電車で、昨日より内容の濃いブロ…

エモい!と思ったもの

エモい!と思ったものを忘れないように羅列してみる。 落合陽一(研究者etc) 報酬系をデザインするということに尽きる www.shigoto-ryokou.com 石黒浩(研究者) 趣味のような仕事で食べていけていいですね、とよく言われますが、もしそうなりたいなら、僕…

論文の書き方、サーベイの仕方、研究の進め方。#自然言語処理 #初心者 #学部生・修士生向け 

論文の書き方、サーベイの仕方、研究の進め方。 今までの学びを忘れないようにまとめてみます。 自分メモです。 論文の初めに、の書き方。 前の論文の構造をまるまんまパクれ。文章の意味だけをすり替えろ。 そして毎日やれ。スキルが確立するまでは。ピアノ…

モヤモヤ、停滞、を言葉に

うーーん、進みが激遅でモヤモヤする最近です。 inputとoutputをめちゃくちゃ早く回さないとなのに、全然できていない。 人より時間が取れないから、3倍ぐらいは頑張らないといけないのに。 このままじゃ9月までに実装一つをあげることができないぞっ ①多分…

日記;思うようにデータがうまく行かなくて焦る

思うように実験のためのデータが取れなくて、焦る。 でも、焦ってもいい結果は絶対出ない。焦ったら、何かが間違っている。 考え方なのか、計画なのか。それを見返す。 抽出部: ◽︎LFDA ◽︎AE?外部知識を利用したAE?ってなんだ、LFDA以外に抽出できるのあるの…

日記:えいや!と起きる。焦らず一つ一つ。

データが無くまたまた、日記。 とにかくブログを更新しないと気持ち悪くなるところまで、もっていきたい 。 LFDA、ダミーデータでやってみようかな。 コーヒーのせいか、寝起きが悪い。 コーヒーやめよう。 朝しかやる時間がないので、眠くても、 「今しかや…

日記

今日はデータが手元になくて何もできていないのでただの日記。 遺伝的アルゴリズムや、もう一つの手法としてのAE(オートエンコーダ)や論文読みなどをしてもいいかも。 最近誰ているので、色々徹底し直したい。 とにかく鬼速PDCAを完成させることに注力!

twiiterのデータと鬼速PDCA

夜更かししてしまい、体の調子が良くない。 ●●が終わるまで寝ない作戦をしようと思ったけど、 終わってないし、次の日すこぶる気分も体も調子悪いし、ダメ。 夜型、ダメ絶対。 土日の朝に予定を入れるルールを設けた。 twitterのデータは学習用に3対1に分…

twitterの文章に対してLFDA

今日からは、twitterのデータに対して、どういったトピックが検出されるかのLFDAを作る。 研究や仕事や生活に対して鬼速PDCAを回して見たい! やるぞー!

kearsを使ってmultiな入力と出力NN 7

続き kenkyuublog.hatenadiary.jp ダミーデータで動いた! 次はいよいよ本ちゃんのデータを入れたい。 データの整形の仕方とか忘れかけてるから、複数しないと、

kearsを使ってmultiな入力と出力NN 6

続き kenkyuublog.hatenadiary.jp ふむ。やっぱりディープなニューラルネットワークをやるのは楽しい。 泣きたくなるほど楽しい。 ピアノ弾いているときとちょっと似てる。 公式様のをぼちぼちやって見ているけれども、 https://keras.io/getting-started/fu…

kearsを使ってmultiな入力と出力NN 5

続き kenkyuublog.hatenadiary.jp お昼休みです。 まさかの公式発見。経験的に公式様は最強だと言うことを知っているので、これを元に作成していきたい。 https://keras.io/getting-started/functional-api-guide/#multi-input-and-multi-output-models 本当…

kearsを使ってmultiな入力と出力NN 4

続き kenkyuublog.hatenadiary.jp パスがあまりにも解けないので別サイト様のをやってみる。 複数の分類を出力するディープラーニング→ https://qiita.com/cvusk/items/1439c1c6dde160c48d13 たまたまこのサイト様のはjupyter使っているな。 せっかくだから…

kearsを使ってmultiな入力と出力NN 3

続き kenkyuublog.hatenadiary.jp 今日は、google Colaboratoryを友人さんに教えてもらった。 パスがあまりにも解けないので、これでやってみたい。 ノートかけるの面白い。 新しいものを使うのはワクワクする。

描きたい記事

描きたい記事、あります。 【本当に本当に初心者さんがpythonを始めるまで】 →実体験元に。もっと体系的にやれば早く習得できただろうなぁと。 【プログラミング初心者が、独力でtensorflowを使って対話システムを作るまで】 →自分の実体験。先生が深層学習…

自分でなければ救えない人。自分でなければ喜ばせられない人

最近、 「情報発信は「自分でなければ救えない人」のために行おう!」 と言う文面にえらくグッときた。 自分は、多分、初心者さんや素人さんに教えるのが好きだ。 人にパーソナライズ化して教えるのが好きだ。 www.facebook.com そう言うことをもっとしてい…

遺伝的アルゴリズム動いた

kenkyuublog.hatenadiary.jp 上の相対パスがうまくいかなすぎて、気分転換にpythonで遺伝的アルゴリズムを書いていた。 https://github.com/ChengHust/NSGA-II 最初、 for r in range(fit[(0, :)].size): の部分でエラーが出ていたが for r in range(fit[0, …

最近悩み事をしてだれていた。

kenkyuublog.hatenadiary.jp これ、まだできていない。 けど、明示的な相対インポートと、暗黙の相対インポートと、絶対なインポートと、あることがわかった。 色々とパスとかいじり倒して見たけど、うまくできない。 とにかく最近だれてきている。 この時間…

kearsを使ってmultiな入力と出力NN  2

続き kenkyuublog.hatenadiary.jp なかなか相対インポートエラーから抜け出せません。 ValueError: Attempted relative import in non-package これって、パッケージとして認識されていないと言うことなの?? それともパスがおかしいの? エラーはノートに…

kearsを使ってmultiな入力と出力NN

続き kenkyuublog.hatenadiary.jp File "/Users/apple/Desktop/01A-研究関連/11-multimodal/multiple/import_practice/my_package/mod2.py", line 1, in <module> from . import mod1 ValueError: Attempted relative import in non-package 相対パスのインポートが</module>…

始まりの10分と終わりの10分をすごく大事にする。

研究でも仕事でも生活でも 始まりの10分(主に計画) 終わりの10分’(反省とコンテキスト) 絶対の適当に始めない。適当に終わらない。

時間を4つに分ける。

時間を4つに分けて捉えることにした。 ①朝起きてから家を出る時間 2h30m (3:30ー6:00) ②朝電車の時間。50m ③お昼休み 45m ④帰り電車 30m これが私の平日研究に使える時間。 朝の見積もり取るときに、この時間に当てはめて行こうかな。 読書と英語…

LFDA用のwikidataの準備のプログラムがようやく終わった

LDAの進化版のLFDAを動かすために、wikipediaのデータを作るプログラムが終わった。 多分3日でできたものを、1週間ぐらいかかってしまった。 データができるまで、multipleNNと遺伝的アルゴリズムやりたい。

kearsを使ってみた。

複数の入力、複数の出力を行える学習をしたい。 けど、やり方がよくわからない。 ので、下記サイト様を参考にやってみようと思う。 https://www.st-hakky-blog.com/entry/2017/12/07/173928 chainerとtensorflowは使ったことあるけど、kearsは使ったことない…

連想11日目 

続き kenkyuublog.hatenadiary.jp 文章を 分散表現に変えて、書き込んだファイルを作る(下)、ということをしたいのだけども。 いかんせん、wikipediaの文章データ全てなので、容量が大きくていろいろ手こずる。 全然難しくないことなのに、4日近く使って…

とにかく毎日意地でもブログを書く

気分がのらなくても、 毎日必ずやると決めた時間に研究するし(電車の時間は研究以外しないっ!) (休日は17:00まで) 毎日同じもの食べるし 毎日同じ時間に寝て起きるし 毎日同じもの飲むし 毎日同じ音楽かけて研究する!!! 最近崩れてきてるから。 やら…

連想10日目

続き kenkyuublog.hatenadiary.jp 私事のいろいろでモチベーションがガクッと下がる。 せっかくのGWなのに、全然進まない。 連想をするための下データの準備、明日終わらせる! 日記とブログとを分けたい。

連想 9日目

続き kenkyuublog.hatenadiary.jp 複数の入力に対し、複数の回答を得れるようなシステムにしないと。 つまり、マルチモーダルをやる必要がある? 連装部プロトタイプ作成締め切りまであと8日

連装 8日目

続き kenkyuublog.hatenadiary.jp 学習データがまだ揃っていない状態なので、本格的な連装の学習はできない。 土日マシンがあるところで追い込みで学習データを作成する。 そこで、試しのデータセットで連装部を模索。まず、普通のNNをいじってみることにす…

連装 7日目

続き kenkyuublog.hatenadiary.jp 連装を学習させるための元データを用意しよう!と思い立つもそこが難航しそう、、、。 対話文短すぎて情報量少なくて、なかなか連想を取るのは難しい、、、 やっぱり連装というより特徴の方がいいのかな。 ウーーム。 先輩…