生物と機械の間(自然言語処理研究と徒然。DeepにLerning中)

自然言語処理研究@レベル1。「コンピュタと人間の相互理解を深める」を大きなテーマにしています。タスクは対話システム。分子生物学から興味が移動したため、生物と機械の間を探しています。生物をモデルにしたプログラムが好きです。

このブログについて

ーこのブログについてー 開始日:2017-8-6。 内容:日々の研究についての記録とアウトプット。日常の徒然。ライフハック。時々筋トレ(?)とか。 (分野:自然言語処理。機械学習。DeepLearning)。 ルール: 1日5分帰りの電車で、昨日より内容の濃いブロ…

kearsを使ってmultiな入力と出力NN  2

続き kenkyuublog.hatenadiary.jp なかなか相対インポートエラーから抜け出せません。 ValueError: Attempted relative import in non-package これって、パッケージとして認識されていないと言うことなの?? それともパスがおかしいの? エラーはノートに…

kearsを使ってmultiな入力と出力NN

続き kenkyuublog.hatenadiary.jp File "/Users/apple/Desktop/01A-研究関連/11-multimodal/multiple/import_practice/my_package/mod2.py", line 1, in <module> from . import mod1 ValueError: Attempted relative import in non-package 相対パスのインポートが</module>…

始まりの10分と終わりの10分をすごく大事にする。

研究でも仕事でも生活でも 始まりの10分(主に計画) 終わりの10分’(反省とコンテキスト) 絶対の適当に始めない。適当に終わらない。

時間を4つに分ける。

時間を4つに分けて捉えることにした。 ①朝起きてから家を出る時間 2h30m (3:30ー6:00) ②朝電車の時間。50m ③お昼休み 45m ④帰り電車 30m これが私の平日研究に使える時間。 朝の見積もり取るときに、この時間に当てはめて行こうかな。 読書と英語…

LFDA用のwikidataの準備のプログラムがようやく終わった

LDAの進化版のLFDAを動かすために、wikipediaのデータを作るプログラムが終わった。 多分3日でできたものを、1週間ぐらいかかってしまった。 データができるまで、multipleNNと遺伝的アルゴリズムやりたい。

kearsを使ってみた。

複数の入力、複数の出力を行える学習をしたい。 けど、やり方がよくわからない。 ので、下記サイト様を参考にやってみようと思う。 https://www.st-hakky-blog.com/entry/2017/12/07/173928 chainerとtensorflowは使ったことあるけど、kearsは使ったことない…

連想11日目 

続き kenkyuublog.hatenadiary.jp 文章を 分散表現に変えて、書き込んだファイルを作る(下)、ということをしたいのだけども。 いかんせん、wikipediaの文章データ全てなので、容量が大きくていろいろ手こずる。 全然難しくないことなのに、4日近く使って…

とにかく毎日意地でもブログを書く

気分がのらなくても、 毎日必ずやると決めた時間に研究するし(電車の時間は研究以外しないっ!) (休日は17:00まで) 毎日同じもの食べるし 毎日同じ時間に寝て起きるし 毎日同じもの飲むし 毎日同じ音楽かけて研究する!!! 最近崩れてきてるから。 やら…

連想10日目

続き kenkyuublog.hatenadiary.jp 私事のいろいろでモチベーションがガクッと下がる。 せっかくのGWなのに、全然進まない。 連想をするための下データの準備、明日終わらせる! 日記とブログとを分けたい。

連想 9日目

続き kenkyuublog.hatenadiary.jp 複数の入力に対し、複数の回答を得れるようなシステムにしないと。 つまり、マルチモーダルをやる必要がある? 連装部プロトタイプ作成締め切りまであと8日

連装 8日目

続き kenkyuublog.hatenadiary.jp 学習データがまだ揃っていない状態なので、本格的な連装の学習はできない。 土日マシンがあるところで追い込みで学習データを作成する。 そこで、試しのデータセットで連装部を模索。まず、普通のNNをいじってみることにす…

連装 7日目

続き kenkyuublog.hatenadiary.jp 連装を学習させるための元データを用意しよう!と思い立つもそこが難航しそう、、、。 対話文短すぎて情報量少なくて、なかなか連想を取るのは難しい、、、 やっぱり連装というより特徴の方がいいのかな。 ウーーム。 先輩…

連想 6日目

続き kenkyuublog.hatenadiary.jp 連想でGAを使ってみようと思うけれども、とにかく1つの評価関数になる 連想同士の関連性を実装したいが何をどうすればで難航。 普通のNNじゃダメなの?? NNの研究するにはコードをコピーしてそこから改変するだけじゃなく…

連想 5日目

続き kenkyuublog.hatenadiary.jp 提案手法が「小賢しい」ことにがっくりするも、 システムを作ってみることに。 ということで連想に戻る。 「手を動かしていた方が精神的に楽でしょ」 と言われるが、前ほど研究の結果とかに精神が辛くなくなった。 それは、…

スライド作成とプロトタイプ作成 7日目

続き kenkyuublog.hatenadiary.jp 研究のきも部分が「小賢しい」ことに気づく。 小賢しくない、本質のものを 参考研究調査に戻る。

スライド作成とプロトタイプ作成 6日目

kenkyuublog.hatenadiary.jp 続き 眠い 一回ヴァージョン2でさらにアップデート中 今日中に大和ラッセたかったが睡魔

すらいド作成とプロトタイプ作成 5日目

続き kenkyuublog.hatenadiary.jp 絶対明日中にスライドを完成させる。 忙しいほど捗るから不思議。 ルーティーン崩すと大変 土日もそこそこ朝に予定入れたい。

自分に呪をかける

土日仕事納めで疲れはて、「新年度いやいや〜〜、仕事いやいや〜〜」という大人にも関わらずいやいや期をやっていましたが、 いやいやしても何も良くはならないので、「最初が肝心!」とで気合い入れ直します。 自分に呪をかける。 京極夏彦の「言葉は呪いだ…

スライド作成とプロトタイプ作成 4日目

続き kenkyuublog.hatenadiary.jp 今週の土日はダメだった。 土日しかやるときがまとまってやる時間がないのに何をやっているのか。 原因は優先順位。 朝一で研究! スライドへの先生の指摘 「この手法がある場合とない場合との差がわからない」 毎週24時…

すらいド作成とプロトタイプ作成 3日目

続き kenkyuublog.hatenadiary.jp 3月末、お仕事とか送別会続きで 予定が乱れる。 1週間で24時間は絶対研究するって決めてるのに。 しっかりルーティーン守らなきゃ。 毎朝のエクセル起床記録 寝る前のブログ しっかりと! ガイダンスの練習もしなきゃ

スライド作成とプロトタイプ作成 2日目

続き kenkyuublog.hatenadiary.jp 全然進んでいないけれど、とにかく毎日書くことを目標に。 送別会などが続き、なかなか時間確保ができない。 そしてプロトタイプはやっぱりデータ問題に行き着く、 自分で対話データのまとめるより、ほかの人でまとめている…

スライド作成とプロトタイプ作成 1日目

めためたに言われたスライドを直し、またミニマムなデータでプロトタイプを今週中に何がなんでも完成させる、 今日中にスライドをざっくり完成させて、火、水でミニマムなデータで一連の流れのプロトタイプを作ってしまいたい。 スライドなかなか進まないけ…

連想 五日目

連想四日目の続き。連想と遺伝的アルゴリズムの参考はなんとなく揃ったので、よし、実装だ! と思ったが、ちょっと待てよ。と。 そもそも、連想の部分はステップ的には二番目。 システムの処理順で作るべきじゃないの、と。と、なると、ステップ1からやらな…

連想 4日目

続き kenkyuublog.hatenadiary.jp 遺伝的アルゴリズムを利用した、対話文中の話題語の連想語の選択を実行中。 今日中に、お試しに実装してみようと思ったけどなかなかに難しそう。 夜になってくると睡眠不足がたたって眠たくて集中できない。 でも、今日中に…

連想 3日目

続き kenkyuublog.hatenadiary.jp 「対話システムにおけるランダム性を考慮した話題展開手法(三上佳孝さん)」 の論文を大筋に、システムの連想部を組み込むことになりそう。 遺伝的アルゴリズム、ずっとやってみたかったからそれを使うことになりそうで嬉…

連想 2日目

続き kenkyuublog.hatenadiary.jp 連想の参考文献探し中 欲しいのは、今回はより良い関連性を出すところがオリジナリティではないので、 ・計算コストが高くなく ・そこそこの精度が出て ・割とメジャーな手法で ・計算コストがそんなに高くなく ・複数の連…

連想 1日目

人間の連想についてを再現するシステムの参考文献を捜索中。 また、それを再現したシステムを対話システムに組み込みたい。 だがしかし、連想のシステムでコード付の論文探せないなぁ。 なかなか海外文献のメジャーどころに辿りつけないl。 ものによっては、…

研究発表でされやすい指摘まとめ

●研究発表でされやすい指摘まとめ● 研究発表で、「こういうことが指摘されやすいのかな?」と思ったことをまとめてみました。 ・【もっとシンプルに】本当にその手法を用いる必要がある?他にもっと適した手法あるんじゃない?最新だから、とかじゃダメでし…

NLP2019まとめ(誤字チェックまだ)

NLP2019まとめ 幸い有給を頂きまして、自然言語処理学会2019(NLP2019)に行ってきました。 刺激的でめちゃくちゃ楽しかった! ●目的● 今回の学会での目的は以下でした。 ①自分の研究のポジションを知る。 ②NN(ニューラルネット)対話の研究の基礎的情報…