(整理予定)言語処理道一合目

対話システム・言語処理についてぼちぼち頑張るブログ

このブログについて

〜このブログについて〜言語処理をぴよぴよ初歩から頑張る記録です。言語処理が好きすぎて、非情報系(正しくは生物と情報の融合分野)から、情報系の大学院大学に入りました。 色々昔すぎるので、改修予定です! テーマは対話システムです。

はじめてのろんぶんし

「はじめてのおつかい」風にタイトルを書きたかったのだが、ただただ幼稚な感じになってしまった。 この前、初めて論文誌に投稿したので、その反省と備忘録を記す。 〇全体としての反省〇 まず、全体としての大きな反省は、諸々やる手順を間違って時間を無駄…

毎週日曜のGNN🍵:つぶやき ChebNetとかGCNとか理解したい

R-GCNのよく見る式の理解は理解しているつもりだけど、 そのバックグラウンドになっているChebNetとかGCNの細かい式を理解していない。 電車時間をGNN時間としているが、今週中には理解したい

つぶやき:文献のグラフcore使いたい

文献のグラフcore使いたいけど、いまいち使い方、また、元サイトのどこに最新版があってひっぱってこれるのかがわからない

毎週日曜のGNN🍵:つぶやき 属性とラベルについてをイジイジしてます.

属性とラベルについてイジイジしていましたが,ラベルの方はシンプルにノード分類タスクにおける正解ラベルのことを差し, 属性については,そのノードの属性で本当にそのデータセットごとに様々に定義されるので,データセットの説明を見るのが一番よいのか…

小話:GNNの種類について

先週は理論をちまちまとやっており、エンベディングの手法をさっと見直したので、投稿します。 グラフのエンベディング DeepWalk 言語モデルの考え方を採用していて面白い! LINE node2vec GraRep 情報量がまるでない、、、 もう少し詳しく、論文とか読みた…

毎週日曜のGNN🍵:つぶやき 属性とラベルについてをイジイジしてます.

文献のデータセットであるCoreデータセットをいじってみてますが,よくわかってません. 属性とラベルがどのようになっているのかを理解すべくいじいじしています. 有用な記事ではないですが,とにかく毎週日曜日はつぶやきでいいから続ける!という方針で…

GNN実装・超入門 -小話:有効グラフと無効グラフの定義-

最近GNNに惹かれてます. 現在も,自分のシステムの機構の一部にR-GCNを使っているのですが,きちんと理解しようと以下で勉強し直しています. ・グラフニューラルネットワーク: PyTorchによる実装 https://amzn.asia/d/aCG2SGY ・PyG公式ドキュメント pytor…

私はアホだから。

私はアホだから、効率よくやるための戦略と手法についてを考え続ける。ありとあらゆる手段をなんだってやる。 もう二度とあんな失敗はしたない。 繰り返したくない。研究に、数学に、英語に、数学に、コードに全てをかける前回の失敗はトライエラーあまりに…

本当にこのままじゃダメだなぁと思う。

ようやく手にした2年間のチャンス。このままだと絶対にダメだなぁと思う。何もかもが遅すぎるし効率が悪すぎるのがダメだ。 本当に遅すぎるし、効率が悪すぎるし、戦略なさすぎるしもっと早く効率よくするにはどうしたらいいのかちゃんと考えろ。 工夫して…

強制力をうまく使おう

結局辛いこと、えっちらほっちら頑張らんと何も身につかんから授業の強制力を利用すべし!①授業の履修登録をする→やらないとGPAが下がる危機感 ②授業はリアルが一番捗る→リアルの先生の前でやることで、緊張感。やっぱりネット授業だとなんか身につかんなぁ…

■やること・やらないことリスト■

■やること・やらないことリスト■ 目的:研究 私の目的は研究すること、私はアホだからその一点に特化する。 方針: ・研究、数学、英語、コード力 以外は全て排除!徹底排除!削除削除削除おおおおおお! ・真面目にやらない ・無駄に半分真面目だから、超絶…

学習スピードの最適解

学習環境の最適解は見つけたけど、学習速度の最適解を見つけねばと思う 本当遅い。 学習環境、 候補、 1横着しないで丁寧にやる 2サイトを乱読 3本を乱読 4それでも分からなかったら人に聞く とにかくスピード重視!!!!!!

学習環境の最適解

自分なりの学習環境の最適解は オンライン自習室 + 快適な自室が最強なぜなら自室だと、・【大事!】好きな時間に仮眠ができる・勉強する前に疲れない・朝の時間を全部勉強に投入できる・リラックスできる・好きに飲み物や食べ物を食べられる

スピードが遅すぎる。

本当にスピード遅すぎ、天才というわけでもないし、努力してきた量も少ないし、なのにできることやらないとか、作業遅すぎるとかふざけているのか?という感じである。コツは、一定作業時間に対する仮眠!!! これがゾーンに入るキーに大抵なっている!!!…

ほんっとうに遅すぎる!!!!

何もかもが本当遅すぎる!!! きちんと時間計って、この時間にきちんと絶対にやる意識!!!!! 研究も課題も遅すぎる〜〜〜〜〜!!!!!!!!!

5月の本

5月の本 憧れのLilianさんみたいに、 一週間で一冊とかやってみたいけど 2週間で一冊をめざして

自分に勉強の最適化を目指して

今での経験からの勉強効率最適化ルール 【勉強効率】①同じ時間に寝て、同じ時間に起きる。10:00寝4:00時起きが理想。②SNSで目標や今日やったことを宣言。とにかく言葉にする。③モチベが何よりも大事。腹くくれるような目標を決めて、目に見えるところにあち…

圧倒的に遅くて効率悪くて要領悪くてこのままじゃだめだってわかってて

だめだ、と思う圧倒的に遅くて効率悪くて要領悪くてこのままじゃだめだってわかってて数学、英語、プログラム、どれもためだってわかってるのに、人と同じやり方じゃ絶対にだめ普通のやり方じゃだめなのに普通以下めいいっぱいのばして、戦略的にやらなきゃ

お家か図書館でのほのほやっていた方が他人と気にせずマイペースにできて良い

お家か図書館でのほのほやっていた方が他人と気にせずマイペースにできて良い。でも、人と喋るのが楽しかったり学びになったりすることもある。バランス大事。多分週の半分は在宅勤務のバランスがちょうどいい。 自分は家でマイペースにやる方が多分捗るタイ…

戦略:課題はパパッとやって、基礎固めをしなくちゃ

課題をやっても、概要を知れるだけで、基礎「固め」にはならない。課題は軽くやって、基礎固めにもっと時間を割きたい。 1課題の目標時間は2時間まで! 朝の貴重な時間は基礎固めや研究を先にやって日中は課題!!このスタンス絶対に崩すな!

劣等感に包まれて、自分を見失いかけた話

NAISTに入学しましたが、色々と周りが優秀すぎて、劣等感に包まれて自分を見失いかけました。一度、メンタルブレイクをしましたが、バスロマンと、半額パック寿司の導入でなんとか立て直しました。 人の目を気にしてしまったり、自分で考えて物事を判断せず…

2021-04-28 勉強ノート フーリエ変換

フーリエ変換について安定のヨビノリ + マセマの線形代数など(直行行列など) www.youtube.com

とにかく、どんな問題も、プログラムという表現に置き換える

プログラムや数学というのは多分、使わんとできんくなる。だから、いかなる問題も、学校から出た課題も、数学の問題も問題をアルゴリズムや数式に変え、プログラムに変えるよう心がける。

読んだ論文メモを共有

■■階層型のナレッジデータベースについて■■ User Interests Identification on Twitter Using a Hierarchical Knowledge Base May 2014 DOI: 10.1007/978-3-319-07443-6_8 Conference: 11th Extended Semantic Web Conference ■■エンティティリンキング系を…

日々のブログ

もの捨てたい。 コロナで、なるべく家にいると、自分の部屋ってもの多いなぁ、頭の中ごちゃごちゃするなぁってふいに嫌になる。 勉強の休憩時間に、断捨離を決行する。 目指せ、身軽なシンプルライフ! 来年の1月までには、本の中の暮らしみたいな、シンプル…

スモールステップ

一日一論文まとめたい。 と宣言したが、色々私事で思うことがあって一回ストップ。覚悟が決まるまで、次のステップには進まない。お仕事も年末で頑張りすぎて、ダウンしていたし。 人から疲れてるよ、とか顔死んでるよ、とか言われてたから、休むべきと学習…

【論文読み】Emotional Chatting Machine: Emotional Conversation Generation with Internal and External Memory(AAAI -2018)

どんなもの? 雑談型対話システムに感情を組み込むことでより豊かな応答をしようと言うシステム。 下記3つの機構で感情を制御 ①Emotion Category Embedding ②Internal Memory ③External Memory 先行研究と比べてどこがすごい? 先行研究には、下記3点の問…

論文読み:Interaction-Aware Topic Model for Microblog Conversations through Network Embedding and User Attention(COLING2018)

どんな研究? 読み途中 ・対話文から、話題の推定。

論文読み: Diversity-Promoting Objective Function for Neural Conversation Models(2015)

どんなもの? タスクは、応答の多様性が低い問題の解決に挑む。 seq2seqの目的関数をいじり、モデルの学習の際、良く使われる応答を生成しようとすると、ペナルティを与えるような目的関数を設定した(MMI)。 To the best of our knowledge, this paper rep…