(整理予定)言語処理道一合目

対話システム・言語処理についてぼちぼち頑張るブログ

読んだ論文メモを共有

■■階層型のナレッジデータベースについて■■

 

User Interests Identification on Twitter Using a Hierarchical Knowledge Base

  • May 2014

DOI: 10.1007/978-3-319-07443-6_8

■■エンティティリンキング系をまとめた、論文について■■

 

自分の必要とする研究が最先端だとどの程度までいっているのか把握する。
必要なのは「学術用語と一般の用語のリンキング」と「相手に掘り下げるような動きをする対話システム」がどの程度まで、現在の研究で進んでいるのかを把握すること。

 

学術用語と一般の用語のリンキングの研究
学術文献の論理的・意味的構造の解析による知識の獲得と利用(相沢ラボラトリー)

http://www-al.nii.ac.jp/ja/scipaper/

語構造の解析と共参照関係の解析: 既存の エンティティリンキングの多くは固有表現 を対象としているためリンク先の項目につ いて階層性を考慮する必要がないが、専門用 語は概念体系の中に位置づけられるもので あることから、リンキングにおいて抽象的な 概念に対応する必要があることが判明した。 そこで、収集した専門用語データベースを利 用して、専門用語の語構造を統計的に解析す る手法を確立し、共参照関係の抽出に活用し た。 

中でも文章中の概念や事物の名前を外部知識に結びつける「エンティティ・リンキング」は、知識獲得に必須の技術として近年注目を集めています。しかし、現在のリンキング・システムの大半は人物名などの固有表現を想定するもので、知識の体系化に役立つ抽象的な概念は対象となっていません。そこで本プロジェクトでは、個々のドメインを特徴付ける「専門用語」に焦点をあて、専門用語を外部知識源に結びつけるための用語正規化、辞書構築、用語翻訳、語義あいまい性解消技術の研究を進めています。

 

各種ツール
http://www-al.nii.ac.jp/ja/resources/

 

 Math-Word Embedding in the Math Search and Semantic Extraction

A Neural Approach for Detecting Inline Mathematical Expressions from Scientific Document

・古川竜也; 相良毅; 相澤彰子. 言語横断エンティティリンキングのための語義曖昧性解消情報知識学会誌, 2014, 24.2: 172-177.
学術用語に絞って英語に結びつけてエンティティリンキングを行う。その際に語義曖昧性を解消しようとするような試みだ。なるほど、まず、エンティティリンキングをする前に語義曖昧性を解消しようということだな。


・要素技術とその効果を用いた学術論文の自動分類


■■
エンティティリンキングについて■■

https://note.com/tamiyamoto/n/nf51f3bce89a8

エンティティリンキングによる単語への概念付与
https://qiita.com/Naotaka_Kawata/items/c483fe2e20b1c5032bad

ふうむエンティティリンキングってもっとすごいの想像していたけど、固有表現認識と語義曖昧性とかなんだな、
でも相沢先生のサイトに載っていたエンティティリンキングって、もっと抽象的なものの気がするなぁ。
あの論文のエンティティリンキングってなんだろう。

 



レコメンドシステムもなんか種類が大きく分けてあったし、レコメンドシステム系の学会もなんかあったなACMの中でだっけ

協調フィルタリング(ユーザーの行動履歴の類似性)とかだっけな。

 C. Nishioka and H. Ogata. Research Paper Recom- mender System for University Students on the E-Book System. In ACM/IEEE on Joint Conference on Digital Libraries (JCDL), pages 369–370. ACM, 2018.
ふむ、京都大学の授業と紐づけてやる対話システムかぁ。やっぱり需要は高いからもう結構実装されているんんだなぁ

【論文の推薦系列挙】
Research paper recommender systems: A Literature Survey(2016)

ここ、過去の論文推薦システムをとにかく列挙している感じか(これは綺麗にまとまっていてありがたいのでぜひ読もう!)

 



イントロだけ読む論文リストと一言感想(◯分)

・ 論文リポジトリに基づく研究支援のための対話的ユーザモデル構築手法の提案(Papits)

対話システムではないが、初学者を対象としている目的は一緒
http://www-toralab.ics.nitech.ac.jp/research/past/2002/papits/index-j.html

 

・神奈川工業大学のwatosonを用いた研究支援システム 

 

・対話システム関係なく。レコメンドシステムの基本文脈もさらわないとな
これから推薦システムを作る方向けの推薦システム入門
https://note.com/masa_kazama/n/n586d0e2d49d2


・学術論文系のレコメンドシステム徹底的にリサーチしたいなぁ

 

Towards Knowledge-Based Recommender Dialog Systemの参考文献より(エンティティリンキングと文脈を考えた系の論文多いな)--------------------------------------------------------------------
Li Chen and Pearl Pu. 2012. Critiquing-based recom- menders: survey and emerging trends. User Mod- eling and User-Adapted Interaction, 22(1-2):125– 150. 

レコメンドシステムの種類を分けて紹介するもの

 

Katy Hofmann. 2016. Towards conversational rec- ommender systems. In Proceedings of the 22nd ACM SIGKDD international conference on knowl- edge discovery and data mining, pages 815–824. ACM. 

好みを引き出すための対話システム!これ私がやりたいのに近いな。あとで詳しく見てみよう。これ多分引用している論文とか掘り下げていけば、この研究の文脈が見つかるはず。

 

Harm De Vries, Florian Strub, Sarath Chandar, Olivier Pietquin, Hugo Larochelle, and Aaron Courville. 2017. Guesswhat?! visual object discovery through multi-modal dialogue. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recog- nition, pages 5503–5512. 

Guess what? (ねぇ、聞いて!)」はなんかそういゲームがあるらし。それで、対話システムの推測能力の可能性を探るだとか。ああ、画像のやつに対して、これなんですか?という質問に答える系の対話システムか

 

 

★Towards deep conversational recommenda- tions.(2018)

→Towards Knowledge-Based Recommender Dialog System(2019)の評価に使っているデータセット
REDIALを提案している論文() 

 
★Lizi Liao, Ryuichi Takanobu, Yunshan Ma, Xun Yang, Minlie Huang, and Tat-Seng Chua. 2019. Deep conversational recommender in travel. CoRR, abs/1907.00710. 

旅行箇所を推薦している論文。CNNで旅行地の関係などをリンキング

 

★Tariq Mahmood and Francesco Ricci. 2009. Improv- ing recommender systems with adaptive conversa- tional strategies. In Proceedings of the 20th ACM conference on Hypertext and hypermedia, pages 73– 82. ACM. 

後でもういっかい読む。レコメンドシステムの会話単純すぎるから、対話の戦略的なシナリオ作りましたってことかな。うーん?見てみたけど、ちょっとよくわからないな、大抵図を見ればわかるんだけどな


★Hongwei Wang, Fuzheng Zhang, Jialin Wang, Miao Zhao, Wenjie Li, Xing Xie, and Minyi Guo. 2018a. Ripplenet: Propagating user preferences on the knowledge graph for recommender systems. In Pro- ceedings of the 27th ACM International Conference on Information and Knowledge Management, pages 417–426. ACM. 

 

★Rex Ying, Ruining He, Kaifeng Chen, Pong Eksombat- chai, William L Hamilton, and Jure Leskovec. 2018. Graph convolutional neural networks for web-scale recommender systems. In Proceedings of the 24th ACM SIGKDD International Conference on Knowl- edge Discovery & Data Mining, pages 974–983. ACM.
グラフ型の対話システム。ふむふむ。最近はグラフがたの対話システム盛んだったけど、グラフで扱えるデータ量もっとめちゃくちゃ大きくした方がいいよねって話か。昔はグラフ型でなかったのか。リコメンド系わかってないからなー。リコメンド系のシステムについてまとめたの見るべきかも

 

Cynthia A Thompson, Mehmet H Goker, and Pat Lang- ley. 2004. A personalized system for conversational recommendations. Journal of Artificial Intelligence Research, 21:393–428 

ふむふむ200件も引用されているということ、結構元祖な論文なのかな?personal化と対話の対話システムを合わせた推薦システム。

Dwi H Widyantoro and ZKA Baizal. 2014. A frame- work of conversational recommender system based on user functional requirements. In 2014 2nd inter- national conference on information and communi- cation technology (ICoICT), pages 160–165. IEEE. 

顧客にいい製品を推薦するには、本当にその顧客が何をしたいのかを問いかけることが早いし、製品をオススメするのに大事。

 

Xiao Yu, Xiang Ren, Yizhou Sun, Quanquan Gu, Bradley Sturt, Urvashi Khandelwal, Brandon Norick, and Jiawei Han. 2014. Personalized entity recommendation: A heterogeneous information net- work approach. In Proceedings of the 7th ACM in- ternational conference on Web search and data min- ing, pages 283–292. ACM. 

エンティティリンキング、での推薦色々と詳しいなぁ。うまく理解できないけど、エンティティリンキンぐに推薦は、関係性を考慮できていいんだな。ということがわかったぞ。

 

Fuzheng Zhang, Nicholas Jing Yuan, Defu Lian, Xing Xie, and Wei-Ying Ma. 2016. Collaborative knowl- edge base embedding for recommender systems. In Proceedings of the 22nd ACM SIGKDD interna- tional conference on knowledge discovery and data mining, pages 353–362. ACM. 

ふむ、なんだかわからないけど、これもエンティティ系の研究。コラボレーションだから、テキストとか写真とかとコラボレーションしているんだな、

Yongfeng Zhang, Guokun Lai, Min Zhang, Yi Zhang, Yiqun Liu, and Shaoping Ma. 2014. Explicit fac- tor models for explainable recommendation based on phrase-level sentiment analysis. In Proceedings of the 37th international ACM SIGIR conference on Research & development in information retrieval, pages 83–92. ACM. 

強調フィルタリング。うむ、やったな、なんだっけ推薦システムの主な手法は

 

Dwi H Widyantoro and ZKA Baizal. 2014. A frame- work of conversational recommender system based on user functional requirements. In 2014 2nd inter- national conference on information and communi- cation technology (ICoICT), pages 160–165. IEEE. 

ふむ、システムの特徴的なの系

 

Rex Ying, Ruining He, Kaifeng Chen, Pong Eksombat- chai, William L Hamilton, and Jure Leskovec. 2018. cACM SIGKDD International Conference on Knowl- edge Discovery & Data Mining, pages 974–983. ACM.
 

 

Xiao Yu, Xiang Ren, Yizhou Sun, Quanquan Gu, Bradley Sturt, Urvashi Khandelwal, Brandon Norick, and Jiawei Han. 2014. Personalized entity recommendation: A heterogeneous information net- work approach. In Proceedings of the 7th ACM in- ternational conference on Web search and data min- ing, pages 283–292. ACM. 

 

Fuzheng Zhang, Nicholas Jing Yuan, Defu Lian, Xing Xie, and Wei-Ying Ma. 2016. Collaborative knowl- edge base embedding for recommender systems. In Proceedings of the 22nd ACM SIGKDD interna- tional conference on knowledge discovery and data mining, pages 353–362. ACM. 

 

■■論文列挙まとめてみた■■
●pickUP
(面白かった。もしくは精読しようと考えているもの)

^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

Towards Knowledge-Based Recommender Dialog System†Qibin Chen1, Junyang Lin2, Yichang Zhang2, Ming Ding1, Yukuo Cen1, Hongxia Yang2, Jie Tang1 1Department of Computer Science and Technology, Tsinghua University2DAMO Academy, Alibaba Group(ACL2019))

 

・金子稜, et al. "話題を考慮した自然な会話システムの構築." 研究報告知能システム (ICS) 2016.2 (2016): 1-8.

どういう応答をすれば話題を掘り下げられるかの記述がある

 

Know More about Each Other: Evolving Dialogue Strategy via Compound AssessmentSiqi Bao, Huang He, Fan Wang, Rongzhong Lian and Hua Wu Baidu Inc., China)(ACL2019)


Research paper recommender systems: A Literature Survey

今までのレコメンドシステム系のまとめ論文

 

 

 

以下雑記^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^

 


■■
エンティティリンキングについて■■

https://note.com/tamiyamoto/n/nf51f3bce89a8

エンティティリンキングによる単語への概念付与
https://qiita.com/Naotaka_Kawata/items/c483fe2e20b1c5032bad

ふうむエンティティリンキングってもっとすごいの想像していたけど、固有表現認識と語義曖昧性とかなんだな、
でも相沢先生のサイトに載っていたエンティティリンキングって、もっと抽象的なものの気がするなぁ。
あの論文のエンティティリンキングってなんだろう。

 



レコメンドシステムもなんか種類が大きく分けてあったし、レコメンドシステム系の学会もなんかあったなACMの中でだっけ

協調フィルタリング(ユーザーの行動履歴の類似性)とかだっけな。

 C. Nishioka and H. Ogata. Research Paper Recom- mender System for University Students on the E-Book System. In ACM/IEEE on Joint Conference on Digital Libraries (JCDL), pages 369–370. ACM, 2018.
ふむ、京都大学の授業と紐づけてやる対話システムかぁ。やっぱり需要は高いからもう結構実装されているんんだなぁ

【論文の推薦系列挙】
Research paper recommender systems: A Literature Survey

ここ、過去の論文推薦システムをとにかく列挙している感じか(これは綺麗にまとまっていてありがたいのでぜひ読もう!)

 



イントロだけ読む論文リストと一言感想(◯分)

 論文リポジトリに基づく研究支援のための対話的ユーザモデル構築手法の提案(Papits)

対話システムではないが、初学者を対象としている目的は一緒
http://www-toralab.ics.nitech.ac.jp/research/past/2002/papits/index-j.html

 

・神奈川工業大学のwatosonを用いた研究支援システム 

 

・対話システム関係なく。レコメンドシステムの基本文脈もさらわないとな
これから推薦システムを作る方向けの推薦システム入門
https://note.com/masa_kazama/n/n586d0e2d49d2


・学術論文系のレコメンドシステム徹底的にリサーチしたいなぁ

 

Towards Knowledge-Based Recommender Dialog Systemの参考文献より(エンティティリンキングと文脈を考えた系の論文多いな)--------------------------------------------------------------------
Li Chen and Pearl Pu. 2012. Critiquing-based recom- menders: survey and emerging trends. User Mod- eling and User-Adapted Interaction, 22(1-2):125– 150. 

レコメンドシステムの種類を分けて紹介するもの

 

Katy Hofmann. 2016. Towards conversational rec- ommender systems. In Proceedings of the 22nd ACM SIGKDD international conference on knowl- edge discovery and data mining, pages 815–824. ACM

好みを引き出すための対話システム!これ私がやりたいのに近いな。あとで詳しく見てみよう。これ多分引用している論文とか掘り下げていけば、この研究の文脈が見つかるはず。

 

Harm De Vries, Florian Strub, Sarath Chandar, Olivier Pietquin, Hugo Larochelle, and Aaron Courville. 2017. Guesswhat?! visual object discovery through multi-modal dialogue. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recog- nition, pages 5503–5512. 

Guess what? (ねぇ、聞いて!)」はなんかそういゲームがあるらし。それで、対話システムの推測能力の可能性を探るだとか。ああ、画像のやつに対して、これなんですか?という質問に答える系の対話システムか

 

 

★Towards deep conversational recommenda- tions.(2018)

→Towards Knowledge-Based Recommender Dialog System(2019)の評価に使っているデータセット
REDIALを提案している論文() 

 
★Lizi Liao, Ryuichi Takanobu, Yunshan Ma, Xun Yang, Minlie Huang, and Tat-Seng Chua. 2019. Deep conversational recommender in travel. CoRR, abs/1907.00710. 

旅行箇所を推薦している論文。CNNで旅行地の関係などをリンキング

 

★Tariq Mahmood and Francesco Ricci. 2009. Improv- ing recommender systems with adaptive conversa- tional strategies. In Proceedings of the 20th ACM conference on Hypertext and hypermedia, pages 73– 82. ACM

後でもういっかい読む。レコメンドシステムの会話単純すぎるから、対話の戦略的なシナリオ作りましたってことかな。うーん?見てみたけど、ちょっとよくわからないな、大抵図を見ればわかるんだけどな


★Hongwei Wang, Fuzheng Zhang, Jialin Wang, Miao Zhao, Wenjie Li, Xing Xie, and Minyi Guo. 2018a. Ripplenet: Propagating user preferences on the knowledge graph for recommender systems. In Pro- ceedings of the 27th ACM International Conference on Information and Knowledge Management, pages 417–426. ACM

 

★Rex Ying, Ruining He, Kaifeng Chen, Pong Eksombat- chai, William L Hamilton, and Jure Leskovec. 2018. Graph convolutional neural networks for web-scale recommender systems. In Proceedings of the 24th ACM SIGKDD International Conference on Knowl- edge Discovery & Data Mining, pages 974–983. ACM.
グラフ型の対話システム。ふむふむ。最近はグラフがたの対話システム盛んだったけど、グラフで扱えるデータ量もっとめちゃくちゃ大きくした方がいいよねって話か。昔はグラフ型でなかったのか。リコメンド系わかってないからなー。リコメンド系のシステムについてまとめたの見るべきかも

 

Cynthia A Thompson, Mehmet H Goker, and Pat Lang- ley. 2004. A personalized system for conversational recommendations. Journal of Artificial Intelligence Research, 21:393–428 

ふむふむ200件も引用されているということ、結構元祖な論文なのかな?personal化と対話の対話システムを合わせた推薦システム。

Dwi H Widyantoro and ZKA Baizal. 2014. A frame- work of conversational recommender system based on user functional requirements. In 2014 2nd inter- national conference on information and communi- cation technology (ICoICT), pages 160–165. IEEE

顧客にいい製品を推薦するには、本当にその顧客が何をしたいのかを問いかけることが早いし、製品をオススメするのに大事。

 

Xiao Yu, Xiang Ren, Yizhou Sun, Quanquan Gu, Bradley Sturt, Urvashi Khandelwal, Brandon Norick, and Jiawei Han. 2014. Personalized entity recommendation: A heterogeneous information net- work approach. In Proceedings of the 7th ACM in- ternational conference on Web search and data min- ing, pages 283–292. ACM

エンティティリンキング、での推薦色々と詳しいなぁ。うまく理解できないけど、エンティティリンキンぐに推薦は、関係性を考慮できていいんだな。ということがわかったぞ。

 

Fuzheng Zhang, Nicholas Jing Yuan, Defu Lian, Xing Xie, and Wei-Ying Ma. 2016. Collaborative knowl- edge base embedding for recommender systems. In Proceedings of the 22nd ACM SIGKDD interna- tional conference on knowledge discovery and data mining, pages 353–362. ACM

ふむ、なんだかわからないけど、これもエンティティ系の研究。コラボレーションだから、テキストとか写真とかとコラボレーションしているんだな、

Yongfeng Zhang, Guokun Lai, Min Zhang, Yi Zhang, Yiqun Liu, and Shaoping Ma. 2014. Explicit fac- tor models for explainable recommendation based on phrase-level sentiment analysis. In Proceedings of the 37th international ACM SIGIR conference on Research & development in information retrieval, pages 83–92. ACM

強調フィルタリング。うむ、やったな、なんだっけ推薦システムの主な手法は

 

Dwi H Widyantoro and ZKA Baizal. 2014. A frame- work of conversational recommender system based on user functional requirements. In 2014 2nd inter- national conference on information and communi- cation technology (ICoICT), pages 160–165. IEEE

ふむ、システムの特徴的なの系

 

Rex Ying, Ruining He, Kaifeng Chen, Pong Eksombat- chai, William L Hamilton, and Jure Leskovec. 2018. cACM SIGKDD International Conference on Knowl- edge Discovery & Data Mining, pages 974–983. ACM.
→ 

 

Xiao Yu, Xiang Ren, Yizhou Sun, Quanquan Gu, Bradley Sturt, Urvashi Khandelwal, Brandon Norick, and Jiawei Han. 2014. Personalized entity recommendation: A heterogeneous information net- work approach. In Proceedings of the 7th ACM in- ternational conference on Web search and data min- ing, pages 283–292. ACM

 

Fuzheng Zhang, Nicholas Jing Yuan, Defu Lian, Xing Xie, and Wei-Ying Ma. 2016. Collaborative knowl- edge base embedding for recommender systems. In Proceedings of the 22nd ACM SIGKDD interna- tional conference on knowledge discovery and data mining, pages 353–362. ACM

 

学術用語と一般の用語のリンキングの研究
学術文献の論理的・意味的構造の解析による知識の獲得と利用(相沢ラボラトリー)

http://www-al.nii.ac.jp/ja/scipaper/

語構造の解析と共参照関係の解析既存の エンティティリンキングの多くは固有表現 を対象としているためリンク先の項目につ いて階層性を考慮する必要がないが、専門用 語は概念体系の中に位置づけられるもので あることから、リンキングにおいて抽象的な 概念に対応する必要があることが判明した。 そこで、収集した専門用語データベースを利 用して、専門用語の語構造を統計的に解析す る手法を確立し、共参照関係の抽出に活用し た。 

中でも文章中の概念や事物の名前を外部知識に結びつける「エンティティ・リンキング」は、知識獲得に必須の技術として近年注目を集めています。しかし、現在のリンキング・システムの大半は人物名などの固有表現を想定するもので、知識の体系化に役立つ抽象的な概念は対象となっていません。そこで本プロジェクトでは、個々のドメインを特徴付ける「専門用語」に焦点をあて、専門用語を外部知識源に結びつけるための用語正規化、辞書構築、用語翻訳、語義あいまい性解消技術の研究を進めています。

 

各種ツール
http://www-al.nii.ac.jp/ja/resources/

 

 Math-Word Embedding in the Math Search and Semantic Extraction

A Neural Approach for Detecting Inline Mathematical Expressions from Scientific Document

・古川竜也; 相良毅; 相澤彰子言語横断エンティティリンキングのための語義曖昧性解消情報知識学会誌, 2014, 24.2: 172-177.
学術用語に絞って英語に結びつけてエンティティリンキングを行う。その際に語義曖昧性を解消しようとするような試みだ。なるほど、まず、エンティティリンキングをする前に語義曖昧性を解消しようということだな。


・要素技術とその効果を用いた学術論文の自動分類

■■階層型のナレッジデータベースについて■■

 

User Interests Identification on Twitter Using a Hierarchical Knowledge BaseMay 2014DOI: 10.1007/978-3-319-07443-6_8Conference: 11th Extended Semantic Web Conference

■■相手の興味を対話履歴から把握するための論文■■

ニューラルネットワークを用いた雑談対話からのユーザの興味推定稲葉通将 高橋健一 人口知能処理学会 2019 34巻2号
目的とするのは同じニューラルネットワークで相手の興味に合わせて対話をすることだけど、その前に興味を推定することが大事だよね~~~と確か書いていた。

 

Collection of Multimodal Dialog Data and Analysis of the Result of Annotation of Users Interest LevelACL2019

・マルチモーダル対話データの収集と興味判定アノテーションの分析

 

Interaction-Aware Topic Model for Microblog Conversations through Network Embedding and User Attention

 

Do Neural Dialog Systems Use the Conversation History Effectively? An Empirical StudyACL2019

 

User Interests Identification on Twitter Using a Hierarchical Knowledge Base

対話じゃないけど、ユーザーの興味推定

 

Estimating User Interest from Open-Domain Dialogue


■■
相手の興味を広げるような論文。というかバラエティ豊かな応答をできる論文系統でもいいか■■

大きな意味で話題を広げるとかでもいいかな。とりあえず今、

 

 

Know More about Each Other: Evolving Dialogue Strategy via Compound Assessment

うん、これは、お互いに知らないを知ろうねってことで大事だよね

 

・対話システムにおけるランダム性を考慮した話題展開手法(三上佳孝)

遺伝的アルゴリズムを利用した話題展開手法

好きなやつだ。このランダム感が好きだ。

Rich Short Text Conversation Using Semantic Key Controlled Sequence GenerationIEEE-2018
これも、少し話題を広げるとは違うけど、この応答が出しやすい

 

A Knowledge-Grounded Neural Conversation ModelGeneration(2017)(マイクロソフト

 


■■相手の興味を掘り下げるような論文■■
相手の興味を掘り下げる論文って、広義の意味で行くと、相手のトピックに合わせた応答を出すということなのか? 話題を掘り下げる会話ってなんだ?

Automatic Generation of Personalized Comment Based on User ProfileACL2019
ユーザーの興味を掘り下げるとは少し違うけれども、相手のユーザーのプロフィールからパーソナル化して、コメントを生成する対話システム。なるほどな。ユーザーの対話推定が難しければ、最初にこういうプロフィールベースで相手の興味を把握しておくのもありかな。

Generating dialog recommendations for chat information systems based on user interaction and environmental data

Persuasion for Good: Towards a Personalized Persuasive Dialogue System for Social Good



■■
なるほど、話題を広げたり、掘り下げたりする手法のフレームの手法■■
このフレームを使った対話は昔から行われているから、かなり論文量ありそうだ。というかDTCうんちゃらチャレンジってまさにここ系の論文なのかな?

★●Dialog State Tracking Challenge DSTH)とかか。
DSTHとは(DSTHについてもっと学ばないとな)

https://www.ai-shift.co.jp/techblog/1197

MULTI-DOMAIN TASK-ORIENTED DIALOG CHALLENGE II
Task1: Multi-domain Dialog State Tracking

これのDSTCの研究はどこの、あの状態遷移系の研究もっと見たいな~~~

 


現在、タスク指向対話の主流なアプローチは2種類あります。

パイプラインアーキテクチャ:
Natural Language Understanding(NLU)モジュール
Dialog State Tracker(DST)モジュール
policyモジュール
Natural Language Generation(NLG)モジュール
など、それぞれ役割を持ったモジュールを組み合わせるアプローチ

●End-to-End:
ユーザの発話からシステムの発話生成をEnd-to-Endで行うアプローチ

MULTI-DOMAIN TASK-ORIENTED DIALOG CHALLENGE IIでは、2つのtaskがあります。

  • Multi-domain Dialog State Tracking
  • Multi-domain End-to-End Dialog Challenge

 

 

 

・北川智裕, et al. 自己開示発話を取り入れた雑談型対話システムの提案SIG-KBS, 2018, 5.03: 13-18.

・話題を考慮した自然な会話システムの構築

これはダイレクトだな!これはルールを記述して応答していたころのあれだからここをうまくアレンジできないかな?というかこのフレーム系の最新論文はどうなっているんだろう?

もっと周辺の論文を読みたいな。

このように人間同士の会話で は話題となっていることについて説明を求めたり,連想し たり,話の流れに沿って話題を推移させたりなどして会話 していると考えられる.本研究ではこのような会話をコン ピュータが実現できる手法を提案する

→W1H(誰が,誰と,何を...)に整理し履歴とし て記録し,コンピュータが話題を捉える際に用いる手 

これはすごいな、で、結局掘り下げ使える奴はあるのかな?

・対話システムが話し手役になるための オープンドメイン独話生成 

 

・さらに,「好きだよ」や「こんにちは」などのよう な雑談に対しても返答が可能な音声 エージェントである.ユーザにとっ て作業目的の発話や情報要求目的の 発話が行えることは非常に便利であ るが,しゃべってコンシェルは便利 さを享受するためだけに使用されて いるわけではなく,日々多くの雑談 も投げかけられている

確かに、やっぱり人間って、機会が面白い返答をしてくれるのかな?って期待があるんだろう な

 

・コンピュータとの自然な会話を実現する雑談対話技術

→ NTTの喋ってコンシェルの、雑談の部分に目を向けたシステムもっとたくさん論文読まないと!!!


・発話理解とか、発話生成のプロセスとかやっぱり、古典的なところは蹈襲しつつ、機会学習っぽくできるのが一番だよな~~

Policy reuse for dialog management using action-relation probability 

ふむ、ダイアログマネジメントか。先輩でいるってわかっているとやる気出るな

 

Hierarchical Tensor Fusion Network for Deception Handling Negotiation Dialog Model 

 

 

CNNを用いたレファレンス・インタビューにおける対話行為の推定

■■newリスト■■

Virtual Citation Proximity (VCP): Empowering Document Recommender Systems by Learning a Hypothetical In-Text Citation-Proximity Metric for Uncited Documents 

 

■■論文多読(アブストだけ)■■

【このリサーチの本質】
自分のやりたい研究に対して先行研究がどのぐらいやられているのかを調べる。自分の思い描いたのがもうあればよし

 

dialogueスタラテジーチェンジャー的なのの研究ピンポイントは多分少ないから、

DBを先に調べたほうがいいかな?

データベースはどんなものを使う?

そもそもリコメンド系のシステム?

 

対話型のリコメンドシステムはどんなDBを使っていることが多いんだ?

 

【参考サイト】

・レコメンデーションの分類

https://www.albert2005.co.jp/knowledge/marketing/recommendation_basics/recommendation_categorized
いやー、しかし、やっぱり商品を推薦するとか商業系のものの関連が多いからすごく盛んだな。
【参考文献】
A Survey on Conversational Recommender Systems - arXiv】(2020)
これは2020年だし、会話がたのレコメンド対話システムだし、とても要チェックだやくにたつなぁ!
Research paper recommender systems: A Literature Survey(2016)】

ここ、過去の論文推薦システムをとにかく列挙している感じか(これは綺麗にまとまっていてありがたいのでぜひ読もう!)

 

・同じ問題意識のはあるけど
 
論文リポジトリに基づく研究支援のための対話的ユーザモデル構築手法の提案(Papits)

評価ない、、、めっちゃ主観でやっているのがおいただけども問題意識は一緒。

q1vjV57jhE-P28VBWZPixZQKgplg3ep8P2tT91mu9ZVTBd63A7O1cx1APpPPdsJlsGnP9wPqdBAjQ_tWxonauN6HSjXUb00ktxI1CATz3Fo2DmfVB8kB4IsbH1bGzAkcovkZosg9.png


私がやりたいのは、どのデータベースだろう??
協調フィルタリングは行動履歴からやるけど、別にサイトを見るわけじゃないから、私の思い描くシステムで協調フィルタリングやるの難しいんだよな

この対話システム言うなら、サイト履歴以外のユーザーアクションになるわけで、質問を統一して似たような意味の応答を返す人にはこれ!とかなのかな?周りくどいよなぁ。


・直感的には、対話の中で履歴データやアクションデータを取るのは難しいから(質問で取るとか、学術的なもの以外のサイト履歴とかもあるかもしれないけど目的は初学者から引き出すことだから、あんまり今までやってきたことでも意味ないんだよなぁ。でも補助できにユーザーのフロフィールとか、webサイトの閲覧履歴とかを突っ込むのはいいかなって思うけど、私がやりたい部分か?と言うと違う、)、
なので直感的に私の研究に必要なデータベースとしては
・(a-4)申告データのモノ属性ベース
・(k-4)申告データのナレッジベース 

なんだよな。


 

うーん。でもやっぱり商品のレコメンドのデータベースと、学術論文の推薦って性質が少し違うような

この分野
Research-paper recommender systems
と言うらしい。
 

11/17 うーんダイレクトに
DIALOG(conversarion) + Research-paper recommender systems

の最近の論文を見つけたいんだけど見つからないなぁ。最近のどころじゃなくても見つからないなぁ。評価のデータセットがなくて難しいからかな。

【余談】

https://www.aclweb.org/anthology/

このサイト

【】
Research paper recommender systems: A Literature Survey(2016)】
DIALOGとかconversarionとかResearch-paper recommender systems

 

■hierarchy Academic knowledge DB■

User Interests Identification on Twitter Using a Hierarchical Knowledge BaseMay 2014DOI: 10.1007/978-3-319-07443-6_xConference: 11th Extended Semantic Web Conference

これ確かにナレッジグラフで、しかも階層型だから近いかも。

 

 

【1箇所にタロまらない。】

■■リサーチシステムの評価方法■■
●4.1.1
ユーザー調査
・・オフラインでやる。満足度などのアンケートに近い。
●4.1.2
オンライン評価
・・オンラインでやる。実際のクリック数や閲覧数などを参考

私の研究だったら、初学者が普通の論文システムと自前でやった時に、どれだけ短い手数で実際近づけるか
満足度はどうか。などか。


やること
conversation型の外部知識のDBを探す(行動履歴とかがないから、論文の属性のやつか。ナレッジグラフかどちらかだな)

★Linking★Attention memory for Link(多分ない。)
について、カンバセーション型で調べる

★dialogue strategy changer(多分ない、円光研究調べる)

・カンバセーション型の対話システムで何が先端か調べる
アウトプットに必要なインプットだけを!!!!!

途中でフラフラしない!!!!!!
作業を途中でやめない。一区切り着くまでやる


先生への質問
・論文の探すのを支援するリコメンドシステム、会話型のリコメンドシステムの研究はたくさんあるのになぜ、

論文を探す対話型の質問がないのか。


1
、評価が難しい

2,


やること自分の思い描くシステムの各パーツの最新の研究と自分が欲しいものに足りるかどうか。


 

■■Linkingについて■■

Towards Knowledge-Based Recommender Dialog System 

mentioned itemの部分はどうやったいる?確か先行研究やってたはず、エンティティリンキングだっけかな。
まんま、いけそうなら、データペディアでヒストリカルにしようかな?雑誌名とかにして?Dpediaは使えそうだな

ニューラルネットワークを用いた雑談対話からのユーザの興味推定稲葉通将 高橋健一 人口知能処理学会 2019 34巻2号
ふむふむ、

普通のアイテムベースのリコメンドシステムなら、おそらく対話履歴からではなくても、テキストベースの情報やプロフィールベースとかから、論文を推薦するタスクがあるのでは?
その時、どんなデータベース使ってるんだろ、
んん~やっパリ

A Survey on Conversational Recommender Systems
4.1 Supported User Intents 

4.2 Supported User Intents
4.3 Dialogue States 

4.4 Background Knowledge 





DP
学問の一覧。

はぁ~~~でもリンキングかぁ~~~~

リンキングするにしても、アイテムだけのりんキングとは限らないんだよなぁ。
うーんアイテムを誘導しやすいようにりんキングする。となると、、、。結局。dialogdtateへのりんキングになるんだよなぁ。


 

仮説思考発動!
おそらく、最近の流れ的に・Towards Knowledge-Based Recommender Dialog System ヒストリカルDBにりんキングを変えるならどうするかっていうのが研究テーマになりそうだな。
よし、これで一気に書いてしまおう!!!仮説思考や!!!

 

先生のお言葉メモ
【パターン1

・「論文の推薦」という課題がもたらす困難さとは何か?(特に「データがない」以外の面)

・同等クラスの問題は他にないか?

・今回取り組もうとする方法は論文というドメインに特化することを狙うのか(実用性重視),転移学習等の技術サイドにフォーカスして様々なドメインに展開することを狙うのか(汎用性重視)?

 

【パターン2

・知識グラフとユーザモデリングの関係に関する従来の知見は何かあるか?あるとするならそれはどう活かせる/反面教師にできるか?

・知識グラフはすでに何か使えるものがあることを想定できるか?


【パターン3】

パターン3になるのかなぁ



私のターゲティング

「初めて研究を始める学生を対象とした研究テーマの決定をサポートする対話システム」を実現したい。初めて研究を行う者への支援がより高度になれば優秀な研究者の育成を助け、研究の世界全体への貢献が期待できる。図書館で勤める中、初めて研究を始める学生には、大きく以下2つの困難があると考えられた。

A. 興味に沿った研究テーマを見つける困難:ユーザーが自身の興味や、興味と結びつく研究分野がわからない状態を指す。

B. 専門用語の知識不足による先行研究調査の困難:専門用語の知識が不足していると、検索システムなどで文献を探す際、検索語がわからない。よって先行研究の調査が難しくなり、スムーズに研究テーマが決定しない状態を指す。

 ABの問題点を解決するために対話システムを用いたいと考えた理由は2つある。1つ目の理由は、インタラクティブなアプローチから情報提供が行いやすい点である。研究を始めたばかりの段階ではユーザーの検索意図が明確ではなく、何を検索したいのかシステムが引き出しながら情報を提供するインタラクティブなシステムが必要と考えられる。既存の文献検索や文献推薦のシステムでも、ユーザーの要求意図や興味を探ったりなど、対話型のシステムにおけるインタラクティブなアプローチのメリットを挙げている [2]。2つ目の理由は、初めて研究に取り組む学生にとって、対話システムは利用しやすいインターフェースであると考えられるためである。

 以上の動機をふまえ、まず最初に上述のAの問題点を解決したいと考えた。そのために、ユーザーの興味を広げる対話システムを作成し、より広くユーザーの興味を把握できる対話システムを研究したいと考えた。

 

ちなみに、最初に考えていた路線(ユーザーの興味を広げる)で、学術文献っぽくすればいけるかな
https://docs.google.com/document/d/1Bhhr_14u3y7dKg4-BQWEiYwKkcOgQIvch24ANYDfWRc/edit#

研究の切り口考えられるのざっと一覧。このそれぞれで考えてみて
・データコーパスがないから作る
・私の試験の時に書いたみたいなのを、学術文献っぽくすればいいのか?(嗜好分布をが把握するに近いのかな????)
・掘り下げる応答戦略をTowardにする?
・論文の中身を見てそれを考慮して初学者向けの論文を出す
・リンキングの階層の路線もまだ捨てちゃあならない。対話履歴から、推測するだけだったら、対話システムの旨味あんまりないかも??
・三上さん Akinator 条件分岐とか。というかあのリポジトリの論文だな~~~

手数を少なくする。

「はじめに」

■■読みたい論文リスト■■

 

Xingxing Zhang (张星星)のリスト

https://xingxingzhang.github.io/

 

 

Yueming Sun

https://dblp.org/pid/122/4846.html

 

■■ A Survey on Conversational Recommender Systems の論文読み■■


■■
 この論文の本質はなんだ?? 私の作るスライドの本質はなんだ???本質はなんだ????を常に考えろ!!!!!
■■
半精読の仕方。各章ごとを1文でまとめていく!

■■評価や学習データはどうすればいいんだろう 評価することを考えると日本語データがいいけど、充実度から行くとやっぱり日本語データだし。文献、、、となると確かにデータセットがなくて難しいから(レファレンスしている対話データとか記録に残っていたら一番だけど)、本の推薦とかならまだあるのかな? 本のタイトルを論文に入れ替えて、、とかダメなのかな。

ちなみにTowardは映画についてだったな。私の理想とするメトロにクスは、論文と性質が似ている商品のレコメンドで代用し。(bookとかなのかなぁ。bookとかだと、メタデータ以外にも本文取れる場合もあるし、目次とか見出しとか、本もジャンルとかで階層表現できるしな。まさに図書館っぽいなぁ。今あるブックのデータを関連する専門書籍とかに入れ替えてできたりとかしないかな。論文と入れ替えるっていうのはさすがに難しいか。図書館情報入門とかだと対話型だなぁ)

 

でも、本当にデータないのかな?

アメリカのサブジェクトライブラリアン、とか、クラスライブラリアンとか、リエゾンライブラリアンとか、まぁ、あと先生とかがやっているのがまさにこれなんじゃないかな?

まぁ、あと、多分リポジトリの対話みたいに、究極自然言語じゃなくても()対話型ならある程度の精度は出せるんじゃないかな? 初学者に対して、そのらいぞボタン式にどれに興味がありますかーって。

 

先行投資、、、、。

 

■■データ整備とビジネス

研究とビジネスかぁ、、、。私は研究者を支援する対話システム作ろうとしているけど、それってビジネスになるんかな。

そもそも大学の研究教育って投資になるのかな。

事業計画でいくと、、?

まぁ医療系だったらビジネスになるのかなぁ?

 

————————————————————————————————————————————————————
この論文の本質。

A Survey on Conversational Recommender Systems 

なんやこの ONE SHOTってなんのことを指してるんだ

1ターンだけってことかい?

直前の発話だけってことかい?

 

あ、違ったは、今まではone-shotだけですよ!という話だった?
そこでカンバセーションは違うよってことか。


where we even might have no past observations at all 

今までのレコメンドでは過去のユーザーの行動履歴などを参考にすることが多い
過去の発話でそもそも過去の行動履歴がない!そんな時は、カンバセーション型の対話システムが有効ですよね。

今回の私のタスクもそうだよね。

 

 

when they become aware of the space of the options
?「 space of the options 」 でも本質じゃないから読み飛ばすか!


ate 1970s, Rich [121] envisioned a computerized librarian that makes reading suggestions 

おお~~!電子librarianなんてところがあったのか。

 

こらこらこらこら、また、ダラダラやり始めてるぞ!!!こんなんじゃダメだ。集中しろ。
この時間中に絶対に論文おw読みたいんだ Mさんみたいなストイックさを持って

 

この論文の本質さはなんだ。ここがこの論文の本質だ この各箇所についてを簡単にまとめることが、この論文の本して腕ある。

In this paper, we review the literature on conversational recommender systems from di erent perspectives. Speci cally, we discuss (i) interaction modalities of CRS (Section 3), 

→CRSの相互作用モダリティ(セクション3)、
モダリティ? 相互作用を生み出す機構ということか?ちょっとよくわからないな

(ii) the knowl- edge and data they are based upon (Section 4), and
知識とデータここはy

(iii) the computational tasks that have to be accomplished in a typical CRS (Section 5). Afterwards, we discuss evaluation approaches for CRS (Section 6) and nally give an outlook on future directions. 

 

2 ------------------------------------------------------------------------------------------------------

2.1 Characterization of Conversational Recommender Systems 

ザックリCRSの概要とこの論文中の定義や、一般的にどういうシステムかををまとめている&

 

 

A CRS is a software system that supports its users in achieving recommendation-related goals through a multi-turn dialogue. 

早々このマルチターンってところが大事なのよ!!複数界の会あというところが大事なのよね!

 

 

The other main feature of a CRS according to our de nition is that there is a multi-turn conversa- tional interaction 

論文の中でも、この論文中で取り扱うのは、マルチターンで応答するやつですっている。QAみたいにわんターンじゃ終わりじゃないよって言っている

 

→A CRS therefore explicitly or implicitly implements some form of dialogue state management to keep track of the conversation history and the current state. 

ほほー私が欲しい情報そのまんまじゃないかい

 

vRegarding the dialogue, note that our de nition does not make any assumptions regarding the modality of the inputs and the outputs. CRS can 

インプットとアイトプットトにひおt民「あま「アナそおがわけええええっr

As our survey shows, both system-driven, user-driven, and mixed-initiative dialogue strategies were explored in the literature. 

 

3 ------------------------------------------------------------------------------------------------------

3 INTERACTION MODALITIES OF CRS 

The recent interest in CRS is spurred both by developments in NLP and technological advances such as broadband mobile internet access and new devices like smartphones and home assistants. Our review of the literature however shows that the interaction between users and a CRS is neither limited to natural language input and output nor to speci c devices. 

なんかよく分からないけど、デバイスとかインプットとかアウトプットのインターフェイスとかどうするの?
って言ってるのかな? ラジオボタンとか言っているし

 

3.1 Input and Output Modalities
input
とアウトプットのメソッドについて分けている

outputをマップにしたりとかなんだとか

fig2がとても参考になる

 

●In terms of the outputs, からoutput

 

 

3.2 Application Environment 

ere, the ultimate goal is to build a CRS running on a service robot, i 

この文章からわかるようにソフトウェアの動作環境、デバイスとかについて触れている? アレクサとか。音声か?とかテキストとか?とk

 

3.3 Interaction Initiative 

ユーザー駆動型か対話がたか

4
------------------------------------------------------------------------------------------------------
4 KNOWLEDGE AND DATA BEHIND 

Depending on the chosen technical approach, CRS have to incorporate various types of knowledge and background data to function. Clearly, like any recommender, there has to be knowledge about the recommendable items. Likewise, the generation of the recommendations is either based on explicit knowledge, for example recommendation rules or constraints, or on machine learning models that are trained on some background data. However, conversational systems usually rely on additional types of knowledge, e.g., about the possible states in the dialogue, or data such as recorded and transcribed natural language recommendation dialogues that are used to train a machine learning model. In the following sections, we provide an overview on the di erent types of knowledge and data that were used in the literature to build a CRS. 

会話型リコメンドに使うデータととか知識について書いている!そうだよね!ここ大事だよね!

4.1 Supported User Intents 

ちょっとよく分からないけど、ユーザーの意図についてのデータについて書かれているのかな?
「今から会話したいです!」だったら「会話を始める意図、とか」

4.2 User Modeling
ユーザーの好みの把握など、ユーザーもプロフィール的な、ユーザーモデルの構築

4.3 Dialogue States 

これはわかるなぁ。ダイアログステータスを把握する。ということでしょう?
4.4 Background Knowledge 

アイテムに関連するデータなど、会話に使うために推薦アイテムに関連するデータなど。

ここにヒストリカルなのないかなぁ。


5
------------------------------------------------------------------------------------------------------

5 COMPUTATIONAL TASKS (ようやくと将来性)

Having discussed possible user intents in recommendation dialogues, we will now review common computational tasks and technical approaches for CRS. We distinguish between (i) main tasks, i.e., those related more directly to the recommendation process, e.g., compute recommendations or determine the next question to ask, and (ii) additional, supporting tasks.

5.1 Main Tasks 

対話型のレコメンドシステムがする動作は、4つのアクションに大きく分けられる。

要求、推奨、説明、応答の4種類。グラフを見るとわかりやすい。

 

5.2 Supporting Tasks 

直接する動きじゃないけれども、CRSのファンクションの助けになるタスク

自然言語理解。いリコメンドの緩急など、直接のアクションじゃないけれども、アクションをサポートするシステム

 

6------------------------------------------------------------------------------------------------------

★6 EVALUATION OF CONVERSATIONAL RECOMMENDERS 

大事!結局ここで精度出さないといけないんだからさ、
でも日本語で翻訳してみてもよくわからないな。英文のままでいこう。

6.1 Overview of ality Dimensions, Measurements, and Methods
評価メソッドの概要。やはり、対話型のリコメンドシステムはいろんな評価観点もあるし、訂正的な評価すらできないとしている論文もあるんだな。
評価の要素は大まかに4種類
(1) E ectiveness of Task Support: This category refers to the ability of the CRS to support its main task, e.g., to help the users make a decision or nd an item of interest. 

(2) E ciency of Task Support: In many cases, researchers are also interested to understand how quickly a user nds an item of interest or makes a decision. 

(3) Quality of the Conversation and Usability Aspects: Analysis in this category focus on the quality of the conversation itself and on the usability (ease-of-use) of the CRS as a whole. 

(4) E ectiveness of Subtask: A number of studies investigated in our survey focus on certain subtasks like intent or entity recognition. 

 

6.2 Review of Evaluation Approaches 

6.1で大まかに分けた評価方法を細かくみていく

6.3 Discussion 

やっぱり、評価は一様にはできないしむずかしいよね、、、、という話

7------------------------------------------------------------------------------------------------------

7 SUMMARY AND FUTURE DIRECTIONS 

 

。どのモダリティが目前の特定のタスクや状況に適しているか、または代替のモダリティをユーザーに提供する必要があるかどうかを理解するには
、さらに調査が必要です[54]。研究の興味深い方向性は、

・モダリティ、グループの意思決定、今後ロボットなどで増えてきそう
。評価に結構問題ある(対話はどれもそうな気がするけど)


メモ

この論文中でもしかしたらベースラインとなるlitelature(文献)を会話でリコメンドするのが見つかるかも?
あとで検索してみよう