Sih之前对NLU的数据增强很感兴趣，最近在面试中也遇到很多能够用到DA的方向, 在此整理一些之前的调研内容。

Sih对ACL2020中NLU研究方向的总结，关于NLU中的研究点，欢迎小伙伴一起讨论idea～

ACL2020 概览目前放出的几篇文章——sih出品，转载请注明出处。

（也放在了知乎一份，滴～传送门在这里，欢迎关注我的知乎呀～）

https://zhuanlan.zhihu.com/p/127062292

SCIENCE CHINA 2020 的文章，出自黄老师组的 zhangzheng 和 高信～

结合该论文梳理目前任务型对话系统的最新进展和挑战。

依旧给我的知乎打个广告，传送门～https://zhuanlan.zhihu.com/p/120657306

嘻嘻，某公众号也转载了该篇，sih觉得还是看原文理解更深一点～

ICML 2019 课程学习在图像识别上的改进。

目前对Curriculum Learning的研究进展

来源；ACL2019

链接： https://www.aclweb.org/anthology/P19-1226.pdf

Sih: 端到端对话生成任务中，用不同结构memory进行堆叠, 来处理不同来源的信息，应用context-aware memory和 context-free memory ，且context-aware memory加入了门机制。

Sih对AC，A3C的总结。

1. Curriculum Learning

Bengio提出了课程学习的概念，来自于人类从易到难的学习过程：将数据看作模型所学习的内容的话，我们自然需要一个合理的课程(curriculum)来指导模型学习这些内容的方式。在课程学习中，数据被按照从易到难的顺序逐渐加入模型的训练集，在这个过程中训练集的熵也在不断提高(包含更多的信息)。

The paper list of MSR in task-oriented dialog system

任务型对话系统论文列表，总结了Sih一直以来对MSR对话研究的朝拜之路～

1. Budgeted Policy Learning for Task-Oriented Dialogue Systems

   ACL 2019

   https://arxiv.org/pdf/1906.00499

   在DDQ基础上的改进，增加一个BSC模块，DDQ中的world model模块没有改进，sih认为也是用于改进训练数据的质量。

2. ConvLab: Multi-Domain End-to-End Dialog System Platform

   2019.4 提出ConvLab对话系统模块集成的平台

   GitHub链接：https://github.com/ConvLab/ConvLab

   https://arxiv.org/pdf/1904.08637

Abstract

在现实世界中自监督预测的好奇心驱动的探索，能够提供给agent的奖励非常少，或者根本不存在。在这种情况下，好奇心可以作为一种内在的奖励信号，使agent能够探索环境并学习可能在以后的生活中有用的技能。本文把好奇心表述为一个agent在视觉特征空间预测自身行为结果的能力时的误差，并把这种error作为内在好奇心reward提供给agent进行学习，该视觉特征空间是由一个自监督逆动态模型学习的。

创新点： Adversial learning + Orthogonality Constraints

Abstract

• 背景：

  神经网络模型已经表明了它们在Multi-task Learning中的广阔前景，其重点是学习共享层以提取公共的和随不同任务不变的特征。