[실험] TRADE 논문 리뷰

[JAEWOOSUN]

TRADE 논문 리뷰

Description: TRADE 논문 리뷰
시작일: 2021년 4월 30일
실험자: 창우 이, Moonjong Shin, 재우 선, 유진 안, HS J
제안자: 재우 선
진행상황: 진행중
카테고리: Paper Review

문제 정의 (왜 하는지?)

• Baseline에 적용되어있는 TRADE에 대한 이해

---

해결 아이디어

• 영상시청: https://www.youtube.com/watch?v=nuclwoebdEM&ab_channel=KoreaUnivDSBA
• 논문 : TRADE

---

진행 상황

1. 전체 프로세스

[chien-Sheng et al., arXiv 2019]

1. 대화를 인코더를 통해 인코딩한다.
2. 인코딩된 대화와 슬롯으로 h 를 만들고, 이를 바탕으로 와 를 생성하여 로 슬롯에 해당하는 value 를 찾는다.
3. 대화와 슬롯으로 만들어진 를 사용하여 를 만들고, 를 통해 slot 의 value 를 사용할지 결정한다.

---

2. Definition (Terminology)

• = User Utterence
• = System Response
• = Utterance-Response pair
• = Domain
• = Slot
• = Value
• = Tuple

3. Utterance Encoder

• 논문에서는 Bi-directional GRU 사용 (어떤 종류의 Encoder로도 대체 가능)
• Input :
  • 슬라이딩 윈도우처럼 값에 따라 t 번째 턴에는 부터 t까지의 대화쌍을 살펴봄
    • 베이스라인 코드에서는 t 턴에는 처음부터 t 턴까지 대화를 모두 봄
  • 더 구체적으로 말하자면, dialougue history 의 모든 단어를 concatenation 한 것
  • 차원을 지님
• t 턴까지의 대화쌍에서 토큰들의 관계를 알 수 있다.

4. State Generator

• Bi-directional GRU decoder 사용
• t 턴까지의 대화 인코딩 h_t 에 대해 max_length (value 중 가장 토큰을 많이 가진 길이) 만큼 디코더로 디코딩 진행
• Copy mechanism을 통해 input dialougue의 정보를 활용하여 slot value를 generate
• 처음에는 도메인-슬롯의 임베딩 sum 을 입력으로 넣어주고 이를 통해 value 의 첫 토큰이 나온다. 다음으로는 이 토큰을 입력으로 넣어주고.. 계속하여 알맞는 value 를 뽑아낸다 (서울 + 롯데 + 호텔). 그러다 special token 이 나오면 value 생성을 그만한다.
• Pointer-Generator 방법 사용
  • 위에서 생성된 로 p_vocab(대화와 슬롯을 봤을 때 vocab 에서는 어떤 단어와 유사한지), (대화와 슬롯을 봤을 때 이제까지의 대화 중에서는 어떤 단어와 유사한지) 를 구한다.
  • Vocab의 분포와 dialogue history의 분포를 하나의 분포로 결합

• 는 Utterence Encoder에서 나타나는 (domain, slot) 번째, 번째 value 생성 차례의 vocab 확률 분포를 나타냄
  • 여기서 를 나타내고, Trainable Embedding (vocab 개수 x dimension)
• 는 Utterence Encoder에서 나타나는 (domain, slot) 번째, 번째 value 생성 차례의 history 확률 분포를 나타냄
  • 여기서 는 Encode된 dialouge history를 나타냄

• 는 의 만큼의 확률분포를 곱해서 생성

• 는 다음 원소들로 구성됨

  • : 가중치
  • : (domain, slot) pair와 Utterance Encoding을 가지고 만들어진 hidden state vector
  • : word embedding
  • : context vector
  • ;는 concat을 나타냄

  5. Slot Gate

• Slot Generator 에서 생성된 (대화와 슬롯의 관계 정보) 를 통해 를 만들고, 이를 사용해 (Context vector) 를 만들 수 있다. Slot Gate는 Context vector로부터 slot의 존재 여부를 알아내는 역할을 수행
  - PTR, DONTCARE, NONE 3가지 label로 출력
  - PTR이 나오면 value를 Generate
  - DONTCARE, NONE이 나오면 Ignore

Slot gate 는 다음 원소로 구성됨

• : 가중치
• : Context vector (first decoder Hidden state)

6. Optimization

• 최종 Loss는 다음으로 구성됨

결과

1. Few/Zero-shot 실험 셋팅

• Target Domain을 학습 데이터에서 제외
  • 나머지 Source Domain의 데이터로 학습 후, Target Domain에 대한 성능 측정
• Few-Shot의 경우 Target Domain에 대한 아래 방법들로 1%의 Training data만 사용하여 학습
  • Elastic Weight Consolidation (EWC)
  • Gradient Episodic Memory (GEM)
  • Naive Fine-tuning (Naive)

2. 실험 결과

• 첫번째는 하나의 Domain만 제외(ex. Except Hotel)해서 훈련시킴

  • 이후, 제외시킨 Domain (ex. Hotel)의 1% data를 fine-tuning했을 때의 결과
  • GEM을 사용했을 때 가장 좋은 성능이 나오는 것을 알 수 있음

• 두번째는 하나의 Domain만 훈련시킨 후 (ex. Hotel) 측정하는 방법

  • Train, Taxi Domain에서 높은값들이 나오는 이유는 Domain끼리 겹치는 slot이 존재하기 때문

평가

• 새로운 domain (unseen domain)에 대해 robust한 모델
• Pointer-Generator를 사용해 Open-Vocabulary 방법을 사용
• turn 마다 모든 슬롯 j 에 대해 value 를 생성하는 점이 비효율적임