AIFFEL Life

[Day76] 메모리 네트워크

nevermet 2020. 12. 26. 15:46

오늘은 자연어 심화학습 이론시간으로 메모리 네트워크에 대해 공부하였습니다. 갈수록 딥러닝 용어 중에 한번도 들어본적이 없는 생소한 개념과 단어들이 나오고 있네요. 참고할 만한 자료를 아래에 공유합니다.

1. Facebook's bAbI Project

research.fb.com/downloads/babi/

 

bAbI - Facebook Research

The bAbI Project is organized towards the goal of automatic text understanding and reasoning.

research.fb.com

2. Neural Turing Machines (paper)

arxiv.org/pdf/1410.5401.pdf

3. Understanding LSTM Networks

colah.github.io/posts/2015-08-Understanding-LSTMs/

 

Understanding LSTM Networks -- colah's blog

Posted on August 27, 2015 Humans don’t start their thinking from scratch every second. As you read this essay, you understand each word based on your understanding of previous words. You don’t throw everything away and start thinking

colah.github.io

4. Hybrid computing using a neural network with dynamic external memory

www.nature.com/articles/nature20101

5. NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE (paper)

arxiv.org/pdf/1409.0473.pdf

6. MEMORY NETWORKS (paper)

arxiv.org/pdf/1410.3916.pdf

7. End-To-End Memory Networks (paper)

arxiv.org/pdf/1503.08895.pdf

8. 질의응답을 위한 딥러닝 모델인 메모리 네트워크 정리

aidev.co.kr/chatbotdeeplearning/5925

 

챗봇 딥러닝 - 질의응답을 위한 딥러닝 모델인 메모리 네트워크 정리

      Memory Networks(MemNN)는 페이스북에서 발표한 딥러닝 모델로 추론을 통해 질의응답을 할 수 있습니다. 예를 들어, 다음과 같이 문장들과 질문을 함께 입력으로 넣으면 대답을 출력합니다.   <

aidev.co.kr

9. 인공지능을 위한 머신러닝 알고리즘 11강 메모리 네트워크 | T아카데미

youtu.be/vDQf7lcenfI

10. 코사인 유사도와 그 계산

www.ibric.org/myboard/read.php?id=271138&Board=news

 

[초심자를 위한 생물학+정보학] 코사인 유사도와 그 계산 - 36

앞에서도 수 차례 언급했지만, 거리의 종류는 그 개념과 정의에 따라서 매우 다양하다. 이번에는 우리가 가장 쉽게 접하고 이해할 수 있는 유클리드 거리 외에도 문헌 자료의 조사와 분석에 자

www.ibric.org

11. Question Answering on bAbi

paperswithcode.com/sota/question-answering-on-babi

 

Papers with Code - bAbi Benchmark (Question Answering)

The current state-of-the-art on bAbi is STM. See a full comparison of 13 papers with code.

paperswithcode.com

12. Recurrent Relational Networks

arxiv.org/pdf/1711.08028.pdf

13. A simple neural network module for relational reasoning

arxiv.org/pdf/1706.01427.pdf

14. CLEVR: A Diagnostic Dataset for Compositional Language and Elementary Visual Reasoning

cs.stanford.edu/people/jcjohns/clevr/

 

CLEVR: A Diagnostic Dataset for Compositional Language and Elementary Visual Reasoning

Abstract When building artificial intelligence systems that can reason and answer questions about visual data, we need diagnostic tests to analyze our progress and discover shortcomings. Existing benchmarks for visual question answering can help, but have

cs.stanford.edu

15. Self-Attentive Associative Memory (paper)

arxiv.org/pdf/2002.03519v3.pdf