seq2seq
-
[Day64] 번역기 만들기 시리즈1AIFFEL Life 2020. 12. 25. 19:44
오늘은 자연어처리 심화 과정 실습의 하나로 Seq2Seq을 이용한 번역기 만들기 실습을 진행하였습니다. 참고할 만한 글들을 아래에 공유합니다. 1. tf.function으로 성능 향상하기 www.tensorflow.org/guide/function?hl=ko tf.function으로 성능 향상하기 | TensorFlow Core Note: 이 문서는 텐서플로 커뮤니티에서 번역했습니다. 커뮤니티 번역 활동의 특성상 정확한 번역과 최신 내용을 반영하기 위해 노력함에도 불구하고 공식 영문 문서의 내용과 일치하지 않을 수 www.tensorflow.org 2. 자동 미분과 그래디언트 테이프 www.tensorflow.org/guide/autodiff?hl=ko 자동 미분과 그래디언트 테이프 | TensorFlo..
-
[Day61] Seq2Seq과 AttentionAIFFEL Life 2020. 12. 25. 18:20
오늘은 자연어 심화과정 (일명 Going Deeper) 중 이론을 공부하는 시간이었는데요. 심화과정은 이론 7시간 + 실습 7시간으로 구성되어 있습니다. 그중 Seq2Seq과 Attention에 대해서 배웠습니다. Transformer를 이해하기 위한 이론적인 내용이라고 할 수 있겠죠? 아래에 참고할 만한 내용들을 공유합니다. 1. 언어모델(Language Model) ratsgo.github.io/from%20frequency%20to%20semantics/2017/09/16/LM/ 언어모델(Language Model) · ratsgo's blog 이번 글에서는 유니그램 모델(unigram model)을 중심으로 통계적 언어모델(Statistical Language Model, 언어모델)에 대해 살펴보..