의존성
-
[cs224n] 5강 의존성 파싱 (3/4, 전이 기반 파싱 (transition-based parsing))AI 2021. 1. 27. 17:29
이것이 파싱에 대한 개념이었죠. 와킴 니브르 (Nivre), 이 사람에 의해서 인기가 많아 졌는데, 스웨덴의 컴퓨터 언어학자였죠. 여러분이 하는 작업은 쉬프트 리듀스트 (shift-reduced) 파싱에 영감을 받은 겁니다. 컴파일러 수업 같은 곳에서 쉬프트 리듀스트 파싱을 봤을 겁니다. 이건 일종의 쉬프트 리듀스트 파서인데, 우리가 언제 리듀스트 해야 할지와는 별개로, 우리는 컨스티튜언트 대신 의존성을 만듭니다. 이건 매우 기술적인 설명을 많이 가지고 있는데, 봐 봤자 쉬프트 리듀스트 파서가 뭘 하는지 이해하는 데 별 도움이 안되서 넘어가겠습니다. 여기 전이 기반 쉬프트 리듀스트 파서에 대한 형식적인 설명이 있습니다. 이것도 별 도움이 안됩니다. 대신 우린 이 예를 보겠습니다. 이게 도움이 되길 바랍니..
-
[cs224n] 5강 의존성 파싱 (2/4, 의존성 문법과 구조 (dependency grammar and structure))AI 2021. 1. 27. 15:35
그것으로 하고 싶은 전체적인 것은 이 의존성 문법입니다. 의존성 문법을 좀 보여줬는데요. 우리가 의존성 문법에 대해 좀 동기부여되길 바랬습니다. 의존성 문법은 무엇이 구문적 구조인지, 그것이 렉시컬 (lexical) 항목들간의 관계인지를 상정합니다. 여기서 우리가 화살표로 그린 바이너리 대칭적 관계인지에 대해서도요. 그들은 바이너리이고 대칭적이니까요. 우리는 그걸 의존성이라고 부르죠. 여기 2개의 방식이 있습니다. 그것들을 작성하는 흔히 사용되는 방식이죠. 하나의 방식은 여러분이 단어를 한 줄로 나열하고 그걸 만드는 겁니다. 여기 전체 문장을 보죠. 여러분은 그 위에 일종의 루핑 (looping)하는 화살표를 그리는 거죠. 다른 방식은 그걸 트리처럼 표현하는 겁니다. 거기서 여러분은 전체 문장의 헤드 (..
-
[cs224n] 5강 의존성 파싱 (1/4, 구문 구조 (phrase structure))AI 2021. 1. 26. 19:39
오늘은 먼저 사람 언어로 된 문장의 구조에 대해 설명하고 동기부여를 해보겠습니다. 일종의 20분짜리 언어학이죠. 그다음 특히 의존성 (dependency) 문법에 대해 집중해 보겠습니다. 그리고 의존성 구조로 작업하는 방법을 소개하겠습니다. 전이 (transition) 기반 의존성 파싱 (parsing)이라고 불리는 의존성 문법 파싱을 볼 거구요. 그다음 어떻게 신경망 의존성 파서를 만들 수 있는지에 대해 얘기하죠. 문장의 구조에 대해서 얘기해 보죠. 인간의 언어로 된 문장 구조를 얘기할 거고 사람들이 그 구조를 어떻게 생각하는 지에 대해서 얘기합니다. 그리고 자연어처리를 하는 사람들이 어떤 목표를 가지고 있는지에 대해서 얘기해 보죠. 그건, 문장의 구조를 이해할 수 있는 구조를 만드는 건데요. 오늘 제..