본문 바로가기

딥러닝/자연어(NLP)

About NLP


Turing Test

기계가 작성한 문서와 사람이 작성한 문서가 있을 때, 두 개를 구분하지 못한다면 머신은 인공지능이 아닐까?


History

출처: http://gsds.snu.ac.kr/ko/board/seminar_info

 


Ambiguity

 

단어가 지니는 의미는 Contextual할 수 있기 때문에, 머신이 그 의미를 파악하는 게 쉽지 않다. 

 

Syntactic ambiguity : 문맥을 해석하는 순서 

Lexical ambiguity : verb, noun, what does it mean?

Semantic ambiguity :  의미를 해석하는 방법

 


Perplexity

외부 평가(extrinsic evaluation) : 모델에 대한 결과를 사람들이 수동적으로 평가한다.

  • N : 문장의 길이
  • W : 단어

inverse. 낮을 수록 좋은 값이다.
Chain Rule
n-gram 적용.(Bigram)