[61일차] 딥러닝

자연어처리분야가 획기적인 발전이 일어남.

텍스트에 적용함.

 

 

2016년 Convolutional Neural Networks for Sentence Classification 논문을 씀.

 

 

 

https://arxiv.org/abs/1408.5882

Convolutional Neural Networks for Sentence Classification

 

알고리즘을 그림으로 표현

배치 단위로 들어오는데 배치 없이 보면,,

I like this movie very much! word index 단어사전을 뽑아낸 다음에 단어사전을 이용해서 단어 인덱스의 모임으로 바꿈.

인덱스 구문을 바꾼 상태에서 길이를 맞춰야하니깐 패딩한 다음에 패딩한 결과를 가지고 임베딩 데이터에 집어 넣고

특정 차원으로 각 단어를 백터로 만든다.

임베딩까지 나와서 느낌표가 7개 7*5 martrix로 표현가능

필터 크기를 3개 사이즈로 쓴다. 5차원이니깐 가로가 5

2개의 필터를 쓴다. 임베딩 레이어가 늘어남 결과가 4개가 나온다.

 

서브클래싱으로 밖에 못짜는 경우,, 

 

 

https://dgkim5360.tistory.com/entry/understanding-long-short-term-memory-lstm-kr