목록1D convolution (2)

David의 개발 이야기!

[논문 정리] CharCNN 알아보기 - Character-level Convolutional Networks for Text Classification

https://arxiv.org/abs/1509.01626 Character-level Convolutional Networks for Text Classification This article offers an empirical exploration on the use of character-level convolutional networks (ConvNets) for text classification. We constructed several large-scale datasets to show that character-level convolutional networks could achieve state-of-the arxiv.org 원본 논문은 여기에서 볼 수 있다! CharCNN 논문은, 텍스..
인공지능 논문 리뷰 2023. 8. 9. 22:52
자연어처리를 위한 1D CNN 이해하기 - 1D Convolutional Neural Networks

1. 1D 합성곱(1D Convolutions) 'wait for the video and don't rent it'이라는 문장이 있을 때, 이 문장이 토큰화, 패딩, 임베딩 층(Embedding layer)을 거친다면 다음과 같은 문장 형태의 행렬로 변환된다. 아래 그림에서 k은 문장의 길이, l는 임베딩 벡터의 차원입니다. 그렇다면 1D 합성곱 연산의 경우, 이러한 행렬은 어떻게 처리할까? 1D 합성곱 연산에서, 커널의 너비는, 문장 행렬에서 임베딩 벡터의 차원과 동일하게 설정된다. 따라서, 1D 합성곱 연산에서는 커널의 높이만으로 해당 커널의 크기로 간주한다. 즉, 아래 그림의 경우, 커널의 크기는 2이다. 커널의 너비가 임베딩 벡터의 차원이라는 의미는 결국, 커널이 2D 합성곱 연산과는 달리(2D..
자연어처리 2023. 8. 9. 20:20
Prev 1 Next