Bert1 트랜스포머 아키텍처 완벽 가이드 | Transformer Architecture Guide 트랜스포머 아키텍처 완벽 가이드트랜스포머란 무엇인가?트랜스포머(Transformer)는 2017년 Vaswani 외 연구진이 "Attention is All You Need" 논문에서 소개한 신경망 아키텍처로, RNN이나 LSTM 같은 순차적 모델을 대체하면서 자연어처리 분야에서 혁신을 일으켰습니다. 트랜스포머는 셀프 어텐션(Self-Attention)을 통해 문장의 전 범위를 병렬적으로 처리하며, 긴 입력 문장을 이해하고 학습하기 어려웠던 문제를 효과적으로 해결합니다. 또한 이전 알고리즘들이 병렬 처리가 힘들었던 부분도 함께 해결합니다.1. 트랜스포머 구성 요소와 RNN/LSTM의 한계 극복트랜스포머는 인코더와 디코더로 이루어진 구조로, 각 블록은 다음의 주요 구성 요소로 이루어져 있습니다:셀프 어텐션.. 2025. 5. 8. 이전 1 다음
