Skip to content

Latest commit

 

History

History
 
 

ch16

Folders and files

NameName
Last commit message
Last commit date

parent directory

..
 
 
 
 
 
 
 
 
 
 

머신 러닝 교과서 2판

16장 - 순환 신경망으로 시퀀스 데이터 모델링

목차

  • 순차 데이터 소개
    • 순차 데이터 모델링: 순서를 고려한다
    • 시퀀스 표현
    • 시퀀스 모델링의 종류
  • 시퀀스 모델링을 위한 RNN
    • RNN 반복 구조 이해하기
    • RNN의 활성화 출력 계산
    • 은닉 순환과 출력 순환
    • 긴 시퀀스 학습의 어려움
    • LSTM 셀
  • 텐서플로로 시퀀스 모델링을 위한 RNN 구현하기
    • 첫 번째 프로젝트: IMDb 영화 리뷰 감성 분석
      • 영화 리뷰 데이터 준비
      • 문장 인코딩을 위한 임베딩 층
      • RNN 모델 만들기
      • 감성 분석 작업을 위한 RNN 모델 만들기
    • 두 번째 프로젝트: 텐서플로로 글자 단위 언어 모델 구현
      • 데이터셋 전처리
      • 문자 수준의 RNN 모델 만들기
      • 평가 단계 - 새로운 텍스트 생성
  • 트랜스포머 모델을 사용한 언어 이해
    • 셀프 어텐션 메카니즘 이해하기
      • 셀프 어텐션 기본 구조
      • 쿼리, 키, 값 가중치를 가진 셀프 어텐션 메카니즘
    • 멀티-헤드 어텐션과 트랜스포머 블록
  • 요약

코드 사용 방법 안내

이 책의 코드를 사용하는 가장 좋은 방법은 주피터 노트북(.ipynb 파일)입니다. 주피터 노트북을 사용하면 단계적으로 코드를 실행하고 하나의 문서에 편리하게 (그림과 이미지를 포함해) 모든 출력을 저장할 수 있습니다.

주피터 노트북은 매우 간단하게 설치할 수 있습니다. 아나콘다 파이썬 배포판을 사용한다면 터미널에서 다음 명령을 실행하여 주피터 노트북을 설치할 수 있습니다:

conda install jupyter notebook

다음 명령으로 주피터 노트북을 실행합니다.

jupyter notebook

브라우저에서 윈도우가 열리면 원하는 .ipynb가 들어 있는 디렉토리로 이동할 수 있습니다.

설치와 설정에 관한 더 자세한 내용은 1장의 README.md 파일에 있습니다.

(주피터 노트북을 설치하지 않았더라도 깃허브에서 ch15_part1.ipynbch15_part2.ipynb을 클릭해 노트북 파일을 볼 수 있습니다.).

코드 예제 외에도 주피터 노트북에는 책의 내용에 맞는 섹션 제목을 함께 실었습니다. 또한 주피터 노트북에 원본 이미지와 그림을 포함시켰기 때문에 책을 읽으면서 코드를 쉽게 따라할 수 있으면 좋겠습니다.