클라이언트/ 서버/ 엔지니어 "게임 개발자"를 향한 매일의 공부일지

순환 신경만에서 빼놓을 수 없는 핵심 기술인 LSTM과 GRU 셀을 사용한 모델을 만들어볼 것이다. 시작하기 전에이 절에서는 고급 순환층인 LSTM과 GRU에 대해 알아보겠다. 이른 층들은 앞에서 배웠던 SimpleRNN보다 계산이 훨씬 복잡하다. 하지만 성능이 뛰어나기 때문에 순환 신경망에서 많이 채택되고 있다.일반적으로 기본 순환층은 긴 시퀀스를 학습하기 어렵다. 시퀀스가 길수록 순환되는 은닉 상태가 담긴 정보다 점차 희석되기 때문이다. 따라서 멀리 떨어져 있는 단어 정보를 인식하는 데 어려울 수 있다. 이를 위해 LSM과 GRU 셀이 발명되었다.      LSTM 구조   LSTM은 Long Short-Term Memory의 약자이다. 말 그대로 단기 기억을 오래 기억하기 위해 고안되었다. LSTM..

이어서 단어 임베딩을 사용하는 방법에 대해서 공부해 보겠다. 이것만 하면 2단원 학습은 마치게 된다.     단어 임베딩 사용하기 순환 신경망에서 틱스트를 처리할 때 즐겨 사용하는 방법은 단어 임베딩이다. 단어 임베딩은 각 단어를 고정된 크기의 실수벡트로 바꾸어 준다.     이런 오류가 떠서 코드를 이처럼 수정했다. 경고 메시지 Argument input_length is deprecated는 Embedding 레이어에서 input_length를 명시할 필요가 없다는 뜻이다. TensorFlow 및 Keras의 최신 버전에서는 입력 데이터의 길이를 자동으로 인식한다. 그다음 SimpleRNN 층과 Dense 층은 이전과 동일하다.   하지만 출력 결과 0으로 나온다. model2.summary() 결과..

순환 신경망을 훈련하는 내용을 학습해 보겠다.     순환 신경망 만들기책에 있는 코드 오류가 너무 많아서 다시 이전의 학습했던 코드를 수정하고 다시 만들어보기로 했다.      이제 드디어 출력이 잘 되었다.    순환 신경망 훈련하기   에러 메시지 "ValueError: The filepath provided must end in .keras (Keras model format). Received: filepath=best-simplernn-model.h5"는 ModelCheckpoint 콜백에 제공된 filepath 인자가 올바른 형식이 아님을 나타낸다. Keras는 전체 모델을 저장할 때 파일 경로가 '.keras'로 끝나기를 기대한다. 사용자 코드에서 파일 경로는 'best-simplernn-..

이번 시간에는 텐서플로를 활용해서 실습을 진행해보려고 한다.  시작하기 전에앞 절에서 순환 신경망의 작동 원리를 살펴보았다. 이번 절에서는 대표적인 신경망 문제인 IMDB 리뷰 데이터셋을 사용해 가장 간단한 순환 신경망 모델을 훈련해 보겠다.이 데이터셋을 두 가지 방법으로 변경하여 순환 신경망에 주입해 보겠다. 하나는 원-핫 인코딩이고 또 다른 하나는 단어 임베딩이다. 이 두 가지 방법의 차이점에 대해 설명하고 순환 신경망을 만들 때 고려해야 할 점을 알아보겠다.그럼 먼저 이 절에서 사용할 IMDB 리뷰 데이터셋을 적재해 보겠다.    IMDB 리뷰 데이터셋IMDB 리뷰 데이터셋은 유명한 인터넷 영화 데이터베이스인 imdb.com에서 수집한 리뷰를 감상평에 따라 긍정과 부정으로 분류해 놓은 데이터셋이다...

조금 전에 기록했던 글이 모두 날아가서 다시 써야 할 것 같다. 이럴 때 공부 의욕이 가장 상실되지만 다시 하는 수밖에 없다.이어서 순차 데이터와 순환 신경망에 대해서 공부해보려고 한다. 아직은 이론 공부만 있지만 꼭 알아야 하는 개념이다.     셀의 가중치와 입출력순환 신경망의 셀에서 필요한 가중치 크기를 계산해 보겠다. 복잡한 메델을 배 울수록 가중치 개수를 계산해 보면 잘 이해하고 있는지 알 수 있다. 예를 들어 다음 그림처럼 순환층에 입력되는 특성의 개수가 4개이고 순환층의 뉴런이 3개라고 가정해 보겠다.         하나의 샘플은 시퀀스 길이(여기서는 단어 개수)와 단어 표현의 2차원 배열이다. 순환층을 통과하면 1차원 배열로 바뀐다. 이 1차원 배열의 크기는 순환층의 뉴런 개수에 의해 결정..

JSP와 서블릿 공부를 오후에 다 마치고 오늘 저녁부터 RNN 공부를 시작해보려고 한다. 하지만 저녁식사 후에는 무척 졸리기 때문에 얼마 하지 못하고 취침을 하게 될 것 같다.어쨌든 내일부터 본격적으로 언어지능 공부를 해 볼 것이다. 시작하기 전에    순차 데이터순차 데이터는 텍스트나 세계열 데이터와 같이 순서에 의미가 있는 데이터를 말한다. 예를 들어 "I am a boy"는 쉽게 이해할 수 있지만 "boy am a I"는 말이 되지 않는다. 또 일별 온도를 기록한 데이터에서 날짜 순서를 뒤죽박죽 섞는다면 내일의 온도를 쉽게 예상하기 어렵다.  지금까지 우리가 보았던 데이터는 순서와는 상관이 없었다. 예로 패션 MNIST 데이터를 생각해 보자. 이 데이터를 신경망 모델에 전달할 때 샘플을 랜덤하게 섞..

보호되어 있는 글입니다.

이어서 서블릿 파일을 작성해보겠다. 서블릿 파일이 많지만 하나씩 정리해볼 것이다.     서블릿 파일 작성하기 1. util 패키지 : DBManager   2. com.dao 패키지 : MovieDAO    3. com.dto 패키지 : MovieVO    4. com.controller 패키지 MovieList    MovieUpdate    MovieWrite    MovieDelete    학습을 마치고서블릿 파일을 모두 작성해보았다. 코드에 대한 설명은 지금까지 학습으로 충분하니 하지 않았다. 다음 포스트에서는 작성한 코드를 실행하며 도전 문제를 풀어볼 것이다.이제 이 책 학습도 거의 마쳐간다.

늦은 점심을 먹고 이제 다시 공부를 시작해 본다. 오늘은 오랜만에 요리를 하며 김치찌개를 끓여 먹었는데 정말 맛있었다. 이제 다시 힘을 내서 공부를 시작해 볼 것이다. 3시간 정도 공부해야지.    퀴즈로 정리합시다 문제 풀기  3번 문제만 틀렸는데 이 문제만 다시 풀어볼 것이다.    문제 3번MultipartRequest 클래스에서 두 개 이상의 파일 이름을 가져올 때 사용되는 메서드는 getFileNames()이다. 내가 생각한 답이 맞았는데 답지가 틀린 것 같다. 문제를 풀다 보면 틀린 답이 상당히 많이 있었다. 설명getFileNames() 메서드는 Enumeration 타입의 객체를 반환한다.이 Enumeration에는 input 태그의 name 속성이 저장되어 있다.반복문을 통해 각 파일 이..

마지막으로 상품 삭제 페이지를 만들어보겠다.    상품 삭제하기상품 삭제 링크를 클릭하면 상품 삭제 화면으로 이동한다.       productDelete.do라는 요청을 받아 처리하는 서블릿 클래스를 만들어보자. 이 클래스는 상품 코드로 상품 정보를 얻어 와서 이를 productDelete.jsjp 페이지로 넘겨준다.      [직접 해보기] 상품 삭제를 위한 서블릿 1. 서블릿 만들기     2. 코드 작성하기  상품 리스트 화면에서 상품 삭제를 클릭하면 이전에 등록했던 상품 정보를 확인한 후에 삭제하기 때문에 상품 삭제 화면으로 이동하도록 한다. 이를 위한 JSP 페이지를 작성하기로 하자.     [직접 해보기] 상품 삭제 화면을 위한 JSP 페이지 삭제할 상품이 확실한지 확인한 후에는 삭제 버튼을..