일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |
- html/css
- 코딩테스트
- 데이터분석
- 자연수의성질
- numpy/pandas
- 선형분류모델
- C++
- 머신러닝
- pandas
- 언리얼프로젝트
- 요구사항확인
- 정보처리기사필기
- 텍스트마이닝
- 자바
- 데이터베이스
- 파이썬
- 선형회귀모델
- 언리얼학습
- 이수증
- c언어
- Orange
- 정보처리기사실기
- 자바 실습
- 핵심프로젝트
- JSP/Servlet
- 디버깅
- 중학수학
- 딥러닝
- 데이터시각화
- 데이터입출력구현
- Today
- Total
목록퍼셉트론 (3)
클라이언트/ 서버/ 엔지니어 " 게임 개발자"를 향한 매일의 공부일지
퍼셉트론에 대해서 학습하는 중이다. 먼저 지난 시간 내용을 복습하며 선형 모델과 회귀 모델의 차이점에 대해서 학습해보기로 하자. 모델 평가하기 전에 알아야 할 개념 정리 회귀는 평균 제곱 오차를 활용하지만 분류에서는 나오는 예측값이 0이나 1 확률값으로 표기된다. 분류에서는 평균 제곱 오차를 적용하기 어려운데 그 이유는 예측과 오차의 차이가 많이 나야 1이 되기 때문이다. 모델 입장에서는 오차값이 적게 나오니 괜찮은 모델이라고 생각한다. 그래서 등장한 것이 손실함수인 lost function이다. 그러면 이 Cross Entropy가 어떤 효과를 지니고 있는지 알아보자. 크로스 엔트로피는 로그함수를 이용하게 되어 있고 파란색이라. 두번째 것은 로그 함수 안에 1을 뺀 예측값을 넣어 계산한..
이어서 퍼셉트론에 대해 학습해본다. 단일 퍼셉트론과 다중 퍼셉트론에 대하여 퍼셉트론 가장 초기에 제안되었던 함수를 계단 함수라고 부른다. 0을 기준으로 0보다 크면 1, 0보다 크면 1이 출력된다. 요즘에는 Step function을 사용하지 않고 다양한 함수를 사용한다. 입력층은 실제 연산은 하지 않고 데이터가 몇 개가 들어가는지 표시하는 층이다. 총 3개의 데이터가 들어간다고 표시되어 있다. 중간층은 실제 학습을 하는 층으로 퍼셉트론이 들어간다. 이 층이 숨겨져 있기에 은닉층이라 부르기도 한다. 출력층도 퍼셉트론이다. 여기서는 3개의 데이터가 들어가면 2개의 데이터가 나오게 설계했다. 멀리 퍼셉트론의 특징 퍼셉트론이 늘어날수록 파라미터가 많아져 학습 시간이 오래 걸린다. 선형 모델에..
둘째날 수업부터는 딥러닝을 좀더 깊이있게 들어갔다. 먼저 지난 시간에 배웠던 내용을 잠시 복습하고 새로운 개념인 퍼셉트론을 학습해보기로 하자. 퍼셉트론에 대하여 사람의 뉴런은 어느 기준값 이상일 때 반응을 하도록 만들어져있다. 사람의 뇌 구조를 모방한 인공신경망을 수학적 구조로 구현한 알고리즘이다. 이 식은 선형 모델을 말하는데 0보다 같거나 작으면 0이, 크면 1이 나온다. 여기서 0보다 크거나 작은지가 역치를 구현한 것이다.뉴런에서 외부의 자극이 기준값 이상일 때만 다음 뉴런에게 전달되어 반응된다. 만약 외부에서 들어온 자극이 기준값을 넘지 못하면 비활성화를 시켜야 한다. 이러한 활성과 비활성 단계를 수학적 표현인 1과 0으로 구현한 것이다. 0은 더하거나 곱해도 변화가 ..