일상 일기 블로그

오차역전파란?출력에서 계산된 손실함수의 미분값을 신경망의 계산 순서와 반대 방향으로 전달하면서, 각 가중치와 편향에 대한 손실함수의 미분값을 구하는 방법입니다. 오차역전파를 계산 그래프로 이해하면 훨씬 쉽다고 한다.그래서 계산그래프를 봐보자.1. 계산그래프란?계산 과정을 연산과 값의 연결 관계로 나타낸 그래프 계산과정은 위의 정의와 같이 계산과정을 연결관계로 나타낸 것이라고 한다.어떻게 생긴지 봐보자. 문1) 사과 2개를 샀다. 부가가치세 10%를 포함하여 얼마인지 구하시오.책에 나온 형태를 그대로 썼다. 책에 있는 예제를 그대로 썼다. 100 x 2를 계산 그래프로 그리면 x라는 하나의 노드에 100과 2가 와서 곱해지는 것이다.그리고 그 값이 다음 x노드로 전파되어간다. 여기까지 알아낸 건 우선 계..

3. 수치미분앞서서 학습을 위해서는 손실함수가 필요하다고 배웠다.손실함수가 작아지는 쪽으로 학습을 하면 최적의 가중치를 알 수 있다는 것이다. 하지만 어떻게 기계가 손실함수를 줄이는 쪽으로 움직일 수 있을까?그 해답을 주는 것이 '미분'이다. 3.1) 미분이란?$$\frac{dL}{dx}=\lim_{h\to0}\frac{L(x+h)-L(x)}{h}$$ 위의 미분의 정의를 아마 고등학교 때 다 한번씩은 봤을 것이다.(본인은 문과라 안봤다. 요즘은 다 배운다고 한다.) 책에서는 평균 변화율, 순간 변화율 등 여러가지가 나온다.수치미분이 무엇이며 반올림오차에 대해서도 나오는데 그 부분은 생략한다.그냥 미분과 학습이라는 부분에만 신경쓰도록 한다. 다시 미분 이야기로 돌아가면,미분은 순간변화율, 기울기를 의미한..

2026.09.20 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 3장] 신경망이란? - 2 [1권 3장] 신경망이란? - 22026.09.18 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 3장] 신경망이란? [1권 3장] 신경망이란?1. 신경망의 정의 우리는 위와 같은 그림을 신경망이라고 해서 많이 봤다.신경망이란 무엇일까? 여eunjin123123.tistory.com 1. 데이터로부터 학습기존에 논리회로를 하면서, 가중치 조절만으로 여러 논리회로를 만들 수 있는 것을 배웠다. 예를 들어, 입력이 [x1,x2]이고, 가중치가 [w1,w2] 두개가 있다고 하자.x1,x2는 0과 1의 입력이 들어오고, w1,w2를 바꿈으로서 or게이트나 and 게이트 등으로 바꿀 수 있다. w1,w2..

2026.09.18 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 3장] 신경망이란? [1권 3장] 신경망이란?1. 신경망의 정의 우리는 위와 같은 그림을 신경망이라고 해서 많이 봤다.신경망이란 무엇일까? 여러 개의 계산 단위(뉴런)를 서로 연결하고, 각 연결의 가중치를 학습해서 입력을 원하는 출력으eunjin123123.tistory.com 4. 신경망의 계산 위와 같은 그림을 신경망이라고 배웠다.그렇다면 신경망의 계산은 어떻게 이루어지는 것일까? 그것은 행렬연산이다.그 행렬연산에 대해 알아보자. 4-1) 행렬이란?대부분 고등학교 때, 문과(수리나형을 친 사람)도 행렬을 배웠을 것이다.일차식의 계수를 대충 빼내면 그것을 행렬으로 쓸 수 있다. 예를 들어보자. \(2w_1+3w_2 = 4\)\(..

1. 신경망의 정의 우리는 위와 같은 그림을 신경망이라고 해서 많이 봤다.신경망이란 무엇일까? 여러 개의 계산 단위(뉴런)를 서로 연결하고, 각 연결의 가중치를 학습해서 입력을 원하는 출력으로 변환하는 모델 위는 신경망의 정의라고 한다.이 말만 들으면 잘 모르겠다. 이전에 했던 퍼셉트론과 논리회로로부터 신경망이 무엇인지 알아보자. 2026.09.17 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 2장] 퍼셉트론이란? - 2 [1권 2장] 퍼셉트론이란? - 22026.09.16 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 2장] 퍼셉트론이란? -10 \\0 & \text{ot" data-og-host="eunjin123123.tistory.com" data-og-source-url="..

2026.09.16 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 2장] 퍼셉트론이란? -10 \\0 & \text{ot" data-og-host="eunjin123123.tistory.com" data-og-source-url="https://eunjin123123.tistory.com/1402" data-og-url="https://eunjin123123.tistory.com/1402" data-og-image="https://blog.kakaocdn.net/dna/h0awO/dJMb84YjFSi/AAAAAAAAAAAAAAAAAAAAAEhw1oeMEOKMP-xNWYiUhC-Nxde_szV9Hezb4uiF1TvA/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1790780399&allow_ip=&allow_referer=&signature=wNW5Z3dMGFSuT8umdwV7XAuROA4%3D

1. 퍼셉트론의 정의퍼셉트론은 기본적으로 “입력을 받아 가중합을 계산하고 임계값을 넘는지에 따라 출력을 내는 하나의 인공 뉴런 모델 $$ y=\begin{cases}1 & \text{if } w_1x_1+w_2x_2+\cdots+b>0 \\0 & \text{otherwise}\end{cases}$$ 퍼셉트론의 정의를 쉽게 풀어서 말하자면,x값이 들어왔을 때 곱한 값이 임계치를 넘으면 1 아니면 0을 출력하는 것이다. 예를 들어 보자.가중치를 아래와 같이 설정한다. \[w_1=0.7,\quad w_2=0.5,\quad b=-0.6\] \[y=\begin{cases}1 & \text{if } w_1x_1+w_2x_2+b>0 \\0 & \text{otherwise}\end{cases}\]\(x_1,x_2\)..

'ChatGPT와 함께 월 100만원 수익 블로그 만들기' 위 제목의 강의를 들었다.두괄식으로 쓰자면별점: ★☆☆☆☆ 말 그대로 따라만 하면 100만원을 만들 수 있을 것 처럼 쓰여있지만 별로 그렇지 않다. 목차는 결제하지 않은 사람도 볼 수 있으니 공개하면 1장의 목차다.그냥 아무 쓸모 없다.유튜부에서 무료로 푸는 그런 내용이다. 여기서부터 블로그 내용 다루는데- 그냥 SEO를 지켜서 글 써라.- 챗지피티로 블로그 키워드 뽑아라 이런 내용이다. 그냥 유투브에 있는 말인데 유료의 가치는 없는 것 같다.