일상 일기 블로그

2026.09.30 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 5장] 오차역전파란? - 2 [1권 5장] 오차역전파란? - 22026.09.30 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 5장] 오차역전파법 [1권 5장] 오차역전파법오차역전파란?출력에서 계산된 손실함수의 미분값을 신경망의 계산 순서와 반대 방향으로 전eunjin123123.tistory.com 6. 어파인 계층 설계하기6-1) 단일 값에서 행렬으로기존에 우리가 하던 방식은 1*2=2 처럼 하나의 값이 흘렀다.하지만 신경망에서는 행렬이 흐른다. 자세히 봐보자.우리가 보던 신경망은 아래의 모양이었다.이를 식으로 하면 $$ w_1 x_1 + w_2 x_2 $$$$ w_1 x_1 + w_2 x_2 $$$$ w_1 x_..

2026.09.30 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 5장] 오차역전파법 [1권 5장] 오차역전파법오차역전파란?출력에서 계산된 손실함수의 미분값을 신경망의 계산 순서와 반대 방향으로 전달하면서, 각 가중치와 편향에 대한 손실함수의 미분값을 구하는 방법입니다. 오차역전파를 계산eunjin123123.tistory.com 3. 연산별 계산이전에 우리는 계산그래프를 만들면 국소적 계산을 통해 미분값을 차례로 전파할 수 있음을 배웠다. 하지만 계산그래프가 어떻게 구체적으로 미분값을 앞으로 전달할 수 있는지는 배우지 않았다. 그 원리를 살펴보자. 지금 위 그래프를 보면연산(+,/,**) 를 노드로 삼고 그 안으로 값이 들어가고 나간다.미분의 기준이 x,y와 같은 식이 아니라 연산을 기준으로..

오차역전파란?출력에서 계산된 손실함수의 미분값을 신경망의 계산 순서와 반대 방향으로 전달하면서, 각 가중치와 편향에 대한 손실함수의 미분값을 구하는 방법입니다. 오차역전파를 계산 그래프로 이해하면 훨씬 쉽다고 한다.그래서 계산그래프를 봐보자.1. 계산그래프란?계산 과정을 연산과 값의 연결 관계로 나타낸 그래프 계산과정은 위의 정의와 같이 계산과정을 연결관계로 나타낸 것이라고 한다.어떻게 생긴지 봐보자. 문1) 사과 2개를 샀다. 부가가치세 10%를 포함하여 얼마인지 구하시오.책에 나온 형태를 그대로 썼다. 책에 있는 예제를 그대로 썼다. 100 x 2를 계산 그래프로 그리면 x라는 하나의 노드에 100과 2가 와서 곱해지는 것이다.그리고 그 값이 다음 x노드로 전파되어간다. 여기까지 알아낸 건 우선 계..

3. 수치미분앞서서 학습을 위해서는 손실함수가 필요하다고 배웠다.손실함수가 작아지는 쪽으로 학습을 하면 최적의 가중치를 알 수 있다는 것이다. 하지만 어떻게 기계가 손실함수를 줄이는 쪽으로 움직일 수 있을까?그 해답을 주는 것이 '미분'이다. 3.1) 미분이란?$$\frac{dL}{dx}=\lim_{h\to0}\frac{L(x+h)-L(x)}{h}$$ 위의 미분의 정의를 아마 고등학교 때 다 한번씩은 봤을 것이다.(본인은 문과라 안봤다. 요즘은 다 배운다고 한다.) 책에서는 평균 변화율, 순간 변화율 등 여러가지가 나온다.수치미분이 무엇이며 반올림오차에 대해서도 나오는데 그 부분은 생략한다.그냥 미분과 학습이라는 부분에만 신경쓰도록 한다. 다시 미분 이야기로 돌아가면,미분은 순간변화율, 기울기를 의미한..

2026.09.20 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 3장] 신경망이란? - 2 [1권 3장] 신경망이란? - 22026.09.18 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 3장] 신경망이란? [1권 3장] 신경망이란?1. 신경망의 정의 우리는 위와 같은 그림을 신경망이라고 해서 많이 봤다.신경망이란 무엇일까? 여eunjin123123.tistory.com 1. 데이터로부터 학습기존에 논리회로를 하면서, 가중치 조절만으로 여러 논리회로를 만들 수 있는 것을 배웠다. 예를 들어, 입력이 [x1,x2]이고, 가중치가 [w1,w2] 두개가 있다고 하자.x1,x2는 0과 1의 입력이 들어오고, w1,w2를 바꿈으로서 or게이트나 and 게이트 등으로 바꿀 수 있다. w1,w2..

2026.09.18 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 3장] 신경망이란? [1권 3장] 신경망이란?1. 신경망의 정의 우리는 위와 같은 그림을 신경망이라고 해서 많이 봤다.신경망이란 무엇일까? 여러 개의 계산 단위(뉴런)를 서로 연결하고, 각 연결의 가중치를 학습해서 입력을 원하는 출력으eunjin123123.tistory.com 4. 신경망의 계산 위와 같은 그림을 신경망이라고 배웠다.그렇다면 신경망의 계산은 어떻게 이루어지는 것일까? 그것은 행렬연산이다.그 행렬연산에 대해 알아보자. 4-1) 행렬이란?대부분 고등학교 때, 문과(수리나형을 친 사람)도 행렬을 배웠을 것이다.일차식의 계수를 대충 빼내면 그것을 행렬으로 쓸 수 있다. 예를 들어보자. \(2w_1+3w_2 = 4\)\(..

1. 신경망의 정의 우리는 위와 같은 그림을 신경망이라고 해서 많이 봤다.신경망이란 무엇일까? 여러 개의 계산 단위(뉴런)를 서로 연결하고, 각 연결의 가중치를 학습해서 입력을 원하는 출력으로 변환하는 모델 위는 신경망의 정의라고 한다.이 말만 들으면 잘 모르겠다. 이전에 했던 퍼셉트론과 논리회로로부터 신경망이 무엇인지 알아보자. 2026.09.17 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 2장] 퍼셉트론이란? - 2 [1권 2장] 퍼셉트론이란? - 22026.09.16 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 2장] 퍼셉트론이란? -10 \\0 & \text{ot" data-og-host="eunjin123123.tistory.com" data-og-source-url="..

2026.09.16 - [머신러닝/밑바닥부터 시작하는 딥러닝] - [1권 2장] 퍼셉트론이란? -10 \\0 & \text{ot" data-og-host="eunjin123123.tistory.com" data-og-source-url="https://eunjin123123.tistory.com/1402" data-og-url="https://eunjin123123.tistory.com/1402" data-og-image="https://blog.kakaocdn.net/dna/h0awO/dJMb84YjFSi/AAAAAAAAAAAAAAAAAAAAAEhw1oeMEOKMP-xNWYiUhC-Nxde_szV9Hezb4uiF1TvA/img.png?credential=yqXZFxpELC7KVnFOS48ylbz2pIh7yKj8&expires=1793458799&allow_ip=&allow_referer=&signature=ybmSxbBiW25af7aIzSM1hgnH%2Fgg%3D