티스토리 뷰

반응형

🧠 인간 두뇌를 논리 회로처럼 그려낸 최초의 시도

— McCulloch & Pitts (1943) 논문 해설 ①: 이 논문이 왜 중요한가 & 연구 배경


1️⃣ 왜 이 논문이 중요한가?

1943년, 신경생리학자 Warren McCulloch과 수학자 Walter Pitts는 당시로서는 상상도 하기 어려운 논문을 발표합니다.
논문 제목은 "A Logical Calculus of the Ideas Immanent in Nervous Activity",
우리말로 옮기면 **"신경 활동에 내재된 사고의 논리적 계산 체계"**입니다.

이 논문은 한마디로 말하면 **“두뇌 = 논리 회로”**라는 생각을 수학적으로 모델링한 논문입니다.

💡 이 논문은 오늘날 인공지능의 뿌리인 인공신경망(Artificial Neural Network) 이론의 시초로 평가됩니다.
💡 나아가, 논리학·수학·컴퓨터 과학·신경과학을 하나의 이론 안에서 통합한 최초의 논문입니다.

✔️ 이 논문의 의의

분야 영향

신경과학 뉴런을 수학적으로 모델링하려는 최초의 시도
수리논리 논리 연산(AND, OR, NOT)을 뉴런 회로로 표현
컴퓨터 과학 튜링 기계와 동일한 계산 능력을 지닌 구조 제시
인공지능 ANN(인공신경망)의 탄생, 이후 퍼셉트론·MLP·딥러닝의 기반

2️⃣ 어떤 배경에서 이런 생각이 나왔을까?

🧬 생리학적 배경: 뇌는 "스위치"처럼 작동한다

논문의 가장 핵심적인 생리학적 가정은 다음과 같습니다:

뉴런은 “발화하거나 발화하지 않는다” → 올 오어 낫싱(all-or-none)

즉, 신경세포는 전기 신호를 일정 수준 이상 받으면 “불이 들어오듯” 발화하고, 그렇지 않으면 아무 반응이 없습니다.
이것은 디지털 회로의 0과 1, True/False와 정확히 같습니다.


📘 수학적 배경: 명제 논리 (Propositional Logic)

McCulloch과 Pitts는 수리논리학자였던 러셀과 화이트헤드의 Principia Mathematica로부터 큰 영향을 받았습니다.
이들은 명제 논리의 구조를 차용해서, 뉴런의 발화를 하나의 명제처럼 표현하려고 했습니다.

예시:

뉴런 상태 논리 표현 의미

뉴런이 발화함 N(t) = True t 시점에 뉴런 N이 발화
발화하지 않음 ~N(t) = False N은 t 시점에 발화하지 않음
두 뉴런이 모두 발화 N1(t) ∧ N2(t) AND 연산
둘 중 하나만 발화 N1(t) ∨ N2(t) OR 연산

3️⃣ McCulloch & Pitts의 핵심 아이디어

🧠 "뉴런 = 명제 = 논리 회로"

이 논문에서 저자들은 다음과 같은 가정을 기반으로 논리를 전개합니다:

✔️ 뉴런의 기본 가정 5가지 (요약)

가정 번호 내용

1 뉴런은 all-or-none 방식으로 발화한다
2 여러 입력이 동시에 들어와야 뉴런이 발화할 수 있다 (threshold 조건)
3 전달 지연은 시냅스에서만 발생한다 (시간의 흐름 고려)
4 억제 시냅스는 뉴런의 발화를 완전히 차단할 수 있다
5 망의 구조(뉴런 연결)는 시간이 지나도 바뀌지 않는다

이처럼 단순한 가정들을 수학적 논리로 정리하면, 뉴런은 명제 논리 연산과 똑같은 기능을 수행할 수 있다는 결론이 나옵니다.


💡 예시: 뉴런으로 "AND" 연산 구현하기

두 개의 입력 뉴런 N1, N2가 동시에 발화해야만
출력 뉴런 N3가 발화한다면 → 논리 AND 연산

이를 그림으로 표현하면 다음과 같습니다:

[ N1 ]──▶
         \
          ▶──[ N3 ]  
         /
[ N2 ]──▶

이때, 뉴런 N3는 threshold = 2 (두 입력 모두 필요)로 설정되어 있습니다.
즉, N1과 N2가 동시에 발화해야 N3가 발화합니다.
→ 논리적으로는 N3(t) = N1(t-1) ∧ N2(t-1)


🧠 이 아이디어가 왜 혁신적이었나?

  • 당시에는 뉴런이 "정보처리"를 한다는 개념조차 생소했음
  • 이 논문은 뉴런들이 모여 논리 연산을 수행하고, 결국 계산도 가능하다는 것을 보여줌
  • 더 나아가, 뉴런 회로로 모든 튜링 기계가 수행하는 계산을 구현 가능하다는 것도 제시함
  • 이게 바로 인공지능의 수학적 기초이자 신경망 이론의 원형이 됩니다

 


🔧 뉴런으로 논리를 짜다 (비전공자 친화 버전)

— McCulloch & Pitts (1943) 논문 해설 ②: 비순환망과 핵심 정리


🧠 먼저 뉴런을 "전기 회로"처럼 생각해봅시다

이 논문에서 말하는 뉴런은 복잡한 생물학 구조가 아니라
"스위치처럼 작동하는 전기회로"에 가깝습니다.

  • 어떤 스위치(입력)가 눌리면 → 불이 켜진다(출력)
  • 불은 단순히 켜지거나 꺼지거나, 둘 중 하나
  • 그래서 뉴런도 1 아니면 0, TRUE 아니면 FALSE로 다룹니다

🔎 예시 ①: AND 논리 (둘 다 눌러야 켜짐)

🪛 설정:

  • 스위치 N1과 N2를 동시에 눌러야 전등 N3가 켜진다
  • 한 쪽이라도 안 누르면 N3는 꺼져 있음

💡 회로 그림:

[ N1 ]──▶
         \
          ▶──[ N3 ]
         /
[ N2 ]──▶

🧮 수식:

N3(t) = S[ N1(t-1) ∧ N2(t-1) ]

이건 무슨 뜻일까요?

기호 의미

N1(t-1) 어제 N1 스위치가 눌렸다
N2(t-1) 어제 N2 스위치도 눌렸다
그리고 둘 다 눌렸어야 한다
S[ ... ] 그 조건이 만족되면, 오늘 N3가 켜진다

즉,

"어제 N1과 N2가 동시에 눌렸다면, 오늘 N3가 켜진다"


🔍 예시 ②: NOT 논리 (얘는 눌리면 안 됨)

🪛 설정:

  • N1 스위치는 눌러야 함
  • N2는 절대 누르면 안 됨 (억제)
  • 둘 다 만족될 때만 N3가 켜짐

🧮 수식:

N3(t) = S[ N1(t-1) ∧ ~N2(t-1) ]

기호 의미

~N2(t-1) N2는 어제 꺼져 있어야 한다 (= NOT)

💡 직관적 설명:

"어제 N1은 눌리고, N2는 눌리지 않았을 때 → 오늘 N3가 켜진다"

이건 억제(inhibition)의 논리적 구현이에요.


⚙️ McCulloch & Pitts는 이걸 뭐라고 불렀을까?

이렇게 시간 흐름에 따라
뉴런 발화 조건을 논리식으로 표현한 걸 뭐라고 했냐면…

Temporal Propositional Expression (TPE)

즉, **“시간을 고려한 명제 논리 수식”**입니다.


🧠 여기서 중요한 질문

“그럼 이런 수식은 실제 뉴런 회로로 만들 수 있을까?”

McCulloch & Pitts는 여기에 대해 세 가지 중요한 정리를 보여줍니다.


📜 정리 I — 비순환망은 모두 수식(TPE)으로 표현 가능

비순환망? 간단합니다.

  • 신호가 순환하지 않고,
  • 한 방향(입력 → 출력)으로만 흐르는 구조

💡 예시:

입력 → 숨은 뉴런 → 출력

→ 이런 구조에서는 모든 뉴런의 동작을 논리식으로 표현 가능합니다.


📜 정리 II — 모든 TPE 수식은 실제 회로로 구현 가능

즉, 논리식만 주면 그걸 만족하는 뉴런 회로를 설계할 수 있다는 말입니다.

🧪 예시:
수식: N3(t) = S[ N1(t-1) ∧ ~N2(t-1) ]

실제로 이렇게 구성:

  • N1은 흥분 시냅스
  • N2는 억제 시냅스
  • N3의 발화 임계값은 1
    → 그래서 N1이 켜지고, N2가 꺼져 있으면 N3가 발화

📜 정리 III — 어떤 논리식은 구현 불가

주의할 점도 있습니다.

  • 논리식이 항상 거짓(False) 이거나
  • 모순적 구조일 경우
    → 이런 식은 뉴런 회로로 구현할 수 없습니다.

예를 들어:

N3(t) = S[ N1(t) ∧ ~N1(t) ]

→ N1이 동시에 켜지고 꺼져 있어야 한다? 불가능!
→ 이런 건 구현 안 됨


🔍 정리 마무리 요약

정리 내용 직관

정리 I 비순환망은 TPE 수식으로 다 표현 가능 모든 회로 → 수식
정리 II 수식이 있으면 회로로 구현 가능 수식 → 회로
정리 III 모순된 수식은 구현 불가 불가능한 수식은 회로도 안 됨

✅ 여기까지 정리

  • 뉴런은 불이 켜지거나 꺼지는 전구처럼 생각하면 된다
  • 이 전구들을 조합해서 논리 연산(AND, OR, NOT)을 구현할 수 있다
  • 논리식을 시간 흐름에 따라 쓰면 TPE가 된다
  • 이 수식은 실제 회로로 만들 수 있고, 논문에서는 그것을 수학적으로 증명했다

 


🔁 순환망(Net with Circles)의 개념 해설

개념 요약

순환망은 신경망 안에 **피드백 루프(feedback loop)**가 있는 구조입니다.
즉, 뉴런 N1이 발화한 결과가 다시 N1 또는 다른 경로를 통해 되돌아와 입력이 되는 구조입니다.

왜 중요한가?

  • 기억(memory) 을 구현할 수 있는 유일한 구조
  • 지속적인 상태 유지, 자기 유지(self-sustaining activation) 가 가능함
  • 뇌가 자극이 사라진 후에도 생각, 감정, 기억을 이어가는 원리

직관적 비유

스위치를 누르면 계속 켜져 있는 전등
→ 다시 끄기 전까지는 꺼지지 않음
→ 이게 바로 뇌 속의 "활성화 유지 상태"


⏳ 시간적 수식(TPE)의 개념 해설

개념 요약

TPE는 시간 흐름에 따라 뉴런 발화 조건을 논리적으로 기술한 수식입니다.
예:

N3(t) = S[ N1(t-1) ∧ ~N2(t-1) ]

→ “어제 N1이 켜졌고, N2는 꺼졌다면 → 오늘 N3가 켜진다”

핵심 구성요소

기호 의미

t 현재 시점 (today)
t-1 이전 시점 (yesterday)
S[...] "이 조건이 만족되면 다음 시점에 발화"
∧, ∨, ~ 논리 연산자 (AND, OR, NOT)

왜 중요한가?

  • 뇌가 “지금 상태”뿐 아니라 이전 시간의 정보에 반응하게 만듦
  • 시간 패턴을 인식하는 기반: 예를 들어, 박자 감지, 언어, 기억된 순서

🧠 기억(memory)과 뇌 회로의 연결

왜 기억은 순환망에서만 가능한가?

비순환망:

  • A → B → C → D
  • 입력이 들어오면 순차 반응, 끝나면 종료

순환망:

  • A → B → A
  • 한 번 발화되면 회로가 계속해서 자극 상태를 유지

실제 뇌의 예시

  • 작업기억(working memory): “지금 하고 있는 일 잠깐 기억”
  • 주의 유지(attention loop): 주의 회로가 스스로 유지되어야 집중이 유지됨

🤯 튜링 완전성(Turing-completeness)의 의미

개념 요약

어떤 시스템이 "튜링 완전"하다는 건,
이론적으로 모든 계산 가능한 문제를 풀 수 있다는 뜻
입니다.

즉, 반복, 조건, 저장, 불값 처리 등의 기능이 모두 가능해야 함

왜 신경망이 튜링 완전해지려면 순환이 필요한가?

  • 반복(Loop), 조건반복(While), 재귀(Recursion)을 구현하려면
    이전 상태가 회로 어딘가에 남아 있어야 함
  • 순환망 없이 계산이란 불가능

논문이 한 일

McCulloch & Pitts는 순환망 구조만으로
튜링 기계가 하는 모든 일을 이론적으로 구현 가능하다는 것을 보였습니다.
→ 즉, 뇌 = 계산 가능 기계


🔍 착각 현상의 수식 해설

수식 복습:

N_heat(t) = S[ N_cold(t-2) ∧ ~N_cold(t-1) ]

해석 단계별

  1. N_cold(t-2) → “2초 전에는 차가운 자극이 있었고”
  2. ~N_cold(t-1) → “1초 전에는 그 자극이 사라졌다”
  3. 이런 조건을 만족하면 → 오늘 N_heat 뉴런이 발화 → 따뜻함 착각

이걸 왜 굳이 수식으로?

  • 뇌가 시간 순서를 인식하고,
    그 변화(온→없음)를 감지해서 다른 감각으로 착각하게 되는 구조를
    논리 회로로 정밀하게 묘사한 것

🔂 회로로 재현된 인지 기능 = 인공지능의 출발점

이 논문이 시사하는 가장 핵심적인 철학

  • 뇌가 수행하는 인지 기능은 모두 논리 회로로 구현 가능
  • 감정, 기억, 착각, 판단조차 수학적으로 모델링 가능
  • 지금 우리가 말하는 인공지능의 철학적 기초가 이 논문에 들어 있음

✅ 마무리 요약 (보강 후)

개념 간단 설명 실제 의미

순환망 되돌아가는 회로 기억 유지, 반복 실행
TPE 시간 기반 논리 수식 뇌의 시간 감지 모델
기억 과거 자극에 반응 지속 루프와 피드백 구조
튜링 완전성 모든 계산 가능 구조 뇌는 계산기다
착각 수식 시간차로 따뜻함 착각 유도 논리적 인지 모델
인공지능 기초 논리 회로 = 사고 ANN, 딥러닝의 원형

 


🧠 뇌는 계산하는 기계다

— McCulloch & Pitts (1943) 논문 해설 ④: 철학적 결론과 현대적 의의


8️⃣ 철학적 주장: 사고는 논리다, 뇌는 회로다

🧩 이 논문이 전하려는 핵심 메시지 한 줄 요약:

"모든 정신 활동은 뉴런의 발화로 구성된 논리적 계산이다."


🔍 뇌에 대한 기존 관점 vs. McCulloch & Pitts의 관점

기존 관점 (1940년대 이전) 이 논문의 관점

뇌는 생물학적 기관이다 뇌는 논리 회로다
사고는 복잡하고 추상적인 것이다 사고는 명제들의 조합이다
기억은 물질에 저장된다 기억은 회로의 순환이다
지각, 감정은 수학적으로 기술 불가 착각조차 수식으로 모델링 가능

🔧 사고(thought)를 논리 시스템으로 바꾼다?

저자들의 가정:

  • 인간은 "사고"를 한다
  • 사고란 어떤 명제들이 참인지 아닌지를 판별하는 과정이다
  • 따라서 뇌는 이 명제들의 논리적 관계를 계산하는 구조여야 한다

💬 즉, 사고는 "진리값(True/False)을 따지는 계산"이고,
이건 뉴런 회로로 구현할 수 있는 문제라는 것.


🧠 이 논문이 말하는 정신의 구조

정신(Mind) = 뇌(Brain)의 뉴런 구조 + 발화 규칙
= 논리적 연산의 집합

개념 논문에서의 표현 실제 의미

사고 명제 논리의 계산 판단, 추론
기억 순환 회로에서의 상태 유지 과거 정보 저장
지각 입력 뉴런들의 발화 패턴 감각 자극 반응
착각 시간 조건이 만든 오류 반응 인지적 오인
학습 회로 구조의 변화 가중치 조정, 연결성 변화

🤯 이게 왜 그렇게 놀라운 주장인가?

1943년 기준으로는 너무 앞선 주장이었습니다:

  • 뇌가 계산을 한다?
  • 정신이 논리 회로로 환원된다?
  • 신경세포의 작동만으로 지능이 설명된다?

이는 곧 "정신은 영혼이 아니라 계산이다"라는 철학적 선언과 같습니다.


9️⃣ 현대 인공지능/뇌과학과의 연결

이 논문은 지금 우리가 말하는 다음 개념들의 뿌리입니다:

🔹 인공신경망(ANN)

  • 뉴런의 발화 조건, 시냅스 구조 → ANN 구조의 전신

🔹 퍼셉트론

  • Rosenblatt(1958)은 단일 뉴런의 AND/OR 연산에서 시작
  • 논리 회로를 실제 기계 학습으로 구현

🔹 MLP (Multi-layer Perceptron)

  • Rumelhart et al. (1986)은 다층 구조 + 역전파 학습 구현
  • 논리 회로 → 계산 → 학습 가능한 ANN

🔹 딥러닝

  • 여러 층을 가진 인공신경망이 복잡한 패턴도 학습 가능함을 보임
  • 순환구조(RNN), 자기참조 구조(Transformer) 등 모두 순환망 개념 기반

🔬 뇌과학에서도 이 논문은 살아 있다

개념 신경과학적 대응

기억 hippocampus의 지속적 firing, 루프 구조
주의 유지 prefrontal cortex의 순환망 활동
감각 착각 temporal dynamics of sensory processing
뇌질환 모델링 회로 비정상 vs. 화학 물질 이상 접근 가능성

📈 현대적 재해석: 이 논문이 바꿔놓은 질문들

질문 이전 이 논문 이후

뇌는 무엇인가? 생물학적 기관 계산 장치
사고는 어떻게 일어나는가? 알 수 없음 뉴런 회로의 논리 연산
기억은 어디에 저장되는가? 시냅스에 저장됨 회로 상태로 유지됨
컴퓨터는 인간처럼 생각할 수 있는가? 불가능 회로 설계에 따라 가능

10️⃣ 부록: 이 논문의 핵심 논리 구조 요약

개념 수식 예시 기능

AND N3 = S[ N1 ∧ N2 ] 두 조건 모두 만족 시 발화
OR N3 = S[ N1 ∨ N2 ] 둘 중 하나만 만족해도 발화
NOT ~N1 특정 뉴런은 발화하지 않아야 함
기억 N1(t) = N1(t-1) 과거 상태를 유지
시간조건 N3 = S[ N1(t-2) ∧ ~N1(t-1) ] 과거 패턴 인식
착각 모델링 위 수식 응용 감각적 오인을 모델링

✅ 전체 정리 요약

항목 핵심 내용

논문 목적 사고를 수학적 모델로 표현
방법 뉴런 = 논리 명제, 회로 = 계산 구조
핵심 개념 TPE, 순환망, 기억, 논리 연산
수식 구조 S[ P(t) ], ∧, ∨, ~, 시간 지연 등
철학적 의미 정신은 계산 가능한 물리 시스템이다
현대적 영향 인공지능, 뇌과학, 계산이론 전반에 영향

🎯 마무리 멘트

오늘날의 딥러닝이란 기술은, 사실 1943년 두 사람의 대담한 질문에서 시작됐습니다.
"뇌가 계산을 한다면, 그 계산은 어떤 논리로 작동할까?"
그들의 답은, 수식과 회로로 정리된 이 논문에 고스란히 담겨 있었습니다.


 

McCulloch, W. S., & Pitts, W. (1943).
A logical calculus of the ideas immanent in nervous activity.
The Bulletin of Mathematical Biophysics, 5(4), 115–133.
https://doi.org/10.1007/BF02478259

반응형

'머신러닝 > 밑바닥부터 시작하는 딥러닝' 카테고리의 다른 글

오차역전파 학습  (0) 2025.03.27
퍼셉트론 논문 리뷰  (0) 2025.03.25
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
Total
Today
Yesterday
링크
«   2025/05   »
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31
글 보관함