티스토리 뷰
A logical calculus of the ideas immanent in nervous activity. (McCulloch, W. S., & Pitts, W. , 1943)
키성열 2025. 3. 24. 01:02🧠 인간 두뇌를 논리 회로처럼 그려낸 최초의 시도
— McCulloch & Pitts (1943) 논문 해설 ①: 이 논문이 왜 중요한가 & 연구 배경
1️⃣ 왜 이 논문이 중요한가?
1943년, 신경생리학자 Warren McCulloch과 수학자 Walter Pitts는 당시로서는 상상도 하기 어려운 논문을 발표합니다.
논문 제목은 "A Logical Calculus of the Ideas Immanent in Nervous Activity",
우리말로 옮기면 **"신경 활동에 내재된 사고의 논리적 계산 체계"**입니다.
이 논문은 한마디로 말하면 **“두뇌 = 논리 회로”**라는 생각을 수학적으로 모델링한 논문입니다.
💡 이 논문은 오늘날 인공지능의 뿌리인 인공신경망(Artificial Neural Network) 이론의 시초로 평가됩니다.
💡 나아가, 논리학·수학·컴퓨터 과학·신경과학을 하나의 이론 안에서 통합한 최초의 논문입니다.
✔️ 이 논문의 의의
분야 영향
신경과학 | 뉴런을 수학적으로 모델링하려는 최초의 시도 |
수리논리 | 논리 연산(AND, OR, NOT)을 뉴런 회로로 표현 |
컴퓨터 과학 | 튜링 기계와 동일한 계산 능력을 지닌 구조 제시 |
인공지능 | ANN(인공신경망)의 탄생, 이후 퍼셉트론·MLP·딥러닝의 기반 |
2️⃣ 어떤 배경에서 이런 생각이 나왔을까?
🧬 생리학적 배경: 뇌는 "스위치"처럼 작동한다
논문의 가장 핵심적인 생리학적 가정은 다음과 같습니다:
✅ 뉴런은 “발화하거나 발화하지 않는다” → 올 오어 낫싱(all-or-none)
즉, 신경세포는 전기 신호를 일정 수준 이상 받으면 “불이 들어오듯” 발화하고, 그렇지 않으면 아무 반응이 없습니다.
이것은 디지털 회로의 0과 1, True/False와 정확히 같습니다.
📘 수학적 배경: 명제 논리 (Propositional Logic)
McCulloch과 Pitts는 수리논리학자였던 러셀과 화이트헤드의 Principia Mathematica로부터 큰 영향을 받았습니다.
이들은 명제 논리의 구조를 차용해서, 뉴런의 발화를 하나의 명제처럼 표현하려고 했습니다.
예시:
뉴런 상태 논리 표현 의미
뉴런이 발화함 | N(t) = True | t 시점에 뉴런 N이 발화 |
발화하지 않음 | ~N(t) = False | N은 t 시점에 발화하지 않음 |
두 뉴런이 모두 발화 | N1(t) ∧ N2(t) | AND 연산 |
둘 중 하나만 발화 | N1(t) ∨ N2(t) | OR 연산 |
3️⃣ McCulloch & Pitts의 핵심 아이디어
🧠 "뉴런 = 명제 = 논리 회로"
이 논문에서 저자들은 다음과 같은 가정을 기반으로 논리를 전개합니다:
✔️ 뉴런의 기본 가정 5가지 (요약)
가정 번호 내용
1 | 뉴런은 all-or-none 방식으로 발화한다 |
2 | 여러 입력이 동시에 들어와야 뉴런이 발화할 수 있다 (threshold 조건) |
3 | 전달 지연은 시냅스에서만 발생한다 (시간의 흐름 고려) |
4 | 억제 시냅스는 뉴런의 발화를 완전히 차단할 수 있다 |
5 | 망의 구조(뉴런 연결)는 시간이 지나도 바뀌지 않는다 |
이처럼 단순한 가정들을 수학적 논리로 정리하면, 뉴런은 명제 논리 연산과 똑같은 기능을 수행할 수 있다는 결론이 나옵니다.
💡 예시: 뉴런으로 "AND" 연산 구현하기
두 개의 입력 뉴런 N1, N2가 동시에 발화해야만
출력 뉴런 N3가 발화한다면 → 논리 AND 연산
이를 그림으로 표현하면 다음과 같습니다:
[ N1 ]──▶
\
▶──[ N3 ]
/
[ N2 ]──▶
이때, 뉴런 N3는 threshold = 2 (두 입력 모두 필요)로 설정되어 있습니다.
즉, N1과 N2가 동시에 발화해야 N3가 발화합니다.
→ 논리적으로는 N3(t) = N1(t-1) ∧ N2(t-1)
🧠 이 아이디어가 왜 혁신적이었나?
- 당시에는 뉴런이 "정보처리"를 한다는 개념조차 생소했음
- 이 논문은 뉴런들이 모여 논리 연산을 수행하고, 결국 계산도 가능하다는 것을 보여줌
- 더 나아가, 뉴런 회로로 모든 튜링 기계가 수행하는 계산을 구현 가능하다는 것도 제시함
- 이게 바로 인공지능의 수학적 기초이자 신경망 이론의 원형이 됩니다
🔧 뉴런으로 논리를 짜다 (비전공자 친화 버전)
— McCulloch & Pitts (1943) 논문 해설 ②: 비순환망과 핵심 정리
🧠 먼저 뉴런을 "전기 회로"처럼 생각해봅시다
이 논문에서 말하는 뉴런은 복잡한 생물학 구조가 아니라
"스위치처럼 작동하는 전기회로"에 가깝습니다.
- 어떤 스위치(입력)가 눌리면 → 불이 켜진다(출력)
- 불은 단순히 켜지거나 꺼지거나, 둘 중 하나
- 그래서 뉴런도 1 아니면 0, TRUE 아니면 FALSE로 다룹니다
🔎 예시 ①: AND 논리 (둘 다 눌러야 켜짐)
🪛 설정:
- 스위치 N1과 N2를 동시에 눌러야 전등 N3가 켜진다
- 한 쪽이라도 안 누르면 N3는 꺼져 있음
💡 회로 그림:
[ N1 ]──▶
\
▶──[ N3 ]
/
[ N2 ]──▶
🧮 수식:
N3(t) = S[ N1(t-1) ∧ N2(t-1) ]
이건 무슨 뜻일까요?
기호 의미
N1(t-1) | 어제 N1 스위치가 눌렸다 |
N2(t-1) | 어제 N2 스위치도 눌렸다 |
∧ | 그리고 둘 다 눌렸어야 한다 |
S[ ... ] | 그 조건이 만족되면, 오늘 N3가 켜진다 |
즉,
"어제 N1과 N2가 동시에 눌렸다면, 오늘 N3가 켜진다"
🔍 예시 ②: NOT 논리 (얘는 눌리면 안 됨)
🪛 설정:
- N1 스위치는 눌러야 함
- N2는 절대 누르면 안 됨 (억제)
- 둘 다 만족될 때만 N3가 켜짐
🧮 수식:
N3(t) = S[ N1(t-1) ∧ ~N2(t-1) ]
기호 의미
~N2(t-1) | N2는 어제 꺼져 있어야 한다 (= NOT) |
💡 직관적 설명:
"어제 N1은 눌리고, N2는 눌리지 않았을 때 → 오늘 N3가 켜진다"
이건 억제(inhibition)의 논리적 구현이에요.
⚙️ McCulloch & Pitts는 이걸 뭐라고 불렀을까?
이렇게 시간 흐름에 따라
뉴런 발화 조건을 논리식으로 표현한 걸 뭐라고 했냐면…
✨ Temporal Propositional Expression (TPE)
즉, **“시간을 고려한 명제 논리 수식”**입니다.
🧠 여기서 중요한 질문
“그럼 이런 수식은 실제 뉴런 회로로 만들 수 있을까?”
McCulloch & Pitts는 여기에 대해 세 가지 중요한 정리를 보여줍니다.
📜 정리 I — 비순환망은 모두 수식(TPE)으로 표현 가능
비순환망? 간단합니다.
- 신호가 순환하지 않고,
- 한 방향(입력 → 출력)으로만 흐르는 구조
💡 예시:
입력 → 숨은 뉴런 → 출력
→ 이런 구조에서는 모든 뉴런의 동작을 논리식으로 표현 가능합니다.
📜 정리 II — 모든 TPE 수식은 실제 회로로 구현 가능
즉, 논리식만 주면 그걸 만족하는 뉴런 회로를 설계할 수 있다는 말입니다.
🧪 예시:
수식: N3(t) = S[ N1(t-1) ∧ ~N2(t-1) ]
실제로 이렇게 구성:
- N1은 흥분 시냅스
- N2는 억제 시냅스
- N3의 발화 임계값은 1
→ 그래서 N1이 켜지고, N2가 꺼져 있으면 N3가 발화
📜 정리 III — 어떤 논리식은 구현 불가
주의할 점도 있습니다.
- 논리식이 항상 거짓(False) 이거나
- 모순적 구조일 경우
→ 이런 식은 뉴런 회로로 구현할 수 없습니다.
예를 들어:
N3(t) = S[ N1(t) ∧ ~N1(t) ]
→ N1이 동시에 켜지고 꺼져 있어야 한다? 불가능!
→ 이런 건 구현 안 됨
🔍 정리 마무리 요약
정리 내용 직관
정리 I | 비순환망은 TPE 수식으로 다 표현 가능 | 모든 회로 → 수식 |
정리 II | 수식이 있으면 회로로 구현 가능 | 수식 → 회로 |
정리 III | 모순된 수식은 구현 불가 | 불가능한 수식은 회로도 안 됨 |
✅ 여기까지 정리
- 뉴런은 불이 켜지거나 꺼지는 전구처럼 생각하면 된다
- 이 전구들을 조합해서 논리 연산(AND, OR, NOT)을 구현할 수 있다
- 논리식을 시간 흐름에 따라 쓰면 TPE가 된다
- 이 수식은 실제 회로로 만들 수 있고, 논문에서는 그것을 수학적으로 증명했다
🔁 순환망(Net with Circles)의 개념 해설
개념 요약
순환망은 신경망 안에 **피드백 루프(feedback loop)**가 있는 구조입니다.
즉, 뉴런 N1이 발화한 결과가 다시 N1 또는 다른 경로를 통해 되돌아와 입력이 되는 구조입니다.
왜 중요한가?
- 기억(memory) 을 구현할 수 있는 유일한 구조
- 지속적인 상태 유지, 자기 유지(self-sustaining activation) 가 가능함
- 뇌가 자극이 사라진 후에도 생각, 감정, 기억을 이어가는 원리
직관적 비유
스위치를 누르면 계속 켜져 있는 전등
→ 다시 끄기 전까지는 꺼지지 않음
→ 이게 바로 뇌 속의 "활성화 유지 상태"
⏳ 시간적 수식(TPE)의 개념 해설
개념 요약
TPE는 시간 흐름에 따라 뉴런 발화 조건을 논리적으로 기술한 수식입니다.
예:
N3(t) = S[ N1(t-1) ∧ ~N2(t-1) ]
→ “어제 N1이 켜졌고, N2는 꺼졌다면 → 오늘 N3가 켜진다”
핵심 구성요소
기호 의미
t | 현재 시점 (today) |
t-1 | 이전 시점 (yesterday) |
S[...] | "이 조건이 만족되면 다음 시점에 발화" |
∧, ∨, ~ | 논리 연산자 (AND, OR, NOT) |
왜 중요한가?
- 뇌가 “지금 상태”뿐 아니라 이전 시간의 정보에 반응하게 만듦
- 시간 패턴을 인식하는 기반: 예를 들어, 박자 감지, 언어, 기억된 순서 등
🧠 기억(memory)과 뇌 회로의 연결
왜 기억은 순환망에서만 가능한가?
비순환망:
- A → B → C → D
- 입력이 들어오면 순차 반응, 끝나면 종료
순환망:
- A → B → A
- 한 번 발화되면 회로가 계속해서 자극 상태를 유지
실제 뇌의 예시
- 작업기억(working memory): “지금 하고 있는 일 잠깐 기억”
- 주의 유지(attention loop): 주의 회로가 스스로 유지되어야 집중이 유지됨
🤯 튜링 완전성(Turing-completeness)의 의미
개념 요약
어떤 시스템이 "튜링 완전"하다는 건,
이론적으로 모든 계산 가능한 문제를 풀 수 있다는 뜻입니다.
즉, 반복, 조건, 저장, 불값 처리 등의 기능이 모두 가능해야 함
왜 신경망이 튜링 완전해지려면 순환이 필요한가?
- 반복(Loop), 조건반복(While), 재귀(Recursion)을 구현하려면
이전 상태가 회로 어딘가에 남아 있어야 함 - 순환망 없이 계산이란 불가능
논문이 한 일
McCulloch & Pitts는 순환망 구조만으로
튜링 기계가 하는 모든 일을 이론적으로 구현 가능하다는 것을 보였습니다.
→ 즉, 뇌 = 계산 가능 기계
🔍 착각 현상의 수식 해설
수식 복습:
N_heat(t) = S[ N_cold(t-2) ∧ ~N_cold(t-1) ]
해석 단계별
- N_cold(t-2) → “2초 전에는 차가운 자극이 있었고”
- ~N_cold(t-1) → “1초 전에는 그 자극이 사라졌다”
- 이런 조건을 만족하면 → 오늘 N_heat 뉴런이 발화 → 따뜻함 착각
이걸 왜 굳이 수식으로?
- 뇌가 시간 순서를 인식하고,
그 변화(온→없음)를 감지해서 다른 감각으로 착각하게 되는 구조를
논리 회로로 정밀하게 묘사한 것
🔂 회로로 재현된 인지 기능 = 인공지능의 출발점
이 논문이 시사하는 가장 핵심적인 철학
- 뇌가 수행하는 인지 기능은 모두 논리 회로로 구현 가능
- 감정, 기억, 착각, 판단조차 수학적으로 모델링 가능
- 지금 우리가 말하는 인공지능의 철학적 기초가 이 논문에 들어 있음
✅ 마무리 요약 (보강 후)
개념 간단 설명 실제 의미
순환망 | 되돌아가는 회로 | 기억 유지, 반복 실행 |
TPE | 시간 기반 논리 수식 | 뇌의 시간 감지 모델 |
기억 | 과거 자극에 반응 지속 | 루프와 피드백 구조 |
튜링 완전성 | 모든 계산 가능 구조 | 뇌는 계산기다 |
착각 수식 | 시간차로 따뜻함 착각 유도 | 논리적 인지 모델 |
인공지능 기초 | 논리 회로 = 사고 | ANN, 딥러닝의 원형 |
🧠 뇌는 계산하는 기계다
— McCulloch & Pitts (1943) 논문 해설 ④: 철학적 결론과 현대적 의의
8️⃣ 철학적 주장: 사고는 논리다, 뇌는 회로다
🧩 이 논문이 전하려는 핵심 메시지 한 줄 요약:
"모든 정신 활동은 뉴런의 발화로 구성된 논리적 계산이다."
🔍 뇌에 대한 기존 관점 vs. McCulloch & Pitts의 관점
기존 관점 (1940년대 이전) 이 논문의 관점
뇌는 생물학적 기관이다 | 뇌는 논리 회로다 |
사고는 복잡하고 추상적인 것이다 | 사고는 명제들의 조합이다 |
기억은 물질에 저장된다 | 기억은 회로의 순환이다 |
지각, 감정은 수학적으로 기술 불가 | 착각조차 수식으로 모델링 가능 |
🔧 사고(thought)를 논리 시스템으로 바꾼다?
저자들의 가정:
- 인간은 "사고"를 한다
- 사고란 어떤 명제들이 참인지 아닌지를 판별하는 과정이다
- 따라서 뇌는 이 명제들의 논리적 관계를 계산하는 구조여야 한다
💬 즉, 사고는 "진리값(True/False)을 따지는 계산"이고,
이건 뉴런 회로로 구현할 수 있는 문제라는 것.
🧠 이 논문이 말하는 정신의 구조
정신(Mind) = 뇌(Brain)의 뉴런 구조 + 발화 규칙
= 논리적 연산의 집합
개념 논문에서의 표현 실제 의미
사고 | 명제 논리의 계산 | 판단, 추론 |
기억 | 순환 회로에서의 상태 유지 | 과거 정보 저장 |
지각 | 입력 뉴런들의 발화 패턴 | 감각 자극 반응 |
착각 | 시간 조건이 만든 오류 반응 | 인지적 오인 |
학습 | 회로 구조의 변화 | 가중치 조정, 연결성 변화 |
🤯 이게 왜 그렇게 놀라운 주장인가?
1943년 기준으로는 너무 앞선 주장이었습니다:
- 뇌가 계산을 한다?
- 정신이 논리 회로로 환원된다?
- 신경세포의 작동만으로 지능이 설명된다?
이는 곧 "정신은 영혼이 아니라 계산이다"라는 철학적 선언과 같습니다.
9️⃣ 현대 인공지능/뇌과학과의 연결
이 논문은 지금 우리가 말하는 다음 개념들의 뿌리입니다:
🔹 인공신경망(ANN)
- 뉴런의 발화 조건, 시냅스 구조 → ANN 구조의 전신
🔹 퍼셉트론
- Rosenblatt(1958)은 단일 뉴런의 AND/OR 연산에서 시작
- 논리 회로를 실제 기계 학습으로 구현
🔹 MLP (Multi-layer Perceptron)
- Rumelhart et al. (1986)은 다층 구조 + 역전파 학습 구현
- 논리 회로 → 계산 → 학습 가능한 ANN
🔹 딥러닝
- 여러 층을 가진 인공신경망이 복잡한 패턴도 학습 가능함을 보임
- 순환구조(RNN), 자기참조 구조(Transformer) 등 모두 순환망 개념 기반
🔬 뇌과학에서도 이 논문은 살아 있다
개념 신경과학적 대응
기억 | hippocampus의 지속적 firing, 루프 구조 |
주의 유지 | prefrontal cortex의 순환망 활동 |
감각 착각 | temporal dynamics of sensory processing |
뇌질환 모델링 | 회로 비정상 vs. 화학 물질 이상 접근 가능성 |
📈 현대적 재해석: 이 논문이 바꿔놓은 질문들
질문 이전 이 논문 이후
뇌는 무엇인가? | 생물학적 기관 | 계산 장치 |
사고는 어떻게 일어나는가? | 알 수 없음 | 뉴런 회로의 논리 연산 |
기억은 어디에 저장되는가? | 시냅스에 저장됨 | 회로 상태로 유지됨 |
컴퓨터는 인간처럼 생각할 수 있는가? | 불가능 | 회로 설계에 따라 가능 |
10️⃣ 부록: 이 논문의 핵심 논리 구조 요약
개념 수식 예시 기능
AND | N3 = S[ N1 ∧ N2 ] | 두 조건 모두 만족 시 발화 |
OR | N3 = S[ N1 ∨ N2 ] | 둘 중 하나만 만족해도 발화 |
NOT | ~N1 | 특정 뉴런은 발화하지 않아야 함 |
기억 | N1(t) = N1(t-1) | 과거 상태를 유지 |
시간조건 | N3 = S[ N1(t-2) ∧ ~N1(t-1) ] | 과거 패턴 인식 |
착각 모델링 | 위 수식 응용 | 감각적 오인을 모델링 |
✅ 전체 정리 요약
항목 핵심 내용
논문 목적 | 사고를 수학적 모델로 표현 |
방법 | 뉴런 = 논리 명제, 회로 = 계산 구조 |
핵심 개념 | TPE, 순환망, 기억, 논리 연산 |
수식 구조 | S[ P(t) ], ∧, ∨, ~, 시간 지연 등 |
철학적 의미 | 정신은 계산 가능한 물리 시스템이다 |
현대적 영향 | 인공지능, 뇌과학, 계산이론 전반에 영향 |
🎯 마무리 멘트
오늘날의 딥러닝이란 기술은, 사실 1943년 두 사람의 대담한 질문에서 시작됐습니다.
"뇌가 계산을 한다면, 그 계산은 어떤 논리로 작동할까?"
그들의 답은, 수식과 회로로 정리된 이 논문에 고스란히 담겨 있었습니다.
McCulloch, W. S., & Pitts, W. (1943).
A logical calculus of the ideas immanent in nervous activity.
The Bulletin of Mathematical Biophysics, 5(4), 115–133.
https://doi.org/10.1007/BF02478259
'머신러닝 > 밑바닥부터 시작하는 딥러닝' 카테고리의 다른 글
오차역전파 학습 (0) | 2025.03.27 |
---|---|
퍼셉트론 논문 리뷰 (0) | 2025.03.25 |
- Total
- Today
- Yesterday
- 사회심리학
- Python
- 인프런
- 강화학습
- 열혈프로그래밍
- 데이터분석
- 통계학
- 보세사
- 회계
- 윤성우
- 심리학
- C/C++
- 파이썬
- 코딩테스트
- 오블완
- K-MOOC
- 티스토리챌린지
- 일본어문법무작정따라하기
- 백준
- 뇌와행동의기초
- 일본어
- 정보처리기사
- 여인권
- 통계
- stl
- 일문따
- C
- 류근관
- c++
- 인지부조화
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | ||||
4 | 5 | 6 | 7 | 8 | 9 | 10 |
11 | 12 | 13 | 14 | 15 | 16 | 17 |
18 | 19 | 20 | 21 | 22 | 23 | 24 |
25 | 26 | 27 | 28 | 29 | 30 | 31 |