잘난 척을 위한 한 줄 요약
폰 노이만 병목은 CPU가 아무리 빨라도, 데이터와 명령어가 메모리에서 CPU로 오가는 길이 막히면 전체 컴퓨터가 느려지는 현상이다.
폰 노이만 병목, 왜 컴퓨터는 머리가 빨라도 기다릴 수밖에 없을까?
먼저, 이 개념이 뭔지부터
폰 노이만 병목(Von Neumann Bottleneck)은 컴퓨터 구조에서 매우 중요한 개념이다. 쉽게 말하면 CPU와 메모리 사이의 데이터 이동 속도가 컴퓨터 전체 성능을 제한하는 현상이다.
현대 컴퓨터의 기본 구조는 흔히 폰 노이만 구조라고 불린다. 이 구조에서는 프로그램의 명령어와 데이터가 같은 메모리에 저장되고, CPU는 메모리에서 명령어와 데이터를 가져와 처리한다. 처리 결과도 다시 메모리에 저장한다.
문제는 여기서 생긴다.
CPU는 점점 빨라졌다.
연산 능력은 엄청나게 좋아졌다.
그런데 CPU가 처리할 데이터는 메모리에서 가져와야 한다.
이때 CPU와 메모리 사이의 통로가 충분히 빠르지 않으면 CPU는 기다리게 된다.
이 기다림이 바로 폰 노이만 병목이다.
IBM Research는 폰 노이만 병목을 “데이터가 연산보다 느리게 이동할 때 발생하는 지연”으로 설명하며, 프로세서와 메모리가 분리되어 있고 둘 사이가 버스로 연결되는 폰 노이만 구조에서 나타나는 문제라고 설명한다.
https://research.ibm.com/blog/why-von-neumann-architecture-is-impeding-the-power-of-ai-computing
한마디로, 컴퓨터는 머리만 빠르면 되는 것이 아니다. 머리인 CPU와 창고인 메모리 사이를 오가는 길도 빨라야 한다.
폰 노이만 구조는 무엇인가
폰 노이만 병목을 이해하려면 먼저 폰 노이만 구조를 알아야 한다.
폰 노이만 구조는 프로그램과 데이터를 같은 메모리에 저장하고, CPU가 명령어를 하나씩 가져와 실행하는 컴퓨터 구조다. 이 구조는 현대 컴퓨터의 기본 설계 방식에 큰 영향을 주었다.
구성은 대략 이렇다.
- CPU: 명령어를 해석하고 연산을 수행하는 장치
- 메모리: 프로그램과 데이터를 저장하는 장치
- 입력장치: 키보드, 마우스, 센서 등
- 출력장치: 모니터, 프린터, 스피커 등
- 버스: CPU와 메모리, 장치 사이에서 데이터가 오가는 통로
폰 노이만 구조의 장점은 유연성이다. 프로그램을 메모리에 저장해두고 바꿔가며 실행할 수 있기 때문에, 같은 하드웨어로 문서 작성도 하고, 게임도 하고, 웹서핑도 하고, 데이터 분석도 할 수 있다.
하지만 바로 그 구조 때문에 병목이 생긴다. CPU와 메모리가 분리되어 있고, 명령어와 데이터가 같은 통로를 통해 오가면, CPU는 계속 메모리에 접근해야 한다. 이 통로의 속도가 느리면 CPU 성능이 아무리 좋아도 전체 처리 속도는 제한된다.
TechTarget도 폰 노이만 병목을 표준 컴퓨터 구조에서 처리량이 제한되는 현상으로 설명하며, CPU와 메모리 사이 데이터 이동이 전체 성능을 묶는다고 정리한다.
https://www.techtarget.com/whatis/definition/von-Neumann-bottleneck
What is the Von Neumann Bottleneck?
Learn about the von Neumann bottleneck, a limitation on throughput caused by the standard personal computer architecture. Explore techniques to overcome it.
www.techtarget.com
병목이라는 말은 왜 붙었을까
병목(bottleneck)은 말 그대로 병의 목 부분을 뜻한다. 병의 몸통은 넓지만, 목이 좁으면 액체가 한꺼번에 많이 나오지 못한다.
컴퓨터도 비슷하다.
CPU의 연산 능력은 넓은 병 몸통처럼 커졌다.
메모리에는 처리해야 할 데이터가 많다.
그런데 둘 사이 통로가 좁으면 데이터가 한꺼번에 충분히 오가지 못한다.
결국 전체 성능은 가장 좁은 부분에 맞춰진다.
즉, 폰 노이만 병목에서 병목은 CPU와 메모리 사이의 데이터 이동 통로다.
예를 들어보자. 요리사가 매우 빠른 손을 가지고 있다고 해보자. 그런데 재료 창고가 멀리 있고, 조수가 재료를 한 번에 조금씩만 가져온다. 요리사는 재료가 도착할 때마다 잠깐 요리하고, 다시 기다린다. 이 경우 문제는 요리사의 실력이 아니다. 재료 공급이 느린 것이 문제다.
컴퓨터도 마찬가지다. CPU가 아무리 빨라도 데이터가 늦게 오면 연산할 수 없다. CPU는 계산기지만, 계산할 숫자가 도착하지 않으면 아무것도 못 한다.
왜 CPU와 메모리 속도 차이가 문제가 될까
현대 컴퓨터에서는 CPU 성능이 매우 빠르게 발전해왔다. 반면 메모리 접근 속도와 데이터 이동 속도는 CPU 연산 속도만큼 빠르게 따라오지 못했다. 이 차이가 커질수록 CPU가 메모리를 기다리는 시간이 늘어난다.
문제는 데이터가 많은 작업일수록 더 심해진다.
예를 들어 단순 계산은 CPU 안에서 빠르게 처리될 수 있다. 하지만 대규모 이미지, 영상, 데이터베이스, AI 모델, 그래프 데이터처럼 큰 데이터를 다루는 작업은 메모리에서 데이터를 계속 가져와야 한다.
이때 CPU가 실제 계산하는 시간보다 데이터를 기다리는 시간이 더 길어질 수 있다.
IBM은 AI 컴퓨팅에서 폰 노이만 병목이 특히 문제가 된다고 설명한다. AI 작업은 많은 데이터를 메모리와 연산 장치 사이에서 계속 이동시켜야 하기 때문에, 데이터 이동이 느리면 연산 장치가 충분히 활용되지 못하고 에너지 소비도 커진다.
https://research.ibm.com/blog/why-von-neumann-architecture-is-impeding-the-power-of-ai-computing
즉, 오늘날의 문제는 단순히 “컴퓨터가 더 빨라야 한다”가 아니다. 데이터를 얼마나 빨리, 얼마나 적은 에너지로 옮기느냐가 핵심이 되었다.
명령어와 데이터가 같은 통로를 쓴다는 문제
폰 노이만 구조에서는 명령어와 데이터가 같은 메모리에 저장된다. CPU는 먼저 “무엇을 해야 하는지”에 해당하는 명령어를 가져오고, 그다음 “무엇을 가지고 처리할지”에 해당하는 데이터를 가져온다.
문제는 명령어와 데이터가 같은 통로를 사용한다는 점이다.
CPU가 명령어를 가져오는 동안 데이터를 가져오지 못할 수 있다.
데이터를 가져오는 동안 다음 명령어 접근이 지연될 수 있다.
통로 하나에 여러 요청이 몰리면 대기 시간이 생긴다.
이 때문에 CPU는 계속 “가져오기 → 실행하기 → 저장하기”를 반복하면서 메모리 접근에 묶인다.
물론 현대 컴퓨터는 이 문제를 줄이기 위해 캐시, 파이프라인, 프리페칭, 병렬 처리 등 다양한 기술을 사용한다. 하지만 근본적으로 CPU와 메모리가 분리되어 있고 데이터를 계속 주고받아야 한다는 문제는 남아 있다.
캐시는 왜 등장했을까
폰 노이만 병목을 완화하기 위해 등장한 대표적인 장치가 캐시 메모리(cache memory)다.
캐시는 CPU 가까이에 있는 작고 빠른 메모리다. 자주 쓰는 데이터나 곧 필요할 것 같은 데이터를 미리 가져다 놓는다. CPU가 매번 느린 메인 메모리까지 가지 않아도 되게 만드는 것이다.
비유하면 이렇다.
메인 메모리는 대형 창고다.
캐시는 요리대 옆 작은 재료함이다.
자주 쓰는 재료를 작은 재료함에 미리 꺼내두면 요리사가 매번 창고까지 가지 않아도 된다.
캐시는 폰 노이만 병목을 완화하는 데 매우 중요하다. 하지만 완전히 없애지는 못한다. 캐시에 없는 데이터가 필요하면 결국 메인 메모리에 접근해야 한다. 이를 캐시 미스라고 한다.
데이터가 불규칙하게 흩어져 있거나, 너무 크거나, 한 번만 쓰고 버리는 방식이면 캐시 효과가 줄어든다. 그래서 데이터베이스, 그래프 처리, 대규모 AI 추론 같은 작업에서는 여전히 메모리 병목이 심하게 나타날 수 있다.
하버드 구조와는 무엇이 다를까
폰 노이만 구조와 자주 비교되는 것이 하버드 구조(Harvard Architecture)다.
폰 노이만 구조는 명령어와 데이터를 같은 메모리에 저장하고 같은 통로를 통해 가져온다.
하버드 구조는 명령어 메모리와 데이터 메모리를 분리한다.
즉, 하버드 구조에서는 명령어를 가져오는 길과 데이터를 가져오는 길이 따로 있다. 그래서 동시에 접근하기가 더 쉽고, 특정 상황에서는 폰 노이만 병목을 줄일 수 있다.
마이크로컨트롤러나 디지털 신호처리 장치에서는 하버드 구조 또는 변형된 하버드 구조가 많이 활용된다.
하지만 범용 컴퓨터에서는 폰 노이만 구조의 유연성이 강력하다. 프로그램도 데이터처럼 저장하고 바꿀 수 있기 때문이다. 그래서 현대 CPU는 내부적으로는 명령어 캐시와 데이터 캐시를 분리하는 등 하버드 구조적 요소를 섞어 쓰면서도, 전체 시스템 관점에서는 폰 노이만 구조의 특징을 유지하는 경우가 많다.
즉, 현실의 컴퓨터는 완전히 한쪽만 따르는 것이 아니라, 폰 노이만 구조의 유연성과 하버드 구조의 효율을 섞어 쓰는 방향으로 발전해왔다.
폰 노이만 병목이 AI 시대에 더 중요해진 이유
폰 노이만 병목은 오래된 개념이지만, AI 시대에 다시 중요해졌다. 이유는 AI가 데이터를 엄청나게 많이 다루기 때문이다.
딥러닝 모델은 거대한 행렬 연산을 반복한다. 이때 가중치, 입력값, 중간 결과를 계속 메모리에서 가져오고 다시 저장해야 한다. 모델이 커질수록 데이터 이동량도 커진다.
AI 반도체에서 연산 장치가 아무리 빨라도, 필요한 데이터를 제때 공급하지 못하면 연산 장치는 놀게 된다. 그래서 AI 하드웨어에서는 연산 성능뿐 아니라 메모리 대역폭, 데이터 재사용, 메모리 계층 구조, 전력 효율이 매우 중요하다.
IBM은 AI와 딥러닝 응용에서 폰 노이만 병목이 특히 제한적이라고 설명하며, 메모리와 연산 장치 사이에서 데이터를 순차적으로 교환하는 기존 구조가 처리량과 에너지 효율을 제한한다고 설명한다.
https://research.ibm.com/blog/pcm-breaks-bottleneck
AI 시대의 핵심은 이것이다.
계산을 많이 하는 것도 문제지만,
계산할 데이터를 계속 옮기는 것이 더 큰 문제가 될 수 있다.
그래서 요즘 AI 반도체 설계에서는 “연산을 얼마나 많이 할 수 있는가”만큼이나 “데이터를 얼마나 덜 움직일 수 있는가”가 중요하다.
메모리 월과 폰 노이만 병목
폰 노이만 병목과 함께 자주 나오는 표현이 메모리 월(memory wall)이다. 메모리 월은 CPU 성능 향상 속도와 메모리 접근 속도 향상 속도 사이의 격차가 커져, 메모리 접근이 성능 향상의 벽처럼 작용하는 현상을 말한다.
폰 노이만 병목은 구조적 개념에 가깝다. CPU와 메모리가 분리되어 있고, 데이터가 그 사이를 오가야 한다는 구조에서 생긴다.
메모리 월은 성능 격차의 결과에 가깝다. CPU는 빨라졌는데 메모리가 그만큼 빨라지지 못하면서 벽에 부딪히는 것이다.
둘은 서로 연결된다.
폰 노이만 구조에서는 CPU와 메모리 사이 데이터 이동이 필수다.
CPU와 메모리 속도 격차가 커질수록 그 이동이 더 큰 문제가 된다.
그 결과 메모리 월이 나타난다.
즉, 폰 노이만 병목은 길의 구조 문제이고, 메모리 월은 그 길이 점점 더 막히면서 생기는 성능 한계라고 볼 수 있다.
폰 노이만 병목을 줄이는 방법
폰 노이만 병목을 완전히 없애기는 어렵지만, 줄이기 위한 방법은 많다.
1. 캐시 메모리
가장 대표적인 방법은 캐시다. CPU 가까이에 빠른 메모리를 두어 자주 쓰는 데이터를 저장한다. L1, L2, L3 캐시처럼 여러 단계로 구성된다.
캐시는 메모리 접근 횟수를 줄이고, CPU가 기다리는 시간을 줄인다. 다만 데이터 패턴이 캐시에 잘 맞아야 효과가 크다.
2. 메모리 대역폭 확대
CPU와 메모리 사이 통로를 더 넓게 만드는 방법이다. 더 빠른 메모리, 더 넓은 버스, 여러 채널 메모리, HBM 같은 고대역폭 메모리가 여기에 해당한다.
특히 AI GPU와 AI 가속기에서는 HBM이 중요하다. 연산 장치가 처리할 데이터를 대량으로 빠르게 공급해야 하기 때문이다.
3. 병렬 처리
하나의 CPU 코어가 기다리는 동안 다른 코어가 작업을 수행하게 하거나, 여러 연산 장치가 동시에 일을 처리하게 하는 방식이다. 멀티코어 CPU, GPU, 벡터 프로세서 등이 여기에 해당한다.
하지만 병렬 처리도 데이터 공급이 따라오지 않으면 한계가 있다. 많은 연산 장치가 동시에 데이터를 요구하면 메모리 병목은 더 커질 수도 있다.
4. 데이터 지역성 개선
프로그램을 작성할 때 데이터를 메모리에 어떻게 배치하고 접근하느냐가 중요하다. 연속된 메모리를 순서대로 접근하면 캐시 효율이 좋아진다. 반대로 여기저기 흩어진 데이터를 무작위로 접근하면 캐시 미스가 많아진다.
그래서 성능이 중요한 프로그램에서는 알고리즘뿐 아니라 데이터 구조와 메모리 접근 패턴도 중요하다.
5. 프리페칭
CPU가 곧 필요할 데이터를 미리 예측해 가져오는 방식이다. 사람이 요리할 때 다음에 쓸 재료를 미리 꺼내두는 것과 비슷하다.
프리페칭이 잘 맞으면 대기 시간이 줄어든다. 하지만 예측이 틀리면 쓸모없는 데이터를 가져오게 되어 오히려 낭비가 생길 수 있다.
6. 연산을 메모리 가까이로 옮기기
최근에는 폰 노이만 병목을 줄이기 위해 PIM(Processing-In-Memory) 또는 컴퓨트 인 메모리(Compute-In-Memory) 같은 구조가 연구된다. 이는 데이터를 CPU로 가져와 계산하는 대신, 메모리 근처 또는 메모리 안에서 일부 연산을 수행하려는 접근이다.
2021년 PIM 연구는 신경망, 데이터베이스, 그래프 처리 같은 현대 워크로드가 메모리 중심으로 병목을 겪으며, CPU 코어와 메인 메모리 사이 데이터 이동이 지연과 에너지 측면에서 큰 오버헤드를 만든다고 설명한다. 이를 해결하기 위해 메모리 시스템이 능동적으로 연산에 참여하는 구조가 필요하다고 설명한다.
https://arxiv.org/abs/2105.03814
즉, 미래 컴퓨터 구조의 중요한 방향 중 하나는 데이터를 연산 장치로 옮기는 대신, 연산을 데이터 가까이로 옮기는 것이다.
폰 노이만 병목과 에너지 소비
폰 노이만 병목은 속도만의 문제가 아니다. 에너지 문제이기도 하다.
데이터를 이동시키는 데는 에너지가 든다. 특히 큰 데이터를 메모리에서 CPU나 GPU로 계속 옮기면 전력 소모가 커진다. AI 모델처럼 수많은 가중치와 중간 결과를 반복적으로 이동시키는 작업에서는 이 비용이 매우 크다.
그래서 AI 반도체와 데이터센터에서는 연산 효율뿐 아니라 데이터 이동 비용을 줄이는 것이 중요하다.
Wired는 IBM의 뉴로모픽 칩 TrueNorth를 소개하면서, 전통적인 폰 노이만 컴퓨터에서는 메모리와 CPU가 분리되어 있어 데이터를 계속 이동시켜야 하고, 이 때문에 병목과 에너지 비용이 발생한다고 설명했다.
https://www.wired.com/2014/08/ibm-unveils-a-brain-like-chip-with-4000-processor-cores/
이 관점에서 보면 폰 노이만 병목은 단순히 “컴퓨터가 느려지는 문제”가 아니라, AI 시대의 전력 소비와 데이터센터 비용을 키우는 구조적 문제이기도 하다.
뉴로모픽 컴퓨팅과 인메모리 컴퓨팅
폰 노이만 병목을 줄이기 위한 대안으로 자주 언급되는 것이 뉴로모픽 컴퓨팅과 인메모리 컴퓨팅이다.
1. 뉴로모픽 컴퓨팅
뉴로모픽 컴퓨팅은 인간 뇌의 구조에서 영감을 받은 컴퓨팅 방식이다. 뇌는 기억과 처리가 완전히 분리되어 있지 않다. 뉴런과 시냅스가 정보를 저장하고 처리하는 역할을 함께 수행한다.
이 구조는 데이터 이동을 줄일 수 있다는 점에서 폰 노이만 병목을 완화할 가능성이 있다.
물론 인간 뇌를 그대로 컴퓨터로 구현하는 것은 매우 어렵다. 하지만 저전력 AI, 센서 처리, 이벤트 기반 컴퓨팅 같은 분야에서 뉴로모픽 접근이 연구되고 있다.
2. 인메모리 컴퓨팅
인메모리 컴퓨팅은 메모리 안에서 직접 연산을 수행하는 방식이다. 특히 AI에서 자주 쓰이는 행렬 연산을 메모리 소자 배열 안에서 처리하려는 시도가 있다.
2022년 컴퓨트 인 메모리 관련 연구는 전통적 컴퓨터 구조가 메모리와 연산 장치 사이 데이터 이동의 에너지와 지연 비용 때문에 한계에 이르고 있으며, 컴퓨트 인 메모리가 신경망 워크로드의 반복적인 행렬-벡터 곱셈을 더 효율적으로 처리할 수 있는 방향이라고 설명한다.
https://arxiv.org/abs/2206.08735
다만 이런 기술이 모든 문제를 해결하는 만능 열쇠는 아니다. 정확도, 제조공정, 프로그래밍 모델, 범용성, 오류 제어, 소프트웨어 생태계 등 해결해야 할 문제가 많다.
소프트웨어 개발자에게도 중요한 이유
폰 노이만 병목은 하드웨어 설계자만 알아야 하는 개념처럼 보이지만, 소프트웨어 개발자에게도 중요하다. 프로그램 성능은 알고리즘만으로 결정되지 않기 때문이다.
예를 들어 같은 알고리즘이라도 메모리 접근 패턴이 다르면 속도가 크게 달라질 수 있다.
배열을 순서대로 접근하면 빠르다.
링크드 리스트처럼 메모리를 여기저기 따라다니면 느릴 수 있다.
큰 데이터를 반복해서 읽으면 캐시 효율이 중요해진다.
불필요한 데이터 복사가 많으면 성능이 떨어진다.
그래서 성능 최적화에서는 이런 질문이 중요하다.
데이터가 캐시에 잘 들어가는가?
메모리 접근이 연속적인가?
불필요한 복사를 줄였는가?
연산보다 데이터 이동이 더 많은 구조는 아닌가?
같은 데이터를 여러 번 재사용하고 있는가?
폰 노이만 병목을 이해하면 “왜 코드 한 줄이 느린가”를 더 깊게 볼 수 있다. 문제는 CPU가 계산을 못 해서가 아니라, 데이터가 늦게 도착해서일 수 있다.
자주 헷갈리는 포인트
1. 폰 노이만 병목은 CPU가 느려서 생기는 문제인가?
아니다. 오히려 CPU가 빠르기 때문에 더 뚜렷해지는 문제다. CPU는 빠른데 메모리에서 데이터를 가져오는 속도가 따라오지 못하면 CPU가 기다리게 된다.
2. 메모리를 크게 늘리면 해결되나?
메모리 용량을 늘리는 것과 메모리 접근 속도를 높이는 것은 다르다. RAM이 많아지면 더 많은 데이터를 저장할 수 있지만, CPU와 메모리 사이 데이터 이동 속도가 충분히 빨라지는 것은 아니다.
3. 캐시가 있으면 병목이 사라지나?
캐시는 병목을 크게 완화하지만 완전히 없애지는 못한다. 캐시에 없는 데이터가 필요하면 메인 메모리에 접근해야 하고, 데이터 패턴이 불규칙하면 캐시 효과가 줄어든다.
4. GPU는 폰 노이만 병목에서 자유로운가?
아니다. GPU도 메모리에서 데이터를 가져와야 한다. 다만 GPU는 병렬 처리와 높은 메모리 대역폭을 활용해 많은 작업에서 병목을 완화한다. 하지만 AI 모델이 커지고 데이터 이동량이 커지면 GPU도 메모리 대역폭과 데이터 이동 비용의 영향을 크게 받는다.
5. 폰 노이만 구조는 이제 낡은 구조인가?
낡았다고만 말하기는 어렵다. 폰 노이만 구조는 매우 유연하고 범용적이어서 지금도 대부분의 컴퓨터에 큰 영향을 준다. 다만 AI, 데이터 분석, 고성능 컴퓨팅처럼 데이터 이동량이 큰 작업에서는 한계가 더 뚜렷해지고 있다.
결국 핵심은 이것이다
폰 노이만 병목은 컴퓨터 성능을 이해할 때 반드시 알아야 하는 개념이다. 컴퓨터는 CPU가 빠르다고 무조건 빠른 것이 아니다. CPU가 처리할 명령어와 데이터가 메모리에서 제때 도착해야 한다.
폰 노이만 구조는 프로그램과 데이터를 메모리에 저장하고 CPU가 이를 가져와 실행하는 유연한 구조다. 하지만 CPU와 메모리가 분리되어 있기 때문에 데이터 이동이 필수이고, 바로 그 이동이 병목이 될 수 있다.
한마디로 정리하면 이렇다.
폰 노이만 병목은 컴퓨터의 문제가 ‘계산 능력’에서 ‘데이터 이동 능력’으로 옮겨가고 있음을 보여주는 개념이다.
AI 시대에는 이 문제가 더 중요해졌다. 모델은 커지고, 데이터는 많아지고, 연산 장치는 빨라졌지만, 데이터가 오가는 길은 여전히 비용과 시간이 든다. 그래서 미래 컴퓨팅의 핵심 질문은 단순히 “얼마나 빨리 계산하느냐”가 아니다.
데이터를 얼마나 덜 움직이고, 얼마나 가까운 곳에서 처리할 수 있느냐.
폰 노이만 병목은 바로 그 질문을 던지게 만드는 컴퓨터 구조의 오래된, 그러나 여전히 살아 있는 문제다.
참고 자료
- IBM Research / How the von Neumann bottleneck is impeding AI computing
https://research.ibm.com/blog/why-von-neumann-architecture-is-impeding-the-power-of-ai-computing
AI 컴퓨팅에서 폰 노이만 병목이 왜 문제가 되는지, CPU와 메모리 분리 구조가 데이터 이동 지연을 만든다는 점을 설명한 자료다. - IBM Research / Breaking von Neumann bottleneck using phase-change memory
https://research.ibm.com/blog/pcm-breaks-bottleneck
딥러닝과 AI 응용에서 폰 노이만 병목이 어떻게 한계로 작용하는지, 메모리 기반 대안 기술이 왜 연구되는지 설명한 자료다. - TechTarget / Von Neumann bottleneck
https://www.techtarget.com/whatis/definition/von-Neumann-bottleneck
폰 노이만 병목의 기본 정의와 표준 컴퓨터 구조에서 처리량 제한이 왜 발생하는지 쉽게 설명한 자료다. - Wikipedia / Von Neumann architecture
https://en.wikipedia.org/wiki/Von_Neumann_architecture
폰 노이만 구조의 기본 개념, 설계 한계, 폰 노이만 병목의 개요를 빠르게 확인할 수 있는 참고 자료다. - arXiv / Benchmarking a New Paradigm: An Experimental Analysis of a Real Processing-in-Memory Architecture
https://arxiv.org/abs/2105.03814
신경망, 데이터베이스, 그래프 처리 등 메모리 중심 워크로드에서 데이터 이동이 지연과 에너지 오버헤드를 만든다는 점을 분석한 PIM 연구 자료다. - arXiv / A Co-design view of Compute in-Memory with Non-Volatile Elements for Neural Networks
https://arxiv.org/abs/2206.08735
컴퓨트 인 메모리 기술이 신경망 연산에서 폰 노이만 병목을 줄이는 방향으로 왜 주목받는지 설명한 연구 자료다. - arXiv / In-memory Associative Processors: Tutorial, Potential, and Challenges
https://arxiv.org/abs/2203.00662
인메모리 컴퓨팅이 메모리와 프로세서 사이 통신을 줄여 속도와 에너지 효율을 높일 수 있다는 점을 설명한 튜토리얼 논문이다. - Wired / IBM Unveils a “Brain-Like” Chip With 4,000 Processor Cores
https://www.wired.com/2014/08/ibm-unveils-a-brain-like-chip-with-4000-processor-cores/
뉴로모픽 칩 TrueNorth 사례를 통해 폰 노이만 구조의 데이터 이동 병목과 에너지 문제를 대중적으로 설명한 기사다.
참고 영상
- Von Neumann Architecture Explained
https://www.youtube.com/results?search_query=von+Neumann+architecture+explained
폰 노이만 구조의 기본 개념을 설명하는 입문 영상을 찾을 수 있는 검색 링크다. - Von Neumann Bottleneck Explained
https://www.youtube.com/results?search_query=von+Neumann+bottleneck+explained
CPU와 메모리 사이 데이터 이동이 왜 병목이 되는지 설명하는 영상들을 찾을 수 있다. - Harvard Architecture vs Von Neumann Architecture
https://www.youtube.com/results?search_query=Harvard+architecture+vs+von+Neumann+architecture
하버드 구조와 폰 노이만 구조의 차이를 비교해 설명하는 영상 검색 링크다. - Processing in Memory Explained
https://www.youtube.com/results?search_query=processing+in+memory+explained
PIM과 인메모리 컴퓨팅이 폰 노이만 병목을 어떻게 줄이려 하는지 설명하는 영상을 찾을 수 있다. - Compute in Memory AI Explained
https://www.youtube.com/results?search_query=compute+in+memory+AI+explained
AI 반도체와 컴퓨트 인 메모리 구조를 연결해 설명하는 영상 검색 링크다.
'개념 잡동사니' 카테고리의 다른 글
| 슈뢰딩거의 고양이(Schrödinger’s cat) (1) | 2026.06.12 |
|---|---|
| 친칠라 법칙(Chinchilla Scaling Law) (0) | 2026.06.11 |
| 디아스포라(Diaspora) (0) | 2026.06.09 |
| 필요조건과 충분조건 (1) | 2026.06.08 |
| 공사, 대사, 영사 (0) | 2026.06.07 |