잘난 척을 위한 한 줄 요약
LLM의 창발적 능력은 모델이 커지면서 갑자기 새로운 지능이 생겼다는 뜻처럼 보이지만, 실제로는 모델 규모·데이터·학습 방식·평가 지표가 맞물리면서 특정 능력이 어느 순간 눈에 띄게 나타나는 현상에 가깝다.
LLM의 창발적 능력, AI는 왜 갑자기 똑똑해지는 것처럼 보일까?
먼저, 창발적 능력이 뭔지부터
창발적 능력(Emergent Abilities)은 대규모 언어모델, 즉 LLM이 일정 규모 이상으로 커졌을 때 이전의 작은 모델에서는 거의 보이지 않던 능력이 갑자기 나타나는 것처럼 보이는 현상을 말한다.
여기서 “창발”은 단순히 성능이 조금 좋아졌다는 뜻이 아니다.
작은 모델에서는 거의 못 하던 일이,
모델이 커진 어느 시점부터 갑자기 가능해지는 것처럼 보이는 현상이다.
예를 들어 작은 언어모델은 단순 문장 완성은 할 수 있지만, 복잡한 산술 추론, 다단계 논리 문제, 코드 작성, 낯선 형식의 문제 해결, few-shot 학습을 잘 못할 수 있다. 그런데 모델 크기가 커지고 학습 데이터가 많아지면 이런 능력이 어느 순간 눈에 띄게 나타난다.
2022년 논문 「Emergent Abilities of Large Language Models」는 창발적 능력을 “작은 모델에는 없지만 큰 모델에는 나타나는 능력”으로 정의했다. 즉, 작은 모델 성능을 단순히 외삽해서는 예측하기 어려운 능력이라는 점이 핵심이다.
쉽게 말하면 이렇다.
작은 모델은 단어를 그럴듯하게 이어 붙인다.
더 큰 모델은 문맥을 더 잘 이해한다.
더 큰 모델은 예시 몇 개만 보고 새 작업을 따라 한다.
어느 순간 사람은 “어? 이건 그냥 문장 생성이 아니라 추론처럼 보이는데?”라고 느낀다.
이때 사람들이 말하는 것이 LLM의 창발적 능력이다.
창발은 원래 복잡계에서 쓰이는 말이다
창발이라는 말은 AI에서만 쓰이는 표현이 아니다.
복잡계 과학, 생물학, 사회과학, 철학에서도 쓰인다.
대표적인 예시는 개미 군집이다.
개미 한 마리는 단순한 규칙에 따라 움직인다. 하지만 수많은 개미가 상호작용하면 먹이 탐색, 길 만들기, 군집 방어 같은 복잡한 행동이 나타난다.
물 분자도 마찬가지다.
물 분자 하나만 보면 “젖음”이라는 성질을 말하기 어렵다. 하지만 수많은 물 분자가 모이면 우리가 아는 액체 물의 성질이 나타난다.
즉, 창발은 개별 요소에는 뚜렷하게 없던 성질이, 많은 요소가 모여 상호작용할 때 전체 수준에서 나타나는 현상이다.
LLM에서도 비슷한 비유가 사용된다.
개별 뉴런이나 작은 모델에서는 보이지 않던 능력이, 거대한 파라미터와 방대한 데이터, 학습 과정이 결합되면서 전체 모델 수준에서 나타나는 것처럼 보인다는 뜻이다.
LLM에서 창발적 능력으로 자주 언급되는 것들
LLM의 창발적 능력으로 자주 언급되는 사례는 다음과 같다.
- few-shot learning, 예시 몇 개만 보고 새 작업 수행
- chain-of-thought reasoning, 단계별 추론
- 산술 문제 해결
- 논리 추론
- 코드 생성
- 다국어 번역
- 낯선 형식의 문제 풀이
- 지시 따르기
- 도구 사용
- 복합 문제 해결
특히 GPT-3 논문 이후 “모델이 커지면 별도 파인튜닝 없이도 프롬프트 안의 예시만으로 여러 작업을 수행한다”는 점이 크게 주목받았다. 이후 연구들은 BIG-Bench 같은 벤치마크에서 일부 능력이 특정 모델 규모 이상에서 갑자기 나타나는 듯한 패턴을 보고했다.
예를 들어 이런 상황을 생각할 수 있다.
작은 모델에게 “다음 예시처럼 단어를 반대로 바꿔라”라고 시키면 잘 못한다.
입력: happy
출력: yppah
입력: table
출력: elbat
입력: orange
출력:하지만 큰 모델은 예시를 보고 “아, 단어를 뒤집는 작업이구나”라고 파악할 수 있다.
이처럼 모델이 단순히 외운 답을 내놓는 것이 아니라, 프롬프트 안의 패턴을 보고 새로운 작업 규칙을 추론하는 듯한 모습이 창발적 능력으로 설명된다.
왜 모델이 커지면 새로운 능력이 생기는 것처럼 보일까
LLM의 성능은 모델 크기, 학습 데이터 양, 계산량이 늘어나면서 전반적으로 좋아지는 경향이 있다.
하지만 모든 능력이 부드럽게 조금씩 좋아지는 것처럼 보이지는 않는다.
어떤 능력은 작은 모델에서는 거의 무작위 수준이다가, 특정 규모를 넘어서면 급격히 좋아지는 것처럼 보인다.
이유는 여러 가지로 설명할 수 있다.
1. 언어 패턴을 더 넓게 학습한다
모델이 커질수록 더 많은 패턴을 저장하고 조합할 수 있다.
작은 모델은 단어와 문장 수준의 표면적 패턴을 주로 익힐 수 있지만, 큰 모델은 더 긴 문맥, 더 복잡한 문장 구조, 더 다양한 작업 형식까지 익힐 가능성이 커진다.
2. 여러 능력이 조합된다
복잡한 문제를 풀려면 하나의 능력만 필요한 것이 아니다.
예를 들어 수학 문장제를 풀려면 다음이 모두 필요하다.
문장을 이해한다.
숫자를 찾는다.
관계를 파악한다.
연산 순서를 정한다.
중간 계산을 유지한다.
정답 형식으로 출력한다.
이 중 하나라도 약하면 문제를 틀릴 수 있다. 그런데 모델 규모가 커지면서 여러 하위 능력이 함께 일정 수준을 넘으면, 갑자기 전체 과제를 풀 수 있는 것처럼 보일 수 있다.
3. 평가 기준이 문턱 효과를 만든다
정답률로 평가하는 과제는 어느 순간 성능이 급격히 오른 것처럼 보일 수 있다.
예를 들어 모델이 정답에 가까운 추론을 해도 마지막 숫자를 틀리면 0점이다. 그런데 어느 규모를 넘어서 마지막 답까지 맞히기 시작하면 갑자기 정답률이 튀어 오르는 것처럼 보인다.
이 지점이 나중에 설명할 “창발은 실제 능력 변화라기보다 측정 방식의 효과일 수 있다”는 반론과 연결된다.
창발적 능력의 대표 예시: few-shot learning
LLM 창발 논의에서 가장 중요한 예시는 few-shot learning이다.
few-shot learning은 모델에게 몇 개의 예시를 보여준 뒤, 같은 방식으로 새 문제를 풀게 하는 방식이다.
예를 들어 감정 분류를 시킨다고 해보자.
문장: 배송이 너무 늦어서 화가 납니다.
분류: 부정
문장: 제품이 생각보다 좋아서 만족합니다.
분류: 긍정
문장: 상담원이 친절해서 좋았습니다.
분류:큰 모델은 “분류”라는 작업을 별도로 학습하지 않았더라도, 예시를 보고 세 번째 문장이 긍정이라는 것을 추론할 수 있다.
작은 모델은 이 패턴을 안정적으로 따라가기 어렵다.
이 능력이 중요한 이유는 LLM 활용 방식을 바꿨기 때문이다.
과거에는 특정 작업을 하려면 그 작업용 데이터를 모아 모델을 다시 학습시키는 경우가 많았다. 하지만 LLM은 프롬프트 안에 예시와 지시를 넣는 것만으로도 여러 작업을 수행할 수 있다.
즉, 창발적 능력은 “AI가 갑자기 사람처럼 생각한다”는 신비한 주장이라기보다, 대규모 모델이 예시와 문맥을 활용해 새로운 작업을 즉석에서 수행하는 능력과 깊게 연결된다.
창발적 능력의 대표 예시 : Chain-of-Thought
또 하나의 대표 사례는 Chain-of-Thought, 즉 단계별 사고 유도다.
LLM에게 바로 정답만 요구하면 틀리던 문제도, “단계별로 생각해 보자”라고 지시하면 더 잘 푸는 경우가 있다.
예를 들어 이런 식이다.
문제: 민지는 사과 3개를 가지고 있었다. 친구에게 2개를 받고, 동생에게 1개를 주었다. 지금 사과는 몇 개인가?
단계별로 생각해보자.
처음에는 3개가 있었다.
2개를 받으면 5개가 된다.
1개를 주면 4개가 남는다.
정답은 4개다.작은 모델은 이런 단계별 추론을 안정적으로 만들기 어렵다. 반면 큰 모델은 중간 reasoning 형식을 따라 하며 더 나은 결과를 보일 수 있다.
「Emergent Abilities of Large Language Models」 논문도 다단계 추론, 산술 문제, few-shot prompting 같은 능력이 모델 규모와 함께 나타나는 현상을 창발적 능력의 주요 사례로 논의했다.
다만 여기서도 주의할 점이 있다.
모델이 중간 단계를 말한다고 해서 항상 실제로 그 방식으로 생각했다는 뜻은 아니다. 중간 설명이 그럴듯하지만 실제 계산은 틀릴 수도 있다.
그래서 Chain-of-Thought는 창발적 능력의 중요한 사례이지만, 동시에 “겉보기 추론”과 “실제 신뢰 가능한 추론”을 구분해야 하는 영역이기도 하다.
창발적 능력은 정말 ‘갑자기’ 생기는 걸까
여기서부터 논쟁이 시작된다.
초기 연구들은 일부 능력이 모델 규모가 커지면서 갑자기 나타나는 것처럼 보인다고 주장했다.
하지만 2023년 논문 「Are Emergent Abilities of Large Language Models a Mirage?」는 강한 반론을 제기했다.
이 논문은 많은 창발 현상이 모델 내부에서 실제로 갑자기 생긴 능력이라기보다, 연구자가 선택한 평가 지표 때문에 갑자기 나타나는 것처럼 보일 수 있다고 주장했다. 특히 정답/오답처럼 불연속적인 지표를 쓰면 성능이 갑자기 튀는 것처럼 보이고, 더 연속적인 지표를 쓰면 성능 향상이 부드럽게 나타날 수 있다는 것이다.
쉽게 말하면 이렇다.
모델은 사실 조금씩 나아지고 있었을 수 있다.
그런데 평가 방식이 0점 아니면 1점이라서 중간 발전이 보이지 않았을 수 있다.
그러다 어느 순간 정답률이 올라가면 “갑자기 능력이 생겼다”고 보일 수 있다.
예를 들어 수학 문제를 생각해보자.
작은 모델은 풀이 과정 일부를 맞힌다.
중간 모델은 식은 맞히지만 계산을 틀린다.
큰 모델은 마지막 답까지 맞힌다.
정답률만 보면 앞의 두 모델은 모두 0점이다.
큰 모델만 1점이다.
그러면 능력이 갑자기 생긴 것처럼 보인다.
하지만 부분 점수나 확률 기반 지표를 보면 성능이 점진적으로 좋아진 것일 수도 있다.
그러면 창발적 능력은 착시일까
완전히 착시라고 단정하기는 어렵다.
현재 논의는 대략 이렇게 나눠 볼 수 있다.
입장 1. 실제 창발 현상이 있다
이 입장은 큰 모델이 작은 모델과 질적으로 다른 능력을 보일 수 있다고 본다.
특히 여러 하위 능력이 결합되어야 하는 복잡한 과제에서는 일정 규모 이상에서만 전체 능력이 관찰될 수 있다.
Google Research는 창발적 능력을 작은 모델에서는 거의 무작위 수준이다가 충분히 큰 모델에서 나타나는 능력으로 설명하며, 이런 현상이 모델 규모 확대의 중요한 연구 주제라고 소개했다.
입장 2. 상당수 창발은 측정 방식의 결과다
이 입장은 창발처럼 보이는 현상의 일부가 평가 지표, 그래프 표현, 기준선 선택 때문에 만들어졌다고 본다.
특히 불연속 지표를 쓰면 점진적 향상이 갑작스러운 도약처럼 보일 수 있다.
입장 3. 둘 다 맞을 수 있다
가장 현실적인 관점은 둘을 나눠 보는 것이다.
일부 능력은 정말로 여러 하위 능력의 조합 때문에 특정 규모 이후에만 관찰될 수 있다.
다만 “갑자기 생겼다”는 표현은 평가 방식에 의해 과장될 수 있다.
즉, LLM 창발적 능력은 완전히 신비한 마법도 아니고, 완전히 허상도 아니다.
모델이 점진적으로 좋아지는 과정과, 평가에서 갑자기 드러나는 문턱 효과가 함께 섞인 현상으로 보는 편이 안전하다.
창발적 능력은 왜 중요한가
창발적 능력이 중요한 이유는 단순히 AI가 신기해서가 아니다.
기업과 사회가 AI의 성능을 예측하고 관리하기 어려워질 수 있기 때문이다.
작은 모델을 보고 “큰 모델도 이 정도 성능일 것이다”라고 예상했는데, 큰 모델이 전혀 다른 능력을 보인다면 제품 개발, 안전성 평가, 규제, 교육, 업무 자동화에 영향을 준다.
예를 들어 큰 모델이 갑자기 다음 능력을 보인다고 해보자.
코드를 작성한다.
도구를 사용한다.
복잡한 지시를 따른다.
설득력 있는 글을 만든다.
가짜 정보를 그럴듯하게 만든다.
보안 취약점을 찾는다.
시험 문제를 푼다.
이 능력들은 유용하지만 동시에 위험도 있다.
따라서 창발적 능력은 단순 성능 문제가 아니라 예측 가능성과 안전성 문제와도 연결된다.
창발적 능력과 스케일링 법칙
LLM 연구에서 자주 등장하는 개념이 스케일링 법칙(Scaling Laws)이다.
스케일링 법칙은 모델 크기, 데이터 양, 계산량이 늘어날수록 성능이 어떻게 개선되는지 설명하려는 경험적 규칙이다.
대체로 모델이 커지고 데이터가 많아지면 언어모델의 손실은 예측 가능한 방식으로 줄어드는 경향이 있다.
그런데 창발적 능력은 이 흐름과 묘하게 긴장 관계에 있다.
언어모델의 전체 손실은 부드럽게 좋아지는 것처럼 보인다.
하지만 특정 과제 능력은 갑자기 튀어 오르는 것처럼 보일 수 있다.
이 차이가 중요하다.
모델은 내부적으로 점진적으로 개선되고 있을 수 있다.
하지만 사람이 평가하는 특정 과제에서는 어느 순간부터만 성공으로 보일 수 있다.
그래서 창발적 능력을 이해하려면 모델 크기만 볼 것이 아니라, 어떤 지표로 무엇을 평가했는지까지 함께 봐야 한다.
창발적 능력은 인간 지능과 같은가
LLM이 창발적 능력을 보인다고 해서 인간처럼 생각한다는 뜻은 아니다.
LLM은 방대한 텍스트를 학습해 다음 토큰을 예측하는 모델이다. 이 과정에서 언어, 사실, 추론 패턴, 코드 구조, 대화 형식 등을 익힌다.
그 결과가 사람의 사고처럼 보일 수 있다.
하지만 모델이 실제로 인간처럼 이해하는지, 단순히 언어적 패턴을 매우 정교하게 조합하는지에 대해서는 논쟁이 있다.
예를 들어 모델이 수학 문제를 잘 푼다고 해도, 숫자 체계를 인간처럼 개념적으로 이해한다고 말하기는 어렵다.
또 모델이 창의적인 은유 해석을 한다고 해서, 인간처럼 삶의 경험과 감각을 바탕으로 의미를 느낀다고 말할 수도 없다.
따라서 창발적 능력은 이렇게 이해하는 편이 좋다.
인간 같은 의식이 생겼다는 증거가 아니라, 특정 규모 이상의 언어모델이 예상보다 복잡한 과제를 수행할 수 있다는 관찰이다.
창발적 능력과 환각은 함께 커질까
모델이 커지면 많은 능력이 좋아질 수 있지만, 문제가 사라지는 것은 아니다.
LLM은 여전히 틀린 정보를 그럴듯하게 말할 수 있다. 이를 환각(Hallucination)이라고 한다.
창발적 능력이 있는 모델일수록 답변이 더 설득력 있어 보일 수 있다. 그래서 오히려 틀린 답도 더 신뢰하게 만들 위험이 있다.
예를 들어 작은 모델이 틀리면 금방 티가 날 수 있다. 문장도 어색하고 논리도 빈약하다.
큰 모델이 틀리면 문제가 더 복잡해진다.
표현이 자연스럽다.
근거처럼 보이는 설명을 붙인다.
전문 용어를 사용한다.
사용자가 쉽게 믿을 수 있다.
즉, 창발적 능력은 유용성을 높이지만, 동시에 검증의 필요성도 키운다.
창발적 능력은 실무에서 어떻게 봐야 할까
실무에서 창발적 능력을 볼 때는 너무 신비화하지 않는 것이 좋다.
예를 들어 어떤 LLM이 특정 업무에서 갑자기 잘 작동한다고 해보자.
그렇다고 바로 “이제 이 업무를 완전히 자동화할 수 있다”고 판단하면 위험하다.
다음 질문을 해야 한다.
이 능력은 어떤 조건에서 나타나는가?
프롬프트가 조금 바뀌어도 유지되는가?
데이터가 바뀌어도 성능이 안정적인가?
평가 지표가 적절한가?
정답률 외에 오류 유형은 무엇인가?
실패했을 때 피해가 큰가?
사람 검토가 필요한 부분은 어디인가?
즉, 창발적 능력은 가능성의 신호이지, 안정성의 보증은 아니다.
예시: 업무 자동화에서의 창발적 능력
기업이 LLM을 사내 문서 요약에 활용한다고 해보자.
작은 모델은 문서를 요약하긴 하지만 핵심을 놓친다.
중간 모델은 주요 문장을 뽑지만 문맥을 잘못 이해한다.
큰 모델은 회의의 결정사항, 담당자, 일정, 리스크를 잘 분리한다.
이때 큰 모델에서 “업무 요약 능력”이 창발한 것처럼 보일 수 있다.
하지만 실제 도입 전에는 다음을 봐야 한다.
회의록이 길어져도 잘 작동하는가?
발언자가 많아져도 담당자를 정확히 구분하는가?
결정사항과 의견을 혼동하지 않는가?
없는 일정을 만들어내지 않는가?
민감정보를 적절히 처리하는가?
즉, “갑자기 잘한다”는 인상보다 중요한 것은 반복해서 안정적으로 잘하는가다.
창발적 능력을 평가할 때 주의할 점
창발적 능력을 주장하거나 해석할 때는 몇 가지를 조심해야 한다.
1. 평가 지표를 확인해야 한다
정답/오답 지표인지, 부분 점수를 반영하는지, 확률 기반 지표인지에 따라 창발처럼 보이는 정도가 달라질 수 있다.
2. 모델 계열을 구분해야 한다
서로 다른 모델을 단순히 크기만으로 비교하면 안 된다. 학습 데이터, 아키텍처, 학습 방법, 지시 튜닝 여부가 다를 수 있다.
3. 프롬프트 영향을 봐야 한다
같은 모델도 프롬프트에 따라 성능이 크게 달라질 수 있다. few-shot 예시, Chain-of-Thought, 출력 형식이 모두 영향을 준다.
4. 벤치마크 오염 가능성을 고려해야 한다
모델 학습 데이터에 평가문제나 유사한 문제가 포함됐을 가능성을 배제하기 어려운 경우가 있다.
5. 실패 사례를 함께 봐야 한다
성공 사례만 보면 능력이 과장된다. 어떤 유형에서 실패하는지, 오류가 얼마나 치명적인지까지 봐야 한다.
창발적 능력에 대한 좋은 비유
창발적 능력은 학생의 시험 실력에 비유할 수 있다.
학생이 초급 단계에서는 영어 단어만 조금 안다.
중급 단계에서는 문장을 읽지만 긴 글은 어렵다.
고급 단계에서는 글 전체 구조를 이해하고, 요약하고, 비판할 수 있다.
이때 어느 시험에서는 점수가 갑자기 오른 것처럼 보일 수 있다.
예를 들어 독해 시험이 60점 이하이면 불합격, 60점 이상이면 합격이라고 해보자.
학생은 실제로 매달 조금씩 성장했지만, 결과표에는 어느 날 갑자기 “불합격 → 합격”으로 보인다.
LLM의 창발적 능력도 비슷할 수 있다.
능력은 점진적으로 쌓였지만, 우리가 측정하는 기준에서는 갑자기 보일 수 있다.
자주 헷갈리는 포인트
1. 창발적 능력은 AI가 의식을 갖게 됐다는 뜻인가?
아니다. 창발적 능력은 특정 작업 수행 능력이 모델 규모와 함께 새롭게 관찰된다는 뜻이지, 의식이나 자아가 생겼다는 뜻은 아니다.
2. 모델이 클수록 항상 창발적 능력이 생기나?
그렇다고 단정할 수 없다. 모델 크기뿐 아니라 데이터 품질, 학습 방식, 프롬프트, 평가 기준이 모두 중요하다.
3. 창발적 능력은 실제 능력인가, 착시인가?
둘 다 가능하다. 일부 능력은 실제로 큰 모델에서만 관찰될 수 있지만, 일부는 평가 지표 때문에 갑자기 나타나는 것처럼 보일 수 있다.
4. 창발적 능력이 있으면 실무에 바로 써도 되나?
아니다. 창발적 능력은 가능성을 보여줄 뿐, 안정성과 안전성을 보장하지 않는다. 실제 업무에서는 별도 평가와 검증이 필요하다.
5. 창발적 능력은 프롬프트 엔지니어링과 관련 있나?
관련이 크다. 모델이 가진 잠재 능력은 프롬프트, 예시, 단계별 사고 유도 방식에 따라 드러나거나 드러나지 않을 수 있다.
결국 핵심은 이것이다
LLM의 창발적 능력은 대규모 모델이 작을 때는 보이지 않던 과제 수행 능력을 어느 순간 보여주는 현상이다.
예시 몇 개만 보고 새 작업을 따라 하거나,
단계별 추론을 흉내 내거나,
코드를 작성하거나,
복잡한 문맥을 연결하거나,
다국어와 도구 사용을 조합하는 능력이 대표적으로 거론된다.
하지만 이 개념을 너무 신비화하면 위험하다.
일부 창발은 실제로 모델 규모가 커지며 복합 능력이 드러난 것일 수 있다.
하지만 일부 창발은 평가 지표와 문턱 효과 때문에 갑자기 나타나는 것처럼 보인 것일 수 있다.
한마디로 정리하면 이렇다.
LLM의 창발적 능력은 AI가 어느 순간 마법처럼 지능을 얻었다는 뜻이 아니라, 거대한 언어모델의 점진적 성능 향상이 특정 과제에서는 갑작스러운 도약처럼 관찰되는 현상이다.
그래서 중요한 질문은 “창발이 진짜냐 가짜냐”가 아니다.
어떤 조건에서 나타나는가.
어떤 지표로 측정했는가.
얼마나 안정적인가.
실패하면 어떤 위험이 있는가.
사람이 어떻게 검증해야 하는가.
이 질문까지 함께 볼 때, 창발적 능력은 AI를 과장하지도 과소평가하지도 않게 해주는 중요한 개념이 된다.
참고 자료
- Wei et al. / Emergent Abilities of Large Language Models
https://arxiv.org/abs/2206.07682
LLM의 창발적 능력을 “작은 모델에는 없지만 큰 모델에는 나타나는 능력”으로 정의하고, BIG-Bench 등 여러 사례를 분석한 대표 논문이다. - Google Research / Emergent abilities of large language models
https://research.google/pubs/emergent-abilities-of-large-language-models/
창발적 능력을 충분히 큰 규모의 모델에서만 나타나는 능력으로 설명한 Google Research 소개 페이지다. - Google Research Blog / Characterizing emergent phenomena in large language models
https://research.google/blog/characterizing-emergent-phenomena-in-large-language-models/
LLM의 창발 현상을 어떻게 정의하고, 어떤 과제에서 관찰했는지 설명한 Google Research 블로그 글이다. - Stanford HAI / Examining Emergent Abilities in Large Language Models
https://hai.stanford.edu/news/examining-emergent-abilities-large-language-models
창발적 능력의 정의와 왜 이 현상이 AI 연구와 안전성 논의에서 중요한지 설명한 Stanford HAI 글이다. - Schaeffer et al. / Are Emergent Abilities of Large Language Models a Mirage?
https://arxiv.org/abs/2304.15004
LLM의 창발적 능력이 실제 급격한 능력 변화라기보다 평가 지표 선택 때문에 갑자기 나타나는 것처럼 보일 수 있다고 주장한 대표 반론 논문이다. - Schaeffer et al. / Are Emergent Abilities of Large Language Models a Mirage? PDF
https://arxiv.org/pdf/2304.15004
불연속적인 평가 지표가 창발처럼 보이는 효과를 만들 수 있다는 주장을 수식과 실험으로 확인할 수 있는 논문 원문이다. - Brown et al. / Language Models are Few-Shot Learners
https://arxiv.org/abs/2005.14165
GPT-3가 모델 파라미터를 업데이트하지 않고도 few-shot prompting만으로 다양한 작업을 수행할 수 있음을 보여준 대표 논문이다. - NeurIPS / Language Models are Few-Shot Learners PDF
https://papers.neurips.cc/paper_files/paper/2020/file/1457c0d6bfcb4967418bfb8ac142f64a-Paper.pdf
few-shot learning, zero-shot, one-shot 평가 방식과 대규모 언어모델의 일반화 능력을 확인할 수 있는 논문 원문이다.
참고 영상
- Emergent Abilities of Large Language Models
https://www.youtube.com/results?search_query=Emergent+Abilities+of+Large+Language+Models
LLM 창발적 능력의 정의와 대표 사례를 설명하는 영상을 찾을 수 있는 검색 링크다. - Are Emergent Abilities of LLMs a Mirage?
https://www.youtube.com/results?search_query=Are+Emergent+Abilities+of+Large+Language+Models+a+Mirage
창발적 능력이 평가 지표 때문에 생긴 착시일 수 있다는 반론을 설명하는 영상을 찾을 수 있다. - Few-Shot Learning in GPT-3 Explained
https://www.youtube.com/results?search_query=GPT-3+few-shot+learning+explained
GPT-3와 few-shot learning이 왜 LLM 창발 논의의 출발점이 됐는지 설명하는 영상을 찾을 수 있다. - Chain-of-Thought Prompting Explained
https://www.youtube.com/results?search_query=chain+of+thought+prompting+explained
단계별 추론 프롬프팅이 큰 언어모델에서 왜 성능 향상을 보이는지 설명하는 영상을 찾을 수 있다. - Scaling Laws and Emergence in AI
https://www.youtube.com/results?search_query=scaling+laws+emergence+large+language+models
모델 규모, 데이터, 계산량이 LLM 성능과 창발 현상에 어떤 영향을 주는지 설명하는 영상을 찾을 수 있다.
'개념 잡동사니' 카테고리의 다른 글
| SEO(Search Engine Optimization), GEO(Generative Engine Optimization) (1) | 2026.07.11 |
|---|---|
| 나이브 RAG(Naive RAG) (0) | 2026.07.10 |
| LSTM(Long Short-Term Memory), GRU(Gated Recurrent Unit) (0) | 2026.07.08 |
| DNN, CNN, RNN (0) | 2026.07.07 |
| 어텐션 메커니즘, 셀프 어텐션 (0) | 2026.07.06 |