Chain-of-Thought (CoT)

TL;DR

• Chain-of-Thought(CoT)는 LLM의 단계적 추론 능력을 극대화하여 복잡한 문제 해결에 뛰어난 성과를 보여주는 핵심 프롬프트 기법
• 대형 모델에서 특히 효과적이며, 다양한 분야의 문제에 적용되어 모델의 정답률과 신뢰도 향상에 기여하고 있음
• CoT 기법은 답변과 함께 추론 과정을 제공함으로써 AI 응답의 투명성과 설명력을 높여줌
• CoT는 RAG 결합, 자체 검증(chain-of-verification) 등과 같이 진화된 형태로 지속적으로 연구 및 발전되고 있음

---

개념 및 정의

• **Chain-of-Thought(CoT)**는 대형 언어 모델(LLM)이 복잡한 문제를 단계적으로 추론하여 답을 도출하도록 유도하는 프롬프트 기법
• 단순히 최종 답변만 요구하는 대신, 문제 해결 과정을 _논리적이고 순차적으로 기술하게 함_으로써 모델의 추론 능력을 끌어냄
• 모델이 사람처럼 문제를 작은 부분으로 분해하고 “생각의 흐름”을 명시적으로 작성하여 최종 답을 산출

---

등장 배경 및 필요성

• 기존 LLM들은 복잡한 수학 문제, 논리 추론, 멀티홉 QA¹ 등 다단계 추론이 필요한 작업에서 단일 응답만 생성할 경우 오류가 잦았음
• 파라미터 수가 증가해도 다단계 추론 과제에서는 성능 향상이 미미하다는 한계가 있었음
• 사람은 어려운 문제를 풀 때 중간 계산과 논증 과정을 거치듯, 모델도 중간 추론 단계를 거치게 하여 정확도와 신뢰성을 높이기 위해 CoT 기법이 도입
• 실제로 다단계 추론, 복합 질의응답, 수학적 계산 등에서 CoT를 사용하면 모델 답변의 정확도가 향상되고 오류를 줄일 수 있음이 보고

---

주요 동작 방식

• CoT 구현 시 프롬프트에 중간 추론 과정을 요구하는 지시문을 포함하거나, 예시 답변에 단계별 추론 예시를 제공
  • “문제를 천천히 단계별로 생각해봐” 또는 “이유를 설명하면서 풀어봐”와 같은 지시를 질문 끝에 추가하면, 모델이 자연어로 사고 과정을 단계별로 출력
  • 질문을 읽은 뒤 필요한 추론, 계산, 조건 점검 등을 순차적으로 서술하고 마지막에 최종 답을 제시
• 예시: 수학 문제에서 “1단계: 주어진 값을 이용해 A 계산, 2단계: 결과를 이용해 B 계산, … 최종 답: X”와 같이 중간 계산과정을 거쳐 답을 도출

---

대표 연구 및 성능 향상 사례

• 2022년 Google 연구에서는 GPT-3 등 LLM에 CoT 프롬프트를 적용하자 수학, 논리, 멀티홉 QA 과제에서 성능이 크게 향상
• 대규모 모델일수록 CoT의 효과가 뚜렷해 PaLM 540B 모델은 수학 워드문제 benchmark(GSM8K)²에서 기존 SOTA를 능가하는 58%의 정확도를 달성했고, self-consistency 기법³을 결합해 74%까지 향상
• Zero-shot CoT 기법이 등장하여, 별도의 예시 없이도 **“Let’s think step by step”**과 같은 한 문장을 프롬프트에 추가하는 것만으로 모델에 단계적 추론을 유도할 수 있음이 발견
  • 모델이 사전 예시 없이도 자체적으로 CoT를 생성하며 답을 찾을 수 있음을 시연
• Few-shot CoT는 여러 Q&A 예시에 중간 추론 단계를 포함시켜 모델에 시범을 보여주는 방식
• CoT 프롬프트를 사용하면 다단계 문제에서 정답률이 크게 향상되며, 일부 과제에서는 기존 대비 두 배에 가까운 성능 향상도 관찰
• 중간 사고과정을 표현하게 함으로써 모델의 “할루시네이션”(사실과 다른 허위응답) 현상이 줄어들고, 답변의 정확성 및 설명가능성이 높아진다는 평가를 받음

---

활용 분야

• 수학 문제 풀이(산술 계산, 응용문제), 논리적 추론이 필요한 질의응답(퍼즐, 논증 문제), 멀티홉 정보 검색(여러 출처의 정보를 종합하는 QA) 등에서 두루 활용
• 각 단계를 검증하며 진행하도록 하여 성능 향상을 이끌어냄
• 법률, 의료 등 복잡한 판단과 전문 지식이 요구되는 영역에서도 단계적 사고를 통해 더 신뢰도 높은 답변을 얻기 위한 시도가 이루어지고 있음
• 최근에는 CoT를 검색 기반 생성(RAG, Retrieval-Augmented Generation)이나 다중 에이전트 시스템과 결합하여, 복잡한 정보 추론 및 분석에 활용하는 연구도 활발
• 다중 에이전트 RAG 프레임워크에서는 각 에이전트가 CoT 방식의 프롬프트로 단계별 추론을 공유하며 협력함으로써, 모델의 해석력과 복잡한 질의에 대한 성능을 향상

---

한계 및 과제

• CoT가 항상 정답을 보장하는 것은 아니며, 중간 추론 과정 자체에 오류가 있을 경우 잘못된 결론에 도달할 위험이 있음
• 모델은 지시된 추론 단계를 충실히 따르지만 초반 단계의 실수가 있으면 그대로 오답이 전파되는 오류 전파(error propagation) 문제가 발생할 수 있음
• CoT의 효과는 프롬프트 설계와 예시 선택에 크게 좌우되어, 예시를 어떻게 제시하느냐에 따라 성능 편차가 큼
• 쉬운 작업에 불필요하게 CoT를 남용하면 응답이 과도하게 복잡해지는 단점이 있음
• 추론 단계가 추가됨에 따라 토큰 수 증가 등 모델의 계산 비용과 응답 시간이 늘어나는 현실적 제약도 존재
• CoT의 효과는 모델 규모가 충분히 클 때 비로소 발현되는 경향이 있어서, 파라미터 수가 작은 모델들은 CoT를 제대로 유지하지 못하고 비논리적인 중간단계를 생성하는 한계가 있음
• 복잡한 문제나 지식이 필요한 과제의 경우 CoT를 쓰더라도 여전히 오답을 낼 수 있으며, 이러한 한계를 보완하기 위한 추가 연구가 필요함

Footnotes

1. 한 번의 정보만으로는 답을 찾을 수 없는, 여러 개의 단서를 순차적으로 연결해 최종 답을 도출해야 하는 질의응답 Task (e.g., 아인슈타인이 태어난 도시의 현재 인구는?) ↩

2. 인공지능 언어 모델의 수학적 추론 능력을 평가하기 위해 만들어진 데이터셋으로 주로 초등학교 수준의 산술 및 응용 수학 문제 8,500여 개로 구성되어 있음 ↩

3. 단계적 추론 방식으로 문제를 풀 때, 한 번만 답을 생성하는 대신 여러 번(예: 20~100회) 답변을 생성하고, 그 중에서 가장 빈도가 높은(다수결) 답을 최종 정답으로 채택하는 방법 ↩