프롬프트 설계법 EP.05 — 단계별로 생각하게 만들기 (Chain of Thought)

(Claude 2026 기준)

Chain of Thought 프롬프트claude.ai에서 바로 실습해볼 수 있다. 이 글에서 Chain of Thought 프롬프트의 핵심을 정리한다.

EP.04 Few-shot 프롬프트 | 프롬프트 설계법 시리즈 EP.05 | EP.06 출력 형식 지정 →

// 퀘스트 시작 — “왜 AI한테 물어보면 틀린 답이 나올까?”

솔직히 처음엔 이게 진짜 황당했다. Claude한테 간단한 계산 문제를 물어봤는데 답이 틀렸다. “이게 무슨 AI야?” 싶었다. 근데 알고 보니 내가 물어보는 방식이 문제였다.

그냥 “이 문제 풀어줘”라고 던지면 AI는 빠르게 답을 내뱉는다. 마치 시험지에 찍기처럼. 근데 “단계별로 생각하면서 풀어줘”라고 하면? 결과가 완전히 달라진다. 이게 바로 Chain of Thought 프롬프트의 핵심이다.

// 퀘스트 카드 — 이 글에서 다루는 것

  • Chain of Thought 프롬프트가 정확히 무엇인지
  • 어떤 상황에 써야 효과가 극대화되는지
  • 바로 복붙해서 쓸 수 있는 실전 템플릿 5가지
  • CoT가 안 통하는 함정 상황과 대처법
  • 프롬프트 설계법 EP.04와 연결해서 쓰는 고급 조합

// 이 퀘스트가 맞는 플레이어

Lv.1

Claude한테 질문하면 엉뚱한 답이 자꾸 나온다

Lv.2

복잡한 분석·비교 작업을 시켰는데 결론이 허술하게 느껴진다

Lv.3

프롬프트를 어느 정도 써봤는데, 한 단계 더 정교하게 만들고 싶다

// 필요 아이템

Claude 계정 하나면 충분하다. 이 글의 템플릿을 그대로 복붙해서 써볼 수 있다. 코딩이나 수학을 잘 몰라도 된다. 준비 끝.

// 공략 메인 — Chain of Thought 프롬프트 완전 정복

Chain of Thought가 뭔데?

Chain of Thought(CoT), 번역하면 “사고의 사슬”이다. AI가 최종 답변을 내기 전에 중간 추론 과정을 단계별로 펼치게 만드는 기법이다.

일반적인 프롬프트와 CoT 프롬프트의 차이를 보자.

❌ 일반 프롬프트

“이 마케팅 전략이 효과가 있을까?”

→ “네, 효과적일 것 같습니다. 다양한 채널을 활용하면 좋겠습니다.” (허술한 표면 답변)

✅ CoT 프롬프트

“이 마케팅 전략이 효과가 있을지 단계별로 분석해줘. 먼저 타겟 고객이 누구인지, 그다음 경쟁사 대비 차별점, 마지막으로 예상 리스크를 각각 생각한 뒤 결론을 내려줘.”

→ 구체적인 3단계 분석 + 실질적 결론

핵심은 간단하다. Claude에게 “결론만 말하지 말고, 생각하는 과정을 보여줘”라고 요청하는 것이다.

왜 이게 효과적인가?

AI는 사실 사람처럼 “생각”을 하지 않는다. 확률적으로 다음 토큰을 예측한다. 그런데 CoT를 쓰면 AI가 중간 추론 단계를 출력하면서, 그 출력 자체가 다음 추론의 “문맥”이 된다. 쉽게 말하면, 중간 과정을 적으면서 스스로 덜 틀리게 된다.

2022년 구글 연구팀이 발표한 논문에서 CoT가 특히 복잡한 추론 문제에서 정확도를 크게 올린다는 걸 보여줬다. Claude 2026 버전에서도 이 효과는 여전히 유효하다.

STEP 1 — 가장 기본적인 CoT 트리거 문구

아래 문구만 프롬프트 끝에 붙여도 CoT 효과를 볼 수 있다.

// 기본 CoT 트리거

  • “단계별로 생각해줘”
  • “결론을 내리기 전에 근거를 먼저 설명해줘”
  • “Think step by step” (영어 프롬프트 시)
  • “이유를 먼저 적고 마지막에 답을 써줘”
  • “과정을 보여줘”

이 중 하나만 붙여도 Claude의 답변 품질이 눈에 띄게 달라진다.

STEP 2 — 유형별 CoT 프롬프트 템플릿 5가지

① 분석·비교 작업

// 분석 CoT 템플릿

[비교 대상 A]와 [비교 대상 B]를 비교해줘.
먼저 각각의 장단점을 정리하고,
그다음 [내 상황/조건]을 고려했을 때 어떤 게 더 적합한지 판단하고,
마지막에 최종 추천을 한 문장으로 요약해줘.

② 문제 해결·의사결정

// 의사결정 CoT 템플릿

[상황 설명]
이 문제를 해결하는 방법을 생각해줘.
1) 문제의 핵심 원인이 무엇인지
2) 가능한 해결책 3가지와 각각의 장단점
3) 내 상황([조건])에 맞는 최선의 선택
순서로 분석해줘.

③ 글쓰기·콘텐츠 기획

// 기획 CoT 템플릿

[주제]에 대한 블로그 글을 쓰려고 해.
먼저 이 주제의 독자가 가장 궁금해할 것 3가지를 뽑고,
그다음 각 궁금증을 해결하는 글 구조를 잡은 뒤,
최종 목차를 제안해줘.

④ 수치 계산·추정

// 수치 CoT 템플릿

[문제 조건]
풀이 과정을 단계별로 적어줘. 각 단계에서 어떤 계산을 왜 했는지 설명하고, 마지막에 답을 명시해줘.

⑤ 리뷰·평가

// 평가 CoT 템플릿

[평가 대상/내용]
아래 순서로 평가해줘:
1) 잘된 점
2) 개선이 필요한 점
3) 가장 중요한 수정 사항 1가지
각 항목에 구체적인 이유를 붙여줘.

STEP 3 — Zero-shot CoT vs Few-shot CoT

EP.04에서 Few-shot(예시 제공) 프롬프트를 다뤘다. CoT와 결합하면 더 강력해진다.

Zero-shot CoT

“단계별로 생각해줘”라고만 하는 것. 예시 없이도 CoT 효과를 볼 수 있다. 빠르고 간편하다.

Few-shot CoT

예시를 먼저 보여주고 그 형식대로 CoT를 하게 만드는 것. 특정 형식을 정확히 지켜야 할 때 유리하다.

일상적인 업무엔 Zero-shot CoT로 충분하다. 형식이 중요한 보고서나 분석물이라면 Few-shot CoT를 써보자.

// 플레이 일지 — 직접 써봤더니

실제로 내가 쓰는 CoT 프롬프트 패턴 중 가장 자주 사용하는 건 의사결정 템플릿이다. 블로그 주제를 고를 때 이렇게 쓴다.

// 실전 사용 예시

이번 주 블로그 주제 후보가 3개야: [A], [B], [C].
각 주제를 아래 기준으로 평가해줘:
1) 검색 유입 가능성 (SEO 잠재력)
2) 내가 직접 경험한 내용인지
3) 독자가 바로 실행할 수 있는 수준인지
각 기준 1~5점으로 채점하고, 총점 기준으로 순위를 매겨줘.

이걸 쓰기 전엔 그냥 “어떤 주제가 좋아?”라고 물었다. 당연히 Claude는 막연하게 “모두 좋아 보입니다”라고 했다. CoT 템플릿으로 기준을 주니까 실제로 쓸 수 있는 분석이 나왔다.

특히 Claude는 점수를 매길 때 이유를 같이 쓴다는 게 좋았다. “SEO 잠재력 4점 — [A]는 월간 검색량이 많은 키워드를 포함하고 있어서”처럼. 그냥 점수만 나오는 게 아니라 판단 근거가 함께 나온다.

// 함정 & 주의사항

⚠️ 이것만 조심하면 됩니다

1. 단순한 질문엔 오히려 역효과

“오늘 점심 뭐 먹을까?”에 CoT를 붙이면 장문의 분석이 나온다. 단순 사실 확인, 간단한 번역, 짧은 글쓰기엔 그냥 물어보는 게 낫다. CoT는 복잡한 추론이 필요한 작업에 써야 효과적이다.

2. 단계 수를 너무 많이 주면 Claude가 헷갈린다

한 프롬프트에 7~8단계 이상을 요구하면 오히려 답변이 뒤섞인다. 3~5단계가 최적이다.

3. CoT는 ‘틀린 추론을 맞게 만드는 도구’가 아니다

Claude가 잘못된 전제를 가지고 단계별로 추론하면, 논리적으로 완벽해 보이지만 결론이 틀릴 수 있다. 중요한 판단은 항상 사람이 검토해야 한다.

4. “단계별로 생각해줘”보다 구체적인 단계 명시가 훨씬 낫다

막연하게 “단계별로”라고 하면 Claude가 임의로 단계를 나눈다. 내가 원하는 분석 기준이 있다면 직접 써주는 게 훨씬 정확하다.

// 레벨업 체크 — 오늘 배운 것

✅ 이것만 기억하세요

  • Chain of Thought 프롬프트 = AI가 중간 추론 과정을 보이게 만드는 기법
  • 가장 간단한 방법: “단계별로 생각해줘” 한 줄만 붙이면 된다
  • 유형별 템플릿(분석·의사결정·기획·수치·평가)을 상황에 맞게 골라 쓰자
  • 복잡한 판단일수록 효과 크고, 단순한 작업엔 쓰지 않는 게 낫다
  • EP.04 Few-shot과 결합하면 더 강력한 프롬프트가 된다

// POST CREDIT

CoT로 Claude가 단계별로 생각하게 만들었다. 그런데 그 생각의 결과물을 표나 목록, 코드 블록으로 깔끔하게 받고 싶다면? 그건 EP.06에서 다룬다. 출력 형식을 지정하는 법 — 다음 편에서.

Chain of Thought 프롬프트에 대해 더 깊이 이해하고 싶다면 Claude AI 완전 활용 가이드 2026도 함께 읽어보자.