프롬프트, 컨텍스트, 마크다운

이 장에서 할 일

요즘 프롬프트는 공식보다 '하고 싶은 일을 구체적으로'가 중요하다는 점을 이해하고, 일부러 넓게 묻는 요령도 익힙니다. AI가 모르는 정보를 건네는 세 가지 방법(입력, 첨부, 스킬·MCP)과 멀티모달을 구분하고, 마크다운의 기본 기호를 익힙니다.

앞 장에서는 우리가 실무에서 만나는 AI가 생성형 AI 중에서도 글을 다루는 LLM이고, 학습한 범위 안에서 다음 말을 확률로 고르는 모델이라는 점을 살펴보았습니다. 결국 AI는 사람이 올바른 정보를 쥐여 주고 결과를 검증해야 하는 도구인데, 그렇다면 이 도구에게는 어떻게 말을 걸어야 할까요?

이번 장에서는 실제로 채팅창 앞에 앉았을 때 가장 먼저 부딪히는 세 가지 물음, 즉 입력창에 무엇을 어떻게 입력할지(프롬프트), AI가 모르는 것은 어떻게 알려 줄지(컨텍스트), 돌아온 답은 왜 제목과 굵은 글씨로 정리돼 있는지(마크다운)를 차례로 살펴보겠습니다.

1. 프롬프트

1.1. 프롬프트 엔지니어링의 시대는 지났다

프롬프트(Prompt)는 AI에게 원하는 일을 요청하려고 채팅창에 입력하는 글입니다. 챗GPT가 등장한 지 얼마 되지 않은 시기에는 같은 질문도 묻는 방식에 따라 답의 질이 크게 달라져서, 프롬프트를 잘 쓰는 기술이 곧 AI 활용 능력으로 여겨졌고 '프롬프트 엔지니어링(Prompt Engineering)'이라는 말이 크게 유행했습니다. 전형적인 공식은 이런 모양이었습니다.

복사[역할] 너는 20년 차 회계 전문가다.
[맥락] …
[지시] 단계별로 생각해서 …
[형식] 마크다운 표로 …

역할을 부여하고 맥락·지시·형식을 틀에 맞춰 쓰면 답의 품질이 올라간다는 요령이었고, 특히 "너는 ○○ 전문가다"로 시작하라는 요령이 널리 퍼지면서 관련 강의와 책도 쏟아졌습니다.

하지만 지금의 모델은 이런 요령을 이미 스스로 내재화했습니다. "너는 전문가다"로 시작하지 않아도 회계 질문에는 회계의 언어로 답하고, 형식을 지정하지 않아도 읽기 좋은 구조로 정리합니다.

프롬프트는 공식보다 하고 싶은 일을 구체적으로

그림 왼쪽의 공식은 이제 모델이 스스로 갖추고 있으므로, "프롬프트는 이렇게 써야 한다"는 공식은 큰 의미가 없습니다. 공식 대신 필요한 것은 그림 오른쪽처럼 하고 싶은 일을 최대한 구체적으로 말하는 습관이며, 아래 두 요청을 비교하면 차이가 분명합니다.

복사대손충당금 계산해 줘.

복사첨부한 채권명세로 25년 말 대손충당금 계산해 줘.
1년 초과 50%, 2년 초과 100%, 결과는 엑셀 표로.

첫 번째 요청을 받은 AI는 기준일, 설정률, 결과 형식을 모두 추측해야 합니다. 설정률을 업계 일반론으로 짐작하는 식으로 추측이 들어가는 자리마다 답이 흔들리고, 흔들린 답을 바로잡는 대화가 다시 이어집니다. 반면 두 번째 요청에는 AI가 일을 하는 데 필요한 네 가지가 모두 들어 있습니다.

• 재료: 첨부한 채권명세
• 기준일: 25년 말
• 규칙: 1년 초과 50%, 2년 초과 100%
• 받을 모양: 엑셀 표

AI가 추측할 자리가 줄어든 만큼 결과가 요청에 가까워집니다. 구체적인 요청이 곧 긴 요청을 뜻하지는 않으며, 두 번째 요청도 두 줄에 불과합니다. 빠뜨리지 말아야 할 것은 AI가 스스로 알 수 없는 정보, 즉 기준일, 회사의 설정률, 원하는 산출물의 모양입니다.

무엇을 말해야 할지 막막하다면 "이 일을 맡기려면 내가 어떤 정보를 줘야 하는지 먼저 물어봐 줘"라고 요청해, 그 일 자체를 AI에게 맡겨도 됩니다. 이 요령은 4.4장에서 클로드 엑셀의 프롬프트 팁과 함께 다시 다룹니다.

1.2. 때로는 일부러 넓게

반대로 방향을 일부러 열어 두는 편이 나을 때도 있습니다. 매출 분석을 시작하기 전 어떤 관점으로 데이터를 볼지 아직 정하지 못했다면 이렇게 물어볼 수 있습니다.

복사첨부한 3개년 월별·거래처별 매출 데이터로 무엇을 볼 수 있을까?
결산 때 눈여겨볼 만한 변동이나 패턴 위주로 관점을 제안해 줘.

이런 질문에는 계절성, 특정 거래처 집중도, 기말 직전의 매출 증가처럼 미처 생각하지 못한 관점이 돌아오기도 합니다. 넓게 물어 관점을 얻고, 그중 쓸 만한 것을 골라 다시 구체적으로 좁혀 시키는 방식입니다. 물론 AI가 제안한 관점 가운데 무엇을 채택할지는 사람이 판단할 몫입니다.

두 방향을 다시 보면, 구체적인 요청의 핵심이었던 기준일과 설정률도, 넓은 질문에 필요했던 3개년 매출 데이터도 모두 AI가 학습하지 못한 정보라는 공통점이 있습니다. 대손충당금 요청에서 AI가 채권명세를 읽을 수 있었던 이유도 파일을 첨부했기 때문이며, 첨부하지 않았다면 AI는 우리 회사 채권명세를 알 길이 없습니다. 프롬프트의 문장을 아무리 다듬어도 AI가 모르는 정보는 채워지지 않으므로, 이제 중요한 질문은 프롬프트를 어떻게 쓰느냐보다 AI가 모르는 것을 어떻게 알려 주느냐입니다. 이렇게 AI에게 건네는 정보를 '컨텍스트'라고 부릅니다.

2. 컨텍스트

2.1. AI가 모르는 것은 내가 알려 준다

컨텍스트(Context)는 AI가 학습하지 못한 정보를 대화에 넣어 주는 것, 우리말로 맥락입니다. 쉽게 말해 AI로 사주를 볼 때 AI가 가장 먼저 생년월일시를 묻는 것과 같습니다. AI는 내 생일을 모르므로 이 정보를 알려 주지 않으면 사주를 볼 수 없고, 이때 알려 주는 생년월일시가 바로 컨텍스트에 해당합니다.

1.1장 LLM의 'Large'에서 살펴보았듯 AI는 사전에 학습한 데이터만 알고 있습니다. 올해 개정된 세법, 우리 회사의 대손 설정 기준, 지난 결산에서 내린 결론, 이번 분기 결산명세서처럼 학습한 적이 없는 정보는 AI가 알 방법이 없으므로 사람이 직접 넣어 주어야 합니다. 이런 것을 그냥 물으면 1.3장에서 다룰 할루시네이션(Hallucination), 곧 그럴듯한 오답이 나옵니다.

컨텍스트는 거창한 기술이 아닙니다. 가장 단순하게는 프롬프트에 직접 적으면 됩니다. 앞의 프롬프트에서 '1년 초과 50%, 2년 초과 100%'라고 대손충당금 설정 기준을 입력해 준 것이 바로 컨텍스트의 한 예이며, 이 문장이 없으면 AI는 흔히 쓰이는 설정률을 짐작해 넣을 수밖에 없습니다.

2.2. 입력에서 첨부로, 첨부에서 자동으로

하지만 모든 컨텍스트를 채팅창에 입력하는 방식으로 전달할 수는 없습니다. 예를 들어 최신 세법 개정안처럼 수백 페이지나 되는 내용은 채팅창에 붙여 넣기 어렵기 때문에, 요즘은 대부분의 AI 챗봇에서 파일을 통째로 첨부하는 기능을 제공합니다. 이제는 긴 프롬프트를 쓰는 대신 '첨부된 파일을 확인해서 분석해 줘'와 같이 프롬프트와 컨텍스트를 함께 전달할 수 있습니다.

하지만 매번 첨부 파일을 하나하나 찾아 전달하는 것도 여간 번거로운 일이 아닙니다. 그래서 최근에는 AI가 활용할 수 있는 컨텍스트를 일종의 도구 형태로 장착해 두고 필요할 때 스스로 찾아오게 하는 스킬(Skill)과 MCP라는 개념이 등장했습니다. 지금까지 설명한 흐름을 그림으로 나타내면 다음과 같습니다.

컨텍스트를 주는 방법은 입력에서 첨부로, 첨부에서 자동으로

• 1단계: 입력: 짧은 정보를 채팅창에 그대로 적는 방법입니다. 생년월일시를 알려 주고 "내 사주 봐 줘"라고 하는 것이 여기에 해당하며, 양이 적으니 매번 입력해도 부담이 없습니다.
• 2단계: 첨부: 양이 많아 하나하나 칠 수 없을 때 파일을 통째로 첨부하는 방법입니다. 개정 세법 PDF를 올리고 "이 기준으로 검토해 줘"라고 하면 AI는 학습하지 못한 개정 내용을 그 파일에서 읽고 답합니다. PDF, 이미지, 엑셀 모두 첨부할 수 있습니다.
• 3단계: 자동: 매번 첨부하지 않아도 AI가 필요한 맥락을 스스로 찾아 읽게 하는 방법입니다. 대손충당금 계산 절차를 매번 설명하거나 기준서 문단을 매번 복사해 넣을 수는 없으므로, 업무 절차는 스킬로 만들어 두고 기준서·법령·공시 같은 바깥 자료는 MCP로 연결해 둡니다. 이 두 장치는 1.4장에서 미리 살펴보고, 2부와 3부에서 직접 연결하고 등록합니다.

그림 아래의 작은 글씨처럼, 컨텍스트를 주는 방식은 적은 양을 매번 입력하던 데서 많은 양을 매번 첨부하는 데로, 다시 많은 양을 자동으로 가져오는 데로 옮겨 왔습니다. 즉, 컨텍스트는 AI가 모르는 것을 알려 주는 일이며, 그 방법이 입력에서 첨부로, 첨부에서 자동으로 발전해 왔습니다. 이 시리즈의 2부 이후는 3단계 방법을 내 업무에 적용하는 과정입니다.

2.3. 멀티모달: 스크린샷도 읽는 이유

1.1장에서 LLM은 글만 읽고 쓸 줄 안다고 말씀드렸습니다. 하지만 영수증 사진이나 엑셀 화면 캡처, 스캔한 PDF를 넣어도 AI가 내용을 곧잘 읽어 내는 이유는 무엇일까요?

비결은 시각 정보를 글자로 번역해 읽는 구조에 있으며, 이를 멀티모달(Multimodal)이라고 부릅니다. 멀티모달은 글 말고도 이미지 같은 여러 형태의 입력을 함께 다루는 능력인데, 그렇다고 LLM에게 눈이 생겨 진짜로 사진을 보게 된 것은 아닙니다. 쉽게 말해 글만 읽는 LLM 앞에 사진을 대신 보고 글로 옮겨 주는 번역기가 하나 있다고 생각하면 됩니다.

스크린샷과 PDF도 읽는 이유, 멀티모달

그림의 왼쪽 칸처럼 스크린샷은 바둑판처럼 잘게 쪼갠 뒤 시각 번역기가 LLM이 읽을 수 있는 조각으로 바꿔 건네고, PDF는 글자를 긁을 수 있는 문서라면 텍스트를 바로 뽑아내며 스캔본이라면 이미지처럼 번역합니다. 즉, 이미지도 결국 LLM이 읽을 수 있는 글자 조각으로 바뀌어 읽힙니다.

다만 읽을 수 있다는 것과 정확하게 읽는다는 것은 다른 문제입니다. 따라서 그림의 오른쪽 칸처럼, AI에게 첨부 파일을 컨텍스트로 제공할 때는 두 가지를 기억해 두시면 좋습니다.

• 사용량(토큰): 이미지를 텍스트로 해석해 내는 과정에서 같은 내용의 텍스트보다 훨씬 많은 토큰을 씁니다. 토큰은 1.3장에서 다룹니다.
• 내용 왜곡: 해상도가 낮으면 텍스트가 뭉개져서 잘못 읽힐 수 있으며, 특히 흐릿한 캡처에서는 3과 8, 0과 6이 헷갈리기 쉽습니다. 숫자 하나가 틀리게 읽히면 그 오류가 그대로 판단의 재료가 됩니다.

따라서 자료를 건넬 때는 가급적 원문 텍스트 그대로, 그중에서도 뒤에서 살펴볼 마크다운과 같은 구조화된 형태로 전달하는 것이 가장 안전합니다. 재무제표는 캡처해 넣기보다 엑셀이나 표를 그대로 건네고, 스캔 PDF는 한 번 텍스트로 옮겨 검토해 둔 뒤 쓰는 편이 좋습니다. 이미지나 스캔본은 텍스트 원본을 구할 수 없을 때 활용하는 차선책으로 둡니다.

3. 마크다운

3.1. 기호로 텍스트 서식을 표현하는 방식

챗GPT, 클로드, 제미나이와 같은 챗봇의 답변을 보면 제목과 소제목이 구분되어 있고 강조할 단어는 굵게 표시되어 있는 등 문서가 깔끔하게 정리되어 있습니다. 하지만 이는 AI가 워드에서처럼 글자 크기를 하나하나 정하고 Ctrl + B를 눌러 굵게 만든 결과가 아닙니다. AI는 마크다운(Markdown)이라는 형식에 따라 글자 앞뒤에 #이나 ** 같은 기호를 넣어 쓰고, 채팅창이 그 기호를 서식으로 바꿔 보여 줍니다. 마크다운 파일의 확장자는 .md입니다.

기호로 서식을 표시하는 마크다운

그림 왼쪽은 AI가 실제로 쓴 원문이고, 오른쪽은 채팅창에 보이는 모습입니다. 원문의 ## 검토 결과가 제목으로, **결론**이 굵은 글씨로, -로 시작하는 세 줄이 글머리 목록으로 바뀌었습니다. 이처럼 워드처럼 서식을 일일이 지정할 필요 없이 기호 몇 개로 서식을 표현하며, 외워야 할 기호도 많지 않습니다.

기호	뜻	예
#	제목(개수가 많을수록 작은 제목)	## 검토 결과
**	굵게 강조	**결론**
-	글머리 목록	- 매출 증가

이외에도 표나 코드 블록, 인용문 등을 표시할 수도 있지만, 처음에는 위의 기호만 알아도 충분합니다.

3.2. AI 시대에 마크다운을 알아야 하는 이유

마크다운이 AI 시대의 표준처럼 쓰이게 된 가장 큰 이유는 사람과 AI 모두가 읽고 쓰기 쉽기 때문입니다. 메모장으로 열어도 그대로 읽히는 텍스트라 사람과 AI가 같은 파일을 함께 읽을 수 있고, 워드 파일처럼 서식 정보가 안쪽에 따로 숨어 있지 않습니다. 사람은 어디까지가 제목인지, 어떤 단어를 강조하고 있는지 시각적으로 구분할 수 있고, AI 역시 마크다운 기호로 표시된 문서의 논리적 계층 구조를 정확하게 인식합니다. 앞서 AI에게 컨텍스트를 전달할 때 마크다운과 같은 구조화된 형태로 전달하는 것이 가장 좋다고 말씀드린 이유도 여기에 있습니다.

한때는 프롬프트도 반드시 마크다운으로 써야 AI의 성능이 좋아진다는 이야기가 많았지만, 요즘 모델은 평범한 문장으로 던져도 잘 알아듣습니다. 다만 같은 규칙이라도 문단 속에 줄줄이 섞어 쓰기보다 제목으로 구획을 나누고 목록으로 한 줄에 규칙 하나씩 적으면, AI가 무엇이 규칙이고 어디까지가 한 덩어리인지 더 정확히 가려 따릅니다.

나아가 마크다운을 알아야 하는 실무적인 이유는, 오늘날 AI에게 업무 지침이나 정보를 전달할 때 사용하는 대부분의 문서가 마크다운으로 작성되기 때문입니다. 대표적으로 1.4장에서 살펴보고 3부에서 직접 만들 스킬의 핵심 파일 이름은 SKILL.md이며, 끝의 md가 마크다운이라는 뜻입니다. 따라서 스킬을 열어 읽고 고치려면 이 형식을 읽을 줄 알아야 합니다.

마크다운은 무엇보다 문법이 직관적이어서 누구나 몇 분 만에 익힐 수 있을 만큼 쉽습니다. #으로 제목을 달고 **로 강조하고 -로 목록을 적는 기본적인 문법만 알고 있어도 충분하므로 꼭 익혀 두시기를 권합니다.

정리

• 프롬프트는 공식보다 하고 싶은 일을 구체적으로 말하는 것이 중요하고, 방향을 모를 때는 일부러 넓게 묻습니다.
• 컨텍스트는 AI가 모르는 것을 알려 주는 일이며, 입력 → 첨부 → 스킬·MCP 순으로 발전해 왔습니다.
• 이미지와 스캔 PDF도 멀티모달로 읽히지만, 토큰과 숫자 왜곡을 생각하면 가능한 한 텍스트로 줍니다.
• 마크다운은 기호로 서식을 표시하는 형식이고, #·**·- 정도만 알면 됩니다. SKILL.md도 마크다운입니다.

지금까지 프롬프트, 컨텍스트, 마크다운을 살펴보았습니다. 컨텍스트를 넣을수록 AI가 읽어야 할 양도 늘어나는데, 그 양에는 값이 매겨지고 한 대화에 올려 둘 수 있는 한도도 있습니다. 다음 1.3장에서는 AI를 쓸수록 쌓이는 비용인 토큰(Token), 한 채팅창의 용량인 컨텍스트 윈도우(Context Window), 그리고 그럴듯한 오답인 할루시네이션을 살펴보겠습니다.