AI 시대 글쓰기, '순서' 하나로 퀄리티가 바뀐다? 행렬 곱셈에서 배우는 프롬프트 엔지니어링 [에디션 #2]

#

**"AI한테 분명히 시켰는데, 왜 자꾸 엉뚱한 답변만 할까요?"**

ChatGPT, Gemini와 같은 생성형 AI를 사용하며 이런 고민 한 번쯤 해보셨을 겁니다. 원하는 결과물을 얻기 위해 질문을 바꿔보고, 더 자세히 설명도 해보지만 어딘가 모르게 2% 부족한 결과에 실망하곤 하죠.

많은 사람들이 AI에게 '**무엇을(What)**' 요구할지에만 집중합니다. 하지만 AI 성능을 극적으로 끌어올리는 비밀은 '**어떤 순서로(How)**' 정보를 제공하느냐에 숨어있을지 모릅니다. 놀랍게도 그 힌트는 우리가 학창 시절 머리 아파했던 '행렬 곱셈'에 있습니다.

이 글에서는 **행렬 곱셈의 단순한 원리가 어떻게 인공지능의 핵심 작동 방식이 되었는지**, 그리고 이 원리를 이해하는 것이 **어떻게 우리의 AI 프롬프트 작성 능력을 한 단계 끌어올릴 수 있는지** 쉽고 명쾌하게 파헤쳐 봅니다. 수학에 자신이 없어도 괜찮습니다. '기차 연결 놀이' 비유만 기억한다면, 당신도 AI를 자유자재로 다루는 'AI 조련사'가 될 수 있습니다.

## 1. 수학 시간으로의 짧은 여행: 행렬 곱셈과 '기차 연결'의 비밀

겁먹지 마세요! 복잡한 수식은 모두 잊고, '기차'라는 단어에만 집중해 주세요.

**행렬 곱셈의 세계를 '기차 연결 시스템'에 비유**해 보겠습니다.

* **행렬(Matrix)** = 하나의 **기차** 🚂

* 행렬의 **행(가로줄) 개수** = 기차의 **높이(층수)**

* 행렬의 **열(세로줄) 개수** = 기차의 **길이(칸수)**

* 두 행렬을 곱한다 (AB) = **A 기차 뒤에 B 기차를 연결한다**

여기서 가장 중요한, 절대 어길 수 없는 **'황금 연결 규칙'**이 있습니다.

> **"앞 기차(A)의 길이(열)와 뒷 기차(B)의 높이(행)가 정확히 같아야만 연결할 수 있다!"**

이 간단한 규칙이 왜 그렇게 중요할까요? 두 가지 흥미로운 상황을 통해 알아보겠습니다.

### 상황 1: AB는 되는데, BA는 안 돼요! (연결의 방향성)

A 기차 뒤에 B 기차는 붙일 수 있지만, 순서를 바꿔 B 기차 뒤에 A 기차는 붙일 수 없는 신기한 경우입니다.

* **A 기차**: 2층 높이, 3칸 길이의 기차 (2x3 행렬)

* **B 기차**: 3층 높이, 1칸 길이의 기차 (3x1 행렬)

#### ✅ **A 기차 + B 기차 (AB) 연결 시도**

앞 기차(A)의 **길이는 3칸**, 뒷 기차(B)의 **높이는 3층**. '3'으로 숫자가 똑같습니다! 황금 규칙에 따라 안전하게 연결할 수 있습니다. **(AB 곱셈 가능)**

#### ❌ **B 기차 + A 기차 (BA) 연결 시도**

이제 순서를 바꿔봅시다. 앞 기차(B)의 **길이는 1칸**, 뒷 기차(A)의 **높이는 2층**. '1'과 '2'는 다른 숫자입니다. 이 두 기차는 규격이 맞지 않아 절대로 연결할 수 없습니다. **(BA 곱셈 불가능)**

> **핵심 인사이트**: 행렬 곱셈에서는 **'순서'가 절대적**입니다. 우리가 일상에서 `3 x 5`와 `5 x 3`이 같다고 생각하는 것과 달리, 행렬의 세계에서는 `AB`와 `BA`가 완전히 다른, 심지어 한쪽은 존재조차 할 수 없는 개념이 됩니다.


### 상황 2: 둘 다 되는데, 결과물의 모양이 달라요! (결과의 비대칭성)

이번엔 양방향 연결이 모두 가능하지만, 완성된 결과물의 모양(크기)이 완전히 달라지는 경우입니다.

* **A 기차**: 2층 높이, 3칸 길이의 기차 (2x3 행렬)

* **B 기차**: 3층 높이, 2칸 길이의 기차 (3x2 행렬)

#### ✅ **A 기차 + B 기차 (AB) 연결 결과**

* **연결 조건:** A의 길이(3칸)와 B의 높이(3층)가 같아 연결 성공!

* **결과물 모양:** 연결된 새로운 기차는 **앞 기차(A)의 높이**와 **뒷 기차(B)의 길이**를 따릅니다. 즉, 2층 높이, 2칸 길이의 새로운 기차 **(2x2 행렬)**가 탄생합니다.

#### ✅ **B 기차 + A 기차 (BA) 연결 결과**

* **연결 조건:** B의 길이(2칸)와 A의 높이(2층)가 같아 역시 연결 성공!

* **결과물 모양:** 이번엔 B의 높이와 A의 길이를 따릅니다. 즉, 3층 높이, 3칸 길이의 새로운 기차 **(3x3 행렬)**가 탄생합니다.

> **핵심 인사이트**: `AB`와 `BA` 계산이 모두 가능하더라도, 그 **결과물의 크기와 형태는 완전히 다를 수 있습니다.** 어떤 순서로 정보를 결합하느냐에 따라 결과의 차원이 달라지는 것입니다.

## 2. 기차는 어떻게 AI가 되었나: 신경망의 작동 원리

자, 이제 이 '기차 연결 놀이'가 인공지능과 무슨 상관인지 알아볼 시간입니다. 놀랍게도 **인공지능 신경망(Neural Network)은 이 기차 연결 시스템의 매우 정교하고 거대한 버전**입니다.

* **입력 데이터 (글, 이미지 등)** = 우리가 출발시키는 **첫 번째 기차**

* **신경망의 각 층 (Layer)** = 데이터를 가공하고 변환하는 **'연결 스테이션'** 이자, 다음 단계로 보낼 **새로운 기차(행렬)**

* **데이터 처리 과정** = 수많은 기차(행렬)들이 **황금 규칙에 따라 순서대로 착착 연결되는 과정 (행렬 곱셈)**

### AI에게 '순서'가 중요한 이유 (AB ≠ BA의 원리)

AI가 고양이 사진을 판별하는 과정을 '기차 연결'에 비유해 봅시다.

1. **(입력)** 고양이 사진의 수만 개 픽셀 정보가 담긴 거대한 **'픽셀 기차(A)'**가 출발합니다.

2. **(1층)** '픽셀 기차'는 '선, 모서리, 색상' 같은 기초 특징을 찾아내는 **'특징 추출 기차(B)'**와 연결됩니다. `A x B`가 일어나, 사진의 기초적인 윤곽 정보가 담긴 새로운 기차가 만들어집니다.

3. **(2층)** 이 기차는 다시 '눈, 코, 귀' 같은 복합적인 형태를 인식하는 **'형태 인식 기차(C)'**와 연결됩니다. `(AB) x C`가 일어나, 고양이의 얼굴 부위 정보가 담긴 기차가 만들어집니다.

4. **(최종 출력)** 이 과정이 수십, 수백 번 반복되어 최종적으로 "이것은 고양이일 확률 98%"라는 정보가 담긴 아주 작고 단순한 **'결과 기차'**가 도착합니다.

만약 이 순서를 무시하고 '픽셀 기차(A)'를 '형태 인식 기차(C)'와 연결하려고 하면 어떻게 될까요? 선과 모서리 정보도 없는데 눈, 코, 귀를 찾으라는 것과 같습니다. 수학적으로도 기차의 길이(열)와 높이(행)가 맞지 않아 연결 자체가 실패합니다.

**AI에서 데이터 처리 순서는 절대적입니다.** 정보는 반드시 **입력층 → 중간층 → 출력층**의 정해진 방향으로, 논리적인 단계를 거쳐 흘러가야 의미 있는 결과를 낼 수 있습니다.

### AI가 '요약'하고 '추상화'하는 법 (크기 변화의 원리)

AI가 방대한 정보 속에서 핵심을 찾아내는 능력은 행렬 곱셈 후 **결과물의 크기가 변하는 원리** 덕분입니다.

처음 입력된 '픽셀 기차'는 매우 크고 복잡합니다 (예: 1024x768 크기). 하지만 '특징 추출 기차'와 연결되면서 불필요한 정보는 버려지고 핵심적인 특징만 남아 더 작은 크기의 기차로 변합니다 (예: 200x200 크기). 이 과정이 반복되면서 정보는 점점 **'추상화'**되고 **'요약'**됩니다.

마지막에는 "고양이인가?"라는 질문에 답할 수 있는 단 하나의 정보, "98% 확률"이라는 아주 작은 크기(1x1)의 '결과 기차'만 남게 됩니다. 이처럼 행렬의 크기를 점진적으로 줄여나가는 과정이 바로 AI가 복잡한 세상의 본질을 꿰뚫어 보는 방법입니다.


## 3. 그래서, 내 프롬프트는 어떻게 써야 할까? 'AI 조련'을 위한 3가지 순서의 법칙

이제 대망의 실전 팁입니다. 행렬 곱셈의 '순서'와 '크기 변화' 원리는 우리가 AI에게 말을 거는 방식, 즉 **프롬프트 작성에 그대로 적용**됩니다. AI는 우리가 입력한 텍스트를 순서대로 처리하며 생각의 흐름을 만들어가기 때문입니다.

어떤 '이정표'를 먼저 보여주느냐에 따라 AI라는 여행자의 목적지가 달라집니다.

### 법칙 1: '맥락'을 먼저, '명령'은 나중에 (Context First, Instruction Last)

AI가 충분히 상황을 이해하고 준비할 시간을 줘야 합니다. 배경 정보를 먼저 제공하고, 해야 할 일을 나중에 제시하세요.

* **🥈 아쉬운 프롬프트:**

> "아래 내용을 초등학생도 이해하게 세 줄로 요약해줘. [아주 복잡하고 긴 인공지능 논문 텍스트]"

* **AI의 사고:** '세 줄 요약'과 '초등학생'이라는 틀에 갇힌 채로 글을 읽기 시작합니다. 내용을 깊이 이해하기보다 요약의 형식에만 치중하여 피상적인 결과물을 내놓을 수 있습니다.

* **🥇 훌륭한 프롬프트:**

> "[아주 복잡하고 긴 인공지능 논문 텍스트] 위 내용을 초등학생도 이해할 수 있도록 핵심만 뽑아서 세 줄로 요약해줘."

* **AI의 사고:** 먼저 논문 내용을 충분히 소화하며 맥락을 파악합니다. 모든 정보를 이해한 뒤 "이것을 초등학생 눈높이로 요약하라"는 명확한 과업을 받아, 훨씬 정확하고 본질적인 요약을 해냅니다.

### 법칙 2: '역할'을 먼저, '과업'은 나중에 (Persona First, Task Last)

AI에게 특정 전문가의 역할을 부여하고 싶다면, 정체성을 먼저 심어주고 그 역할로서 할 일을 부여하세요.

* **🥈 아쉬운 프롬프트:**

> "신제품 'AI 스마트워치'의 광고 카피를 5개 써줘. 참고로 너는 애플의 마케팅 수석 카피라이터야."

* **AI의 사고:** 일단 평범한 광고 카피 5개를 생성합니다. 그 후에 '아, 내가 애플 마케터였지'라며 뒤늦게 스타일을 흉내 내려고 하지만, 이미 만들어진 결과물에 톤을 덧씌우는 느낌이라 어색할 수 있습니다.

* **🥇 훌륭한 프롬프트:**

> "**당신은 애플의 신제품 발표를 총괄하는 수석 마케팅 카피라이터입니다.** 감성을 자극하고, 혁신을 강조하는 당신의 스타일은 전 세계적으로 유명합니다. 이제 곧 출시될 신제품 **'AI 스마트워치'**의 핵심 기능을 어필하는 광고 카피를 5개 작성해주세요."

* **AI의 사고:** "나는 애플의 최고 마케터다"라는 페르소나를 먼저 완벽하게 장착합니다. 그 관점과 사고방식으로 과업에 접근하기 때문에, 처음부터 끝까지 일관성 있고 창의적인 결과물을 내놓습니다.

### 법칙 3: '긍정' 지시를 먼저, '부정' 지시는 나중에 (혹은 지양)

AI는 '~하지 마'라는 제약 조건보다 '~해줘'라는 목표를 훨씬 잘 이해합니다. AI가 나아가야 할 긍정적인 방향을 먼저 제시해주세요.

* **🥈 아쉬운 프롬프트:**

> "프로젝트 성과 보고서를 써줘. 너무 길게 쓰지 말고, 전문 용어도 너무 많이 쓰지 마. 딱딱한 말투는 피해야 해."

* **AI의 사고:** '길다', '전문 용어', '딱딱함' 같은 부정적인 키워드에 먼저 꽂힙니다. 이것들을 피하는 데 급급하다 보면 오히려 글이 어색해지거나 소극적인 결과물이 나올 수 있습니다.

* **🥇 훌륭한 프롬프트:**

> "프로젝트 성과 보고서를 작성해줘. **핵심 성과 위주로 간결하게, 비전문가도 쉽게 이해할 수 있는 단어를 사용해서, 친근하고 명료한 어조로** 작성해줘."

* **AI의 사고:** '간결함', '쉬운 단어', '친근한 어조'라는 명확하고 긍정적인 목표를 향해 곧바로 나아갑니다. 자연스럽게 부정적인 요소들은 배제되고, 우리가 원하는 결과물에 훨씬 가깝게 도달합니다.


## 마치며: 단순한 '순서'가 만드는 전문가 수준의 결과

행렬 곱셈에서 `AB`와 `BA`의 순서가 전혀 다른 결과를 낳는 것처럼, 우리가 AI에게 건네는 말의 순서 또한 결과물의 수준을 결정합니다.

**맥락 → 명령, 역할 → 과업, 긍정 → 부정.**

이 단순한 '순서의 법칙'은 AI를 단순한 검색 도구가 아닌, 나의 의도를 정확하게 파악하고 실행하는 강력한 파트너로 만드는 열쇠입니다.

오늘 당장 당신의 다음 프롬프트에 이 '순서의 마법'을 적용해 보세요. 아마 AI가 이전과는 전혀 다른, 놀랍도록 똑똑한 답변을 내놓는 것을 경험하게 될 것입니다.