OpenAI 공동 창업자. 스탠포드 교수. 현존하는 가장 신뢰할 수 있는 엔지니어 중 한 명. 그는 비밀 프롬프트를 사용하지 않습니다. 그는 시스템을 사용합니다.
과장이나 꾸밈 없이, 그의 실제 팁 7가지를 소개합니다.
상상해보세요.
밤 11시입니다. 두 시간째 같은 AI 채팅창을 쳐다보고 있습니다. 같은 요청을 여섯 가지 다른 방식으로 다시 표현해봤습니다. 예의 바르게, 직설적으로, 구체적으로, 모호하게 말해봤습니다. X에서 어떤 사람이 "Claude를 10배 똑똑하게 만든다"고 자랑하는 "마법의 프롬프트" 세 가지를 복사해서 붙여넣기도 해봤습니다.
기대한 대로 작동하는 것은 아무것도 없습니다. 결과물은 너무 일반적이거나, 구조적으로 틀렸거나, 20분 전에 같은 대화에서 이미 알려준 내용에 대해 자신있게 잘못된 정보를 제공합니다.
탭을 닫습니다. 내일 다시 시도해볼 겁니다. 다른 모델로요. 다른 프롬프트로요. 아니면 아직 이게 능숙하지 않은 걸 수도요.
불편한 진실은 이것입니다: 문제는 아마 모델이 아닐 겁니다. 그리고 확실히 프롬프트 문제도 아닙니다.
대부분의 사람들이 끝없이 표현을 수정하고, 완벽한 지시를 찾으며, 또 다른 "AI 생산성 강좌"를 구매하는 동안, 소수의 사람들은 조용히 깨달았습니다. 문제는 결코 프롬프트 자체가 아니었다는 것을.
문제는 프롬프트를 둘러싼 모든 것이었습니다.
컨텍스트(Context). 메모리(Memory). 구조(Structure). 워크플로우(Workflow).
Andrej Karpathy는 그 소수 중 한 명입니다. 그리고 AI 분야의 대부분의 목소리와 달리, 그는 증거가 있습니다: OpenAI 공동 창업자, Tesla AI 책임자 역임, 스탠포드 교수, 그리고 다른 모든 사람들이 영리한 프롬프트로 "해킹"하려고 하는 시스템을 실제로 만든 엔지니어 중 한 명입니다.
그는 거의 누구보다 오래 이 문제에 대해 고민해왔습니다. 그리고 그가 내린 결론은 돌이켜보면 명확하면서도 실제로는 거의 완전히 무시되고 있습니다.
그는 마법의 프롬프트를 사용하지 않습니다. 그는 인프라를 구축합니다.
일곱 가지 습관. 몇 개의 간단한 파일. 특정한 작업 리듬. 그것이 전부입니다.
그가 정확히 무엇을 하는지, 그리고 각 요소가 왜 중요한지 소개합니다.
팁 1: 마법의 프롬프트는 잊으세요. 문제는 거의 항상 누락된 컨텍스트입니다.
2022년 이후로 "프롬프트 엔지니어링 전문가"들이 X와 Instagram을 지배해왔습니다.
메시지는 이것입니다: 올바른 주문을 배우면 모델이 복종한다.
Karpathy는 동의하지 않습니다. 대부분의 사람들이 100번을 반복해도 여전히 나쁜 결과물을 얻는 진짜 이유는 무엇일까요? 그들은 컨텍스트를 완전히 무시합니다.
그의 실제 공식:
- 표준적이고 명확한 요청을 작성하세요
- 좋은 결과물의 구체적인 예시를 항상 포함하세요
- 전체 오류 메시지나 전체 배경을 붙여넣으세요 – 잘라낸 조각은 절대 안 됩니다
"컨텍스트 창을 아끼기 위해" 코드나 텍스트를 자르지 마세요. 모델이 누락된 부분을 추측하면 항상 틀립니다. 매번 그렇습니다.
비밀 지시문이 여러분의 배경 지식을 모델의 머릿속으로 순간이동시켜 주지는 않습니다. 직접 작성해야 합니다.
팁 2: 여러분의 CLAUDE.md는 아마 형편없을 겁니다. 지금 당장 확인해보세요.
다른 사람의 템플릿에서 복사해왔나요? Claude가 스스로 작성하게 놔두었나요? 그렇다면 그 파일은 여러분을 위해 작동하지 않고 있습니다.
메인 설정 파일은 다음 다섯 가지를 명확히 설명해야 합니다:
- 당신이 누구인지
- 프로젝트가 무엇인지 (일반적인 프레임만)
- 건드리지 말아야 할 것
- 파일 명명 규칙
- 응답 형식을 지정하는 방법
거의 모든 사람이 파일을 가지고 있습니다. 하지만 제대로 설정한 사람은 거의 없습니다.
모델이 "멍청하다"고 비난하기 전에 – 모델에게 내린 여러분의 지시 사항을 먼저 읽어보세요.
그리고 브라우저 기반 AI 도구만 사용하시나요? 그래도 이 파일이 필요합니다. 고정 브리핑(Pinned Brief)을 설정하세요. 같은 논리가 적용됩니다.
팁 3: 3계층 시스템을 구축하세요. 매 세션마다 처음부터 다시 시작하지 마세요.
Karpathy의 파이프라인:
- /raw – 원본 자료를 있는 그대로 덤프
- /wiki – 모델이 작성하고 유지 관리하는 구조화된 페이지
- CLAUDE.md – 상시 운영 원칙
새로운 출처가 들어온다 → /raw 에 넣는다 → 모델에게 처리하라고 지시한다.
하루 30분 절약, 복리 효과로 누적됩니다.
프로젝트가 이틀 이상 지속되는데 매번 새 세션에서 모든 것을 다시 설명하고 있다면 – 그것은 워크플로우가 아니라, 반복 루프입니다.
팁 4: 좋은 답변을 받은 후에는 영구적으로 저장하세요.
기본 습관: 훌륭한 응답을 받고, 결과를 복사하고, 탭을 닫고, 잊어버립니다. Karpathy는 이것이 조용히 장기 생산성을 망치고 있다고 말합니다. 모델은 참고 자료가 필요합니다.
가치 있는 응답을 받을 때마다:
"이것을 영구 페이지로 저장하세요: wiki/topic/.md"
그런 다음 주기적으로 노트를 검토하여 중복, 충돌, 오래된 정보를 확인하세요.
이 단계를 건너뛰면 최고의 AI 결과물이 조용히 채팅 기록 속에 묻힙니다. 이미 해결한 작업에 몇 시간을 다시 쏟게 될 것입니다.
팁 5: 일주일 이상 지속되는 모든 프로젝트에는 index.md 와 log.md 를 추가하세요. 예외는 없습니다.
두 개의 파일. 두 가지 목적:
- index.md – 존재하는 모든 것의 지도
- log.md – 실행 변경 로그: 날짜 | 유형 | 설명
예시: 2026-05-28 | 요약 | 고객 인터뷰 분석
하루에 1-2시간씩 코드를 작성한다면, 2주 후에는 3일째 날에 무엇을 만들었는지 진짜로 기억하지 못할 것입니다. 이 두 파일이 바로 여러분의 메모리 레이어입니다.
팁 6: AI는 취향이 없는 뛰어난 인턴입니다. 그렇게 대우하세요.
Karpathy의 관점: AI 에이전트는 "막대한 지식을 가진 초강력 인턴이지만, 끊임없이 환각을 보고 코드에 대한 취향이 전혀 없는" 존재입니다. 단단한 통제가 필요합니다.
그의 실제 작업 루프:
- 전체 컨텍스트 로드
- 다음 작은 단계에 대한 2-3가지 옵션 요청
- 하나 선택
- 평가, 테스트, 커밋
- 반복
모든 것을 하나의 프롬프트로 처리하라고 요청하지 마세요. 그렇게 하면 디버깅 불가능한 500줄의 엉망진창 코드만 얻을 뿐입니다.
팁 7: 모든 연구 프롬프트를 10배 더 읽기 쉽게 만드는 한 문장.
분석이나 연구 프롬프트 끝에 이것을 추가하세요:
"최종 응답을 독립형 HTML 파일로 구조화하세요."
AI 모델은 모든 것을 몇 초 만에 깔끔하고 탐색 가능한 HTML로 렌더링합니다. 읽는 시간이 극적으로 줄어듭니다. 한 문장만 추가하면 됩니다. 매번 사용하세요.
여기서 이상한 점이 있습니다.
이 모든 팁은 비밀이 아닙니다. 유료 구독, 특별한 도구, 또는 40시간짜리 강좌가 필요한 것도 없습니다. 한 번 보면 모두 완전히 명확합니다. 모델에게 전체 컨텍스트가 필요한 것은 당연합니다. 잘 작동하는 것을 저장해야 하는 것은 당연합니다. 프로젝트에 지도와 로그가 필요한 것은 당연합니다.
그런데 – 지금 당신이 AI를 실제로 어떻게 사용하고 있는지 돌아보세요. 솔직하게 말해보세요. 오늘 당신의 워크플로우에 이 일곱 가지 중 몇 개나 실제로 자리잡고 있나요?
대부분의 사람들은 AI에 대해 이상한 위치에 있습니다. AI가 강력하다고 믿습니다 – 인상적인 일을 하는 것을 보았습니다 – 하지만 자신의 손에서는 계속 기대에 미치지 못합니다. 그래서 그 격차가 모델이나 프롬프트, 또는 아직 찾지 못한 내부 정보 때문이라고 가정합니다. 그들은 20분을 투자해 기초를 다지는 대신, 비법을 찾는 데 몇 시간을 보냅니다.
Karpathy의 전체 메시지는 그 격차가 마법과 관련이 없다는 것입니다. 그것은 메모리, 구조, 그리고 점진적인 접근에 관한 것입니다. 모델에게 전체 그림을 제공하세요. 모델이 만든 것을 저장하세요. 작고 확실한 단계로 작업하세요. 모델이 병목이 아닙니다 – 여러분의 워크플로우가 병목입니다.
향후 2년 동안 AI에서 극적으로 더 많은 것을 얻을 사람들은 최고의 프롬프트를 찾은 사람들이 아닙니다. 그들은 모델 주변에 최고의 시스템을 구축한 사람들입니다 – 심지어 간단한 시스템일지라도 말이죠. /raw 폴더, /wiki, 적절한 CLAUDE.md, 두 개의 마크다운 파일, 그리고 작업 루프.
그것이 전부입니다. 거의 부끄러울 정도로 작은 차이입니다. 하지만 거의 아무도 실행하고 있지 않습니다.
맨 위의 이야기로 돌아가보세요. 밤 11시에 좌절하며 탭을 닫는 그 사람 – 그것은 나쁜 AI에 대한 이야기가 아닙니다. 그것은 메모리도, 구조도, 점진적인 루프도 없는 워크플로우에 대한 이야기입니다. 모델은 도울 준비가 되어 있었습니다. 단지 무엇을 돕고 있는지에 대해 충분히 알지 못했을 뿐입니다.
이제 무엇을 구축해야 할지 알았습니다. 하나의 파일로 시작하세요. 하나의 폴더. 하나의 저장된 응답. 시스템은 빠르게 복리 효과를 냅니다.
요약 (TL;DR)
프롬프트를 수정하는 것을 그만두세요. 인프라 구축을 시작하세요. 적절한 설정 파일, /raw 및 /wiki 구조, 영구 참조 페이지, 장기 프로젝트를 위한 index 및 log 파일, 작은 단계 작업 루프, 그리고 하나의 HTML 트릭. 모델이 추측을 멈추고 – 실제로 도움을 주기 시작합니다. 차이는 비밀이 아닙니다. 그것은 시스템입니다. 그리고 설정하는 데 오후 정도면 충분합니다.
이 내용이 유용했다면 – 북마크에 추가하세요. 다시 돌아와 보고 싶어질 것입니다.
더 많은 분석을 보려면 @ScottyBeamIO를 팔로우하세요.
꾸밈없이, 실제로 작동하는 것만 전달합니다.
