AI 엔지니어링 로드맵: 4개월 만에 전직하는 방법
AI 엔지니어링은 현재 테크 업계에서 가장 높은 연봉과 가장 빠른 성장을 보이는 직군 중 하나입니다. 그리고 그 문은 그 어느 때보다 넓게 열려 있습니다.
대부분의 가이드는 이 부분을 잘못 짚고 있습니다. 이론의 벽을 던져주고, 선형대수학과 신경망 수학을 마스터하라고 말한 뒤, 2주 차에 당신을 지치게 만듭니다.
아니면 순서도 정리되지 않은 80개의 링크를 던져주고 결론도 없이 내버려둬서, 공부하는 시간보다 무엇을 공부할지 결정하는 데 더 많은 시간을 쓰게 만듭니다.
저는 인기 있는 로드맵들을 살펴보고, 추천하는 도구들을 직접 테스트한 후, 실제로 일해야 하는 커리어 전환을 고려하는 친구에게 건네줄 버전을 만들었습니다.
수학 학위는 필요 없습니다. 4년 계획도 필요 없습니다.
집중된 4개월, 스킬당 하나의 명확한 선택, 복사해서 쓸 수 있는 실제 프롬프트, 그리고 대부분의 커리어 전환을 시작도 전에 조용히 망치는 실수들에 대한 이야기입니다.
먼저 제가 왜 지금이 적기라고 생각하는지, 그리고 전체 경로를 알려드리겠습니다.
왜 문이 열려 있는가 (증명할 수 있습니다)
아마 AI가 일자리를 빼앗을 것이라는 말은 많이 들어보셨을 겁니다.
여기서 덜 알려진 부분은 이것입니다: AI는 시장의 다른 어떤 것보다 빠르게 특정하고 높은 연봉을 받는 직군을 만들어내고 있으며, 기존의 진입 장벽이 사라지고 있습니다.
PwC의 2026 글로벌 AI 일자리 지표는 6개 대륙의 10억 개 이상의 구인 광고를 분석했습니다. 전직을 고려하는 사람이라면 주목해야 할 세 가지 결과가 있습니다.
첫째, AI 스킬을 요구하는 일자리는 전체 시장보다 약 8배 빠르게 성장하고 있습니다. AI 스킬이 필요한 직무는 69% 성장한 반면, 전체 일자리 시장은 9% 성장했습니다.
이는 단순한 오차가 아닙니다. 주변의 모든 것과 차별화되는 카테고리입니다.
둘째, 연봉 프리미엄은 실재하며 증가하고 있습니다. AI 스킬을 가진 근로자는 유사한 직무보다 62% 더 높은 임금 프리미엄을 받고 있으며, 이는 전년도의 57%에서 상승한 수치입니다.
기업들은 이 도구들을 실제로 활용할 수 있는 사람에게 더 적게 주는 것이 아니라, 더 많이 지불하고 있습니다.
셋째, 그리고 이것이 커리어 전환자에게 가장 중요한 변화입니다: 학위 요구 조건이 낮아지고 있으며, 정확히 이런 직무에서 가장 빠르게 낮아지고 있습니다.
PwC에 따르면 AI가 보강된 일자리 중 학위를 요구하는 비율은 2019년 66%에서 2024년 59%로 감소했습니다.
AI가 업무의 일부를 자동화하는 일자리의 경우, 53%에서 44%로 더 크게 감소했습니다. 고용주들은 AI에 노출된 직무에서 다른 어떤 분야보다 빠르게 학력 필터를 제거하고 있습니다.
한 가지 더 주목할 만한 수치가 있습니다. 미국에서 AI에 가장 많이 노출된 초급 직무는 2019년 이후 35% 증가했습니다.
같은 기간 동안 다른 초급 직무는 10% 감소했습니다. AI 사다리의 가장 낮은 단이 넓어지는 동안, 나머지 초급 시장은 줄어들고 있습니다.
이제 솔직한 반대 의견도 말씀드리겠습니다. 환상을 팔려는 것이 아니기 때문입니다.
PwC는 또한 AI에 노출된 초급 직무가 이전에는 시니어에게만 요구되던 스킬을 점점 더 요구한다는 것을 발견했습니다: 판단력, 커뮤니케이션 능력, 단순한 업무가 아닌 결과물에 대한 책임을 질 수 있는 능력.
전반적으로 기준이 낮아진 것은 아닙니다. 기준이 이동했습니다. "자격증이 있느냐"에서 "실제로 이것을 작동하게 만들고 왜 작동하는지 설명할 수 있느냐"로 바뀌었습니다.
경력이 없는 갓 졸업생이라면 나쁜 소식으로 읽힐 수 있습니다. 다른 경력에서 전환하는 중이라면 좋은 소식으로 읽으세요. 왜냐하면 당신은 이미 그들이 요구하는 것을 가지고 있기 때문입니다.
당신은 무언가를 실제로 출시해본 경험이 있습니다. 이해관계자들과 협업해본 경험이 있습니다. 압박 속에서 결과물에 대한 책임을 져본 경험이 있습니다.
CS 학위를 가진 22세는 보통 그렇지 않습니다. 당신의 기존 판단력과 이 가이드의 기술적 스킬을 결합한다면, 신입 졸업생들보다 뒤처지지 않습니다.
고용주가 가장 중요하게 생각하는 축에서, 당신은 그들보다 앞서 있습니다.
이것이 전환자의 강점이며, 거의 모든 로드맵이 이것을 알려주지 않습니다. 4개월 내내 이 사실을 기억하세요. 이것이 당신에게 이 전환이 현실적인 이유입니다.
돈에 대해 간단히 말씀드리겠습니다. 4개월을 투자하기 전에 실제 숫자를 알고 싶을 테니까요.
마지막에 출처와 함께 전체 분석을 제공하겠지만, 간단히 말하면: 2026년 중반 기준, Glassdoor는 미국 AI 엔지니어의 평균 연봉을 약 $143,500으로 집계하고 있으며, 일반적인 범위는 대략 $115,000에서 $181,000 사이입니다.
시니어 직무는 훨씬 더 높습니다. 프로덕션 AI 업무에 인력을 배치하는 리크루터들은 중간급 기본 연봉이 $155,000에서 $200,000 사이에 집중되어 있다고 보고합니다.
이것은 과장된 스레드에서 가져온 과장된 수치가 아닙니다. 현재의 실제 데이터이며, 각각의 출처를 보여드리겠습니다.
AI 엔지니어가 실제로 하는 일 (60초 버전)
계획을 시작하기 전에, 가장 큰 위협 요소를 제거하겠습니다. 기술적 장애물보다 더 많은 사람을 막는 요소이기 때문입니다.
대부분의 사람들이 "AI 엔지니어"라고 들으면, 거대한 모델을 처음부터 훈련시키는 연구실에서 GPU와 이해할 수 없는 수학에 둘러싸인 사람을 상상합니다.
그것은 다른 직업입니다. 연구 과학자 또는 ML 연구원이라고 불리며, 상대적으로 적은 수의 사람들이 있고, 일반적으로 고급 학위가 필요합니다.
시장보다 8배 빠르게 성장하는 AI 엔지니어 직무는 완전히 다른 것입니다.
당신은 이미 존재하는 모델 위에 제품과 기능을 구축합니다. Claude, GPT 또는 오픈소스 모델을 가져와서 실제 애플리케이션 내에서 특정하고 신뢰할 수 있는 작업을 수행하도록 만듭니다.
실제로는 모델 API에 연결하고, 프롬프트와 컨텍스트를 설계하고, 구조화된 데이터를 받아오고, 모델을 도구와 데이터베이스에 연결하고, 올바른 정보를 검색하고, 잘못될 수 있는 모든 것을 처리하고, 실제 사용자가 사용할 수 있도록 배포합니다.
소프트웨어 엔지니어링, 제품 작업, 응용 AI 사이에 위치합니다. 당신은 연구자가 아닌 빌더입니다.
제가 사용하는 한 줄 테스트는 이렇습니다. 앱 내에서 LLM이 특정 작업을 안정적으로 수행하도록 만들 수 있고, 문제가 생겼을 때 고칠 수 있을 정도로 이해하고 있다면, 당신은 AI 엔지니어입니다. 이것이 전부입니다.
이 가이드의 모든 것은 당신이 그 문장을 자신에 대해 말할 수 있게 되는 것을 목표로 합니다.
트랜스포머가 내부적으로 어떻게 작동하는지 알 필요가 없습니다. 미적분학이 필요하지 않습니다. 역전파를 유도할 필요가 없습니다.
당신은 실제 세계에서 이러한 모델을 어떻게 다루는지 이해하는 유능한 빌더가 되어야 합니다.
이것은 배울 수 있는 스킬이며, 4개월의 집중 기간으로 실력을 갖추기에 충분합니다.
1개월 차 전에 읽어야 할 것: 커리어 전환을 망치는 4가지 실수
이 부분을 로드맵 앞에 의도적으로 배치했습니다.
대부분의 가이드는 실수를 마지막에 숨기지만, 커리어 전환을 끝내는 실수는 3개월 차가 아닌 2주 차에 발생합니다. 이 가이드의 한 섹션만 기억해야 한다면, 이것을 기억하세요.
저는 사람들이, 그리고 과거의 저를 포함해서, 이 모든 실수를 저지르는 것을 지켜봤습니다. 그중 어느 것도 지능과 관련이 없습니다.
그것은 전략에 관한 것입니다. 전략을 수정하면 4개월이 실제로 효과를 봅니다.
실수 1: 이론과 수학부터 시작하기.
당신은 흥분해서, 제대로 하고 싶어서, 머신러닝 강좌를 찾아 선형대수학, 경사 하강법, 신경망 뒤의 수학부터 시작합니다.
3주 후에 많은 강의를 봤지만 아무것도 만들 수 없고, 사기꾼처럼 느껴집니다. 그래서 포기합니다.
해결책: 건너뛰세요. 당신이 목표로 하는 직무를 위해, 수학을 유도할 필요가 없습니다.
당신은 구축해야 합니다.
실제 프로젝트에서 부딪히면서 실제로 필요한 개념들을 익히게 될 것이며, 그것들은 당신이 만든 것에 연결되어 기억에 남을 것입니다.
이론 우선 접근법은 똑똑한 사람들이 이 분야에서 실패하는 가장 흔한 이유입니다. 거기서 시작하지 마세요.
실수 2: 구축 대신 튜토리얼 시청하기.
이것은 교묘합니다. 진전이 있는 것처럼 느껴지기 때문입니다. 4시간짜리 Python 강좌를 보고, 고개를 끄덕이며, 무언가를 배운 것처럼 느낍니다. 실제로는 배운 것이 아닙니다.
당신은 다른 사람이 무언가를 배우는 것을 지켜본 것입니다. 빈 파일을 열었을 때, 그 어떤 것도 기억나지 않습니다.
해결책: 30분 규칙. 시청하거나 읽는 데 1시간을 썼다면, 최소 30분은 튜토리얼 없이 직접 무언가를 구축하는 데 사용하세요.
예제를 직접 입력하세요. 고장내보세요. 변경해보세요. 오류를 얻고 수정하세요. 오류가 곧 학습입니다.
4개월 동안 형편없이 구축하는 사람은 4개월 동안 완벽하게 시청만 하는 사람을 매번 이깁니다.
고용주는 GitHub을 10초만 봐도 그 차이를 알 수 있습니다.
실수 3: 스킬 대신 도구 배우기.
LangChain이 대세라고 들었습니다. 그래서 LangChain에 깊이 빠져듭니다.
6개월 후에는 분야가 이동했고, 모두가 다른 것을 사용하고 있으며, LangChain 지식이 낭비된 것처럼 느껴집니다. 그래서 새로운 도구를 쫓습니다.
그러면 그 도구도 바뀝니다. 당신은 항상 뒤처져 있습니다. 잘못된 레이어에 최적화하고 있기 때문입니다.
해결책: 도구 아래의 스킬을 배우세요. 신뢰할 수 있는 출력을 생성하는 프롬프트를 작성하는 스킬은 프레임워크가 업데이트되어도 사라지지 않습니다.
모델에서 구조화된 데이터를 얻는 스킬, 시스템이 실제로 작동하는지 평가하는 스킬, 작업이 에이전트를 필요로 하는지 단일 호출로 충분한지 결정하는 스킬은 앞으로 존재할 모든 도구에 걸쳐 전이됩니다.
도구를 스킬을 연습하는 방법으로 배우고, 목표로 삼지 마세요. 이 가이드는 바로 이런 이유로 스킬 중심으로 구성되어 있습니다.
실수 4: 공개적으로 구축할 준비가 될 때까지 기다리기.
당신은 "준비"가 되면 작업을 공유하고, 지원하고, 프리랜스 서비스를 제공하기 시작할 것이라고 결정합니다.
당신은 절대 준비되었다고 느끼지 않을 것입니다. 준비는 시작한 후에 오는 감정이지, 시작하기 전에 오는 것이 아닙니다.
그동안 채용되고 클라이언트를 얻는 사람들은 자격이 된다고 느끼기 몇 달 전에 거친 작업을 공유하기 시작한 사람들입니다.
해결책: 1개월 차에 공개적으로 구축을 시작하세요. 만든 작은 것을 게시하세요. 배운 것을 정리하세요.
완성한 날 모든 프로젝트를 GitHub에 올리세요. 추한 것들도 포함해서요.
"배우고 있다"와 "눈에 띄게 구축하고 있다" 사이의 간격이 대부분의 전환자가 1년 동안 갇혀 있는 곳입니다. 일찍 그 간격을 좁히세요.
아무도 당신의 초기 작업이 당신을 부끄럽게 만들 정도로 가까이 지켜보지 않으며, 시작하는 날부터 복리 효과가 시작됩니다.
이 네 가지를 전체 과정 내내 염두에 두세요.
아래의 로드맵은 기본적으로 이 모든 것을 피하도록 설계되었습니다: 스킬 우선, 구축 우선, 도구 중립, 첫날부터 공개.
1개월 차: Python과 기본 시스템
이번 달의 목표: API를 호출하고, 작은 프로젝트를 관리하고, 기본 문법을 구글링하지 않아도 되는 기능적인 Python 개발자가 되는 것입니다.
전문가가 아니라 기능적으로 사용할 수 있는 수준입니다.
2~4개월 차의 모든 것은 깨끗한 Python 코드를 작성하고 터미널에서 작업할 수 있다는 것을 전제로 합니다. 이것이 기초이며, 서두르면 나중에 어려움을 겪게 됩니다.
시작하기 전에 내면화해야 할 것은 이것입니다: AI 엔지니어링은 먼저 소프트웨어 엔지니어링입니다. AI 부분은 일반적인 소프트웨어 스택 위에 위치합니다.
밑에 있는 스택이 흔들리면 AI 부분은 절대 안정적이지 않습니다. 따라서 1개월 차는 기본기가 충분히 익숙해져서 더 이상 방해가 되지 않도록 하는 데 집중합니다.
스킬당 하나의 주요 선택지를 제시하고, 명확한 이유를 설명하겠습니다. 주제당 다섯 가지 옵션을 의도적으로 제시하지 않습니다. 선택은 추진력의 적입니다.
제가 가리키는 하나를 선택하고, 정말 효과가 없을 때만 다른 것을 시도하세요.
Python
Python은 이 전체 분야의 언어입니다. 앞으로 4개월 동안 접하게 될 거의 모든 라이브러리, API, 튜토리얼, 직무가 Python으로 되어 있습니다. Python을 배우면 다른 모든 것이 쉬워집니다.
제 선택: CS50P, Harvard의 Introduction to Programming with Python. 무료이고, 엄격하며, 다른 사람이 문제를 푸는 것을 지켜보는 대신 실제로 문제를 해결하도록 강제합니다.
문제 세트가 전체 가치입니다. 쉬운 YouTube 강좌보다 더 까다롭지만, 그것이 바로 요점입니다.
약간 어려움을 겪게 만드는 버전을 원합니다. 어려움이 스킬이 형성되는 곳이기 때문입니다.
cs50.harvard.edu/python에서 찾을 수 있습니다.
CS50P가 절대 초보자에게 너무 가파르게 느껴진다면, freeCodeCamp의 YouTube Python 강좌가 더 부드러운 진입로이지만, 워밍업으로 취급하고 메인 이벤트로 삼지 마세요.
빈 파일이 두렵지 않게 되면 CS50P로 돌아오세요.
실제로 집중해야 할 것, 대략적인 순서: 변수와 데이터 타입, 루프와 조건문, 함수, 그 다음 컬렉션 타입(리스트, 딕셔너리, 세트, 튜플).
그 다음 파일 처리와 JSON 읽기 및 쓰기, AI API와 함께 지속적으로 사용하게 될 것입니다.
그 다음 다른 사람의 코드를 당황하지 않고 읽을 수 있을 정도의 클래스와 객체 지향 기본기.
그 다음 try와 except를 사용한 오류 처리.
마지막으로 가상 환경과 pip, 시스템을 망가뜨리지 않고 패키지를 설치할 수 있도록.
이 중 어떤 것도 암기하려고 하지 마세요. 빠르게 찾아볼 수 있을 정도로 이해하고, 그것이 익숙해질 때까지 구축하세요.
1개월 차 Python 구축 목표: 실제로 작동하는 작은 명령줄 도구.
JSON 파일을 읽고 쓰는 지출 추적기가 좋은 예입니다. 또는 무료 공개 API를 호출하고 결과를 깔끔한 형식으로 출력하는 스크립트.
자신의 코드로 약 60~100줄 정도 되는 것.
추해도 상관없습니다. 당신이 직접 작성했다는 것이 중요합니다.
첫날부터 AI로 학습하기
여기서 기존 로드맵과 다른 점을 제안합니다: 첫 주부터 AI를 사용하여 AI를 배우는 것입니다.
당신은 지금까지 만들어진 가장 인내심 많은 튜터에 접근할 수 있으며, 무료 티어에서는 비용이 전혀 들지 않습니다. 이해할 수 없는 오류가 발생했을 때, 포럼에서 40분을 보내지 마세요.
Claude나 ChatGPT에 붙여넣고 일반 영어로 오류를 설명하고, 정답을 바로 알려주지 않고 해결 방법을 안내해 달라고 요청하세요.
첫날 설정할 복사-붙여넣기 프롬프트입니다. 저장해두세요.
이것은 이 가이드에서 북마크할 가치가 있는 여러 자료 중 첫 번째입니다.
프롬프트: 당신의 Python 학습 파트너
(프레임워크: FAG 학습 파트너, AI Guides 제공)
1당신의 역할: 커리어 전환자로서 코딩을 배우는 동안 인내심 많은 Python 튜터 역할을 해주세요.23내 상황:4- 저는 AI 엔지니어가 되기 위해 Python을 배우고 있습니다.5- 코딩은 완전 초보자이지만 열심히 일하는 것은 익숙합니다.6- 정답을 바로 받기보다는 직접 해보면서 배우는 것을 선호합니다.78해야 할 일:9- 제가 오류를 붙여넣으면, 일반 영어로 무엇을 의미하는지와 무엇이 원인일 가능성이 높은지 설명해주세요. 수정된 코드만 바로 주지 마세요.10- 먼저 힌트로 해결 방법을 안내해주세요. 제가 두 번 요청할 때만 전체 해결책을 보여주세요.11- 제가 작성한 코드를 공유하면, 잘 작동하는 한 가지와 개선할 수 있는 한 가지를 알려주세요. 두 가지만 유지하세요.12- 제가 무언가를 작동하게 만든 후, 제가 실제로 이해했는지 확인하는 짧은 질문을 하나 해주세요.1314규칙:15- 전문 용어는 옆에 한 줄의 일반 영어 정의 없이 사용하지 마세요.16- 저는 그냥 통과하는 것이 아니라 배우고 싶어한다고 가정하세요. 약간 느린 것이 괜찮습니다.17- 제가 나쁜 습관을 들이려고 하면, 직접적이고 친절하게 말해주세요.1819출력: 대화체, 짧게, 한 번에 하나의 개념씩.
이번 달 내내 매일 사용하세요. 코딩을 배우는 과정에서 좌절스러운 부분을 벽이 아닌 대화로 바꿔줍니다.
또한 2개월 차의 핵심 스킬인 프롬프팅에 능숙해지게 해줍니다. 그게 무슨 일인지 알기도 전에 말이죠.
한 가지 주의사항: 잘못된 습관을 들이지 않도록, AI를 이해하고 막힌 부분을 해결하는 데 사용하고, 전체 코드를 대신 작성하게 하지 마세요.
AI가 코드를 작성하는 동안 지켜보게 놔두면, 다시 실수 2로 돌아가는 것입니다.
설명하게 하고, 당신이 직접 입력하세요.
Git과 GitHub
Git은 개발자가 코드를 저장하고, 버전 관리하고, 공유하는 방법입니다.
GitHub은 당신의 작업이 공개적으로 존재하고 포트폴리오가 되는 곳입니다.
둘 다 지속적으로 사용하게 될 것이며, 커리어 전환자에게 GitHub은 이력서가 생길 때까지 가장 가까운 이력서입니다.
제 선택: GitHub Skills. 무료이고, 대화형이며, GitHub 자체 내에서 GitHub이 구축했기 때문에 도구를 사용하면서 배울 수 있습니다. Git에 대해 추상적으로 읽는 것보다 여기서 시작하세요.
skills.github.com에서 찾을 수 있습니다.
브랜칭과 병합 모델이 혼란스럽다면, 모든 사람이 처음에는 혼란스러워합니다. Learn Git Branching 시각적 도구는 브랜치가 움직이는 것을 볼 수 있게 해주어 이해를 돕습니다.
집중해야 할 것: init, add, commit, push, pull의 핵심 루프. 그 다음 브랜칭과 병합.
그 다음 .gitignore 파일이 무엇을 하는지와 왜 비밀 키나 API 키를 공개 저장소에 커밋해서는 안 되는지, 이는 유료 API로 작업할 때 매우 중요합니다.
그 다음 기본 README 작성 방법, README는 나중에 구직 활동에서 실제로 중요한 역할을 할 것입니다.
이번 달에 만들어야 할 습관: 만지는 모든 프로젝트, 심지어 20줄짜리 스크립트라도, 만든 날 GitHub 저장소에 넣으세요.
이것이 실수 4의 해결책을 실제로 적용하는 것입니다. 처음부터 조용히 공개적으로 구축하는 것입니다.
4개월 차가 되면 빈 프로필 대신 작업의 흔적을 갖게 될 것입니다.
터미널
스크립트를 실행하고, 패키지를 설치하고, 프로젝트를 명령줄에서 지속적으로 관리하게 됩니다.
터미널에서 느리거나 두려워하는 것은 다른 모든 것에 실제로 걸림돌이 되며, 고치기 쉬운 부분입니다.
제 선택: 기본기를 다루는 짧은 초보자 터미널 강좌, 그 다음에는 그냥 터미널에서 생활하세요. MIT의 "Missing Semester" 자료는 더 깊이 들어가고 싶다면 좋지만, 1개월 차에는 탐색과 실행만 있으면 됩니다.
cd, ls, pwd, mkdir, rm을 배워 파일을 이동하고 관리하세요.
cat과 grep을 배워 읽고 검색하세요.
터미널에서 Python 스크립트를 실행하는 방법과 환경 변수를 설정하는 방법을 배우세요. API 키를 다룰 때 필요합니다.
셸 마법사가 될 필요는 없습니다. 망설임을 멈추면 됩니다.
평소에 마우스로 하던 일도 터미널로 모든 것을 하는 데 일주일을 보내면 충분합니다.
API, JSON, HTTP
이것은 2개월 차로 가는 다리입니다.
LLM으로 구축하는 첫날부터 API 호출을 하게 될 것이며, 이는 OpenAI나 Anthropic의 도구를 사용하기 전에 웹 API가 어떻게 작동하는지 이해해야 함을 의미합니다.
제 선택: 개념을 위한 MDN Web Docs HTTP 개요와 코드로 구현하기 위한 Python requests 라이브러리 문서.
MDN은 요청과 응답이 어떻게 작동하는지 무료 자료 중 가장 명확하게 설명합니다.
그 다음 requests는 Python에서 몇 줄로 이러한 호출을 만드는 방법을 보여줍니다.
집중해야 할 것: GET과 POST 요청이 무엇인지와 Python에서 만드는 방법.
모든 AI API가 사용하는 형식인 JSON 읽기와 쓰기.
HTTP 상태 코드와 일반적인 것들의 의미, 특히 성공의 200, 잘못된 API 키의 401, 속도 제한의 429, 서버 오류의 500. 이 모든 것을 지속적으로 보게 될 것입니다.
API 키가 무엇인지와 기본 인증이 어떻게 작동하는지.
그리고 Python에서 async와 await가 무엇을 하는지에 대한 가벼운 소개. 나중에 모델에서 스트리밍 응답을 시작할 때 필요합니다.
지금 async에 깊이 들어가지 마세요.
존재한다는 것과 대략 어떤 문제를 해결하는지만 알면 됩니다.
여기서의 구축 목표: 키가 필요 없는 무료 공개 API(Open-Meteo 날씨 API 등)를 호출하고 결과를 깔끔한 형식으로 출력하는 Python 스크립트.
이것은 2개월 차 내내 할 일의 작은 버전이며, AI 부분만 없을 뿐입니다.
SQL에 대한 간단한 참고
데이터 전문가가 될 필요는 없지만, 데이터를 보고 쿼리해야 할 일이 자주 있으며, 기본 SQL은 지속적으로 도움이 됩니다.
제 선택은 SQLBolt입니다. 무료이고, 대화형이며, 약 20개의 짧은 브라우저 내 레슨으로 SQL의 핵심을 가르쳐줍니다.
sqlbolt.com에서 찾을 수 있습니다.
SELECT, WHERE, GROUP BY, JOIN, ORDER BY에 집중하세요.
지금은 그것으로 충분합니다.
프로젝트가 요구할 때 더 깊이 들어가면 됩니다.
1개월 차 마일스톤
이번 달 말까지, 파일을 읽고 쓰고, API를 호출하고, 오류를 처리하며 충돌하지 않는 Python 프로그램을 작성할 수 있어야 합니다.
해당 코드를 Git으로 버전 관리하고 GitHub 저장소에 있어야 합니다.
터미널에서 망설임 없이 이동할 수 있어야 합니다. HTTP 요청이 무엇인지 이해하고 Python으로 하나를 만들 수 있어야 합니다.
그리고 기본 SQL 쿼리를 실행할 수 있어야 합니다.
이러한 것들을 할 수 있다면, 기초가 갖춰진 것입니다.
포기하는 대부분의 사람들은 여기까지 오지 못하며, 여기까지 오는 것이 가장 덜 흥미로운 부분이기 때문에 진정으로 가장 어려운 부분입니다.
2개월 차부터는 더 재미있어집니다. 여기서부터 AI로 구축하기 시작하기 때문입니다.
2개월 차: LLM API로 구축하기
이번 달의 목표: 모델 API를 사용하여 실제 AI 기반 기능을 구축하는 것입니다.
이번 달 말까지, 신뢰할 수 있는 출력을 생성하는 프롬프트 작성, 모델에서 구조화된 데이터 받기, 모델이 당신의 함수를 호출하게 만들기, 대화 관리, 그리고 고장날 수 있는 모든 것을 처리하는 데 익숙해져야 합니다.
이것이 전체 직무의 핵심입니다. 이후의 모든 것은 이것을 기반으로 합니다.
이번 달은 실제로 느껴지기 시작하는 달입니다. 설정을 중단하고 모델이 일을 하게 만듭니다.
여기서 시간을 충분히 투자하세요.
2개월 차의 깊이가 가이드의 다른 어느 곳보다 더 큰 성과를 냅니다.
실제로 작동하는 프롬프팅
프롬프팅은 챗봇에게 공손하게 질문하는 것이 아닙니다.
근본적으로 확률적인 시스템에서 일관되고 신뢰할 수 있는 출력을 생성하는 명령을 작성하는 스킬입니다.
AI 엔지니어로서 예상보다 더 많은 시간을 여기에 할애하게 될 것이며, 이 스킬을 익히는 것이 이번 달에 할 수 있는 가장 효과적인 일입니다.
제 선택: Anthropic의 대화형 프롬프트 엔지니어링 튜토리얼 (GitHub). 존재하는 가장 실습적인 자료로, Claude API에 대해 실행하는 실제 연습이 포함된 챕터로 구성되어 있습니다.
읽는 대신 직접 프롬프트를 작성하고 수정하는 연습을 합니다. 실수 2를 기억한다면, 이것이 바로 요점입니다.
anthropics/prompt-eng-interactive-tutorial 저장소에서 찾을 수 있습니다. 이 튜토리얼을 마친 후, Anthropic과 OpenAI의 공식 프롬프트 엔지니어링 문서가 참고 자료가 될 것입니다.
집중해야 할 것: 시스템 메시지와 사용자 메시지의 차이, 그리고 그 차이가 중요한 이유.
구체성이 공손함을 항상 이기는 이유.
체인-오브-스로트 프롬프팅, 모델이 답변하기 전에 단계별로 추론하도록 요청하는 것, 논리가 포함된 모든 것에서 측정 가능하게 결과를 개선합니다.
프롬프트 내에서 예제를 사용하는 것, 퓨샷 프롬프팅이라고 불리며, 원하는 형식을 모델에 보여줍니다.
그리고 작은 단어 변경이 큰 출력 변화를 만드는 방식에 대한 감각을 개발하는 것, 이는 많이 해보는 것에서만 얻을 수 있습니다.
이를 빠르게 가르쳐주는 구축 연습: 문서 요약이나 피드백 분류와 같은 하나의 실제 작업을 선택하고, 다섯 가지 다른 프롬프트를 작성하세요.
다섯 가지를 모두 실행하세요.
출력을 나란히 비교하세요. 프롬프트 디자인이 신뢰성에 얼마나 큰 영향을 미치는지 즉시 알 수 있으며, 그 교훈은 어떤 강의보다 오래갑니다.
구조화된 출력
실제 애플리케이션에서는 모델에서 단락의 텍스트를 거의 원하지 않습니다.
코드가 파싱하고, 저장하고, 사용할 수 있는 구조화된 데이터를 원합니다. 구조화된 출력은 모델이 정의한 스키마와 일치하는 데이터를 반환하도록 강제하여 이 문제를 해결합니다.
이것은 데모와 실제로 소프트웨어 내에서 작동하는 것을 구분하는 스킬 중 하나입니다.
제 선택: Python용 Instructor 라이브러리**, OpenAI와 Anthropic의 공식 구조화된 출력 문서를 기반으로 합니다.
Instructor는 Pydantic을 사용하여 주요 모델에서 구조화된 데이터를 얻는 가장 깔끔한 방법입니다. Pydantic은 데이터의 형태를 정의하는 Python 라이브러리입니다.
동일한 코드로 여러 제공자에서 작동하며, 모델이 잘못된 형식을 반환할 때 자동으로 재시도합니다.
많은 현업 엔지니어가 실제로 사용하는 것과 가깝기 때문에, 장난감 버전이 아닌 실제 프로젝트에서 배울 가치가 있습니다.
집중해야 할 것: 원하는 데이터를 설명하는 Pydantic 모델 정의, 해당 스키마를 API에 전달, 모델이 거부하거나 예상치 못한 것을 반환하는 경우 처리.
스키마가 강제되는 진정한 구조화된 출력과 보장되지 않는 느슨한 JSON 모드의 차이를 이해하세요.
여기 두 번째 북마크할 자료가 있습니다. 라이브러리를 추가하기 전에도 작동하는 안정적인 구조화된 추출을 위한 프롬프트 패턴입니다.
프롬프트: 구조화된 데이터 추출
(프레임워크: FAG 추출기, AI Guides 제공)
1당신의 임무: 내가 제공한 텍스트에서 구조화된 데이터를 추출하여 깨끗한 JSON 형태로 반환하는 것입니다.23수행할 작업:4- 입력 텍스트를 주의 깊게 읽으십시오.5- 아래 출력에 나열된 필드만 추출하십시오.6- 텍스트에 필드가 없는 경우 null을 사용하십시오. 추측하거나 임의로 생성하지 마십시오.7- JSON 객체만 반환하십시오. 설명, 마크다운, 서문은 포함하지 마십시오.89규칙:10- 모든 값은 입력 텍스트의 내용에 근거해야 합니다.11- 날짜는 YYYY-MM-DD 형식으로 표시합니다. 숫자는 문자열이 아닌 숫자로 표시합니다.12- 텍스트가 모호한 경우, 확신 없는 오답보다는 null을 선호하십시오.1314출력: 다음 필드를 포함하는 JSON 객체:15{16 "field_one": 문자열 또는 null,17 "field_two": 숫자 또는 null,18 "field_three": 문자열 목록 또는 빈 목록19}2021입력 텍스트:22[여기에 텍스트 붙여넣기]
테스트 실패에 대한 참고 사항, 솔직한 버전을 약속했기 때문입니다: 처음 이 작업을 수행할 때, 모델이 때때로 JSON을 마크다운 코드 펜스로 감싸거나, 그 앞에 친근한 문장을 추가하여 파서가 오류를 일으킬 수 있습니다.
이는 정상적인 현상입니다. 해결책은 파싱 전에 코드 펜스를 제거하고, 프롬프트에서 JSON 객체만 원한다는 점을 명시하는 것입니다. 위의 패턴이 이를 수행합니다.
이 문제를 한 번 경험하고 처리하면, 앞으로는 영원히 처리할 수 있을 것입니다.
당신의 빌드 목표: 영수증 또는 송장 파서입니다.
"송장 123, 위젯 3개에 $45.99, 3월 30일 마감"과 같은 지저분한 원시 텍스트를 입력하면 송장 번호, 금액, 항목 수, 마감일이 포함된 깔끔한 구조화된 객체를 반환합니다.
이는 진정으로 유용한 작은 도구이자 훌륭한 포트폴리오 아이템입니다.
도구 호출
도구 호출은 텍스트 생성기를 웹 검색, 데이터베이스 쿼리, API 호출, 코드 실행과 같은 작업을 수행할 수 있는 무언가로 바꾸는 것입니다.
이는 이 가이드 전체에서 가장 중요한 기술 중 하나이며, 3개월 차의 모든 것의 기초입니다.
이해를 돕는 개념 모델: 모델은 당신의 함수를 실행하지 않습니다.
모델은 대화를 살펴보고, 도구를 사용해야 한다고 판단한 다음, 함수 이름과 인수를 지정하는 구조화된 요청을 반환합니다.
당신의 코드가 함수를 실행하고 결과를 모델에 다시 전달합니다. 모델은 의사 결정자입니다. 당신의 코드는 실행자입니다.
제 선택: OpenAI의 함수 호출 가이드와 Anthropic의 도구 사용 문서를 함께 읽는 것입니다.
개념은 두 곳에서 동일하며, 구문이 약간 다르고, 둘 다 보면 기본 패턴이 명확해집니다.
그런 다음 OpenAI 쿡북에 있는 것과 같은 실행 가능한 노트북 예제를 통해 전체 루프를 조각이 아닌 처음부터 끝까지 확인하십시오.
집중해야 할 사항: 스키마에서 함수를 명확하게 설명하고, 모델의 도구 호출 응답을 파싱하고, 함수를 실행하고 결과를 다시 공급하고, 모델이 도구가 필요하지 않다고 판단하는 경우를 처리하는 것입니다.
도구 설명의 품질은 초보자가 예상하는 것보다 훨씬 중요하며, 이는 3개월 차에 다시 중요하게 부각되는 주제입니다.
당신의 빌드 목표: get_weather, calculate, search_notes(하드코딩된 사전을 검색)와 같은 세 가지 도구를 가진 소형 어시스턴트입니다.
이들을 모두 연결하고 당신이 묻는 내용에 따라 모델이 어떤 도구를 호출할지 결정하는 것을 지켜보십시오.
모델이 스스로 올바른 도구를 선택하는 순간을 목격하면, 개념이 영원히 자리 잡을 것입니다.
대화 상태 및 스트리밍
이번 달을 마무리하는 두 가지 작지만 필수적인 기술이 있습니다.
모델은 호출 간에 메모리가 없습니다. 대화는 매 요청마다 전체 메시지 기록을 전송하여 관리하는 것입니다.
이를 이해하는 것은 기본적이며, 거의 모든 사람이 처음에 놀라는 부분입니다.
제 선택은 OpenAI와 Anthropic의 메시지 문서입니다.
메시지 배열이 어떻게 구성되어 있는지, 사용자 메시지와 모델의 응답을 모두 추가해야 하는 이유, 컨텍스트 창을 초과할 때 발생하는 상황, 오래된 메시지를 정리하는 기본 전략에 집중하십시오.
기록을 유지하고 재설정 명령이 있는 간단한 다중 턴 터미널 챗봇을 구축하십시오. 작지만 개념을 완전히 가르쳐줍니다.
스트리밍은 사용자가 전체 응답을 기다리게 하는 대신, 모델의 출력이 생성되는 대로 단어 단위로 표시하는 것을 의미합니다.
이는 앱의 속도를 극적으로 향상시킵니다.
제 선택은 두 제공업체의 공식 스트리밍 문서와 Simon Willison의 스트리밍 작동 방식에 대한 명확한 설명입니다.
스트림 옵션 설정, 청크 반복, 조각에서 전체 응답 조합에 집중하십시오.
실제 사용자가 사용할 모든 것에 대해 스트리밍은 거의 항상 올바른 선택입니다.
아무도 10초 동안 스피너를 응시하고 싶어하지 않습니다.
비용, 실패 및 한 가지 보안 아이디어
취미 프로젝트와 사용자 앞에 내놓을 수 있는 것을 구분하는 세 가지 요소입니다.
비용 및 토큰: 모델은 대략 단어의 3/4에 해당하는 토큰당 요금을 부과합니다.
입력 및 출력 토큰의 가격은 다릅니다.
요청을 보내기 전에 비용을 추정하는 방법을 배우고, 제공업체 가격 페이지를 북마크에 추가하고, 실제로 비용을 절약하는 한 가지 규칙을 내면화하십시오: 간단한 작업에 가장 크고 비싼 모델을 사용하지 마십시오.
더 저렴한 모델도 종종 충분히 훌륭하며, 규모가 커질수록 비용 차이는 엄청납니다.
실패 처리: API는 실패합니다.
속도 제한에 도달하고, 요청 시간이 초과되고, 모델이 잘못된 형식의 출력을 반환합니다.
이를 우아하게 처리하는 것이 프로덕션 준비를 완료하는 요소입니다.
속도 제한 오류를 포착하고 시도 간 지연 시간을 늘리면서 재시도하는 방법(지수 백오프라고 함)을 배우십시오.
Python의 Tenacity 라이브러리는 단일 데코레이터로 이를 수행합니다.
모델의 출력을 신뢰하기 전에 검증하는 방법을 배우고, 예상치 못한 응답으로 인해 전체 앱이 충돌하지 않도록 하십시오.
프롬프트 인젝션, 간략하게: 이는 LLM 앱의 가장 큰 보안 위험입니다.
신뢰할 수 없는 사용자 입력이 당신의 지침과 결합되어 사용자가 시스템의 작동 방식을 재정의하거나 하이재킹할 수 있을 때 발생합니다.
이번 달에 보안 전문가가 될 필요는 없지만, 무언가를 출시하기 전에 이것이 존재한다는 것을 알아야 합니다.
OWASP 가이드가 이에 대한 권위 있는 참고 자료입니다.
핵심 방어: 검증되지 않은 모델 출력을 신뢰하여 중요한 작업을 자동으로 수행하지 말고, 도구에 작업을 수행하는 데 필요한 최소한의 액세스 권한만 부여하십시오.
2개월 차 이정표
이번 달 말까지, 주어진 작업에 대해 안정적인 출력을 생성하는 프롬프트를 작성하고, Pydantic 및 Instructor를 사용하여 모델에서 구조화된 JSON을 얻고, 모델이 Python 함수를 실행할 수 있도록 도구 호출을 연결하고, 응답을 실시간으로 스트리밍하고, 다중 턴 대화 기록을 관리하고, 요청을 보내기 전에 토큰 비용을 추정하고, API 오류 및 잘못된 출력을 충돌 없이 처리하고, 프롬프트 인젝션이 무엇인지 설명할 수 있어야 합니다.
이는 그 자체로 실질적이고 고용 가능한 기술 세트입니다.
프로덕션에 있는 많은 유료 AI 기능이 정확히 이것만 수행하며 그 이상은 아닙니다.
하지만 다음 달은 실제로 당신을 채용하게 해줄 무언가를 구축하는 때입니다.
3개월 차: RAG와 에이전트, 당신을 채용하게 해줄 기술
이번 달의 목표: 모델이 훈련 데이터뿐만 아니라 당신의 문서에서도 답변할 수 있는 시스템을 구축하고, 스스로 여러 단계를 수행할 수 있는 시스템을 구축하는 것입니다.
이 두 가지 기술, 검색과 에이전트는 현재 AI 엔지니어링에서 가장 수요가 많은 실용적인 능력입니다.
지원 봇부터 내부 지식 도구, 문서 분석에 이르기까지 거의 모든 실제 회사 사용 사례가 이 위에 구축됩니다.
많은 로드맵이 두 달에 걸쳐 펼치는 내용을 한 달로 압축했습니다. 고용 가능해지기 위해 모든 고급 변형을 마스터할 필요는 없기 때문입니다.
하나의 견고한 검색 시스템과 하나의 견고한 에이전트를 구축하고, 각 부분이 왜 있는지 이해하고, 고장 났을 때 디버깅할 수 있어야 합니다.
그것이 기준입니다. 달성해 봅시다.
RAG, 먼저 쉬운 용어로 설명
RAG는 검색 증강 생성(Retrieval-Augmented Generation)의 약자입니다.
전문 용어를 빼면 간단합니다: 모델에게 정보를 찾아볼 수 있는 라이브러리를 제공하여 모든 것을 암기할 필요가 없도록 하고, 특정 문서에 대한 질문에 답변할 수 있도록 하는 것입니다.
흐름은 다음과 같습니다: 문서를 가져와 청크로 나누고, 각 청크를 의미를 포착하는 숫자 목록으로 변환한 다음 저장합니다.
사용자가 질문을 하면, 같은 방식으로 질문을 숫자로 변환하고, 숫자가 가장 가까운 청크를 찾은 다음, 해당 청크를 질문과 함께 모델에 전달합니다.
모델은 당신이 제공한 정보를 사용하여 답변합니다. 이것이 RAG입니다. 나머지는 모두 개선 사항입니다.
이제 구성 요소를 하나씩 구축해 보겠습니다.
임베딩
임베딩은 텍스트 조각을 의미를 나타내는 긴 숫자 목록으로 변환한 것입니다.
유용한 속성: 비슷한 의미를 가진 텍스트는 비슷한 숫자로 끝나며, 이 숫자 공간에서 서로 가깝게 위치합니다.
이 근접성 덕분에 의미 기반 검색이 가능해지며, 이것이 RAG의 엔진입니다.
직관을 구축하기 위한 제 선택: Stack Overflow 블로그의 텍스트 임베딩에 대한 직관적인 소개로, 수학보다는 개념 모델에 초점을 맞춘 것입니다. 코드로 생성할 준비가 되면 OpenAI의 임베딩 가이드를 함께 보십시오.
벡터가 개념적으로 무엇인지, 유사한 텍스트가 유사한 벡터를 생성하는 이유, 그리고 두 벡터 사이의 거리를 대략적으로 측정하는 방법을 이해하는 데 집중하십시오.
임베딩이 어떻게 생성되는지에 대한 수학은 필요하지 않습니다. 그것들을 사용하는 방법을 알아야 합니다.
이를 완전히 가르쳐주는 작은 빌드: 관련 주제에 대한 20개의 문장을 가져와 각각을 임베딩으로 변환하고, 새 문장이 주어지면 세트에서 가장 유사한 세 개를 반환하는 작은 함수를 작성하십시오.
이것이 축소된 RAG입니다. 이것을 구축하면, 전체 버전은 동일한 아이디어를 확장한 것에 불과합니다.
청킹
문서는 전체를 임베딩하기에는 너무 크기 때문에, 임베딩하기 전에 청크로 나눕니다.
청킹 방법은 시스템이 올바른 정보를 얼마나 잘 찾는지 직접적으로 결정합니다.
완벽한 검색 설정도 기본 청크가 나쁘면 실패합니다.
제 선택: LangChain의 RecursiveCharacterTextSplitter로 시작하십시오. 청크 크기는 약 500자, 중복은 약 50자로 설정하십시오.
이 중복이 중요한 이유는 한 청크가 끝나고 다음 청크가 시작되는 경계에서 의미가 손실되는 것을 방지하기 때문입니다.
이는 작동하는 기준선을 제공하는 합리적인 기본값입니다.
염두에 두어야 할 핵심 트레이드오프: 청크가 너무 크면 정밀도가 떨어지고, 청크가 너무 작으면 컨텍스트가 손실됩니다.
기본값에서 시작한 다음, 검색이 실제로 잘못되는 내용에 따라 조정하십시오.
벡터 데이터베이스
임베딩을 만든 후에는 이를 빠르게 저장하고 검색할 장소가 필요합니다. 이것이 벡터 데이터베이스가 하는 일입니다.
학습을 위한 제 선택: Chroma. 설정할 인프라 없이 로컬에서 실행되므로, 학습하는 동안 정확히 원하는 것입니다.
아직 관리형 클라우드 규모는 필요하지 않으며, 일찍 추가하면 구성하고 고장 낼 일만 늘어납니다.
Chroma를 사용하면 개념에 집중할 수 있습니다.
docs.trychroma.com에서 찾을 수 있습니다.
컬렉션을 만들고, 소스 및 섹션과 같은 메타데이터와 함께 임베딩을 삽입하고, 유사성으로 쿼리하여 상위 일치 항목을 가져오고, 쿼리 시 메타데이터로 필터링하는 방법을 배우십시오.
내부의 인덱싱 알고리즘을 이해할 필요는 없습니다. 그것들을 사용하면 됩니다.
나중에 프로덕션 규모가 필요해지면, 앱이 이미 Postgres 데이터베이스를 사용하는 경우 pgvector가 자연스러운 다음 단계이며, 다른 사람이 실행하도록 하고 싶을 때 관리형 옵션이 있습니다.
하지만 이는 4개월 차 또는 현업에서의 고려 사항입니다. 지금은 로컬의 Chroma로 충분합니다.
검색을 실제로 좋게 만들기
기본 유사성 검색은 데모를 제공합니다.
몇 가지 개선을 통해 안정적으로 작동하는 무언가를 얻을 수 있으며, 이를 아는 것이 튜토리얼을 복사한 사람과 시스템을 이해하는 사람을 구분합니다.
메타데이터 필터링: 저장할 때 모든 청크에 소스 파일, 날짜, 섹션 또는 카테고리와 같은 유용한 정보로 태그를 지정하십시오.
그런 다음 쿼리 시 이를 필터링하십시오. 이것이 장난감과 사용자가 "4분기 보고서 결과만 보여줘"라고 요청하고 실제로 그 결과를 얻을 수 있는 시스템의 차이입니다.
재순위화: 첫 번째 검색은 빠르지만 근사치입니다.
재순위화 도구는 상위 몇 개의 결과를 가져와 질문에 대한 실제 관련성을 다시 점수화하여 약간의 속도 비용으로 눈에 띄게 품질을 향상시킵니다.
패턴은 다음과 같습니다: 빠르게 광범위한 세트를 검색한 다음, 재순위화를 통해 최상의 몇 개로 좁힙니다. Cohere의 재순위화 문서가 이를 배우기에 가장 깔끔한 곳이며, 종종 한 줄만 추가하면 됩니다.
검색 디버깅, 대부분의 RAG 실패는 모델 실패가 아니라 검색 실패이기 때문입니다.
시스템이 잘못된 답변을 제공할 때, 일반적으로 모델이 문제가 아닙니다.
검색이 잘못된 청크를 전달한 것입니다.
일반적인 실패 모드를 배우십시오: 질문과 관련 청크가 정보가 있음에도 불구하고 숫자 공간에서 일치하지 않는 경우(쿼리 재작성으로 수정 가능), 관련 정보가 두 청크에 분산된 경우(더 많은 중복으로 수정 가능), 또는 올바른 청크가 존재하지만 상위 결과에 포함되지 않은 경우(더 많이 검색한 다음 재순위화하여 수정 가능)입니다.
답변이 틀렸을 때, 모델을 탓하기 전에 무엇이 검색되었는지 확인하십시오. 이 한 가지 습관은 엄청난 좌절을 덜어줄 것입니다.
근거 및 인용: 좋은 RAG 시스템은 단순히 답변하는 것을 넘어, 답변이 어디서 왔는지 알려주어 신뢰를 구축하고 디버깅을 훨씬 쉽게 만듭니다.
각 청크의 소스 정보를 프롬프트에 전달하고, 모델이 이를 인용하도록 지시하십시오.
여기 RAG 시스템을 정직하게 유지하는 근거 프롬프트인 세 번째 아티팩트가 있습니다.
이것은 다른 모든 것보다 북마크해야 할 프롬프트입니다. 왜냐하면 이것이 무언가를 지어내는 시스템과 신뢰할 수 있는 시스템의 차이이기 때문입니다.
프롬프트: 근거 기반 RAG 답변
(프레임워크: FAG Grounding, AI Guides 제공)
1당신의 임무: 제공된 컨텍스트만 사용하여 사용자의 질문에 답변하는 것입니다.23수행할 작업:4- 아래의 컨텍스트 청크를 읽으십시오. 각 청크에는 소스 레이블이 있습니다.5- 컨텍스트에서 찾은 정보만 사용하여 질문에 답변하십시오.6- 각 주장 뒤에는 해당 정보가 나온 소스 레이블을 인용하십시오. 예: [source: filename, p.3].7- 컨텍스트에 답변이 포함되어 있지 않으면 정확히 다음과 같이 말하십시오:8 "제공된 문서에 해당 질문에 답변할 충분한 정보가 없습니다."910규칙:11- 제공된 컨텍스트 외부의 지식을 절대 사용하지 마십시오.12- 절대 추측하지 마십시오. 그럴듯하게 들리는 내용으로 공백을 채우지 마십시오.13- 컨텍스트가 질문에 부분적으로 답변하는 경우, 해당 부분에 답변하고 무엇이 누락되었는지 명확히 말하십시오.1415컨텍스트:16[소스 레이블이 있는 검색된 청크를 여기에 붙여넣기]1718질문:19[사용자 질문을 여기에 입력]
"모를 때 정확히 이렇게 말하라"는 지시는 매우 중요한 역할을 합니다. 이는 검색 시스템에서 환각을 줄이는 가장 효과적인 단일 방법입니다. 모델이 도움이 되기 위해 답변을 지어내는 대신 무지를 인정할 수 있는 승인된 방법을 제공하기 때문입니다.
당신의 RAG 빌드
모든 것을 처음부터 구축하는 대신 프레임워크를 사용하여 이를 통합하십시오.
첫 번째 RAG 시스템으로 제 선택은 LlamaIndex입니다. 이는 검색 우선으로 구축되었으며 짧은 코드로 작동하는 파이프라인을 얻을 수 있습니다.
LangChain은 다른 주요 옵션이며 다음에 나올 다단계 에이전트 작업에 더 적합하므로 곧 만나게 될 것입니다.
당신의 빌드 목표, 이것은 실제 포트폴리오 아이템입니다: "문서와 채팅" 앱입니다.
10~20개의 PDF 또는 텍스트 파일(자체 노트나 제품 문서 세트가 좋습니다)을 수집하고, 질문을 받아 재순위화를 통해 가장 관련성 높은 청크를 검색하고 인용된 답변을 반환하는 무언가를 구축하십시오.
간단한 인터페이스를 추가하십시오.
이것이 채용 관리자가 당신을 진지하게 받아들이게 만드는 프로젝트입니다. 왜냐하면 이것이 바로 지금 회사들이 구축하기 위해 비용을 지불하고 있는 종류의 것이기 때문입니다.
에이전트
이번 달 중반에 에이전트로 전환하십시오.
에이전트는 마법처럼 들리지만 일단 보면 정말 간단합니다: 모델이 다음 단계를 반복적으로 결정하고, 도구를 사용하여 실행하고, 결과를 살펴보고, 작업이 완료될 때까지 다시 결정하는 루프입니다.
개념 모델: 에이전트는 모델이 분기 결정을 내리는 while 루프입니다.
사고는 프롬프트에서 발생합니다. 분기는 모델이 사용할 도구를 선택하는 것입니다. 실행은 당신의 코드가 해당 도구를 실행하는 것입니다.
나머지는 모두 배관입니다. 이것이 이해되면, 복잡한 에이전트 프레임워크도 읽을 수 있게 됩니다.
제 선택, 에이전트 코드를 한 줄도 작성하기 전에 읽어야 할 것: Anthropic의 "Building Effective Agents."
이는 모델을 구축하는 팀이 작성한, 에이전트가 실제로 어떻게 작동하는지에 대한 가장 명확한 글입니다.
구축할 준비가 되면 실습 프레임워크 과정(예: 에이전트 오케스트레이션에 가장 널리 사용되는 프레임워크인 LangGraph 소개)과 함께 읽으십시오.
집중해야 할 사항: 인지, 결정, 실행, 관찰의 루프와 루프가 언제 중단되어야 하는지 아는 방법입니다.
루프 내에서 도구 호출이 실패하면 어떻게 되는지입니다. 모델이 실제로 사용할 수 있는 도구 설명을 작성하는 방법입니다. 모호하게 설명된 도구는 잘못 호출되거나 무시되기 때문입니다.
그리고 에이전트가 작업하는 동안 흐르는 공유 메모리인 상태를 관리하는 방법입니다.
이번 달 가장 가치 있는 단일 연습: 프레임워크 없이 모델 API만 직접 사용하여 처음부터 소형 에이전트를 구축하십시오.
세 가지 도구, 목표 및 루프를 제공하십시오. 이는 프레임워크가 숨기고 있는 것을 가르쳐주며, 이후에 접하는 모든 프레임워크를 이해하게 만듭니다.
LangGraph를 만지기 전에 이 작업을 수행하십시오.
에이전트를 사용하지 말아야 할 때
이는 이 분야에서 가장 간과되는 기술 중 하나이며, 이를 아는 것은 당신이 화려한 것만 쫓는 사람이 아니라 판단력을 가진 사람임을 나타냅니다.
에이전트는 흥미롭지만, 더 간단한 접근 방식보다 느리고, 비용이 많이 들고, 예측 불가능하며, 디버깅하기 어렵습니다.
작동하는 가장 간단한 것을 선택하는 것은 당신이 무엇을 하고 있는지 알고 있다는 신호입니다.
암기할 가치가 있는 의사 결정 프레임워크: 작업이 올바른 컨텍스트와 함께 하나의 프롬프트에 맞으면 단일 모델 호출을 사용하십시오.
단계를 정의할 수 있는 고정 워크플로우(단계 체인)가 예측 가능하면 이를 사용하십시오.
단계 수가 진정으로 예측 불가능하고 모델이 동적으로 결정해야 하는 경우에만 에이전트를 사용하십시오.
세 번의 고정 호출 체인은 세 번의 호출을 할 수 있는 에이전트보다 항상 빠르고, 저렴하며, 디버깅하기 쉽습니다. 진정으로 개방형 작업을 위해 에이전트를 아껴두십시오.
단일 호출과 전체 에이전트 사이에는 크고 생산적인 중간 지점인 워크플로우가 있습니다.
하나의 호출 출력이 다음 호출로 이어지는 체이닝.
입력을 분류하여 전문 핸들러로 보내는 라우팅.
여러 호출을 동시에 실행하고 결합하는 병렬화.
대부분의 실제 문제는 에이전트가 아닌 워크플로우로 가장 잘 해결되며, Anthropic의 에이전트 문서는 이러한 패턴을 잘 다루고 있습니다.
평가, 간략하지만 진지하게
시스템이 실제로 작동하는지 알아야 합니다. 직접 손으로 시도한 두 가지 예제에서만 작동하는지가 아니라요.
이것이 평가의 목적입니다. 예상 출력 또는 채점 기준이 있는 20~30개의 대표적인 입력으로 구성된 작은 세트를 만들고, 프롬프트를 변경하거나, 모델을 교체하거나, 검색을 조정할 때마다 모든 입력에 대해 시스템을 실행하십시오.
일반적인 용도의 DeepEval과 RAG 전용 Ragas와 같은 도구를 사용하면 이를 관리할 수 있습니다.
도구보다 더 중요한 사고방식: 평가를 실행하지 않고 프롬프트를 변경하거나 모델을 교체하는 것은 도박입니다.
안정적인 AI를 출시하는 사람들은 지속적으로 평가를 실행하며, 지금 이 습관을 시작하는 것은(비록 작은 규모라도) 이미 현장에서 일하고 있는 많은 사람들보다 앞서게 해줍니다.
3개월 차 이정표
이번 달 말까지, 임베딩이 무엇이고 유사한 텍스트가 유사한 벡터를 생성하는 이유를 설명하고, 문서를 합리적으로 청킹하고, 메타데이터 필터링을 사용하여 벡터 데이터베이스에 임베딩을 저장 및 쿼리하고, 재순위화를 추가하여 결과를 개선하고, 모델을 탓하는 대신 검색 실패를 디버깅하고, 근거 기반 인용 답변을 반환하는 완전한 RAG 파이프라인을 구축하고, 처음부터 에이전트 루프를 구현하고, 작업에 단일 호출, 워크플로우 또는 에이전트가 필요한지 올바르게 결정하고, 작업을 확인하기 위해 기본 평가를 실행할 수 있어야 합니다.
이것이 고용 가능한 핵심입니다.
1~3개월 차가 탄탄하다면, 회사들이 채용하려는 것들을 구축할 수 있습니다.
4개월 차는 이를 증명하고 보수를 받는 것입니다.
4개월 차: 출시하고, 보여주고, 채용되기
이번 달의 목표: 지금까지 구축한 모든 것을 실제로 만들고, 이를 직업이나 유급 작업으로 전환하는 것입니다.
이것이 대부분의 사람들이 정체되는 지점입니다.
데모를 구축할 수는 있지만 실제 사용에서 살아남는 무언가를 출시할 수 없고, 기술을 수익으로 전환할 수 없습니다.
이번 달은 두 가지를 모두 해결합니다. 새로운 개념은 적고 실행에 더 무게를 둡니다. 이 시점에서는 실행이 중요하기 때문입니다.
위험할 정도로 충분한 배포
인프라 전문가가 될 필요는 없습니다.
실제 사람들이 사용할 수 있는 작동하는 AI 앱을, 넘어지거나 파산하지 않으면서 배포할 수 있어야 합니다.
최소한의 실행 가능한 지식: 앱이 어디서나 동일하게 실행되도록 패키징하는 데 충분한 Docker를 배우십시오. 이는 "내 컴퓨터에서는 작동해요" 문제를 해결합니다.
해당 컨테이너를 어딘가에 배포하는 방법을 배우십시오.
그리고 버그가 재앙으로 변하는 것을 막는 비용 및 안정성 기본 사항을 배우십시오: API 계정에 하드 지출 한도를 설정하고, 동일한 요청에 대해 두 번 비용을 지불하지 않도록 캐싱을 추가하고, 한 사용자가 청구서를 폭주시킬 수 없도록 속도 제한을 추가하십시오.
Docker의 공식 시작 가이드는 패키징을 다룹니다.
AI 관련 비용 측면에서 핵심 동작은 동일한 요청을 캐싱하고, 충분히 좋은 곳에서는 더 저렴한 모델을 사용하고, 하드 월별 지출 상한선을 설정하여 실행 루프가 하룻밤 사이에 $500의 비용을 발생시키지 않도록 하는 것입니다.
또한 앱이 무엇을 하고 있는지 볼 수 있는 능력인 기본적인 관찰 가능성도 필요합니다.
LLM 앱에는 특정 문제가 있습니다: 모델이 완벽하게 성공적인 응답을 반환할 수 있지만, 그것이 쓸모없거나 틀릴 수도 있으며, 일반적인 모니터링은 이를 포착하지 못합니다.
Langfuse와 같은 도구는 모든 모델 호출을 추적하여 프롬프트, 응답, 토큰 비용 및 지연 시간을 보여주므로 디버깅과 비용 제어가 훨씬 쉬워집니다.
하나의 프로젝트에 이를 설정하여 패턴을 이해하십시오.
여기에 너무 많은 시간을 투자하지 마십시오.
하나의 앱을 적절하게 배포하고, 비용 제어 및 기본 추적을 갖추면 필요한 모든 것을 가르쳐주고 보여줄 실제 무언가를 제공합니다.
배포의 깊이는 직장에서 배울 수 있습니다.
다른 모든 로드맵이 건너뛰는 부분: 프로젝트를 직업으로 전환하는 것입니다.
세 가지 실제 프로젝트를 구축했습니다. 이제 그것들이 당신을 위해 일하게 만드십시오. 아무도 보지 못하는 훌륭한 프로젝트는 당신의 경력에 아무런 도움이 되지 않기 때문입니다.
당신의 포트폴리오는 각각 실제 작업을 수행하는 README가 있는 세 개의 배포된 프로젝트입니다.
그리고 거의 아무도 하지 않는 움직임, 당신을 돋보이게 할 움직임이 있습니다: 각 README에 무엇이 잘못되었고 무엇을 다르게 할 것인지에 대한 섹션을 포함하십시오.
대부분의 포트폴리오는 모든 것이 완벽하게 작동했다고 가정하며, 이는 부정직하거나 얕게 읽힙니다.
"여기서 첫 번째 접근 방식이 실패했고, 여기서 배운 점이 있으며, 여기서 어떻게 고쳤습니다"라고 말하는 README는 고용주가 지금 선별하고 있다고 말한 판단력을 정확히 신호합니다.
소개에서 나온 전환자의 강점이 가시화된 것입니다.
아무도 경력 전환자가 완벽한 프로젝트를 가질 것이라고 기대하지 않습니다. 그들은 자신의 작업을 비판할 수 있을 정도로 깊이 이해하는 사람에게 깊은 인상을 받습니다.
각 README를 다음과 같이 구성하십시오: 프로젝트가 해결하는 문제, 누가 사용할지, 취한 접근 방식과 그 이유, 무엇이 잘못되었고 무엇을 배웠는지, 실행 방법.
다섯 개의 섹션.
이는 대부분의 컴퓨터 공학 학위 소지자가 가진 것보다 더 나은 포트폴리오입니다.
이력서 및 프로필 움직임: 수년간의 경험이 있는 척할 필요가 없습니다.
당신이 무엇을 할 수 있는지 말해주는 하나의 명확한 문장이 필요합니다.
"프로덕션 LLM 애플리케이션을 구축합니다: RAG 시스템, 에이전트 및 API 통합. 제가 출시한 세 가지는 다음과 같습니다."와 같은 것입니다.
그런 다음 프로젝트를 링크하십시오. 당신의 기존 경력은 숨겨야 할 것이 아니라 자산입니다.
"이전 [당신의 분야]에서 AI 시스템을 구축하는 사람"은 "주니어 개발자"보다 더 강력한 스토리입니다. 왜냐하면 순수 주니어에게 없는 도메인 지식과 판단력이 함께 제공되기 때문입니다.
금융에서 전환 중이라면, AI가 해결할 수 있는 금융 문제를 이해하고 있을 겁니다.
의료에서 전환 중이라면, 마찬가지입니다. 그 경험을 활용하세요.
공개적인 빌딩을 파이프라인으로 삼으세요: 이번 달 내내, 자신이 만든 것과 배운 것을 계속 포스팅하세요.
제가 본 최고의 기회들은 조용히 500곳에 지원한 사람들이 아니라, 자신을 드러낸 사람들에게 찾아왔습니다.
프로젝트를 글로 정리하세요. 고쳤던 실수를 공유하세요. 그 효과는 실질적으로 누적되며, 지금쯤이면 공유할 실제 작업물이 있으니 1개월 차보다 훨씬 수월할 겁니다.
방향을 선택하세요
4개월 차가 되면 자신의 목표에 맞춰 기술을 집중할 수 있습니다. 세 가지 방향 중 하나를 선택해 얕게 퍼지지 말고 깊게 파고드세요.
AI 제품 엔지니어 경로, 스타트업에 빠르게 취업하려는 경우에 최적: 실제 사용자가 접하는 AI 기반 제품을 만듭니다.
1~3개월 차에서 이미 대부분을 습득했습니다.
완성도 높고 세련된 앱을 빌드하고, 제품 측면(모델이 틀렸을 때 앱이 처리하는 방식, 로딩 상태 표시 방법, 사용자 피드백 수집 방법)에 더 깊이 들어가세요.
사람들이 실제로 사용해볼 수 있는 것을 두세 개 출시하세요.
응용 ML 경로, 더 기술적인 역할을 원하는 경우에 최적: API 호출을 넘어 파인튜닝, 파인튜닝과 프롬프트 개선 중 언제 무엇을 선택할지, Ollama 같은 도구로 로컬에서 오픈소스 모델을 실행하는 방법, 추론 최적화까지 다룹니다.
기억해야 할 의사 결정 프레임워크: 프롬프팅으로 시작하고, 모델에 특정 데이터가 필요하면 검색을 추가하며, 프롬프팅과 검색으로도 필요한 품질을 달성할 수 없을 때만 파인튜닝하세요.
파인튜닝은 너무 일찍 시도하는 경우가 많습니다.
AI 자동화 경로, 비즈니스에서 즉시 수익을 창출하려는 경우에 최적: 실제 비즈니스 워크플로우를 자동화하고, 이메일, CRM, 문서, 스프레드시트 등 여러 도구에 AI를 연결하는 데 집중하세요.
n8n 같은 도구는 시각적 워크플로우에, LangGraph는 코드 중심 워크플로우에 적합합니다.
판매 가능한 빌드 예시: 리드를 수집하고, 모델을 사용해 각 리드를 조사 및 점수화하며, 개인화된 아웃리치 초안을 작성하고, 모든 것을 기록하는 리드 자격 심사 시스템입니다.
비즈니스는 이런 기능에 실제로 돈을 지불합니다.
4개월 차 마일스톤
이달 말까지, 적절한 비용 통제가 적용된 배포된 AI 앱, 각각 정직한 README가 포함된 세 개의 포트폴리오 프로젝트, 자신이 만드는 것에 대한 명확한 한 줄 설명, 공개적으로 드러난 작업 흔적, 그리고 더 깊이 파고들기로 선택한 방향을 갖추어야 합니다.
그 시점에서 당신은 "AI를 배우는 사람"이 아닙니다. AI 시스템을 출시하는 사람이며, 이것이 바로 시장이 원하는 것입니다.
솔직한 부분
처음에 환상을 팔지 않겠다고 말씀드렸으니, 수익 수치를 이야기하기 전에 솔직한 현실을 알려드리겠습니다.
4개월의 집중적인 작업으로 주니어 수준의 취업이 가능하거나 프리랜서 작업을 시작할 준비가 됩니다. 시니어 엔지니어가 되는 것은 아닙니다.
시니어는 실제 제약 조건 속에서 실제 제품을 수년간 출시한 경험에서 비롯되며, 어떤 가이드도 그 과정을 압축할 수 없습니다.
4개월이 제공하는 것은 실제 문제를 해결하는 AI 시스템을 구축, 출시, 배포할 수 있는 능력이며, 이는 진정으로 가치 있고 고용 가능한 위치입니다.
이는 주당 약 15~20시간의 실제 작업(단순히 시청하는 것이 아닌 실제 빌딩)을 전제로 합니다.
주 7시간만 투자할 수 있다면, 이는 8개월 과정이며, 전혀 문제없습니다.
일정은 늘어나도 목표는 변하지 않습니다. 사람들을 망치는 것은 느린 속도가 아니라 멈추는 것입니다.
일관성이 강도보다 항상 중요합니다.
그리고 이 모든 것은 '실수 섹션'의 한 가지 행동에 달려 있습니다. 만들고, 그냥 보지만 마세요.
매달 프로젝트가 있습니다. 프로젝트를 수행하세요. 4개월 동안 거친 프로젝트 4개를 만든 사람은 고용 가능합니다.
4개월 동안 완벽한 튜토리얼만 시청한 사람은 그렇지 않습니다. 이것이 전부입니다.
수익, 출처 포함
이제 여러분이 실제로 원하는 숫자입니다. 모두 최신이며 출처가 명시되어 있습니다. 막연한 급여 주장은 이런 가이드의 신뢰성을 떨어뜨리기 때문입니다.
2026년 6월 기준, Glassdoor에 따르면 미국 AI 엔지니어의 평균 연봉은 약 $143,500이며, 일반적인 범위는 하위 25% 약 $115,000에서 상위 75% 약 $181,000, 최고 소득자는 약 $223,000까지 보고됩니다.
시니어 AI 엔지니어의 평균 연봉은 약 $285,000이며, 일반적인 범위는 약 $221,000에서 $375,000으로, 실제 경험이 쌓이면 급여가 얼마나 가파르게 상승하는지 보여줍니다.
이는 Glassdoor가 제출된 급여를 기반으로 한 수치입니다.
실제 프로덕션 AI 작업에 인력을 배치하는 리크루터들은 설문조사가 아닌 실제 체결된 오퍼를 기준으로 중간 수준의 기본 연봉이 $155,000에서 $200,000 사이에 집중된다고 보고하며, 이는 Glassdoor 범위와 일치하여 두 번째 독립적인 확인 자료를 제공합니다.
그리고 제가 처음에 언급한 PwC의 2026년 바로미터에 따른 더 넓은 시장 배경: AI 관련 직종의 성장률은 전체 시장보다 약 8배 빠르며, AI 기술에 대한 임금 프리미엄은 62%이고, 학위 요구 사항은 정확히 이 역할에서 가장 빠르게 감소하고 있습니다.
이는 과장된 쓰레드에서 나온 것이 아닙니다. 10억 개 이상의 구인 광고를 분석한 결과입니다.
프리랜서 및 컨설팅 수익은 오해를 드리지 않기 위해 정확하게 인용하기에는 변동성이 너무 크므로, 이렇게만 말씀드리겠습니다: RAG 구현, 에이전트 구축, LLM 통합에 대한 요율은 높으며, 견고한 배포 프로젝트 3개와 명확한 피치를 가진 전환자는 정규직 역할을 구하기 훨씬 전에 해당 작업에 대해 비용을 청구하기 시작할 수 있습니다.
프로젝트가 증거입니다. 프로젝트를 만들면 수익 창출 기회가 열립니다.
이번 주에 시작하세요
제가 오늘 당신이라면 실제로 할 일은 다음과 같습니다.
1개월 차 Python 프로젝트, 작은 명령줄 도구를 선택하세요. 코드 편집기를 여세요.
CS50P의 첫 번째 문제 세트를 시작하세요. 학습 파트너 프롬프트를 설정하여 AI가 어려운 부분을 지도하도록 하세요.
GitHub 저장소를 만들고 첫 번째 투박한 파일을 넣으세요. 이것이 첫 주의 전부입니다.
준비되었다고 느낄 때까지 기다리지 마세요. 준비는 시작한 후에 오는 것이지, 그 전에 오는 것이 아닙니다.
코드 한 줄을 작성하기 전에 4개월 전체를 완벽하게 계획하지 마세요. 계획은 이미 여기에 있으며, 계획 세우기는 시작을 피하는 편안한 방법일 뿐입니다.
배움과 구축 사이의 간격에서 사람들은 1년을 잃습니다. 이번 주에 그 간격을 메우세요.
4개월의 실제 작업은 여러분의 가능성을 진정으로 바꿔놓습니다.
그 문은 그 어느 때보다 활짝 열려 있고, 학위 장벽은 무너지고 있으며, 시장은 기술 분야의 거의 모든 다른 것보다 이러한 기술에 더 많은 돈을 지불하고 있습니다.
가이드는 있습니다. 이제 남은 유일한 변수는 당신이 만들 것인지 여부입니다.
저장해두고 매달 진행하면서 다시 확인하세요. 도구와 숫자가 변경됨에 따라 업데이트하겠습니다.
업데이트를 위해 @free_ai_guides를 팔로우하세요 ❤️
