요즘 많은 분들이 저에게 이런 질문을 합니다. "기술 배경이 없는데, 지금 AI를 배우기 시작해도 늦지 않았을까요?"
여러 자료를 찾아보며 수십 개의 아티클을 북마크하고, 온갖 도구를 설치해 봤지만 정작 내가 무엇을 배웠는지 감이 안 올 수 있습니다.
AI 분야에 입문하는 초보자에게는 단 하나의 로드맵만 있으면 됩니다. 비싼 강의를 살 필요도, 사기를 당할 위험도 없습니다. 먼저 AI가 무엇을 하는지 이해하고, 왜 실수를 하는지 파악한 뒤, 자료를 제공하고 경계를 설정하며 도구를 연결하고 결과를 검증하는 법을 익히세요. 반복해야 할 작업이 생기면 이를 스킬(Skill)로 고정하세요.
이 길을 따라가면 다양한 AI 도구를 스스로 학습할 수 있는 능력을 갖추게 될 것입니다.
1. AI의 4가지 핵심 능력
초보자는 처음 AI를 접할 때 제품 이름 때문에 혼란을 겪곤 합니다. 오늘은 ChatGPT, 내일은 Doubao(豆包), 모레는 또 다른 새로운 Agent가 등장합니다. 인터페이스를 걷어내면, 이들은 기본적으로 네 가지 유형의 작업을 수행합니다.
첫 번째는 이해와 표현입니다.
개념 설명을 요청하거나, 여러 옵션을 비교하거나, 모호한 아이디어를 명확히 하거나, 전문적인 내용을 일반인이 이해하기 쉬운 언어로 재작성하도록 할 수 있습니다. 많은 사람이 말하는 'AI와 대화하기'는 이 수준에서 이루어집니다.
두 번째는 콘텐츠 생성입니다.
기사, 이메일, 이미지, 음성, 영상 대본, 스토리보드, 심지어 바로 사용 가능한 코드까지 AI가 생성할 수 있습니다. 하지만 생성 후에는 반드시 검수가 필요합니다. 이미지는 예뻐 보이지만 내부 텍스트가 틀릴 수 있고, 영상은 재생되지만 오디오, 자막, 시각 요소가 일치하지 않을 수 있기 때문입니다.
세 번째는 기존 자료 처리입니다.
PDF에서 핵심 요점 추출, 두 계약서 간 차이점 분석, 회의록을 To-Do 리스트로 정리, 문서 수정, 스프레드시트 확인, 파일 일괄 이름 변경 등이 이에 해당합니다. 이 단계에서는 원본 숫자, 파일 구조, 진정한 의도가 보존되었는지 반드시 확인해야 합니다.
네 번째는 도구 호출을 통한 행동 완료입니다.
웹 페이지 확인, 파일 검색, 캘린더 읽기, 회사 시스템 호출, 프로그램 실행, 파일 생성 또는 수정 등은 모두 이 계층에 속합니다. Codex 같은 제품은 조언을 제공할 뿐만 아니라 권한이 부여된 환경에서 직접 행동하기도 합니다.
이 네 가지 능력은 결합될 수 있습니다. 새 제품 자료를 주면 AI가 파일을 먼저 읽고, 내용을 요약하며, 기사와 이미지를 생성하고, 최종적으로 파일을 올바른 디렉터리에 배치합니다. 능력이 한 층 추가될 때마다 검사가 필요한 지점도 한 층 늘어납니다.
한 가지를 기억하세요: AI는 답변하고, 생성하고, 행동할 수 있습니다. 각 결과에는 대응하는 검증 방법이 있습니다.
2. AI 성능이 들쭉날쭉한 이유
많은 사람이 AI를 처음 사용할 때는 놀라워하지만, 두 번째 사용 시에는 엉터리라고 생각하곤 합니다. 이러한 변동성은 생성 확률, 현재 컨텍스트, 그리고 태스크 정보에서 비롯됩니다.
대규모 언어 모델(LLM)은 현재 수신된 내용을 바탕으로 더 적절한 후속 응답을 계속 생성합니다. 이 과정에는 확률이 개입하므로, 같은 질문을 두 번 하면 표현과 세부 사항이 달라질 수 있습니다.
AI가 태스크에서 실패하는 흔한 이유는 네 가지입니다.
첫째, 지시가 너무 모호했습니다. "이거 좀 최적화해 줘"라고 하면 무엇을 최적화해야 하는지 명시되지 않아 AI는 추측할 수밖에 없습니다.
둘째, 필수 자료가 부족합니다. 프로젝트 문서, 실제 결과, 사용자 피드백 없이 프로젝트 평가를 요청하면, AI는 일반적인 경험으로 공백을 채웁니다.
셋째, 질의 내용이 모델 외부에 있습니다. 오늘의 주가, 실시간 재고, 방금 컴퓨터에 작성한 파일은 허공에서 나타나지 않습니다. 파일을 읽거나, 웹을 검색하거나, 도구를 통해 실제 시스템을 조회해야 합니다.
넷째, 태스크에 대한 수용 기준(Acceptance Criteria)이 없습니다. 코드는 실행되어야 하고, 파일은 열려야 하며, 기사의 사실은 검증되어야 합니다. 수용 검사에는 파일, 출처, 실행 결과, Diff, 최종 산출물 확인이 포함됩니다.
이 네 가지 문제를 분리하여 각각에 맞게 대처하세요. 태스크가 불명확하다면? 명확히 하세요. 자료가 부족하다면? 컨텍스트를 추가하세요. 외부 정보가 필요하다면? 도구를 제공하세요. 결과가 불안정하다면? 수용 기준과 인간 검증을 추가하세요.
3. 프롬프트는 태스크 명세서다
프롬프트는 AI에게 전달되는 태스크 명세서로, 목표, 자료, 경계, 완료 기준을 명확히 하는 역할을 합니다.
유용한 태스크 명세서는 최소한 다음 네 가지 질문에 답해야 합니다.
무엇을 얻고 싶은가?
답변에 영향을 미치는 자료는 무엇인가?
해서는 안 되는 것은 무엇인가?
진정으로 완료되었음을 어떻게 증명할 것인가?
예를 들어, "이 자료 좀 정리해 줘"라고 하면 요약본인지, 기사인지, PPT인지, 상사 보고용인지 알 수 없습니다. 아래처럼 표현하면 쉽게 검증 가능한 결과를 얻을 수 있습니다.
1목표:2제공된 자료를 기술 초보자를 위한 설명서로 정리한다.34컨텍스트:5독자는 AI 초보자이며 전문 용어에 익숙하지 않다.6내가 제공하는 자료만을 사용하라. 자료 밖의 사실은 "확인 필요"로 표기한다.78경계:9- 원문의 숫자, 제품명, 제약 조건을 보존한다.10- 뒷받침되지 않는 내용은 "확인 필요"로 표기한다.11- 원본 파일을 수정하지 말고, 별도의 결과 파일을 저장한다.1213완료 기준:14- 초보자가 각 개념의 유용성을 이해할 수 있어야 한다.15- 모든 주요 결론은 원본 자료로 추적 가능해야 한다.16- 마지막에 확인 필요 항목과 생성된 파일을 나열한다.
프롬프트는 첫 번째 경계선입니다. AI가 이미 파일을 수정하거나, 메시지를 보내거나, 회사 시스템을 호출할 수 있다면 권한을 점검하세요. 읽기 전용 권한은 삭제 행위를 직접 제한합니다.
신뢰할 수 있는 경계는 네 겹으로 구성됩니다: 프롬프트로 태스크를 명확히 하고, 컨텍스트로 자료를 제공하며, 권한으로 행동을 제한하고, 수용 기준으로 납품을 결정합니다.
초보자들은 종종 마지막 겹을 무시합니다. AI가 기사를 편집했다면 숫자, 이름, 이미지, 인용문을 검증하세요. Codex가 파일을 수정했다면 실제 Diff를 확인하고, 결과를 열어보고, 검사를 실행하세요. AI가 한 일을 낭독하는 것만 듣지 마세요.
4. 자료가 많아지면 지식 베이스(Knowledge Base)가 필요하다
지식 베이스는 자료를 자주 재사용하거나, 지속적으로 업데이트하거나, 출처 추적이 필요한 시나리오에 적합합니다.
단순히 보고서 하나를 읽고 싶다면 파일을 AI에 업로드하는 것으로 충분합니다. 매번 같은 파일 묶음을 다시 업로드하거나 이전 결론의 출처를 기억하지 못할 때 지식 베이스가 유용해집니다.
컨텍스트, 메모리, 지식 베이스는 서로 다른 문제를 해결합니다.
컨텍스트는 AI가 현재 태스크에서 보는 내용입니다. 메모리는 장기적인 선호도, 배경, 히스토리와 관련이 있습니다. 지식 베이스는 반복적으로 쿼리되고 출처 추적이 필요한 자료를 저장합니다. 오늘 재고나 사용자 잔액 같은 실시간 데이터는 보통 라이브 시스템을 조회해야 하며, 오래된 문서를 KB에 집어넣어서는 안 됩니다.
KB가 필요한지 판단하기 위해 네 가지 질문을 던지세요:
- 이 자료 묶음이 반복적으로 사용될까?
- 내용이 지속적으로 업데이트될까?
- 답변이 출처를 인용해야 할까?
- 사람마다 보는 내용이 다를까?
모두 가벼운 수준이라면 폴더와 업로드만으로 충분합니다. 재사용, 업데이트, 출처 추적, 권한 관리가 복잡해질 때만 정식 KB로 전환하세요.
KB는 파싱, 버전 관리, 추적, 권한을 처리합니다. 지저분한 원본 자료는 지저분한 검색 결과를 낳습니다.
따라서 개인 입문자의 경우 간단한 구조를 만드세요: Raw Materials(원본 자료), Verified Notes(검증된 노트), Active Projects(진행 중인 프로젝트), Completed Outputs(완료된 산출물). 이는 아직 특수한 제품이 아닐 수도 있으며, 잘 정리된 폴더가 출발점이 될 수 있습니다.
5. AI는 도구를 통해 외부 정보를 얻는다
"오늘 상하이 날씨가 어때?" 또는 "회사 재고가 얼마나 돼?"라고 물으면, 답은 모델 안에 있지 않고 외부 세계에 있습니다.
브라우저 검색, 파일 읽기, DB 쿼리, 캘린더 접근은 본질적으로 AI에게 외부 진입로를 제공하는 것입니다.
도구(Tool)는 이해하기 쉽습니다. AI가 호출할 수 있는 능력입니다. "날씨 확인"은 도구이고, "파일 검색"은 도구이며, "캘린더 일정 생성"도 도구입니다.
Agent는 일하는 방식입니다. 목표를 받으면 단계를 계획하고, 도구를 선택하고, 결과를 보고, 계속 진행할지 재시도할지 인간에게 물어볼지 결정합니다. 모델은 이해/판단을 담당하고, 도구는 행동을 담당하며, Agent는 이것들을 루프로 연결합니다.
API는 일반적인 시스템 인터페이스입니다. 서비스 목록, 필요 서류, 출력물을 보여주는 창구라고 생각하세요. AI는 규칙에 따라 요청을 제출하여 백엔드 기능을 호출합니다.
도구 호출은 다단계 과정입니다: AI가 데이터 필요 여부를 판단하고, 호출을 제안하며, 외부 시스템이 실행하고, 결과를 반환하면, AI가 답변을 정리합니다.
MCP는 다른 문제를 해결합니다: 외부 도구가 증가함에 따라 AI에게 능력을 균일하게 제공하는 방법. MCP는 나쁜 도구를 좋게 만들거나 인증/권한 문제를 해결하지는 않습니다.
초보자는 이렇게 물어야 합니다: 이 태스크에 AI가 현재 볼 수 없는 정보가 필요한가?
보이는 파일을 읽는 거라면? 직접 업로드하세요. 뉴스를 확인하는 거라면? 검증 가능한 웹 검색을 사용하세요. 회사 데이터를 읽는 거라면? 통제된 인터페이스를 사용하세요. 이메일 발송이나 일정 수정은 신원, 인증, 확인, 감사 로그가 필요한 외부 쓰기(Write) 작업입니다.
읽기와 쓰기의 위험도는 다릅니다. AI에게 먼저 조회하게 한 후 수정을 허용하고, 초안을 작성하게 한 후 인간이 발신을 확인하게 하세요. 이러한 경계가 "조심해 주세요"라는 말보다 훨씬 신뢰할 수 있습니다.
6. 프로세스가 반복될 때만 스킬(Skill)을 만들어라
요구사항이 반복된다면 저장하세요.
매주 회의록을 정리하는데 규칙이 안정적이라면(확정된 결정 사항과 토론 내용을 분리하고, 소유자가 없으면 공란으로 두고, 불명확한 시간은 표시하고, 고정된 테이블 형식으로 출력), 이를 스킬로 만드세요.
스킬은 재사용 가능한 워크 패키지로서 다섯 가지를 지정합니다:
- 언제 사용하는지;
- 필요한 입력값;
- 따를 단계;
- 출력 결과;
- 멈추고 인간에게 물어봐야 할 시점.
스킬에는 참조 자료, 템플릿, 자산, 스크립트를 포함할 수 있습니다. 예를 들어, 스크립트로 Markdown 이미지 존재 여부를 확인하는 것이 육안 검사보다 더 안정적입니다.
프로세스를 2~3회 사용한 후 반복 패턴이 명확해집니다. 입력, 단계, 수용 기준이 안정되면 스킬로 고정하세요.
이전의 프롬프트, 체크리스트, SOP는 스킬의 재료입니다. 임시 경로/계정/특수 데이터는 제거하고, 재사용 가능한 방법/판단 기준은 유지하세요.
Prompt, KB, Tool, Skill의 차이를 구분하세요:
- Prompt는 이번(THESE) 태스크에서 무엇을 할지 알려줍니다.
- KB는 근거(WHERE)를 어디서 찾을지 알려줍니다.
- Tool은 쿼리(QUERY)하거나 행동(ACT)할 수 있게 해줍니다.
- Skill은 향후 이 유형(TYPE)의 일을 어떻게(HOW) 안정적으로 할지 알려줍니다.
이 네 가지를 숙달하면 새로운 제품 이름에 현혹되지 않을 수 있습니다.
7. 한 가지 사례로 7일간 따라 하기
업무는 다양하므로 특정 니치 태스크를 하드코딩하기는 어렵습니다. 여기 보편적인 사례가 있습니다:
배우거나 전향하고 싶은 방향을 선택하고, 지속해서 업데이트 가능한 학습 패키지(Learning Package)를 만드세요.
이 라인을 따라 7일간 진행합니다:
목표 명확화 → 자료 인벤토리 → 외부 정보 보완 → 최소 KB 구축 → 갭 식별 → 4주 계획 수립 → 템플릿/스킬 고정.
- Day 1: 목표, 출발점, 가용 시간을 명확히 하세요.
- Day 2: AI에게 기존 JD, 강의, 아티클, 노트를 인벤토리하게 하세요.
- Day 3: 검색/도구를 사용해 갭을 채우고 출처와 시간을 기록하세요.
- Day 4: 자료를 "Raw, Verified, Tasks, Outputs" 디렉터리로 분류하세요.
- Day 5: AI에게 목표 대비 갭을 식별하게 하고, 각각에 대해 검증 가능한 결과를 페어링하세요.
- Day 6: 4주 계획을 세우고, 매주 하나의 테마/산출물을 정하세요.
- Day 7: 유용한 프롬프트/템플릿/체크리스트를 저장하고, 2~3회 사용 후 스킬로 만드세요.
목표 페이지, 자료 목록, 역량 맵, 4주 계획, 재사용 가능한 템플릿, 오류 로그를 얻게 될 것입니다. 이 프롬프트를 가져가세요. 네 가지 항목을 채워 ChatGPT/Codex에 주면 매일 가이드해 줄 것입니다.
1너는 나의 AI 초보자 코치야. 7일간의 "개인 전향 학습 패키지" 과정을 나를 이끌어줘.23배우거나 전향할 방향: [채워 넣기]4현재 직업/경력: [채워 넣기]5하루 가용 시간: [채워 넣기]6기존 자료: [채워 넣기 또는 업로드]78다음 7일 경로를 따르세요:910Day 1: 목표, 시작점, 시간을 명확히 하고 필요한 정보를 나열한다.11Day 2: 자료를 인벤토리하고 "원문"과 "너의 판단"을 구분한다.12Day 3: 누락된 외부 정보를 찾고 출처, 날짜, 링크를 기록한다.13Day 4: 최소 KB를 구축한다: Raw, Verified, Tasks, Outputs.14Day 5: 역량 갭을 매핑하고 각각에 대해 검증 가능한 결과를 페어링한다.15Day 6: 4주 계획을 세우고 매주 하나의 테마/산출물을 정한다.16Day 7: 패키지를 확정하고 재사용 가능한 프롬프트/템플릿/체크리스트를 추출한다.1718규칙:191. 하루씩 진행한다.202. 매일 시작 전에 문제와 산출물을 명시한다.213. 정보가 부족하면 물어본다. 내가 제공한 데이터를 신뢰한다.224. 외부 정보는 출처/시간을 유지하고 사실/추론/제안을 분리한다.235. 매일 내 리뷰로 마무리하고 오류/수정을 기록한다.246. 다음 날로 넘어가기 전에 내 확인을 기다린다.2526자, 이제 출발점을 이해하기 위해 최대 5개의 질문을 하고 계획을 세워봐.
초보자들이 가장 많이 묻는 Top 10 질문
1. 코딩 없이 AI를 배울 수 있나요?
가능합니다. 질문하기, 자료 제공하기, 생성하기, 파일 읽기, 결과 확인하기를 배울 수 있습니다. 코딩은 나중에 API/제품/복잡한 데이터를 다룰 때 도움이 됩니다.
세 가지 기초를 연습하세요: 문제 명확화, 유용성 판단, 숫자/사실/논리의 오류 발견.
2. 어떤 도구부터 시작해야 하나요: ChatGPT, Doubao, 아니면 Codex?
일주일 동안 꾸준히 열고 사용할 수 있는 것을 하나 고르세요.
글쓰기/이미지에는 일반 채팅을, 폴더/프로젝트/검사에는 Codex를 사용하세요. 도구 전환보다는 태스크 완성에 집중하세요.
3. 프롬프트가 길수록 좋은가요?
길이는 태스크에 따라 다릅니다. 좋은 프롬프트는 충분한 정보를 담고 있습니다: 명확한 목표, 적절한 자료, 명시적 경계, 검증 가능한 기준.
복잡한 태스크는 2000 단어가 필요할 수 있지만, 단순한 것은 3문장으로 충분합니다. 모든 문장은 가치를 더해야 합니다.
4. 같은 프롬프트인데 왜 결과가 달라지나요?
생성은 확률적입니다. 컨텍스트, 업로드, 도구, 설정이 출력에 영향을 미칩니다.
창의적 태스크에서는 변동을 허용하세요. 계약서/숫자/형식이 중요한 태스크에서는 템플릿, 고정 필드, 프로그램 검사, 인간 샘플링을 사용하세요.
5. AI 답변을 그대로 믿어도 되나요?
위험도에 따라 판단하세요. "이 문장 고쳐줘"와 "가슴 통증으로 병원에 가야 하나요"는 완전히 다릅니다.
저위험 초안은 빠르게 테스트하세요. 의료/법률/재무/보안/HR/공개 배포는 권위 있는 출처/소유자로 돌아가야 합니다. 실수로 돈/서명/건강/데이터/타인의 안녕이 손상될 수 있다면, 자신감만으로는 믿지 마세요.
6. 즉시 KB가 필요한가요?
아닙니다. 일회성 작업은 파일을 업로드하세요. 개인 학습을 위해 폴더/노트를 정리하세요. 재사용/업데이트/출처/권한의 복잡성이 높아질 때만 정식 KB를 구축하세요.
재사용 가능한 자료를 먼저 정리하고, 그 다음 RAG를 고려하세요.
7. API, Tool, MCP의 차이는 뭔가요?
API: 시스템 인터페이스. Tool: AI가 호출하는 능력. MCP: AI에게 외부 능력을 제공하는 프로토콜/방법.
하나의 도구가 API나 로컬 파일을 호출할 수 있습니다. MCP 서버는 여러 도구를 제공합니다. 물어보세요: 무엇을 읽거나 쓸 수 있나? 누가 승인하나?
8. 언제 스킬을 만들어야 하나요?
2~3번 해본 후, 입력/단계/실패 사례/완료 기준을 알게 되었을 때 만드세요.
매번 방법을 다시 작성한다면 탐색 중입니다. 같은 프롬프트/템플릿/체크리스트를 반복 복사한다면 고정할 때입니다.
9. AI를 잘 배우려면 돈을 내야 하나요?
반드시는 아닙니다. 무료 제품으로도 분해, 프롬프트 작성, 파일 처리, 검증을 배울 수 있습니다. 결제는 모델/용량/속도/능력에 영향을 미치며, 이들은 변합니다. 학습 경로에 결제를 하드코딩하지 마세요.
무료 도구로 작은 프로젝트를 끝내세요. 특정 제한이 걸림돌이 될 때만 지불하세요.
10. 회사 파일을 AI에 올려도 되나요?
먼저 회사 정책을 확인하세요.
규칙, 계정 유형, 데이터 약관, 민감도를 검토하세요. 비밀번호, 키, ID, 고객 개인정보, 미공개 재무 정보, 계약 보호 데이터를 단순히 "AI가 봐줄 테니까"라는 이유로 절대 업로드하지 마세요.
불확실하다면 공개/목업/익명화된 샘플을 사용하세요. AI를 사용하기 전에 무엇을 공유할 수 있는지 판단하세요.
AI를 배우는 것은 검증 가능한 결과를 생산하는 것을 의미합니다. 도구를 계속 바꾸기만 하면 UI 조작에만 익숙해질 뿐입니다.
실제 문제부터 시작하세요. 자료를 넣고, 결과를 얻고, 직접 확인하세요. 문제가 발생하면 진단하세요: 태스크 명확성 부족? 컨텍스트 부족? 도구 부재? 수용 기준 없음?
순조롭게 진행되면 새로운 모델/제품/Agent를 평가할 수 있는 척도가 생길 것입니다.
저는 Miles, AI 업계 종사자이자 연쇄 창업가입니다.
Agent, RAG, MCP, AI 코딩, 기업 실무에 집중하며, 실제 사용 경험과 업계 판단을 공유합니다.
AI 분야에서 일하거나 업무에 통합하려는 분이라면, 기술을 진정으로 가치 있게 만드는 데 함께하세요.
