최근에 저는 전 동료나 친구들을 오프라인으로 만나고 있습니다. 제가 AI 콘텐츠 관련 일을 한다는 걸 알게 되면서, 모두가 큰 관심을 보이고 있고, 대화는 자연스럽게 AI 이야기로 흘러가곤 합니다.
그런데 이야기를 나누다 보니, 한 가지 문제점을 발견했습니다.
저는 자연스럽게 Agent, Skill, MCP 같은 용어를 입에 올리며, 모두가 들어봤을 거라고 생각했습니다. 하지만 상대방은 잠시 멈칫하며 "Agent가 정확히 뭐예요?", "Skill은 무슨 뜻이에요?"라고 되묻곤 했습니다.
그 순간, 제가 '지식의 저주'에 빠져 있었다는 걸 깨달았습니다. 어떤 단어를 너무 많이 보고 사용하다 보면, 처음 봤을 때 나도 헷갈렸다는 사실을 잊게 되는 거죠.
몇 달 전만 해도 저도 이런 영어 약어들 때문에 머리가 아팠습니다. 그때 'AI 입문자를 위한 기초 용어'라는 포스팅을 연재하며, 하루에 한 단어씩, 거의 30일 동안 자주 쓰이는 AI 용어들을 하나하나 정리했었죠.
최근에 물어보시는 분들이 더 많아져서, 이번 기회에 내용을 더욱 완성도 있게 다듬기로 했습니다.
제가 생각하기에 고빈도로 사용되는 AI 용어 66개를 선별해, 아주 쉬운 말로 풀어 정리했습니다. 각 단어마다 '무엇인지', '어디서 만나게 되는지', '어떤 실제 상황과 연결 지으면 기억하기 쉬운지'를 알려드릴게요.
한 번에 다 외우려고 하지 마세요. 그냥 한 번 쭉 읽어보세요. 그러면 다음에 LLM, RAG, Agent, MCP, API, CLI 같은 용어를 봤을 때, 이 개념들이 AI 세계에서 대략 어떤 위치에 있는지 감을 잡을 수 있을 겁니다.
I. 먼저 AI와 거대 언어 모델 이해하기
이 그룹은 두 가지 질문에 답합니다. AI가 무엇인지, 그리고 거대 언어 모델이 말을 할 때 무엇을 처리하는지입니다. 이 지도만 이해하면, 뒤에 나오는 용어들은 훨씬 쉽게 느껴질 겁니다.
AI는 기계가 인간의 이해, 판단, 예측 또는 창작이 필요한 작업을 수행하도록 만드는 것입니다. 휴대폰 얼굴 인식, 지도의 교통량 예측, 플랫폼의 동영상 추천, 챗봇의 질문 답변 모두 AI에 속합니다. 이는 매우 포괄적인 용어이며, 채팅 도구는 그중 하나의 응용 분야일 뿐입니다.
알고리즘은 문제를 해결하기 위한 명확한 단계들의 집합으로, 마치 요리법과 같습니다. 요리법은 채소를 먼저 썰고, 팬을 달군 다음, 마지막으로 양념을 하라고 지시합니다. 알고리즘은 컴퓨터가 무엇을 먼저 읽고, 어떻게 비교하고, 마지막으로 무엇을 출력할지 지시합니다. 많은 전통적인 알고리즘은 전혀 대화할 수 없으며, AI 알고리즘은 알고리즘 세계의 한 부분일 뿐입니다.
NLP는 컴퓨터가 인간의 언어를 처리할 수 있게 하는 기술 분야입니다. 번역, 요약, 검색, 음성-텍스트 변환, 채팅 등이 이와 관련됩니다. 당신이 구어체 질문을 입력했을 때 AI가 대략적인 의미를 이해하고 답변하는 것도 자연어 처리 능력을 활용하는 것입니다.
LLM은 방대한 양의 텍스트와 컴퓨팅으로 훈련된 언어 모델로, 텍스트를 이해하고 생성하는 데 특화되어 있습니다. 일반적인 모델이나 모델 계열로는 OpenAI의 GPT, Anthropic의 Claude, Google의 Gemini, 그리고 DeepSeek과 Qwen 등이 있습니다. 제품과 모델을 구분하는 것이 중요합니다. ChatGPT는 당신이 열어서 사용하는 제품이고, GPT는 그 뒤에서 호출될 수 있는 모델 계열입니다.
SLM은 크기가 더 작고 컴퓨팅 요구 사항이 낮은 언어 모델입니다. 현재 전 세계적으로 통일된 매개변수 경계는 없습니다. 일반적인 예로는 Microsoft의 Phi 시리즈와 Gemma, Qwen 같은 모델 계열의 소형 매개변수 버전이 있습니다. 지식 범위는 좁을 수 있지만, 요약, 분류, 기기 내 어시스턴트 같은 고정된 작업에서는 더 빠르고, 저렴하며, 휴대폰이나 일반 컴퓨터에서 실행하기 더 쉽습니다.
토큰은 모델이 텍스트를 읽고 쓸 때 사용하는 작은 조각입니다. 이는 한자 한 글자, 영어 단어 하나, 또는 구두점 하나와 정확히 일치하지 않습니다. 모델은 문장을 계산하기 전에 여러 토큰으로 나눕니다. 과금과 컨텍스트 용량도 종종 토큰 단위로 계산됩니다. AI가 텍스트를 처리할 때 사용하는 '레고 블록'이라고 생각하면 됩니다.
컨텍스트는 AI가 현재 참조할 수 있는 모든 정보로, 당신의 질문, 이전 대화, 업로드된 파일, 시스템 규칙, 도구 결과 등을 포함합니다. 의사의 진료와 같아서, "몸이 안 좋아요"라는 같은 말도 나이, 증상, 검사 결과가 있느냐에 따라 다른 판단으로 이어집니다. AI에게 제공되는 컨텍스트가 명확할수록 답변은 더 현실적이고 정확해집니다.
컨텍스트 윈도우는 모델이 한 번에 처리할 수 있는 최대 정보량으로, 보통 토큰으로 표시됩니다. 크기가 제한된 책상과 같아서 한 번에 펼쳐 놓을 수 있는 문서의 양에 한계가 있습니다. 내용이 이를 초과하면 시스템은 잘라내거나, 요약하거나, 배치로 처리하거나, 이전 정보를 윈도우 밖으로 내보내야 합니다.
컨텍스트 길이는 종종 두 가지 의미를 갖습니다. 모델이 허용하는 최대 토큰 수 또는 특정 요청에서 실제로 사용된 토큰 수입니다. 전자는 책상의 최대 면적과 같고, 후자는 이번에 실제로 펼쳐 놓은 문서와 같습니다. 제품이 '초장문 컨텍스트'를 광고할 때는 보통 최대 용량을 의미합니다.
MLLM은 텍스트 외에도 이미지, 오디오, 비디오와 같은 정보를 처리할 수 있습니다. 냉장고 사진을 주면 재료를 보고 텍스트 요구 사항에 따라 저녁 메뉴를 추천할 수 있습니다. 회의 녹음 파일을 업로드하면 듣고 주요 내용을 정리할 수도 있습니다. 여기서 '멀티모달'은 여러 형태의 정보를 의미합니다.
VLM은 시각과 언어를 특별히 연결하며, 주로 '그림을 보고 이해하거나 텍스트로 답하는' 작업을 처리합니다. 사진에 자막을 쓰거나, 차트 내용을 식별하거나, 스크린샷을 기반으로 버튼을 찾는 등의 작업을 할 수 있습니다. VLM은 시각과 언어의 협력에 중점을 두며, 그 범위는 일반적으로 포괄적인 용어인 멀티모달 모델보다 더 구체적입니다.
MoE는 모델 내부에 여러 '전문가' 집합을 배치하고, 매번 그중 일부만 계산에 참여시키는 방식입니다. 마치 병원의 분류 진료와 같아서, 피부 문제는 피부과로, 뼈 부상은 정형외과로 가는 것이지 모든 의사가 한 번에 진료하는 것이 아닙니다. 이는 모델의 성능을 확장하면서도 각 실행에 필요한 계산량을 제어합니다.
이 그룹을 읽고 나면, 다음 정도만 구분하면 됩니다. LLM은 주로 언어를 처리하고, VLM은 이미지와 언어를 연결하며, MLLM은 여러 유형의 정보를 처리할 수 있습니다. 토큰은 텍스트 블록이고, 컨텍스트는 이번에 모델이 참조할 수 있는 자료입니다.
II. AI와 대화할 때 가장 흔히 쓰는 용어
이 그룹은 매일 사용됩니다. 프롬프트는 작업을 할당하고, 컨텍스트는 자료를 제공하며, AI는 이 정보를 바탕으로 답변을 생성합니다.
프롬프트는 당신이 AI에게 주는 전체 입력으로, 문장, 질문, 문서, 이미지가 될 수 있습니다. "이 계약서를 5가지 위험 요소로 요약해줘"도 프롬프트입니다. 프롬프트를 마법 주문처럼 쓸 필요는 없습니다. 목표, 자료, 제약 조건, 출력 형식만 명확하면 AI가 더 잘 처리할 가능성이 높습니다.
프롬프트 엔지니어링은 프롬프트를 설계, 테스트, 개선하는 방법입니다. 동료에게 업무를 할당하는 것과 매우 비슷합니다. 첫 번째 결과가 틀렸다면, 작업이 명확했는지, 자료가 충분했는지, 형식이 지정되었는지 확인한 후 지시를 조정합니다. 그 가치는 커뮤니케이션 오류와 재작업을 줄이는 데 있습니다.
시스템 프롬프트는 AI 애플리케이션 뒤에서 정체성, 말투, 능력 범위, 안전 경계를 정의하는 우선순위가 높은 규칙 집합입니다. 회사의 직원 핸드북과 같으며, 사용자는 보통 그 내용을 모두 보지 못합니다. 당신의 요청이 시스템 규칙과 충돌하면, 모델은 일반적으로 시스템 프롬프트를 우선시합니다.
유저 프롬프트는 사용자가 입력한 현재 요구 사항, 즉 채팅 상자에 보내는 내용입니다. 시스템 프롬프트는 매장의 운영 규칙과 같고, 유저 프롬프트는 "따뜻한 음료에 당은 적게 주세요"와 같습니다. 둘 다 결과에 영향을 미치기 때문에, 같은 문장이라도 AI 제품에 따라 다른 답변을 얻을 수 있습니다.
인스트럭션은 당신이 프롬프트 내에서 AI에게 수행하도록 요청하는 명확한 동작입니다. 요약, 번역, 비교, 분류, 확인 등이 예시입니다. 완전한 프롬프트는 배경 정보와 제약 조건도 포함할 수 있습니다. 예를 들어, "아래 이메일을 읽고, 날짜를 추출하며, 원문에 없는 정보는 추가하지 마세요"에는 두 가지 인스트럭션이 포함되어 있습니다.
마크다운은 간단한 기호를 사용하여 텍스트 서식을 지정하는 방식입니다.
- #은 제목을,
- -은 목록을,
- \\텍스트\\는 굵게를 나타냅니다.
많은 AI 출력이 명확하게 계층 구조를 가져 보이는 것은 마크다운을 사용하기 때문입니다. 글을 쓰거나, 문서를 작성하거나, 프로젝트를 설명할 때 자주 접하게 됩니다.
JSON은 프로그램에서 흔히 사용하는 구조화된 데이터 형식으로, 보통 중괄호, 필드 이름, 해당 내용으로 구성됩니다. 고정된 필드가 있는 전자 스프레드시트와 같아서 사람이 읽을 수 있고 프로그램이 쉽게 처리할 수 있습니다. AI에게 "JSON 형식으로 출력해줘"라고 요청하는 것은 종종 다른 소프트웨어가 결과를 자동으로 사용할 수 있도록 하기 위해서입니다.
대화 기록은 현재 채팅에서 이전에 나왔던 메시지를 말합니다. AI가 5분 전 주제를 이어갈 수 있는 것은 보통 애플리케이션이 이전 채팅 기록을 모델에 다시 보내기 때문입니다. 채팅이 너무 길어지면 초기 내용은 잘리거나 요약될 수 있으므로, AI가 처음에 한 말을 가끔 잊어버리기도 합니다.
할루시네이션은 AI가 그럴듯해 보이지만 실제로는 틀리거나 존재하지 않는 내용을 생성하는 현상입니다. 책 제목, 링크, 데이터, 개인 경험 등을 지어내는 경우가 있습니다. 말을 잘하지만 '모른다'는 것을 인정하지 않고 빈칸을 채워버리는 사람과 비슷합니다. 날짜, 숫자, 인용, 중요한 결정에 대해서는 항상 원본 출처를 확인하세요.
이 그룹에서 가장 중요한 것은 다음과 같습니다. 프롬프트는 어떻게 질문할지를 결정하고, 컨텍스트는 AI가 참조할 수 있는 내용을 결정하며, 할루시네이션은 답변을 여전히 확인해야 한다는 것을 상기시킵니다.
III. AI가 데이터를 읽도록 하기: RAG와 검색
"AI가 회사 파일을 읽게 한다"거나 "개인 지식 베이스를 구축한다"는 말을 보게 되면, 이 그룹의 단어들을 만나게 될 가능성이 높습니다. 전체 과정은 한 문장으로 요약됩니다. 먼저 관련 자료를 찾은 다음, 모델이 답변하게 하는 것입니다.
RAG는 AI가 답변하기 전에 지정된 자료에서 관련 내용을 검색하도록 하고, 찾은 조각을 모델에 넘겨 답변을 구성하게 합니다. 마치 개방형 시험과 같아서, 학생이 먼저 교과서를 뒤적이고 그에 기반하여 답변합니다. RAG는 허위 정보 생성을 줄일 수 있지만, 잘못된 자료를 검색할 수도 있으므로 인용은 여전히 사람이 확인해야 합니다.
지식 베이스는 중앙에 저장되고, 정리되어 시스템이 쿼리할 수 있는 자료 모음입니다. 회사의 제품 매뉴얼, 정책 문서, FAQ를 모아 놓으면 고객 서비스 지식 베이스가 될 수 있습니다. 개인의 노트, 기사, 독서 기록도 지식 베이스를 구성할 수 있습니다. 자료가 정확하고 최신인지 여부는 답변 품질에 직접적인 영향을 미칩니다.
검색은 대량의 자료에서 가장 관련성 높은 내용을 찾는 것입니다. 사서가 당신의 질문을 듣고 수만 권의 책 중에서 가장 적합한 세 권을 가져오는 것이 검색입니다. RAG에서 모델은 보통 전체 데이터베이스를 먼저 읽지 않고, 몇 개의 조각을 검색하여 답변합니다.
키워드 검색은 주로 특정 단어가 직접 나타나는지 찾습니다. "환불 마감일"을 검색하면 "환불"과 "마감일"이 포함된 내용을 우선적으로 찾습니다. 이 방법은 빠르고 제품 번호, 이름, 고정 용어를 확인하는 데 좋습니다. 질문 방식과 원문 표현이 크게 다를 경우 답을 놓칠 수 있습니다.
의미 기반 검색은 두 구절의 의미가 가까운지에 더 중점을 둡니다. "이거 더 이상 안 쓰는데 어떻게 반품하죠?"라고 검색하면 "반품 정책"이라는 제목의 문서도 찾을 수 있습니다. 자연어 질문에 적합하지만, 이해가 빗나갈 수 있으므로 중요한 시나리오에서는 키워드 검색과 결합하여 사용하는 경우가 많습니다.
하이브리드 검색은 키워드 검색과 의미 기반 검색을 함께 사용합니다. ID 번호나 계약 번호는 정확히 일치하는 것이 적합하고, "비용 청구는 어떻게 하나요?"는 의미 이해가 필요합니다. 두 검색 결과를 병합하고 순위를 매겨, 문자 그대로의 일치와 유사한 의미를 모두 고려합니다. 많은 RAG 시스템이 채택하는 방식입니다.
IV. Agent, 도구, MCP
이것은 최근 가장 인기 있고 종종 가장 혼란스러운 단어 그룹입니다. 친구들과 이야기할 때 제가 가장 많이 언급했던 Agent, Skill, MCP가 모두 이 장에 있습니다.
먼저, 가장 간단한 경로를 살펴보겠습니다.
1당신이 목표를 제시합니다.2→ Agent가 다음 단계를 결정합니다.3→ 도구를 호출하여 데이터를 읽거나 작업을 실행합니다.4→ 결과를 바탕으로 계속 처리합니다.5→ 사람이 주요 단계를 확인합니다.
챗봇은 주로 대화를 통해 질문에 답하는 소프트웨어입니다. 초기 챗봇은 고정된 키워드에만 기반하여 답변할 수 있었습니다. 지금은 많은 챗봇이 대규모 언어 모델에 연결되어 더 자연스러운 답변을 제공합니다. 핵심은 여전히 "당신이 묻고, 그것이 답한다"는 것이며, 보통 독립적으로 긴 일련의 외부 작업을 완료하지는 않습니다.
AI 어시스턴트 또는 코파일럿은 사람들이 작업을 완료하는 것을 돕는 AI 제품입니다. 글쓰기 지원, 회의 정리, 스프레드시트 작성, 프로그래밍 등이 예시입니다. "코파일럿"이라는 비유는 기억하기 쉽습니다. 관찰하고, 알리고, 도울 수 있지만, 운전대는 여전히 사람에게 있으며, 최종 결과는 사람이 확인해야 합니다.
워크플로우는 미리 정해진 일련의 고정된 단계입니다. 송장을 받은 후 먼저 금액을 식별하고, 그다음 표에 기록하고, 마지막으로 재무 부서에 알리는 것이 워크플로우입니다. 각 단계는 일반적으로 미리 결정되어 있어 안정적이고 확인하기 쉽습니다. 예상치 못한 상황을 만났을 때 Agent처럼 유연하게 다음 단계를 결정하지는 않습니다.
AI Agent는 목표를 중심으로 다음 단계를 결정하고, 도구를 호출하며, 결과를 관찰하고, 계속 행동할 수 있는 시스템입니다. 일반 채팅은 표를 사는 방법을 알려주지만, Agent는 예약 서비스를 열고, 항공편을 조회하고, 권한 범위 내에서 정보를 입력할 수 있습니다. 행동할 수 있기 때문에, 권한, 오류, 사람의 확인이 매우 중요합니다.
Agentic AI는 AI가 지속적으로 계획하고, 도구를 사용하며, 다단계 작업을 실행하는 능력을 강조하는 시스템이나 설계 접근 방식의 한 종류를 말합니다. 이 용어의 범위는 넓으며, 회사마다 다른 이름을 사용합니다. "Agentic"이라고 표시된 제품을 보면, 어떤 도구를 사용할 수 있는지, 스스로 몇 단계까지 수행할 수 있는지, 어디에서 사람이 반드시 확인해야 하는지 세 가지를 계속 물어볼 수 있습니다.
자율성은 시스템이 사람의 단계별 지시 없이 스스로 결정하고 행동할 수 있는 정도를 말합니다. 파일 복사본을 자동으로 정리하는 것은 자율성과 위험이 낮습니다. 이메일을 자동으로 보내거나, 지불하거나, 데이터를 삭제하는 것은 위험을 크게 증가시킵니다. 작업이 중요할수록 권한을 더 좁히고 확인 지점을 추가해야 합니다.
플래닝은 목표를 순차적으로 실행할 수 있는 단계로 분해하는 것입니다. 여행을 준비하기 위해 먼저 날짜를 확인하고, 그다음 교통편을 알아보고, 숙소를 예약하고, 짐 싸기 목록을 만드는 것과 같습니다. Agent도 복잡한 작업을 만나면 계획을 세웁니다. 훌륭한 계획이 성공적인 실행을 보장하지는 않으며, 완료된 각 단계는 실제 결과를 확인해야 합니다.
도구는 AI가 호출할 수 있는 외부 기능으로, 웹 검색, 계산기, 데이터베이스, 캘린더, 이메일 등이 있습니다. 모델 자체는 판단을 담당하는 두뇌에 더 가깝고, 도구는 손과 눈을 제공합니다. 도구가 없으면 모델은 기존 컨텍스트에 기반해서만 답변할 수 있습니다. 도구를 연결한 후에는 질의하고 행동할 기회를 갖게 됩니다.
도구 호출은 모델이 지정된 형식에 따라 도구를 선택하고 필요한 매개변수를 입력하면, 프로그램이 이를 실행하고 결과를 모델에 반환하는 것입니다. 관리자가 직원에게 작업 지시서를 작성하는 것과 같습니다. 모델은 '무엇을 호출할지' 판단하고, 특정 코드가 쿼리, 계산, 또는 쓰기 작업을 완료합니다.
플러그인은 소프트웨어에 설치하여 기능을 추가하는 확장 패키지입니다. 브라우저는 번역 플러그인을 설치하면 웹 페이지를 번역할 수 있습니다. AI 애플리케이션은 플러그인을 설치하여 파일, 캘린더, 타사 서비스에 연결할 수 있습니다. 플러그인은 일반적으로 특정 제품에 의존하며, 할 수 있는 작업은 제품이 제공하는 인터페이스와 권한에 따라 달라집니다.
스킬은 Agent가 특정 유형의 작업을 안정적으로 완료하도록 가르치는 재사용 가능한 지침, 스크립트, 리소스의 집합입니다. 직원을 위한 표준 운영 매뉴얼과 같아서, 어떤 자료를 먼저 읽을지, 어떤 단계를 따를지, 결과를 어떻게 확인할지가 명확히 쓰여 있습니다. 프롬프트는 종종 일회성 작업을 해결하는 반면, 스킬은 동일한 유형의 작업을 반복적으로 실행하는 데 더 적합합니다.
MCP는 AI 애플리케이션이 외부 데이터 및 도구에 연결할 수 있도록 하는 개방형 프로토콜입니다. 가장 좋은 비유는 AI 세계의 USB-C입니다. 예전에는 모든 도구를 개별적으로 연결해야 했지만, 이제는 동일한 연결 표준에 따라 기능을 제공할 수 있습니다. '연결 방법'을 해결하지만, Agent의 작업 목표를 결정하지는 않습니다.
MCP 호스트는 사용자가 실제로 사용하는 AI 애플리케이션입니다. 데스크톱 어시스턴트, 코드 편집기, Agent 플랫폼 등이 예시입니다. 사용자, 모델, 보안 권한, 여러 연결을 관리합니다. 호스트를 컴퓨터라고 생각하면 됩니다. 전체 사용 환경이며, MCP 클라이언트가 위치하는 곳입니다.
MCP 클라이언트는 호스트 내부에 있으며, 특정 MCP 서버와의 통신을 설정하고 유지 관리합니다. 서버가 제공하는 도구와 자료를 발견하고 호출 요청을 보냅니다. 컴퓨터가 프린터에 연결될 때 내부적으로 이 연결을 관리하는 전용 통신 채널이 필요한 것과 같습니다.
MCP 서버는 MCP 사양에 따라 AI 애플리케이션에 도구, 자료, 또는 프롬프트 템플릿을 제공하는 프로그램입니다. 이름에 '서버'가 있다고 해서 멀리 떨어져 있어야 한다는 뜻은 아닙니다. 컴퓨터에서도 실행될 수 있습니다. 예를 들어, 로컬 파일 서버는 AI가 권한이 있는 디렉터리의 파일을 읽을 수 있게 합니다.
MCP 도구는 서버가 AI의 실행 요청을 위해 제공하는 특정 작업입니다. 날씨 조회, 일정 생성, 데이터베이스 읽기, 메시지 보내기 등이 예시입니다. 각 도구는 필요한 매개변수를 지정합니다. 쿼리 작업은 위험이 낮지만, 보내기, 삭제, 지불 작업은 명확한 권한과 확인이 있어야 합니다.
MCP 리소스는 MCP를 통해 AI가 읽을 수 있도록 제공되는 콘텐츠입니다. 파일, 데이터베이스 레코드, 프로젝트 구조, 애플리케이션 상태 등이 예시입니다. 책상 위에 놓인 자료에 더 가깝고, 도구는 누를 수 있는 버튼에 더 가깝습니다. 리소스를 읽을 수 있는지 여부는 여전히 호스트와 서버가 설정한 액세스 권한에 따라 달라집니다.
MCP 프롬프트는 서버가 제공하는 재사용 가능한 프롬프트 템플릿으로, 사용자가 고정된 방식으로 작업을 시작할 수 있도록 돕습니다. 미리 설치된 표 템플릿과 같아서, 채울 필드와 작업 구조를 정리해 놓습니다. 자동으로 작업을 실행하지는 않으며, 여전히 사용자가 선택하고 모델이 처리해야 합니다.
메모리는 시스템이 저장하고 나중에 재사용하는 정보로, 현재 채팅 요약, 사용자 선호도, 과거 작업, 장기 데이터 등을 포함할 수 있습니다. AI가 "당신을 기억"할 때는, 보통 이 정보가 저장되어 후속 대화에서 모델에 다시 제공된다는 것을 의미합니다. 메모리는 경험에 영향을 미치며, 개인정보 보호와 삭제 방법에도 주의해야 합니다.
휴먼 인 더 루프는 중요한 단계를 사람이 반드시 확인, 선택, 또는 승인해야 함을 의미합니다. AI는 환불 목록을 정리하고 초안을 작성할 수 있지만, 실제 송금은 재무 부서가 확인합니다. 이는 AI의 속도를 활용하면서도 불완전한 정보나 잘못된 판단으로 인해 돌이킬 수 없는 결과가 발생하는 것을 방지합니다.
멀티 에이전트는 여러 Agent가 협업하도록 하는 것입니다. 예를 들어, 하나는 데이터를 검색하고, 하나는 기사를 작성하며, 하나는 인용을 확인합니다. 프로젝트 팀과 같아서, 분업이 합리적일 때 복잡한 작업을 병렬로 처리할 수 있습니다. 그러나 구성원이 많아지면 커뮤니케이션, 중복 작업, 오류 전파도 증가하므로, Agent가 항상 많다고 좋은 것은 아닙니다.
A2A는 Agent 간에 작업, 상태, 결과를 교환하는 통신 방법을 말합니다. MCP는 Agent가 도구 및 데이터에 연결하는 방법에 더 중점을 두는 반면, A2A는 한 Agent가 다른 Agent에게 작업을 넘기는 방법에 더 중점을 둡니다. 전자를 '장치 연결'로, 후자를 '동료 간 업무 인계'로 생각하면 됩니다.
컴퓨터 유즈는 AI가 화면을 보고, 마우스를 움직이고, 클릭하고, 키보드를 입력하여 소프트웨어를 작동하도록 하는 것입니다. 전용 API 없이도 웹 및 데스크톱 애플리케이션을 사용할 수 있는 원격 작업자와 같습니다. 인터페이스 변경으로 인해 잘못된 위치를 클릭할 수 있으므로, 지불, 삭제, 발신 메시지에 대해서는 사람의 확인이 필수적입니다.
샌드박스는 프로그램의 활동 범위를 제한하는 격리된 환경입니다. 아이가 놀 수 있도록 울타리가 쳐진 모래밭과 같아서, 아이는 이것저것 시도해 볼 수 있고, 문제가 생기더라도 중요한 파일이나 시스템에 영향을 미치지 않습니다. Agent가 코드를 실행하거나, 파일을 다운로드하거나, 프로젝트를 수정하도록 할 때 샌드박스는 영향 범위를 줄이지만, 모든 보안 검사를 대체할 수는 없습니다.
이 장에서 한 문장만 기억하세요. Agent는 결정하고 행동하며, 도구는 특정 기능을 제공하고, 스킬은 방법을 가르치며, MCP는 AI와 외부 기능을 연결하는 역할을 합니다.
V. AI 튜토리얼에서 만나게 될 컴퓨터 용어
이 단어들은 모두 AI 분야에서 만들어진 것은 아니지만, Agent, 자동화, 로컬 모델에 대해 배울 때 자주 등장합니다. 이해할 수 있다면 많은 튜토리얼이 외계어처럼 느껴지지 않을 것입니다.
API는 소프트웨어가 약속에 따라 통신하는 진입점입니다. 식당에서 부엌에 무작정 들어갈 필요 없이 웨이터를 통해 주문하는 것과 같습니다. API는 소프트웨어 세계의 웨이터와 같아서, 당신의 요청을 백엔드로 가져가고 결과를 가져옵니다. 날씨 앱, 결제 서비스, 대규모 언어 모델은 모두 API를 통해 다른 프로그램에서 호출될 수 있습니다.
API 키는 프로그램이 서비스에 액세스할 때 사용하는 비밀 자격 증명으로, 누가 호출하는지 식별하는 데 사용되며 종종 사용량 제한 및 과금과 연결됩니다. 은행 카드 비밀번호와 같아서, 누구든지 키를 얻으면 당신의 할당량을 소비할 수 있습니다. 공개 코드, 스크린샷, 튜토리얼, 단체 채팅방에 전체 키를 절대 올리지 마세요.
SDK는 플랫폼용 애플리케이션을 개발할 때 흔히 사용되는 코드, 지침, 예제, 도구의 모음입니다. API가 '주문 방법'을 알려주는 반면, SDK는 메뉴, 도구, 시연 요리를 준비하여 개발자가 많은 기본 코드를 작성하는 수고를 덜어줍니다. 다른 프로그래밍 언어는 일반적으로 자체 SDK를 가지고 있습니다.
CLI는 텍스트 명령을 입력하여 컴퓨터를 조작하는 인터페이스입니다. 그래픽 인터페이스는 '새 폴더'를 클릭하게 하지만, CLI는 명령 한 줄을 입력하여 동일한 작업을 수행합니다. 검은색 창처럼 보이지만, 실제로는 또 다른 조작 방식일 뿐입니다. AI 오픈소스 도구의 설치 및 실행은 종종 CLI를 사용합니다.
터미널은 "Terminal"(Mac)이나 "Windows Terminal"처럼 명령어가 표시되고 입력되는 창입니다. 컴퓨터와 사용자 사이의 채팅 창이라고 생각하면 되며, CLI 명령어는 컴퓨터에 보내는 메시지입니다. 터미널은 창이고, CLI는 텍스트로 컴퓨터를 조작하는 방식입니다. 이 둘은 함께 사용되는 경우가 많습니다.
저장소(Repository, 줄여서 Repo)는 프로젝트 파일과 수정 내역을 중앙에 저장하는 공간입니다. 버전 기록이 있는 프로젝트 폴더라고 생각하면 되며, 코드, 설명서, 이미지, 설정 파일 등을 모두 넣을 수 있습니다. 누군가 "Repo를 클론(Clone)한다"고 말하면, 보통 이 프로젝트와 그 기록을 내 컴퓨터로 복사해 오는 것을 의미합니다.
Git은 파일 버전의 변경 사항을 기록하는 도구입니다. 어떤 내용이 누구에 의해 수정되었는지 알려주고, 여러 단계의 버전을 보관할 수 있습니다. 마치 문서를 작성할 때 모든 수정본을 저장하는 것과 비슷하지만, 훨씬 체계적입니다. Git은 로컬에서 작동하며 항상 온라인 상태일 필요가 없고, GitHub과는 다른 것입니다.
GitHub은 Git 저장소를 호스팅하고 여러 사람이 협업할 수 있도록 지원하는 웹사이트입니다. 개발자들은 여기에 코드를 공개하고, 설명서를 작성하며, 문제를 보고하고, 함께 프로젝트를 수정합니다. Git은 버전 관리 도구이고, GitHub은 온라인 호스팅과 협업을 제공하는 플랫폼입니다. AI 오픈소스 도구를 배울 때는 보통 GitHub 링크에서 시작하게 됩니다.
CLI를 처음 봐도 긴장하지 마세요. 명령어를 복사하기 전에 그것이 무엇을 읽거나, 수정하거나, 삭제하거나, 업로드하는지 확인하고, 중요한 파일이 관련된 경우에는 복사본으로 연습해 보세요.
VI. 로컬 모델 및 하드웨어 관련 용어
이 용어들은 직접 컴퓨터에서 모델을 실행할 준비가 되었을 때 자세히 살펴보면 됩니다. 평소에 온라인 AI 제품을 사용한다면, 대략적인 의미만 알아도 충분합니다.
로컬 배포는 내 컴퓨터, 휴대폰, 또는 회사 기기에서 모델이나 프로그램을 실행하는 것입니다. 데이터가 외부 서비스를 거치는 경우가 적고 오프라인에서도 사용할 수 있습니다. 하지만 설치, 업데이트, 성능, 보안 등은 직접 관리해야 합니다. 데이터 통제를 중요시하거나 고정된 환경이 필요한 사람에게 적합하지만, 그것이 본질적으로 절대적으로 안전하다는 의미는 아닙니다.
클라우드 API는 모델이 서비스 제공자의 원격 서버에서 실행되고, 사용자는 네트워크를 통해 요청을 보내고 결과를 받는 방식입니다. 마치 식당에 가서 주문하는 것과 같아서, 직접 가스레인지와 재료를 살 필요 없이 쉽게 시작할 수 있습니다. 동시에 네트워크, 가격, 호출 제한, 플랫폼 규칙, 데이터 정책 등의 영향을 받습니다.
오픈소스는 일반적으로 특정 라이선스 하에 소스 코드가 공개되어, 누구나 라이선스가 허용하는 범위 내에서 코드를 보고, 수정하고, 배포할 수 있음을 의미합니다. 공개적으로 다운로드할 수 있다고 해서 상업적으로 마음대로 사용할 수 있다는 뜻은 아닙니다. 라이선스마다 요구 사항이 매우 다릅니다. "오픈소스 AI"라는 말을 들으면, 코드, 데이터, 가중치 중 어떤 부분이 실제로 공개되었는지 확인해야 합니다.
오픈 가중치는 모델 학습 후 얻은 파라미터를 다운로드할 수 있어, 사용자가 자신의 기기에서 모델을 실행하거나 추가로 조정할 기회를 얻는 것을 의미합니다. 학습 데이터, 전체 학습 코드, 상업적 사용 권한이 반드시 함께 공개되는 것은 아닙니다. 따라서 오픈 가중치와 완전한 오픈소스는 다른 개념이며, 구체적으로 어떻게 사용할 수 있는지는 모델 라이선스에 따라 다릅니다.
GPU는 원래 그래픽 처리에 특화되어 있지만, 대량의 유사한 계산을 동시에 수행하는 데에도 매우 적합하여 AI 모델을 학습하고 실행하는 데 널리 사용됩니다. 마치 많은 사람들이 동시에 문제를 해결하는 것과 같습니다. 로컬 모델을 실행할 컴퓨터를 구매할 때는 GPU 모델과 VRAM 용량이 일반적인 사무용 시나리오보다 더 중요합니다.
VRAM은 GPU 자체가 사용하는 고속 메모리로, 모델 실행 중에 모델 가중치와 중간 데이터가 이곳에 위치해야 합니다. 모델은 거대한 블록 세트와 같고, VRAM은 테이블 상판과 같습니다. 상판이 너무 작으면 블록을 다 올릴 수 없어 모델 로딩에 실패하거나, 더 느리지만 메모리를 덜 사용하는 방식을 사용해야 할 수 있습니다.
모델 이름에 있는 7B 또는 70B는 대략 70억 개 또는 700억 개의 파라미터를 나타냅니다. 파라미터는 모델이 학습 후 습득한 방대한 내부 숫자라고 이해하면 됩니다. 숫자가 클수록 일반적으로 더 많은 메모리와 계산 리소스가 필요합니다. 하지만 이것이 곧바로 더 강력한 성능을 의미하지는 않으며, 학습 품질과 특정 작업도 똑같이 중요합니다.
VII. 꼭 기억해야 할 10가지 단어
66개의 단어를 모두 외울 필요는 없습니다. 처음 읽고 나서 이 10가지만 먼저 기억하세요:
- AI: 기계가 이해, 판단, 예측 또는 창작이 필요한 작업을 처리하도록 하는 것.
- LLM: 언어 이해와 생성을 담당하는 대규모 모델.
- Token: 모델이 텍스트를 읽고 쓸 때 사용하는 작은 단위.
- Context: 이번에 모델이 참고할 수 있는 정보.
- Prompt: AI에게 제공하는 요구 사항과 자료.
- Hallucination: AI가 잘못된 내용을 매우 그럴듯하게 만들어 내는 현상.
- RAG: 지정된 자료에서 먼저 검색한 후, 답변을 구성하는 방식.
- Agent: 목표를 중심으로 지속적으로 결정하고 행동할 수 있는 시스템.
- MCP: AI를 외부 데이터 및 도구와 연결하는 개방형 프로토콜.
- CLI: 텍스트 명령어를 통해 컴퓨터를 조작하는 인터페이스.
몇 달 전, 저도 하루에 한 단어씩 이해하는 것부터 시작했습니다. 오늘 66개 단어를 모두 기억할 필요는 없습니다. 다음에 Agent, Skill, MCP라는 단어를 봤을 때 머릿속에 대략적인 그림이 떠오른다면, 이 사전은 그 역할을 다한 것입니다.
앞으로 낯선 약어를 만나면, 먼저 이것이 모델, 대화, 데이터, 에이전트, 인터페이스, 하드웨어 중 어떤 범주에 속하는지 물어보세요. 단어를 이 여섯 개의 서랍에 다시 넣을 수 있다면, 대부분의 AI 관련 글을 훨씬 쉽게 읽을 수 있을 것입니다.
저자 소개
