본문 바로가기

반응형

전체 글

[AI] 프롬프트 템플릿 파일 구조와 변수 정의 템플릿 본문과 관리 파일을 나누고 입력 변수 이름을 정하는 방법 프롬프트 파일 관리를 시작하면 "이 파일은 AI에게 보내는 건가, 내가 보려고 적은 메모인가?" 싶은 순간이 와요.지시문과 관리 설명이 한 파일에 섞이면 설명 문장까지 AI에 전달될 수 있거든요.이 글은 AI 프롬프트 라이브러리를 만드는 두 번째 단계예요. 어제 정한 라이브러리 구조를 실제 파일로 옮기면서, 템플릿을 본문 파일과 관리 파일로 나누고 입력 변수 이름을 정해 볼게요. 2026년 기준으로 설명하고, 메모장만 있으면 따라 할 수 있어요. 이 글에서 배울 내용은 '프롬프트 본문과 관리 정보를 파일 두 개로 나누는 이유', '입력 변수와 자리표시자가 무엇이고 어떻게 이름을 정하는지', '버전을 파일 이름에 남기는 기준', '가상 회의.. 더보기
[AI] 프롬프트 템플릿 라이브러리 설계 프롬프트 템플릿 라이브러리 설계 방법을 정리해요 같은 AI 지시문을 매번 처음부터 다시 입력해 본 적 있으세요? 프롬프트 템플릿 라이브러리는 이런 반복 지시문을 파일로 저장해 두고, 필요한 입력만 바꿔서 다시 쓰게 해 주는 도구예요. 지시문 표현이 조금씩 달라지면 결과가 왜 달라졌는지 설명하기 어려워지거든요. 이번 주에는 반복 프롬프트를 로컬 파일로 관리하는 작은 Python 프로그램을 만들어 볼 거예요. 첫날인 오늘은 코드를 짜기 전에 무엇을 만들고 어디까지 다룰지 설계부터 해요. 이 글은 2026년 기준으로 작성했고, 목표는 AI 답변을 자동으로 좋아지게 하는 것이 아니라 프롬프트를 재사용하고 바뀐 내용을 추적하는 거예요. 이 글에서 배울 내용은 프롬프트 템플릿과 라이브러리의 차이, Python.. 더보기
[AI] 모델이 크면 무조건 좋을까? 품질·속도·비용으로 고르는 방법 AI 모델이 크면 항상 좋을까요? AI 모델이 크면 답도 무조건 더 좋아질까요? 모델을 고를 때 이름이나 크기만 보고 결정했다가, 검토와 수정에 시간을 더 쓰는 경우가 있어요. 이 글에서는 AI 모델을 선택하는 방법을 필요한 품질, 작업을 끝내는 시간, 전체 비용이라는 세 가지 기준으로 정리하고 가상의 문서 추출 사례에 적용해 볼게요. 큰 모델이 항상 유리하지 않은 이유 모델의 크기와 실제 성능은 다른 질문이에요 모델의 '크기'는 보통 파라미터 수로 나타내요. 파라미터는 모델이 학습하면서 조정한 숫자들이라고 생각하면 돼요.앞 글에서 본 7B·70B도 이 숫자가 약 70억 개, 700억 개 규모라는 뜻이에요. 하지만 크기만으로 특정 업무의 정답률, 응답 시간, 요금을 알 수는 없어요.배기량이 큰 차가 좁.. 더보기
AI 모델 파라미터 수란? 7B·70B와 토큰 수가 다른 이유 AI 모델의 7B·70B는 파라미터 수를 뜻해요. AI 모델 이름에 붙은 7B와 70B, 입력 가능한 토큰 수를 뜻하는 걸까요?7B와 70B는 토큰 수가 아니라 모델의 파라미터 수를 나타내는 표기예요.파라미터 수를 기억할 수 있는 문장 수로 해석해도 서로 다른 개념을 섞게 돼요.이 글에서는 파라미터, 토큰, 컨텍스트를 구분하고 모델 설명의 숫자가 각각 어떤 질문에 답하는지 알아볼게요. 이 글에서 배울 내용은 '파라미터의 역할과 B 표기', '토큰과 컨텍스트의 차이', '모델 크기와 성능의 관계', '토큰화 결과로 모델 크기의 효과를 검증할 수 없는 이유.'를 알아보겠습니다. 모델 크기와 입력 길이를 읽는 다섯 가지 개념 파라미터는 학습 과정에서 조정되는 수치예요 모델은 입력을 계산할 때 많은 수치를.. 더보기
[AI] 대화가 길어지면 AI가 앞의 내용을 잊는 이유와 조건 정리법 대화가 길어지면 AI가 앞의 내용을 잊는 이유 분명 앞에서 ‘자동차는 빼주세요’라고 했는데 AI가 렌터카 일정을 짜준 적 있으세요?대화가 길어지면 AI가 앞의 내용을 잊는 이유는 하나로 단정할 수 없어요.필요한 내용이 현재 입력에서 빠졌을 수도 있고, 남아 있어도 제대로 활용하지 못했을 수도 있어요.중요한 조건을 짧은 작업 메모로 분리하고 결과를 항목별로 확인하면 어디에서 문제가 생겼는지 파악하기 쉬워져요.기억력 탓으로 넘기기 전에 원인을 나눠 보면 대처법도 훨씬 분명해져요. 이 글에서 배울 내용: 기록과 현재 입력의 차이, 정보 누락과 활용 실패, 조건 충돌, 작업 메모로 필수 정보 보존하기. AI가 앞의 내용을 잊는 이유 4가지 화면의 기록과 모델이 받은 입력은 다를 수 있어요 서비스 화면은 사.. 더보기
[AI] 컨텍스트 윈도우란? 입력과 답변의 토큰 예산을 계산하는 방법 컨텍스트 윈도우가 무엇인지 토큰 예산 예제로 알아봅니다. 컨텍스트 윈도우가 크면 긴 문서를 모두 기억하고 정확히 답할까요?긴 대화나 문서를 AI에 넣을 때는 입력 내용과 답변에 쓸 공간을 함께 생각해야 해요.이 글에서는 작은 숫자로 토큰 예산을 계산하고, 앞부분의 중요한 조건이 잘릴 수 있는 상황을 파이썬으로 확인해 볼게요.이 글에서 배울 내용은 '컨텍스트 윈도우와 저장된 대화의 차이', '입력·출력 토큰 예산 계산, 잘림' '시뮬레이션에서 필수 조건을 확인하는 방법' 등을 알아보려고 합니다. 컨텍스트 윈도우란? 먼저 구분할 네 가지 컨텍스트 윈도우는 영구 기억이 아니에요 컨텍스트 윈도우는 모델이 한 번의 처리에서 참고할 수 있는 문맥의 범위를 설명하는 개념이에요.서비스에 저장된 대화 기록과 지금 .. 더보기
[AI] 한글과 영어의 토큰 수 비교: 글자가 짧아도 토큰은 많을 수 있어요 한글과 영어 문장의 토큰 수를 tiktoken으로 직접 세어 비교해요. 혹시 한글로 쓴 문장이 영어보다 글자 수는 더 짧은데, AI 사용량은 오히려 더 많이 잡혀서 고개를 갸웃한 적 있으세요?ChatGPT나 Claude 같은 AI 서비스는 문장을 글자 단위가 아니라 토큰이라는 조각 단위로 읽고, 길이 제한과 사용량도 이 토큰으로 계산해요. 그래서 한글과 영어의 토큰 수를 비교해 보면 글자가 적은 문장이 언제나 적은 토큰으로 표현되는 것은 아니라는 점을 직접 확인할 수 있어요. 이 글의 숫자는 2026년 기준 tiktoken 0.14.0에서 측정한 결과예요. 코드를 처음 만져보는 분도 앞 글에서 설치한 환경 그대로 따라올 수 있으니 걱정하지 않으셔도 돼요. 이 글에서 알아볼 내용은 '글자 수와 토큰 .. 더보기
[AI] AI 모델 이름 읽는 법: 버전·성능 등급·서비스 요금제 구분하기 AI 모델 이름을 읽을 때는 회사, 모델 계열, 버전, 제공 방식을 나누어 확인하기 AI 모델 이름을 읽을 때는 회사, 모델 계열, 버전, 제공 방식을 나누어 확인하는 것이 좋습니다. 숫자가 크거나 이름이 길다고 모든 작업에서 더 좋은 모델이라는 뜻은 아니에요.이 글에서는 특정 시점의 순위를 외우는 대신 모델 설명을 비교표로 바꾸는 방법을 익혀볼 거예요. 이 글에서 배울 내용: 모델 계열과 버전, 성능·속도·비용의 선택, 서비스 요금제와 API의 차이, 작업에 맞는 비교표 작성법. AI 모델 이름에서 구분할 네 가지 정보 같은 회사도 목적이 다른 모델을 만들어요짧은 문의를 빠르게 분류하는 작업과 복잡한 코드 변경을 검토하는 작업은 요구 조건이 달라요.모든 요청에 가장 큰 자원을 쓰면 응답 시간이나 비용.. 더보기

반응형