tag
#llm
16개의 글
바이브 코딩·하네스 엔지니어링 loop · agent
루프 엔지니어링 — LLM은 한 방이 아니라 반복으로 일한다
AI 결과물의 품질은 프롬프트가 아니라 루프에서 나옵니다. 생성→검사→수정→재검사 루프의 해부, 4가지 루프 유형, 이 블로그 글 5편이 lint를 통과한 실제 기록, 종료 조건 설계와 Goodhart 함정까지 정리합니다.
SEO·GEO seo · geo
Generative Engine Optimization 입문 — LLM 답변에 우리 브랜드를 노출시키는 새 SEO
ChatGPT·Perplexity·Claude·Gemini가 검색을 대체하는 시대의 새 SEO인 GEO(Generative Engine Optimization). LLM이 답변을 생성할 때 우리 브랜드가 어떻게 인용되도록 콘텐츠와 구조화 데이터를 설계할지 정리합니다.
AI·LLM llm · cost
LLM 운영 비용 폭주를 막는 6가지 guardrail — 마케팅 자동화의 cost·latency·품질 동시 관리
LLM을 운영에 올리면 어느 날 갑자기 비용이 10배로 튑니다. retry storm·프롬프트 폭증·모델 자동 승격·context 누적 등 폭주 패턴 6가지와 그것을 막는 guardrail을 정리합니다.
AI·LLM llm · evaluation
LLM evaluation harness — 분기마다 챗봇 품질을 자동 평가하는 공장
챗봇·에이전트가 운영에 들어가면 한 번 평가가 아니라 분기 자동 평가가 필요합니다. 골든셋·regression·hyperparameter A/B를 묶는 evaluation harness 설계와 마케팅 자리에서의 적용.
AI·LLM llm · context
Context engineering — 200k 토큰 컨텍스트의 설계 원칙 5가지
컨텍스트 창이 200k 토큰까지 커졌지만 단순히 다 넣으면 lost-in-the-middle·비용 폭발·정확도 하락이 옵니다. 마케팅 자동화에 적용하는 5가지 컨텍스트 설계 원칙.
AI·LLM llm · function-calling
Function calling 설계 패턴 — LLM이 도구를 부를 때 마케터가 점검할 것
LLM이 광고 API·BigQuery·Slack을 직접 부르기 시작하면, 답변 품질보다 "어느 도구를 언제 부를지"가 운영 사고의 진앙이 됩니다. function calling의 한 줄 직관과 마케터가 점검할 5가지.
AI·LLM llm · cost
LLM token economics — 자동화의 단위 경제학을 분기 보고로 끌고 가기
LLM 자동화의 비용은 호출 수 × 입력 토큰 × 단가로 빠르게 커집니다. 호출별 비용·일일 합계·모델별 단위 경제학을 분기 보고에 박는 한 가지 표 양식.
AI·LLM llm · agent
Multi-agent orchestration — supervisor·swarm·planner-executor 패턴 비교
한 LLM이 모든 일을 다 하면 결과가 흔들립니다. 여러 에이전트가 역할을 나눠 협업하는 multi-agent orchestration의 3가지 표준 패턴과 마케팅 자동화에 적용하는 자리.
AI·LLM llm · prompt-caching
Prompt caching 운영 경제학 — 같은 프롬프트를 1000번 보낼 때 비용을 90% 줄이는 법
시스템 프롬프트·페르소나·문서가 호출마다 동일하다면 그 부분을 캐시할 수 있습니다. Anthropic·OpenAI의 prompt caching 작동 원리와 마케팅 자동화의 비용을 90% 깎는 운영 패턴.
AI·LLM llm · structured-output
Structured output 운영 — JSON Schema와 강제 형식이 LLM 사고를 줄이는 법
LLM이 자유 텍스트로 답하면 파서가 깨집니다. JSON Schema·strict mode로 출력 형식을 강제하면 자유도는 줄지만 운영 안정성은 폭증. 마케팅 자동화에서 자주 만나는 자리와 함정.
AI·LLM llm · tokenization
LLM이 어떻게 답을 만드는가 — 토큰·다음 단어 예측·temperature 기초 체력
GPT·Claude·Gemini가 답을 어떻게 만드는지 한 번도 안 들여다보면 LLM 활용이 늘 신비로 남습니다. 토큰화·다음 단어 예측·temperature·top-p의 4가지 핵심만 잡으면 LLM이 왜 그렇게 답하는지 보입니다. 마케터가 LLM을 다룰 때의 첫 기초 체력.
AI·LLM hallucination · llm
LLM 환각이 일어나는 이유 — 자신 있게 틀린 답을 하는 자리의 이해
LLM은 모르는 자리에서 "모릅니다" 대신 그럴듯한 거짓을 만들어냅니다. 이 환각(hallucination)의 원인은 LLM이 통계적 토큰 예측기라는 본질에 있습니다. 왜 일어나는지·언제 가장 자주 발생하는지·어떻게 줄이는지를 마케터 시각으로 정리.
AI·LLM transformer · attention
트랜스포머 직관 — attention이 LLM의 핵심이 된 이유
"트랜스포머·attention"이라는 단어가 LLM 글에 늘 나옵니다. 정확히 뭐냐고 물으면 답하기 어렵죠. 마케터가 알아야 할 단 한 가지 직관 — "어느 단어가 어느 단어를 보고 있나" — 만 잡으면 LLM의 강점·약점이 보입니다. 수식 없이 풀어가는 트랜스포머 입문.
AI·LLM llm · ad-copy
LLM으로 광고 카피 100개 + CTR 예측까지 — 운영자용 4단계 워크플로우
카피라이터 한 명이 하루에 30개 만들 시간에, LLM은 100개를 5분에 만듭니다. 그런데 그 100개를 그대로 광고에 태우면 안 돼요. 임베딩으로 중복 제거하고 과거 CTR로 사전 스코어링하는 운영 파이프라인.
AI·LLM llm · agent
LLM 에이전트로 마케팅 리포트 자동화 — 실패 사례에서 본 한계
LLM 에이전트로 마케팅 리포트를 자동화할 때 어디까지가 진짜 쓸만하고 어디서 깨지는지, tool-use·환각 방지·실무 패턴을 마케터 시각으로 정리.
AI·LLM rag · llm
RAG 시스템을 정량 평가하는 4가지 지표 — 마케팅 챗봇을 만든다면
마케팅 FAQ 챗봇·내부 위키 검색을 RAG로 만들 때, "답변이 맞다"를 어떻게 숫자로 증명할까. context relevance부터 faithfulness까지 4가지 지표를 케이스로 풀어봅니다.