놓치기 쉬운 Max Positional Embedding
LLM을 다룰 때 간과하기 쉬운 Max Positional Embedding 개념을 다룰 예정인 글 (작성 예정)
LLM의 답변 컨트롤을 알아보자!
LLM이 답변을 생성하는 원리(Logit, Softmax)와 Temperature, Top-K, Top-P 파라미터가 확률분포에 미치는 영향을 단계별로 설명한 글
LLM Quantization 방법론 알아보기
LLM 양자화의 원리와 GPTQ, GGUF/GGML, QAT, AWQ 등 주요 양자화 방법론의 특징 및 장단점을 정리한 글
RAG 평가지표 정복하기
RAG 시스템의 Data(Chunking), Retrieval(Rank Aware/Unaware), Generation(Task/Domain specific) 3가지 카테고리에 걸친 평가지표를 총정리한 글
Chill칠치 못한 Function Calling
Tool Binding, Function Calling, Tool Calling의 차이와 LLM이 실제로 API를 어떻게 호출하는지 원리를 설명한 글
Model Context Protocol
Anthropic이 제안한 MCP(Model Context Protocol)의 개념, 필요성, 서버·클라이언트·호스트 구성요소 및 보안 고려사항을 소개한 글
Generations Never Easy
LLM과 RAG를 활용해 문장에서 5W1H와 인과관계 등의 메타 정보를 추출하는 High-Quality Synthetic Dataset 생성 실험을 소개한 글
Chroma야, Chunking 평가를 어떻게 한다고?
Chroma Technical Report를 번역 및 정리한 글로, 토큰 단위 IoU 평가 지표와 다양한 Chunking Strategy 비교 실험 결과를 다룬다
아무도 RAG 평가 셋 만드는 것에 관심가지지 않아~
RAG 평가 데이터셋의 품질 문제를 제기하고, Context·Question·Answer 분류 체계를 통해 목적에 align된 평가셋 제작 방법론을 제안한 글
UV써도 괜찮아~ 딩딩딩딩딩
Rust 기반의 고속 Python 패키지 매니저 uv의 등장 배경, 주요 이점, 기본 명령어(init/add/remove/sync/run/export)와 가상환경 사용법을 소개한 글
웅장한 대결 AI Agent와 Agentic AI
AI Agent와 Agentic AI의 개념 차이를 Anthropic, OpenAI, Google, LangChain, HuggingFace의 정의를 비교하며 정리한 글
그래서 제일 좋은 Chunking이 뭔데?
6가지 Chunking Strategy(Naive, Fixed Size, Overlap, Recursive, Sentence Window, Semantic)를 직접 실험하고 RC-Score로 종합 비교한 결과를 공유하는 글
Embedding을 평가하는 방법
Word2Vec, GloVe, Subword Embedding 등 다양한 임베딩 방식의 특성과 자체 성능 평가 방법론(Similarity Evaluation, Analogy Test, Downstream Task)을 탐구하는 글
Editorial Thinking
최혜진의 '에디토리얼 씽킹'을 RAG와 생성형 AI 관점에서 재해석하며, 인문학적 사고방식이 AI 기술 발전에 미치는 시사점을 다룬 글
Golden Gate Claude Review
Anthropic이 공개한 Golden Gate Claude 연구 데모를 통해 LLM의 내부 feature 활성화 조작이 모델 행동에 어떤 영향을 미치는지 살펴본 글
How to Reduce Hallucinations
RAG에서 Hallucination이 발생하는 근본 원인과 Grounding, Ground Check API, Agentic RAG 등 다양한 최소화 전략을 탐구한 글
Essence of RAG
RAG가 여전히 주목받는 이유와 그 본질을 'LLM 답변에 신뢰성 한 스푼을 첨가하는 방법론'으로 정의하며 Advanced RAG와의 연결고리를 탐구한 글
LLM과 Grounding
LLM의 Hallucination을 줄이기 위한 핵심 방법론인 RAG와 Grounding의 차이점과 각각의 활용 시나리오를 비교 분석한 글
Compounded AI System : The Shift from Models to Compound AI Systems
단일 LLM 모델에서 복합 AI 시스템(Compound AI System)으로의 전환 트렌드를 Berkeley AI Research Blog 원문을 바탕으로 번역 및 분석한 글