모델 크기 확장이 둔화되는 이유를 데이터 고갈, 수확 체감, 아키텍처 한계, 추론 비용 관점에서 정리합니다.
Study
AI and software study notes archive.
모델 로딩 최적화부터 세션 상태 제어, 스트리밍 UX, Streamlit-FastAPI 분리 아키텍처까지 실무 관점으로 정리합니다.
RAGAS의 핵심 지표와 작동 원리, Python 구현 예시, 운영 단계 활용 전략을 정리합니다.
RAG Triad를 기준으로 검색·생성을 어떻게 측정할지, 독립 평가와 종단간 평가 전략을 정리합니다.
Naive RAG의 한계를 넘어, 추론과 행동 루프로 동작하는 Agentic RAG의 핵심 패턴과 구현 전략을 정리합니다.
왜 전체 미세조정보다 PEFT가 실무 표준이 되었는지, 비용·성능·배포 관점에서 정리합니다.
데이터 파이프라인 관점에서 LangChain RAG를 설계·최적화하는 실무 가이드를 정리합니다.
BERT 계열 최적화부터 최신 생성형 LLM, 추론 특화 모델과 경량화 흐름까지 한 번에 정리합니다.
LLM 할루시네이션의 정의, 발생 원인, 위험성, 그리고 RAG·RLHF·추론 강화 등 최신 대응 전략을 정리한 노트.
모델 크기 확장이 둔화되는 이유를 데이터 고갈, 수확 체감, 아키텍처 한계, 추론 비용 관점에서 정리합니다.
Hugging Face 플랫폼과 Transformers 라이브러리의 핵심 구성, 동작 방식, 실전 활용 포인트를 정리합니다.
BERT와 GPT의 구조(Encoder vs Decoder), 학습 방향(양방향 vs 단방향), 주요 활용 분야를 비교 정리한 노트.
RNN 기반 Seq2Seq와 Transformer의 구조·연산·문맥 처리 차이를 비교하고, 트랜스포머가 표준이 된 이유를 정리한 노트.
토큰화, 정제, 정규화부터 정수 인코딩/패딩/특수토큰까지 NLP 성능을 좌우하는 전처리 파이프라인을 정리한 노트.
Word2Vec과 FastText의 핵심 차이(학습 단위), OOV 처리, 형태 정보 학습 능력, 실무 선택 기준을 정리한 노트.
RNN 기반 Seq2Seq의 정보 병목 한계를 어텐션이 어떻게 해결했는지, Query-Key-Value 원리와 트랜스포머로의 확장을 정리한 노트.
시맨틱 세그멘테이션의 핵심 개념(픽셀 단위 분류), 분류와의 차이, 네트워크 구조, 응용 분야를 정리한 노트.
GAN의 핵심 구조(생성자·판별자), 미니맥스 목표, 적대적 학습 루프를 수식/표와 함께 정리한 심화 노트.
Semantic Segmentation의 정의, 분류/탐지와의 차이, 인코더-디코더 구조, Skip Connection, Instance Segmentation 확장을 심화 정리한 노트.
확산 모델의 순방향/역방향 원리, 노이즈 예측 학습, GAN 대비 장점, 대표 응용을 정리한 심화 노트.
객체 인식 평가의 핵심 지표인 Precision/Recall/AP/mAP/IoU와 VOC·COCO 기준 차이를 실무 관점에서 정리한 노트.
YOLO가 객체 검출을 단일 회귀 문제로 바꾼 핵심 아이디어와 v1~v3 진화 포인트를 정리한 노트.
Faster R-CNN의 2단계 구조가 YOLO 계열에서 어떻게 흡수·단순화되었는지, 헤드/넥/출력 관점으로 정리한 노트.
CSP의 핵심 아이디어와 YOLO v4 이후 백본 구조 변화, v5 C3/SPPF, 최신 NAS 기반 CSP-like 설계 흐름을 정리한 노트.
사전학습 모델 선택부터 구조 변경, 동결 전략, 전처리, 재학습/평가까지 전이 학습의 실전 5단계 로드맵.
객체 인식 프로젝트를 데이터 준비부터 모델 설계, 학습, 추론/후처리, 평가까지 5단계 로드맵으로 정리한 노트.
CNN→AlexNet→VGG→ResNet 발전 흐름과 YOLO/SSD vs U-Net의 구조적 관계를 실무 관점으로 정리한 노트.
사전학습 모델을 백본으로 재사용해 이미지 분류/객체 탐지 모델을 효율적으로 학습하는 전이 학습 흐름을 정리한 노트.
리사이징과 정규화가 모델 구조 요구사항, 배치 처리, 학습 안정성, 스케일 일반화에 왜 필수인지 정리한 노트.
객체 탐지에서 데이터 증강이 왜 필수인지와 주요 증강 기법(회전/플립, 랜덤 지우기, 오클루전 생성)을 정리한 노트.
Residual Learning의 핵심 원리와 ResNet 계열(Pre-ResNet, WRN, ResNeXt, Res2Net, ResNeSt, ConvNeXt)의 발전 흐름을 정리한 노트.
LeNet-5부터 ResNet까지 CNN 아키텍처의 진화 흐름과 전이 학습 기반 실무 응용 전략을 정리한 노트.
오토인코더의 적용 상황(차원 축소, 특징 학습, 노이즈 제거, 이상 탐지, 생성)과 인코더/디코더 구조를 체계적으로 정리한 노트.
CNN의 핵심 레이어(합성곱, 풀링, 플래튼, 완전연결)와 계층적 특징 학습 원리를 정리한 노트.
미니배치의 정의, 장점, DataLoader 구현 포인트, 배치 크기 선택 전략을 실무 관점에서 정리한 노트.
PyTorch 텐서의 핵심 개념, NumPy와의 차이, 자동 미분과 GPU 활용, 실무 주의사항을 정리한 노트.
PyTorch와 TensorFlow를 그래프 방식, 모델 정의, 배포, 성능, 최신 트렌드 기준으로 실무 관점에서 비교한 노트.
Autoencoder/CNN 실습에서 자주 쓰는 성능 향상 기법을 역할·원리·주의점 중심으로 정리한 노트.
torch.nn.Module의 정의, 역할, 코드 구조, nn.functional과의 차이를 한 번에 정리한 노트.
PyTorch로 오토인코더를 구현하는 전 과정을 데이터 준비부터 학습/평가/시각화까지 단계별로 정리한 노트.
RNN을 언제 쓰는지부터 PyTorch 구현(데이터 준비, 모델 정의, 학습, 평가)까지 단계별로 정리한 노트.
LSTM의 핵심 아이디어와 PyTorch 구현(데이터 준비, 모델 정의, 학습, 평가), RNN과의 비교를 정리한 노트.
PyTorch로 GRU 모델을 구현하는 기본 예제와 핵심 코드 설명, LSTM과의 차이를 정리한 노트.
딥러닝 성능을 좌우하는 핵심 하이퍼파라미터 7가지를 목적과 실무 관점에서 정리한 노트.
PCA와 요인 분석의 목적, 원리, 차이점, 활용 시점을 비교 정리한 학습 노트.
AI > ML > DL 계층 구조와 각 개념의 역할, 대표 예시를 한 번에 정리한 노트.
지도학습의 핵심 개념과 CART→결정트리→앙상블(보팅/배깅/부스팅/스태킹)으로 이어지는 발전 흐름을 정리한 노트.
머신러닝 앙상블의 4가지 핵심 방법론(보팅, 배깅, 부스팅, 스태킹)의 특징과 장단점을 정리한 노트.
지도/비지도/강화학습의 큰 틀과 앙상블·부스팅의 위치 및 관계를 한 번에 정리한 노트.
부스팅의 핵심 원리와 AdaBoost, XGBoost, LightGBM, CatBoost 등 주요 계열의 특징을 정리한 노트.
CART의 핵심 원리(이진 분할, 불순도 최소화, 탐욕 분할, 가지치기)와 결정 트리의 장단점, 앙상블 연결을 정리한 노트.
CART의 핵심 원리(이진 분할, 불순도 최소화, 탐욕 분할, 가지치기)와 결정 트리 맥락에서의 의미를 정리한 노트.
편향-분산의 의미와 일반화 오차 분해, 정규화/검증을 통한 실전 운영 가이드를 정리한 노트.
결측치, 이상치, 중복값 처리의 개념과 실무 흐름, 그리고 세 가지 전처리의 연결성을 정리한 노트.
K-Fold 교차 검증의 구조와 K 선택 기준, 변형 기법, Grid Search 연계를 정리한 노트.
손실 함수의 의미, 경사하강법과의 관계, 회귀/분류에서의 활용, 정규화까지 정리한 학습 노트.
지도/비지도/강화 학습의 차이와 지도 학습의 회귀·분류 문제 유형을 정리한 노트.
편향-분산 트레이드오프와 정규화(L1/L2/Elastic Net)의 역할을 정리한 학습 노트.
EDA의 목적, 핵심 기법, 그리고 AI 엔지니어링에서의 역할을 정리한 학습 노트.
선형대수학이 AI 엔지니어링에서 데이터 표현, 연산, 알고리즘 구현의 기반이 되는 이유를 정리한 글.