2. AI 모델의 기초: 파인튜닝 이해하기

AI 모델 학습

기초 학습 (사전 학습)

• 인터넷, 책 등에서 기본적인 지식 습득
• 언어의 규칙과 일반적인 지식 학습

전문 학습 (파인튜닝)

• 특정 분야(의료, 법률 등)에 대해 추가 학습
• 전문적인 대화나 작업 수행 가능
• 예시: 금융 상담 AI 만들기

[일반 모델] 
Q: OO증권의 자율주행 서비스란 무엇인가요? 
A: 자율주행은 인공지능과 센서를 활용하여 운전자의 조작 없이 차량이 스스로 주행하는 기술입니다. 
   현재 테슬라, 웨이모 등 여러 기업들이 개발 중에 있으며... 
   
[파인튜닝 모델] Q: OO증권의 자율주행 서비스란 무엇인가요? 
A: OO증권의 자율주행 서비스는 하나의 증권 계좌로 AI가 고객의 자산을 통합 관리해주는 서비스입니다. 
   고객의 투자성향에 맞춰 글로벌 ETF, 미국 주식, 연금저축 등 다양한 상품에 자동으로 투자하고 운용해줍니다. 
   직접투자와 간접투자를 모두 아우르는 포트폴리오 관리가 특징이며...

 

---

 

파인튜닝 학습 방법의 종류

만약 AI를 "거대한 인공지능 두뇌"라고 생각하면:

1. 전체 다시 배우기 (Full Fine-tuning)

• 인공지능 두뇌의 모든 부분(수억~수천억 개의 파라미터)을 수정
• 도서관의 모든 책들을 새로 정리하는 것과 같아요
• 특징
  • 더 정교한 결과를 얻을 수 있어요
  • 하지만 더 많은 시간과 비용이 필요해요
  • 컴퓨터 메모리도 많이 필요해요

2. 부분만 배우기 (LoRA;Low-rank adaptation 방식)

• 인공지능 두뇌의 일부분(핵심 파라미터만)만 수정
• 기존 도서관은 그대로 두고, 작은 ‘책꽂이’만 새로 추가하는 것과 같아요
• 특징
  • 적은 메모리로 가능해요
  • 빠르고 효율적으로 배울 수 있어요
  • 원본 모델 보존
    • 필요할 때만 어댑터(책꽂이)를 붙였다 뗐다 가능
  • Full Fine-tuning 거의 비슷한 수준의 결과를 얻을 수 있어요

---

파인튜닝할 때 주의할 점

AI도 처음 악기를 배우는 학생처럼, 좋은 선생님과 정확한 교재로 시작해야 실력이 제대로 늘 수 있어요!

1. 좋은 데이터 준비하기

피아노 학원에 비유하면

• 잘못된 준비:
  • 틀린 음표가 있는 악보 사용
  • 한 곡만 계속 연습
  • 악보마다 다른 형식 사용
• 올바른 준비:
  • 정확한 악보로 연습
  • 쉬운 곡부터 어려운 곡까지 골고루
  • 표준화된 악보 사용
• AI 학습도 마찬가지예요:
  • 검증된 금융 정보만 선별
  • 다양한 상담 사례 포함
  • 통일된 데이터 형식 사용

2. 무리한 학습은 역효과! (과적합 방지하기)

AI도 사람이 운동을 배우는 것처럼, 적절한 속도와 양으로 차근차근 배워야 좋은 결과를 얻을 수 있어요!

• 잘못된 훈련 방식:
  • 하루만에 1000개 팔굽혀펴기 도전
  • 결과:
    • 부상 위험
    • 제대로 된 자세 못 만듦
    • 오히려 실력이 안 늘어남

AI 학습에서도 비슷해요:

• 한번에 너무 많은 데이터 학습
• 결과:
  • OOM(Out of Memory) 오류 발생
  • GPU 과부하로 시스템 다운
  • 학습 결과가 오히려 나빠짐
• 올바른 방식:
  • 운동선수 예시
    • 하루 50개씩 꾸준히 연습
    • 점진적으로 개수 늘리기
    • 중간중간 휴식 포함
  • AI 학습
  • training_args = TrainingArguments( learning_rate=2e-5, # 천천히 학습 warmup_ratio=0.1, # 워밍업 단계 포함 weight_decay=0.01, # 적절한 난이도 유지 per_device_train_batch_size=4 # 한번에 적당한 양만 )