회고기간 : 2025.04.28월~2025.05.02금이번 주차는 fine tunning 기법에 대해 배웠다 Fine tunning- 이미 학습된 LLM을 특정 작업이나 데이터셋에 맞춰 재학습하는 기능- 프롬프트 엔지니어링만으로 해결하기 어려운 문제 해결- 모델 추가학습 없이 입력을 조정하하는 프롬프트 엔지니어링과 달리 모델을 재학습하여 특정 작업에 최적화 sLLMLLM의 축소판으로, 학습과 배포 비용을 줄이기 위해 설계sLLM은 파인튜닝이 비교적 간단하고 리소스가 적게 듦 (양자화가 필요없음)주로 제한된 연산 리소스를 가진 환경에서 활용sLLM 모델 (meta-llama/Llama-2-7b-hf) 사용해보기from transformers import AutoTokenizer, AutoModelForCa..
