PEFT 모델을 llama.cpp 으로 추론 해보자 sungjin 2024년 6월 27일 개발 0 댓글 huggingface 모델들과 PEFT 라이브러리의 조합은 몇 줄의 Python 코드로 나만의 모델을 만들 수 있게 해주었습니다. 특히, PEFT(Parameter-Efficient Fine-Tuning)는 시간과 메모리를 효율적으로 사용하게 도와주며 다양한 Downstream…