Notice
Recent Posts
Recent Comments
Link
| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | 4 | 5 | 6 | |
| 7 | 8 | 9 | 10 | 11 | 12 | 13 |
| 14 | 15 | 16 | 17 | 18 | 19 | 20 |
| 21 | 22 | 23 | 24 | 25 | 26 | 27 |
| 28 | 29 | 30 | 31 |
Tags
- VirtualBox
- MacOS
- ai 모델 학습시키기
- Llama
- 파인튜닝
- LLM
- persona
- Quantization
- vibe coding
- php
- finetuning
- Xcode
- AI
- ollama
- IOS
- 양자화
- apache
- WWDC
- apple gpu
- 정보관리기술사
- MCP
- python
- SwiftUI
- swift
- MAC
- 클로드
- Claude
- HTTP
- Fine Tuning
- OSX
Archives
- Today
- Total
목록apple gpu (1)
Project Jo
파인 튜닝(Fine-tuning) + 양자화(Quantization) #2
지금까지 많은 자료를 찾아가며 파인 튜닝에 대한 접근을 진행해 왔다.FineTuning: 메모리 부족으로 llama3.1 8B 를 실행할수 없어서 포기Persona: 사전 지식이 많아지면 llama3.1 8B 의 프롬프트 갯수를 초과할수 있는 단점이 있어 포기LangChain: 정확도가 떨어지며 속도가 몹시 느려서 포기그러나 Apple 의 메일에서 "머신 러닝 튜토리얼 시작하기" 라는 링크가 보여 클릭해 보니 Xcode 의 Create ML 앱 영상 몇개를 보다보니 WWDC 에서 "Apple GPU에서 머신 러닝 및 AI 모델 학습시키기" 영상이 있는것이 아닌가!!Apple GPU에서 머신 러닝 및 AI 모델 학습시키기해당 영상을 보면서 다시한번 양자화가 가능하다면 로컬에서 파인튜닝에 문제가 없을것으로 ..
Developer/LLM
2025. 5. 9. 14:37