Kütüphane / Kod, Git ve Geliştirici Araçları
Kod, Git ve Geliştirici Araçları
LM Studio'da Yerel LLM'leri Karşılaştır ve Sonuçları Kaydet
Bir sohbet mesajı alındığında aynı istemi birkaç yerel LM Studio modelinde çalıştırır, yanıt metriklerini ölçer ve sonuçları Google Sheets'e kaydeder.
Ne yapar
## 3. 💡Update the LM Settings From here, you can modify the following parameters to fine-tune model behavior: - Temperature: Controls randomness. Higher values (e.g., 1.0) produce more diverse results, while lower values (e.g., 0.2) make responses more focused and deterministic. - Top P: Adjusts nucleus sampling, where the model considers only a subset of probable tokens. A lower value (e.g., 0.5) narrows the response range. - Presence Penalty: Penalizes new tokens based on their presence in the input, encouraging the model to generate more varied responses.
Adımlar
- Get Models
- When chat message received
- Get timeDifference
- Run Model with Dunamic Inputs
- Analyze LLM Response Metrics
- Save Results to Google Sheets
- Capture End Time
- Capture Start Time
- Prepare Data for Analysis
- Extract Model IDsto Run Separately
- Add System Prompt
- LLM Response Analysis
Benzer otomasyonlar
Kod, Git ve Geliştirici AraçlarıLM Studio'daki Yerel LLM'leri Kıyaslama ve Sheets'e Kaydetme12 adımKod, Git ve Geliştirici AraçlarıYerel LM Studio modellerini karşılaştırma ve sonuçları kaydetme25 adımKod, Git ve Geliştirici AraçlarıYerel LM Studio modellerini karşılaştırma ve sonuçları kaydetme25 adımVeri Senkronizasyonu ve ETLTesting Mulitple Local LLM with LM Studio13 adım