İçeriğe geç
YENİHata doktoru ve Gözcü kulesi: başarısız n8n çalıştırmaları sade dille açıklanır ve size e-postayla gönderilir. Yeniliklere bak

Kütüphane / Kod, Git ve Geliştirici Araçları

Kod, Git ve Geliştirici Araçları

LM Studio'da Yerel LLM'leri Karşılaştır ve Sonuçları Kaydet

Bir sohbet mesajı alındığında aynı istemi birkaç yerel LM Studio modelinde çalıştırır, yanıt metriklerini ölçer ve sonuçları Google Sheets'e kaydeder.

Ne yapar

## 3. 💡Update the LM Settings From here, you can modify the following parameters to fine-tune model behavior: - Temperature: Controls randomness. Higher values (e.g., 1.0) produce more diverse results, while lower values (e.g., 0.2) make responses more focused and deterministic. - Top P: Adjusts nucleus sampling, where the model considers only a subset of probable tokens. A lower value (e.g., 0.5) narrows the response range. - Presence Penalty: Penalizes new tokens based on their presence in the input, encouraging the model to generate more varied responses.

Adımlar

  1. Get Models
  2. When chat message received
  3. Get timeDifference
  4. Run Model with Dunamic Inputs
  5. Analyze LLM Response Metrics
  6. Save Results to Google Sheets
  7. Capture End Time
  8. Capture Start Time
  9. Prepare Data for Analysis
  10. Extract Model IDsto Run Separately
  11. Add System Prompt
  12. LLM Response Analysis

Benzer otomasyonlar