İçeriğe geç
YENİPazar yeri ve trig8n Agent: geliştirdiğinizi satın; planlar ve değişiklikler siz görmeden önce test edilsin. Yeniliklere bak

Kütüphane / İzleme, Operasyon ve Olaylar

İzleme, Operasyon ve Olaylar

LLM kullanımını ve maliyetini Google Sheets'te izleme

Bir form gönderildiğinde veya zamanlanmış olarak özel bir LLM alt düğümü belirteç kullanımını ve maliyeti Google Sheets'e kaydeder ve özetleri Gmail ile e-postalar.

Ücretsiz içe aktar Açmak için giriş yap

Ne yapar

## 4. Use Custom LLM Subnode to Track Usage & Cost [Learn more about the Langchain Code Node]({{ $env.WEBHOOK_URL }} By creating our custom LLM subnode using the Langchain Code node, we are able to tap into the chat completion's response which contains the token usage metadata for the information extractor request. With this, we can calculate exactly how much the client's request is costing per use! The only remaining step then is to store this data somewhere. Rather than importing more dependencies or hardcoding more credentials, a novel solution can be to attach a tool to our subnode. Here, we've decided to use the Google Sheets tool and append the client's usage metrics to the sheet. Check it out here - [Client Usage Log]( {{ $env.WEBHOOK_URL }}

Adımlar

  1. Client Usage Log
  2. Logging Attributes
  3. On form submission
  4. Custom LLM Subnode
  5. Display JSON Document
  6. Filter Last Month
  7. Get Client Logs
  8. Calculate Totals
  9. Every End of Month
  10. Send Invoice
  11. Parse PDF Upload
  12. Extract Resume Data
  13. Error Handler for 8884df86
  14. Error Handler for 10d95dcb

Toplam 16 adım.

Benzer otomasyonlar

Raporlar, Analitik ve PanolarMüşteri başına LLM token maliyetlerini izle12 adımİçerik Yazımı ve ÜretimiGoogle Sheets'ten LLM ile blog yazıları yayınlama39 adımVeri Senkronizasyonu ve ETLTesting Mulitple Local LLM with LM Studio13 adımVeri Senkronizasyonu ve ETLTesting Mulitple Local LLM with LM Studio13 adım