Zum Inhalt springen
NEUMarktplatz und trig8n Agent: Verkaufen Sie, was Sie bauen, und erhalten Sie Pläne und Änderungen, die getestet sind, bevor Sie sie sehen. Neuigkeiten ansehen

Bibliothek / Chatbots & Messaging-Bots

Chatbots & Messaging-Bots

Chat mit Mistral-7B über Hugging Face

Wenn eine Chat-Nachricht eingeht, sendet eine einfache LLM-Kette sie an das Open-Source-Modell Mistral-7B auf Hugging Face und gibt die Antwort zurück.

Was sie bewirkt

## This is an example of basic LLM Chain connected to an open-source model ### The Chain is connected to the Mistral-7B-Instruct-v0.1 model, but you can change this Please note the initial prompt that guides the model: You are a helpful assistant. Please reply politely to the users. Use emojis and a text. Q: {{ $json.input }} A: This way the model "knows" that it needs to answer the question right after the A: . Since Hugging Face node is this is an inference mode, it does not support LangChain Agents at the moment. Please use Ollama Chat Model node for that

Die Schritte

  1. When chat message received
  2. Basic LLM Chain
  3. Hugging Face Inference Model

Ähnliche Automatisierungen