Перейти к содержанию
НОВОЕМаркетплейс и trig8n Agent: продавайте то, что создали, и получайте планы и изменения, проверенные до того, как вы их увидите. Что нового

Библиотека / Чат-боты и боты для мессенджеров

Чат-боты и боты для мессенджеров

Чат с Mistral-7B через Hugging Face

При получении сообщения в чате базовая цепочка LLM отправляет его в модель с открытым исходным кодом Mistral-7B на Hugging Face и возвращает ответ.

Что делает

## This is an example of basic LLM Chain connected to an open-source model ### The Chain is connected to the Mistral-7B-Instruct-v0.1 model, but you can change this Please note the initial prompt that guides the model: You are a helpful assistant. Please reply politely to the users. Use emojis and a text. Q: {{ $json.input }} A: This way the model "knows" that it needs to answer the question right after the A: . Since Hugging Face node is this is an inference mode, it does not support LangChain Agents at the moment. Please use Ollama Chat Model node for that

Шаги

  1. When chat message received
  2. Basic LLM Chain
  3. Hugging Face Inference Model

Похожие автоматизации