AnythingLLM в России: установка и подключение к API 2026

Что такое AnythingLLM и зачем он нужен

AnythingLLM — это универсальная open-source платформа, которая объединяет в одном интерфейсе всё необходимое для работы с языковыми моделями: чат с документами, RAG (Retrieval-Augmented Generation), AI-агентов и подключение к любому LLM-провайдеру. Проект разрабатывается компанией Mintplex Labs и распространяется бесплатно.

Главная идея AnythingLLM — дать пользователю возможность загрузить PDF, Word-документ, веб-страницу или базу знаний и немедленно начать диалог с этими материалами. Модель не просто отвечает из памяти — она ищет релевантные фрагменты в загруженных данных и строит ответ на их основе. Это и есть RAG в действии.

Помимо чата с документами, AnythingLLM поддерживает:

AI-агентов — автономные сценарии, которые могут искать в интернете, выполнять код, вызывать внешние API и решать многошаговые задачи;
Workspace-изоляцию — разные проекты, разные наборы документов, разные модели в одном интерфейсе;
Встроенный векторный поиск — LanceDB, Chroma, Qdrant, Pinecone и другие векторные базы;
Мультипользовательский режим — командная работа с разграничением прав доступа;
OpenAI-совместимый API — любой провайдер, поддерживающий стандарт OpenAI, подключается без дополнительного кода.

Для бизнеса AnythingLLM заменяет дорогостоящие корпоративные RAG-решения и позволяет развернуть собственную AI-инфраструктуру за считанные минуты — локально или в облаке.

Почему у пользователей из России возникают проблемы

AnythingLLM по умолчанию предлагает подключиться к OpenAI, Anthropic, Cohere и другим западным провайдерам. Для российских пользователей здесь возникает целый ряд препятствий:

Геоблокировка — OpenAI и Anthropic не принимают платежи с российских карт и блокируют регистрацию с RU IP-адресов;
Санкционные ограничения — использование западных сервисов через VPN создаёт юридические риски для компаний, работающих в правовом поле РФ;
Нестабильность соединения — даже при наличии VPN задержки и обрывы соединения делают работу с RAG-пайплайном ненадёжной;
Требования 152-ФЗ — персональные данные пользователей и корпоративные документы не должны обрабатываться на зарубежных серверах;
Проблемы с оплатой — большинство западных LLM-провайдеров не принимают карты российских банков.

Решение — подключить AnythingLLM к российскому OpenAI-совместимому API. PlusVibe API предоставляет доступ к GPT-4, Claude, Gemini и десяткам других моделей через инфраструктуру, доступную из России без VPN, с оплатой в рублях и соблюдением требований российского законодательства.

Установка AnythingLLM

AnythingLLM можно установить несколькими способами. Ниже приведены два наиболее удобных варианта для серверного и локального развёртывания.

Вариант 1: Docker (рекомендуется для сервера)

Docker-образ — самый простой способ запустить AnythingLLM на VPS или локальном сервере. Убедитесь, что Docker и Docker Compose установлены на вашей машине.

# Создайте директорию для данных
mkdir -p ~/anythingllm/storage

# Запустите контейнер
docker run -d \
  --name anythingllm \
  -p 3001:3001 \
  --restart unless-stopped \
  -v ~/anythingllm/storage:/app/server/storage \
  mintplexlabs/anythingllm:latest

# Проверьте, что контейнер запущен
docker ps | grep anythingllm

После запуска откройте браузер и перейдите на http://localhost:3001 (или замените localhost на IP вашего сервера). Мастер первоначальной настройки предложит создать аккаунт администратора и выбрать LLM-провайдера.

Если вы хотите использовать Docker Compose, создайте файл docker-compose.yml:

version: '3.8'
services:
  anythingllm:
    image: mintplexlabs/anythingllm:latest
    container_name: anythingllm
    ports:
      - "3001:3001"
    volumes:
      - ./storage:/app/server/storage
    environment:
      - STORAGE_DIR=/app/server/storage
    restart: unless-stopped

Запустите командой:

docker compose up -d

Вариант 2: npm (локальная установка)

Если Docker не подходит, AnythingLLM можно установить напрямую через Node.js. Требуется Node.js версии 18 или выше.

# Клонируйте репозиторий
git clone https://github.com/Mintplex-Labs/anything-llm.git
cd anything-llm

# Установите зависимости и соберите проект
yarn setup

# Или через npm
npm install
npm run build

# Запустите сервер
npm start

После запуска интерфейс будет доступен по адресу http://localhost:3001.

Примечание для Windows: доступна также десктопная версия AnythingLLM с установщиком. Скачайте .exe-файл с официального сайта anythingllm.com и запустите — установщик сам развернёт все компоненты.

Подключение к PlusVibe API

После первого входа в AnythingLLM вас встретит мастер настройки. На шаге выбора LLM-провайдера выберите «Generic OpenAI» или «OpenAI Compatible» — PlusVibe API полностью совместим со стандартом OpenAI.

Заполните поля следующим образом:

Base URL: https://plusvibeapi.ru/v1
API Key: ваш ключ с личного кабинета PlusVibe (формат sk-pv-...)
Model: название модели, например gpt-4o, claude-opus-4 или gemini-2.0-flash
Max Tokens: рекомендуется 4096 для большинства задач

Если мастер уже пройден и вы хотите изменить провайдера, перейдите в Settings → LLM Preference и укажите те же параметры.

Для Embedding-модели (векторизация документов для RAG) также выберите OpenAI Compatible и укажите:

Base URL: https://plusvibeapi.ru/v1
API Key: тот же ключ PlusVibe
Model: text-embedding-3-small или text-embedding-3-large

Нажмите «Save Changes» и «Test Connection» — AnythingLLM отправит тестовый запрос и подтвердит успешное подключение.

Пример запроса к PlusVibe API из AnythingLLM

Для понимания того, как AnythingLLM взаимодействует с PlusVibe API под капотом, рассмотрим прямой HTTP-запрос. Это полезно при отладке или интеграции в собственные скрипты.

curl -X POST https://plusvibeapi.ru/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer sk-pv-ВАШ_КЛЮЧ" \
  -d '{
    "model": "gpt-4o",
    "messages": [
      {
        "role": "system",
        "content": "Ты полезный AI-ассистент для работы с документами."
      },
      {
        "role": "user",
        "content": "Объясни, что такое RAG простыми словами."
      }
    ],
    "max_tokens": 1024,
    "temperature": 0.7
  }'

Пример ответа от API:

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "model": "gpt-4o",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "RAG (Retrieval-Augmented Generation) — это подход, при котором языковая модель перед формированием ответа сначала ищет релевантную информацию в базе знаний..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 45,
    "completion_tokens": 120,
    "total_tokens": 165
  }
}

Именно такие запросы AnythingLLM отправляет автоматически при каждом сообщении в чате — только дополнительно обогащая их контекстом из загруженных документов через векторный поиск.

Для использования в Python-скриптах или при интеграции с другими сервисами:

from openai import OpenAI

client = OpenAI(
    api_key="sk-pv-ВАШ_КЛЮЧ",
    base_url="https://plusvibeapi.ru/v1"
)

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "user", "content": "Привет! Расскажи о возможностях AnythingLLM."}
    ]
)

print(response.choices[0].message.content)

Загрузка документов и работа с RAG

После подключения API создайте Workspace (рабочее пространство) в AnythingLLM и загрузите документы. Поддерживаются форматы PDF, DOCX, TXT, MD, CSV, а также URL веб-страниц и YouTube-ссылки (транскрипция).

AnythingLLM автоматически разобьёт документы на чанки, векторизует их через Embedding-модель и сохранит в векторной базе. При каждом вопросе система найдёт наиболее релевантные фрагменты и передаст их в контекст модели — именно так работает RAG.

Для активации AI-агентов перейдите в настройки Workspace и включите режим «Agent». Агенты могут выполнять веб-поиск, запускать код на Python, работать с файловой системой и вызывать внешние API — всё это через PlusVibe без каких-либо ограничений для российских пользователей.

Итог

AnythingLLM — мощная и гибкая платформа для работы с LLM, RAG и AI-агентами, которая устанавливается за 5 минут через Docker и не требует специальных знаний для базовой настройки. Главная проблема для пользователей из России — недоступность западных LLM-провайдеров — решается подключением к PlusVibe API.

PlusVibe предоставляет:

Доступ к GPT-4o, Claude, Gemini и другим топовым моделям без VPN;
Оплату в рублях через российские карты;
Полную совместимость с OpenAI API — работает с AnythingLLM «из коробки»;
Инфраструктуру в соответствии с требованиями российского законодательства;
Низкие задержки и стабильное соединение для RAG-пайплайнов.

Зарегистрируйтесь на plusvibeapi.ru/register, получите API-ключ и подключите AnythingLLM к российскому LLM-провайдеру уже сегодня. Первые запросы — бесплатно.