AnythingLLM - это универсальное настольное приложение для Mac, Windows и Linux, которое позволяет загружать и запускать любой LLM локально и приватно общаться с документами. По умолчанию LLM, вставки и даже база данных векторов хранятся локально и могут работать даже в 100% автономном режиме.
Если вы хотите использовать более мощные модели, вставки или векторные базы данных, вы можете подключиться к любому из 20+ интегрированных провайдеров, чтобы повысить производительность вашего экземпляра AnythingLLM.
Поставляется со встроенным Ollama, вам не нужно загружать ничего другого, чтобы получить полноценный RAG-чатбот с нулевой настройкой и полной конфиденциальностью. Загружайте PDF, mp3, текстовые файлы - что угодно!
AnythingLLM также поставляется с полным API для разработчиков, который можно использовать для пользовательских интеграций, и даже несколькими коннекторами для источников данных, таких как GitHub и YouTube.
AnythingLLM - это проект с лицензией MIT и полностью открытым исходным кодом, который вы можете изменять.
Если вам нужен многопользовательский опыт, AnythingLLM также имеет самостоятельный образ Docker, который поддерживает одновременную работу пользователей. AnythingLLM - это последнее решение для чатботов на основе RAG, которое вам когда-либо понадобится.
Отзывы