Rubra - это инструмент с открытым исходным кодом, предназначенный для локальной разработки ИИ-ассистентов с использованием большой языковой модели (LLM). Задуманный с учетом пожеланий разработчиков, Rubra предлагает удобство и интеллект, аналогичные работе с ChatGPT от OpenAI.
Она дает возможность создавать приложения на базе ИИ в частном порядке и с минимальными затратами, позволяя разработчикам работать локально, что избавляет их от необходимости использовать токены для вызовов API.
Rubra включает встроенные, полностью сконфигурированные LLM с открытым исходным кодом, а также упрощает процесс разработки современных агентов на базе ИИ, которые могут взаимодействовать и обрабатывать данные из нескольких каналов локально.
Разработчики могут взаимодействовать со своими моделями и помощниками с помощью удобного интерфейса чата. В отличие от других движков для вывода моделей, в нем реализован OpenAI-совместимый API ассистентов, а также оптимизированный LLM.
Он разработан с учетом требований конфиденциальности, поскольку выполняет все процессы на локальной машине пользователя, гарантируя, что истории чатов и извлеченные данные никогда не выйдут за пределы локальной машины.
Более того, Rubra не ограничивается локальным LLM; она также поддерживает модели OpenAI и Anthropic. Участие в сообществе поощряется, и в репозитории Github предусмотрен вклад пользователей в виде обсуждений, сообщений об ошибках и вклада в код.
Отзывы