Text-generation-webui — это веб-интерфейс на основе Gradio для больших языковых моделей, поддерживающий различные серверные части и несколько режимов интерфейса. Он позволяет быстро переключать модели, интегрировать расширения и динамически загружать LoRa для пользовательского обучения.
Oobabooga
Платформы: Магистр права
«- Что такое Убабуга? «»Text-generation-webui»» — это веб-интерфейс на основе Gradio, разработанный для больших языковых моделей и поддерживающий различные серверные части моделей, включая модели Transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF) и Llama.Он имеет три режима интерфейса: стандартный (две колонки), записная книжка и чат. Пользователи могут быстро переключаться между моделями с помощью выпадающего меню и расширять функциональность с помощью многочисленных встроенных и пользовательских расширений, таких как Coqui TTS для голосового вывода и Whisper STT для голосового ввода. Инструмент поддерживает чат с пользовательскими символами, точные шаблоны для моделей, следующих инструкциям, и динамическую загрузку пользовательских обучающих данных в LoRa.Кроме того, он интегрируется с библиотекой Transformers, позволяя моделям работать с различной точностью, и предоставляет сервер API, совместимый с OpenAI, для чата и доработки. Установка включает в себя запуск сценариев, зависящих от платформы, а Docker поддерживается для контейнерных сред.»»»
Основные функции
Пользователи также ищут: Пользовательский интерфейс на основе Gradio для LLMS, веб-интерфейс для генерации текста, веб-инструмент для создания большой языковой модели LLMS.
Примеры использования
♂️ Кто использует Oobabooga? Oobabooga используется различными группами пользователей и приносит им пользу, включая, но не ограничиваясь этим, некоторых из следующих пользователей: Пользователи llm с открытым исходным кодом, ищущие защиты конфиденциальности, разработчики искусственного интеллекта
