Магистр права

Page Assist — это расширение для Chrome, которое интегрирует локально работающие модели искусственного интеллекта в веб-браузер, предлагая функциональность боковой панели,

Text-generation-webui — это веб-интерфейс на основе Gradio для больших языковых моделей, поддерживающий различные серверные части и несколько режимов интерфейса. Он

KoboldCpp — это универсальный инструмент для генерации текста с помощью искусственного интеллекта, который поддерживает различные модели GGML и GGUF с

exllama — это экономичный с точки зрения памяти инструмент для выполнения преобразований лица с помощью моделей LLaMA с использованием квантованных

Llama.cpp это инструмент с открытым исходным кодом для эффективного вывода больших языковых моделей. Запускайте LLM-модели с открытым исходным кодом локально

VLLM — это высокопроизводительный, экономичный с точки зрения памяти механизм логического вывода для больших языковых моделей, обеспечивающий более быструю реакцию