Если вы пришли за установкой, начните с раздела «Установка и первый запуск». Самый простой путь сейчас — поставить Unsloth Desktop для своей системы: приложение устанавливает Studio и запускает её в браузере. Есть и ручная установка через PowerShell или терминал; ниже — обе команды и первый адрес http://127.0.0.1:8888.
Сравнение ниже сверено по официальной документации продуктов на 30 сентября 2026 года. Интерфейсы и системные требования обновляются, поэтому перед установкой проверяйте ссылки на инструкции.
В этой статье есть четыре практических маршрута:
- установить Unsloth Studio;
- понять, какая модель влезет в видеопамять;
- добавить уже скачанную модель GGUF;
- исправить пустое окно, занятый порт или ошибку NVIDIA.
Ниже — подробно: чем Studio отличается от Ollama и LM Studio, как работает с картинками, документами и дообучением и в каких случаях бета пока не заменяет зрелый инструмент.
Ollama, LM Studio и Unsloth Studio решают пересекающиеся, но не одинаковые задачи. Поэтому сравнивать их по числу кнопок бессмысленно: важнее понять, нужен ли вам локальный чат, API для своих программ, инструменты агента или обучение модели.
Unsloth Studio объединяет локальный запуск моделей, чат, работу с файлами, генерацию изображений и обучение. Это бета, поэтому доступность функций зависит от системы и конкретной модели.
Мне в нём нравится одна вещь сильнее прочих: он сам решает, какая модель влезет в мой компьютер, и сам собирает параметры запуска. Дальше объясню, почему это важнее, чем звучит.
Установка и первый запуск
Самый простой вариант — установить Unsloth Desktop для Windows, macOS или Linux. Это отдельное настольное приложение, которое устанавливает и запускает браузерный интерфейс Studio.
Если нужна ручная установка, команда зависит от системы:
Windows PowerShell:
irm https://unsloth.ai/install.ps1 | iex
macOS, Linux и WSL:
curl -fsSL https://unsloth.ai/install.sh | sh
Установщик предложит запустить Studio. Если вы отказались или закрыли её, выполните unsloth studio -p 8888, затем откройте http://127.0.0.1:8888. При первом входе Studio попросит создать пароль. Повторный запуск той же команды установки обновляет Studio.
Требования зависят от системы и задачи. В актуальной инструкции указаны Python 3.11–3.13 и Git; для Linux/WSL с NVIDIA — драйвер и CUDA Toolkit. На macOS доступны чат и MLX; без ускорителя работают чат на GGUF и Data Recipes, но обучение требует поддерживаемого GPU или Mac-конфигурации. Перед установкой проверьте полный список требований: он меняется вместе с проектом.
Она сама решает, какая модель влезет в ваш компьютер
В Studio есть список Recommended с моделями, которые она предлагает для обнаруженного компьютера, и On Device с уже доступными моделями. Это упрощает первый выбор, но рекомендация не заменяет проверку размера модели, контекста и свободной памяти.
При выборе рекомендованной модели Studio подбирает параметры запуска. Ollama тоже показывает размер модели в библиотеке и позволяет управлять параметрами через API и Modelfile; LM Studio показывает требования к памяти и настройки загрузки в графическом интерфейсе. Разница здесь в том, насколько много настройки система предлагает сразу, а не в том, что одна из них заставляет выбирать вслепую.
Экономия здесь не в кнопках, а в вечерах. Человек, который первый раз ставит локальную модель, обычно тратит два-три захода на то, чтобы понять, почему 27 миллиардов параметров не помещаются в его ноутбук.
Уже скачанные модели она не заставляет качать заново
Вкладка On Device показывает модели, которые Studio обнаружила на компьютере. По документации она распознаёт кэш Hugging Face и позволяет выбрать дополнительную папку; расположение зависит от системы и настроек кэша. GGUF из LM Studio может лежать в другом каталоге, поэтому автоматическое обнаружение не гарантировано. Если файл не появился, добавьте папку вручную.
Для человека, у которого на диске уже лежит десяток моделей от прошлых экспериментов, это разница между «поставил и работаю» и «скачал ещё сорок гигабайт того же самого».
Во встроенном хабе есть и обратная сторона: раздел Discover с последними популярными моделями, фильтры по формату и типу модели, сортировка по свежести и популярности. Для одной и той же модели видны все варианты квантизации, и нужный скачивается одной кнопкой. Рядом лежит каталог датасетов с Hugging Face, они пригодятся в разделе обучения.
Настройки не спрятаны, а разложены на панели
После запуска модели справа открывается панель Run Settings. Там лежит конфигурация, с которой модель сейчас работает, и кнопка перезапуска. Для GGUF это во многом параметры llama.cpp, показанные в графическом интерфейсе.
Нужен более длинный контекст? Увеличили и нажали Restart. Хотите освободить часть оперативной памяти под другие задачи? Уменьшили. Если какого-то параметра в интерфейсе нет, в поле Extra Arguments передаются обычные аргументы llama.cpp руками, без правки файлов конфигурации.
Задать конфигурацию можно и заранее, до загрузки модели: в списке моделей наводите курсор на нужную и жмёте шестерёнку. Открывается та же панель, но теперь вы выбираете режим запуска до того, как гигабайты поедут в память.
У Ollama параметры модели задаются, в частности, через Modelfile и API. LM Studio даёт графические настройки и CLI lms; доступные параметры зависят от runtime и версии. Studio удобна мне тем, что показывает часть параметров llama.cpp рядом с чатом и оставляет поле для дополнительных аргументов. Это различие интерфейса, а не отсутствие настроек у конкурентов.
Текст и картинки в одном окне
Раздел Images — отдельное рабочее пространство для генерации и обработки изображений. Сначала выбираете модель, дальше переключаетесь между режимами.
Автор ролика, с которого я начал разбираться, скачал прямо из хаба Z-Image Turbo в формате GGUF с квантизацией Q4_K_M и прогнал четыре режима. Генерация по описанию. Image to Image, когда исходная картинка переносится в другую сцену с сохранением композиции. Inpaint, когда меняется только выделенный кусок: у робота заменили оранжевые панели на синие металлические, а видеокарта, ракурс и фон остались прежними. И расширение кадра, после которого из фрагмента получилась полноценная лаборатория, а исходная сцена осталась в центре.
Бытовая польза очевидна. Убрать с фотографии лишний предмет, переделать фон под другой формат, дорисовать поля у картинки, которая не влезает в обложку. Всё это раньше требовало либо подписки на облачный сервис, либо установки ComfyUI и вечера с графом узлов.
Ответ по вашему PDF, а не по памяти модели
Дальше самое ценное для обычного человека. В студии создаётся проект, в него прикрепляется документ, и файл становится общей базой знаний для всех чатов внутри этого проекта.
В ролике в проект положили годовой отчёт в PDF и попросили сравнить четыре финансовых показателя за два года. Модель сама нашла нужные фрагменты, сделала три обращения к базе и отдельно посчитала процент изменения: денежные средства уменьшились на 72,57%.
В этом примере ответ проверяемый: по клику на источник Studio открывает нужную страницу PDF рядом с чатом. Это свойство конкретного сценария и модели, а не гарантия точности каждого ответа.
При чате с локальной моделью документы обрабатываются на вашем компьютере. Но это не означает, что любая функция Studio работает офлайн: поиск в интернете обращается к сети, а удалённый доступ через Cloudflare передаёт соединение через туннель. Если документ нельзя отправлять за пределы компьютера, используйте локальную модель и не включайте сетевые функции; перед использованием в чувствительной среде проверьте актуальные настройки и поведение конкретной версии.
Что ещё получает обычный человек
Кроме чата и картинок, в меню лежат аудио для распознавания и синтеза речи, рецепты для подготовки датасетов, экспорт готовых моделей и API для подключения студии из других приложений.
Модель умеет искать в интернете сама. Каждый запрос и его результат показываются прямо в чате, а когда действие требует разрешения, студия спрашивает и ждёт вашего подтверждения. Умеет она и запускать код в песочнице, если задачу проще посчитать, чем угадать.
В чат кладутся картинки, PDF, документы Word, аудио и код. Есть режим сравнения двух моделей бок о бок, чтобы решить спор о том, какая лучше отвечает на ваших вопросах, замером, а не чтением бенчмарков.
Денег всё это не стоит. Ядро выложено под Apache 2.0, сама студия под AGPL-3.0.
Домашний сервер поднимается одной командой
Пункт, ради которого стоит дочитать. Студия запускается не только для себя, а сразу как сервер:
unsloth studio -H 0.0.0.0 -p 8888
Ключ -H 0.0.0.0 открывает порт на всех сетевых интерфейсах. При первом входе Studio просит создать пароль, но одного пароля недостаточно, чтобы считать такое подключение безопасным. Для доступа через интернет есть unsloth studio --secure: Studio остаётся привязана к localhost, а соединение проходит через HTTPS-туннель Cloudflare.
У Studio есть API, совместимый с OpenAI, и к нему можно подключить приложения, которые поддерживают такой формат. При локальном доступе запросы остаются в вашей сети; с Cloudflare-туннелем соединение идёт через инфраструктуру Cloudflare.
Важная граница безопасности: серверные инструменты — веб-поиск, выполнение Python и команд в терминале — работают с правами вашей учётной записи. По документации они включены по умолчанию. Тот, кто получил доступ к серверу и его API-ключу, может запускать код на этой машине. Не открывайте порт 8888 в интернет; для сети используйте только доверенных клиентов, храните ключ доступа отдельно, а при удалённом доступе отключайте инструменты флагом --disable-tools, если они не нужны. Документация по удалённому доступу описывает эти режимы.
Дообучение без единой строки кода
В обучении доступны методы от полного дообучения до LoRA и QLoRA. Unsloth заявляет поддержку более 500 моделей, а также ускорение до 2 раз и снижение расхода видеопамяти до 70%; это заявления разработчика, результат зависит от модели, оборудования и сравниваемой конфигурации. Список поддерживаемых устройств смотрите в системных требованиях.
Датасет грузится в привычных форматах: JSONL, JSON, CSV, Parquet, а также PDF и DOCX, из которых студия сама соберёт данные. Дальше выставляются параметры, и справа сразу собирается краткое резюме запуска, чтобы перед стартом проверить модель, датасет и настройки.
В ролике на Qwen3 4B взяли метод LoRA, локальный датасет JSONL с примерами работы кодинг-агента, две эпохи, контекст 8192, learning rate одну десятитысячную, ранг 32 и альфу 64. Обучение заняло около пяти минут, прошло 14 шагов, loss опустился примерно до 0,05. Во время работы на экране идёт мониторинг: текущий шаг, loss, learning rate, нормы градиента, обработанные токены, оставшееся время, а рядом загрузка видеокарты, занятая память, температура и энергопотребление.
Готовый результат выгружается в GGUF или в 16-битные safetensors и дальше живёт где угодно.
Обычному человеку дообучение не нужно почти никогда. Оно становится нужным ровно в один момент: когда модель должна отвечать в вашем формате и вашими словами, а промптом это уже не чинится.
Чего ждать от беты
Studio остаётся бета-проектом, а доступность функций различается между Windows, Linux, WSL и macOS. Например, для macOS документация отдельно указывает MLX, а для запуска GGUF без PyTorch установщик поддерживает режим UNSLOTH_NO_TORCH=1. Проверьте требования и размер моделей до установки: веса и окружение занимают заметное место на диске.
Если вам нужен инструмент, который просто работает третий год подряд, берите LM Studio. Если хотите видеть, куда идёт локальный ИИ, ставьте Unsloth Studio.
Видео, с которого я начал разбираться
Разбор снял автор канала ServerFlow, и снял хорошо: без восторгов, по шагам, с живыми запусками. Спасибо ему за работу, все экранные детали в этой статье я взял оттуда и сверил с документацией Unsloth.
Ссылки: ролик на YouTube и канал ServerFlow.
Когда что брать
Инструменты для локального запуска моделей не конкурируют напрямую, они отвечают на разные вопросы. Вот моя раскладка.
| Ваша задача | Что брать | Почему |
|---|---|---|
| Нужен | Подойдёт | Почему |
| --- | --- | --- |
| Графический чат, загрузка моделей и локальный API | LM Studio | чат, документы, API, CLI lms, MCP и серверные режимы |
| Локальный сервис для приложений и скриптов | Ollama | CLI и API; приложение для macOS и Windows также поддерживает чат и файлы |
| Чат, запуск моделей и обучение в одном интерфейсе | Unsloth Studio | включает запуск моделей, Data Recipes и обучение; функции зависят от платформы |
| Максимум контроля над запуском GGUF | LM Studio или Unsloth Studio | обе показывают настройки llama.cpp; детали и доступные параметры зависят от runtime и версии |
| Красивый общий веб-интерфейс на несколько человек | Open WebUI поверх Ollama | зрелые роли, чаты и администрирование |
| Максимальный контроль над параметрами и производительностью | llama.cpp напрямую | ничего лишнего между вами и движком |
| Много одновременных пользователей, промышленная нагрузка | vLLM или SGLang | пакетная обработка запросов и нормальная утилизация GPU |
Ollama удобно выбрать, если нужен локальный сервис с CLI и API или если приложение под него уже настроено. У Ollama есть и графическое приложение для macOS и Windows: оно умеет скачивать модели, общаться с ними, принимать документы и изображения поддерживаемых моделей. В поиске модели всё равно нужно смотреть на размер и требования конкретного тега, но это не уникальный недостаток Ollama.
LM Studio подходит тем, кому нужен графический интерфейс и инструменты для разработки: кроме чата, у неё есть локальный сервер, REST и OpenAI-совместимый API, CLI, MCP и работа с документами офлайн. Она поддерживает llama.cpp на разных системах и MLX на Apple Silicon. В интерфейсе доступны настройки модели; состав параметров зависит от runtime. Подробнее — официальная документация LM Studio.
Unsloth Studio выбирайте, если хотите в одном интерфейсе запускать модели, готовить данные и пробовать обучение. Её отличие — соседство этих сценариев и подбор части параметров запуска. Цена выбора — установка с дополнительными зависимостями и бета-статус. Во всех трёх случаях проверяйте поддержку нужной модели и оборудования, а для чувствительных данных — отключены ли сетевые функции.
А если ни один из вариантов не закрывает задачу, вопрос обычно не в инструменте. Скорее всего, вы пытаетесь запустить модель, которая в ваш компьютер не помещается.
Частые вопросы
Какая модель влезет в мою видеокарту
Вкладка Recommended предлагает варианты для обнаруженного оборудования, но окончательная совместимость зависит также от контекста, свободной RAM/VRAM и формата модели. Для GGUF ориентируйтесь на размер файла как на нижнюю оценку памяти и оставляйте запас под контекст и другие процессы. Ровное совпадение размера файла с объёмом VRAM не гарантирует запуск.
Когда модель не влезает, а нужна именно она, часть слоёв выгружается в оперативную память — как, написано ниже.
Как переключить обучение на процессор
Для обычного CPU-режима документация указывает чат на GGUF и Data Recipes; обучение без поддерживаемого ускорителя не заявлено. При этом Unsloth отдельно перечисляет обучение на NVIDIA, Intel, AMD и Mac-конфигурациях с MLX. Сверьте конкретную модель и устройство с системными требованиями перед подготовкой датасета.
Если видеокарты нет, а дообучить модель надо, берите арендованный GPU: тот же датасет и те же параметры запускаются в Colab или на любой облачной машине, а результат в GGUF возвращается к вам.
Как запустить на Ubuntu
Одной командой, той же, что на macOS и в WSL:
curl -fsSL https://unsloth.ai/install.sh | sh
Официальная инструкция указывает Ubuntu 20.04 или совместимый 64-битный дистрибутив, Python 3.11–3.13 и Git. Для NVIDIA нужен драйвер; CUDA Toolkit 12.4 или новее рекомендуется, а для Blackwell указана версия 12.8 или новее. После установки откройте http://127.0.0.1:8888 и задайте пароль при первом входе. Требования могут измениться — перед установкой сверяйтесь с официальной страницей.
Если nvidia-smi не найден, проверьте установку драйвера NVIDIA. Если nvcc не найден, установите CUDA Toolkit или добавьте его каталог bin в PATH. Ошибка сборки llama.cpp может быть отдельной проблемой: инструкция Unsloth советует проверить наличие cmake и повторить установку.
Как добавить свою модель
Studio автоматически находит часть ранее скачанных моделей в кэше Hugging Face. Для GGUF из LM Studio путь может отличаться; если модель не появилась, выберите папку с моделями вручную или укажите доступный путь. На Windows, macOS и Linux расположение кэша разное, его также меняют переменные HF_HOME и HF_HUB_CACHE.
Когда модель лежит совсем в стороне, путь передаётся движку напрямую через поле Extra Arguments:
--model /путь/к/папке/моя-модель.gguf
При запуске открывается пустое окно
Разбирайтесь по порядку, а не перезапускайте наугад.
- Посмотрите в терминал: студия печатает адрес и сообщение о запуске сервера. Если там ошибка, дальше идти незачем.
- Проверьте, не занят ли порт прошлым запуском. Сообщение «already running on port 8888» лечится командой
unsloth studio stop, после которой можно стартовать заново или выбрать другой порт. - Откройте
http://127.0.0.1:8888/api/health. Сервер жив, а окно пустое — дело в браузере, смотрите консоль разработчика. - Если студия не отвечает с другого устройства, это не поломка, а адрес: по умолчанию она слушает
127.0.0.1, то есть только сам компьютер. Сеть открывается ключом-H. - Остаётся оборванная сборка движка. Удалите
~/.unsloth/llama.cppи запустите установку заново.
Как сменить порт, как удалить и есть ли русский интерфейс
Порт и адрес задаются ключами при запуске: -p — порт, -H — интерфейс, на котором студия слушает.
unsloth studio -H 0.0.0.0 -p 8888
Удаляется отдельным скриптом, а не вычищением папок руками:
curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.sh | sh
В PowerShell то же самое: irm https://raw.githubusercontent.com/unslothai/unsloth/main/scripts/uninstall.ps1 | iex.
Интерфейс английский, переключателя языка в нём нет. На ответы модели это не влияет: спрашиваете по-русски — отвечает по-русски, язык интерфейса и язык разговора здесь не связаны.
Как выгрузить часть слоёв из видеопамяти
Через те же аргументы llama.cpp, в поле Extra Arguments. Сколько слоёв остаётся на видеокарте, задаёт --n-gpu-layers: уменьшаете число — освобождаете видеопамять и теряете в скорости, остальное считает процессор.
--n-gpu-layers 20
У моделей с экспертами выгоднее убрать в процессор именно блоки экспертов, а внимание оставить на карте:
-ot ".ffn_.*_exps.=CPU"
Так модель, которая целиком не помещается, всё-таки запускается на домашней карте — медленнее, но работает.
Чем она отличается от LM Studio, Ollama и llama.cpp
Сводка по задачам и возможностям — в таблице выше. Коротко: Ollama сильна как CLI и локальный API, LM Studio сочетает графический интерфейс с API, CLI и работой с документами, а Unsloth Studio добавляет в тот же интерфейс подготовку данных и обучение. llama.cpp — движок инференса, который используют разные оболочки; запуск напрямую даёт больше ручного контроля, но требует самостоятельно задавать параметры.