GPT не всемогущ. Когда он не справляется с задачей, стоит ли продолжать попытки в Codex или переключиться на другую модель? Когда одной модели недостаточно, нужно подумать о смене моделей, дополнении данных или предоставлении ей возможности использовать инструменты.
До выхода Codex я пользовался Cherry Studio, и многие мои друзья, глубоко погружённые в AI, тоже его используют. Сегодня давайте поговорим о том, что он может делать и как настроить эту рабочую среду, чтобы она работала на вас гладко.
1. Что может Cherry Studio
Cherry Studio — это десктопное AI-программное обеспечение с открытым исходным кодом. GPT, Claude, DeepSeek, Kimi, а также модели, запущенные на вашем собственном компьютере, — все они могут быть подключены через соответствующие интерфейсы и использоваться в одном и том же программном обеспечении.
Самое привлекательное для меня — это то, что, хотя модели можно менять, часто используемые материалы, требования к написанию текстов и инструменты остаются в этой рабочей среде.
Например, при написании статьи, если вступление вас не устраивает, вы можете дать один и тот же материал нескольким моделям одновременно, попросить каждую написать свой вариант и сравнить их рядом. Как только выберете удачное направление, продолжайте редактировать там, без необходимости повторно вставлять текст между разными сайтами чатов.
Если вы хотите сохранить две версии, откройте «Ветку» и редактируйте их отдельно. Если после нескольких раундов вы поймёте, что исходный вариант был лучше, вы можете вернуться к предыдущей развилке. Требования к тону и форматированию можно сохранить как «Помощников», чтобы не объяснять их каждый раз заново.
Ваши собственные статьи, руководства по продуктам и проектные документы можно поместить в Базу знаний. При необходимости позвольте AI искать исходный текст и отвечать на основе данных; если вы смените модель, эти данные всё равно будут доступны.
Чтобы генерировать документы Word из шаблонов, упорядочивать папки или создавать функциональную веб-страницу, вы можете поручить это Агенту. После настройки модели и инструментов он сможет читать материалы и работать с файлами. Когда он закончит, откройте файл для проверки, и если что-то не так, попросите его изменить.
В программном обеспечении также есть встроенные функции для перевода, рисования и т. д. Если вы хотите попробовать модели с открытым исходным кодом или локальные модели с меньшим количеством ограничений, вы можете подключить их через Ollama или LM Studio, о чём я расскажу отдельно позже.
Эти распространённые функции имеют готовые точки входа; просто настройте модель и необходимые сервисы, чтобы использовать их, без необходимости писать код с нуля.
2. Установка Cherry Studio
Откройте Официальную страницу загрузки Cherry Studio.
Для Mac выберите ARM64 для Apple Silicon или x64 для чипов Intel. После открытия установщика перетащите его в «Программы». Для Windows обычно выбирайте установщик x64; для устройств ARM — ARM64.
При первом открытии вы можете нажать «Настроить позже», чтобы сначала войти в программу.
«Чат» слева предназначен для написания текстов и вопросов; «Работа» — это место, где Агенты выполняют задачи; «База знаний» хранит материалы для многократного поиска. Настройка модели осуществляется через «Настройки» в левом нижнем углу.
Вкладки вверху похожи на браузер. Вы можете оставить страницу чата открытой, пока настраиваете модели, а затем переключиться обратно для тестирования, не выходя из программы каждый раз.
3. Подключение моделей
После установки необходимо подключить модель. Само программное обеспечение бесплатно, но вызовы моделей могут быть платными; оплата взимается поставщиком модели.
Если вам нравится использовать Kimi, подключите API Moonshot; для DeepSeek — API DeepSeek. Вы также можете выбрать платформы, предоставляющие несколько моделей, например SiliconFlow, чтобы использовать разные модели в одной учётной записи. Начните с одной, а когда захотите сравнить, добавьте вторую.
API здесь можно понимать как «интерфейс для использования этой модели в Cherry Studio». Вам не нужно писать код; просто получите строку, называемую API-ключом, и вставьте её в программу.
API-ключи создаются на «Открытой платформе» поставщика. Даже если у вас есть подписка на чат, обычно нужно отдельно проверить, есть ли средства на API, так как они часто тарифицируются по-разному.
Возьмём Kimi в качестве примера: зарегистрируйтесь или войдите в Открытую платформу Moonshot, найдите управление API-ключами и создайте ключ. Проверьте, есть ли на счёте доступные средства; если нет, следуйте требованиям платформы для активации. Начните с небольшого бюджета.
Вернитесь в Cherry Studio, откройте «Настройки → Сервисы моделей», найдите «Moonshot», вставьте ключ, включите сервис и нажмите «Получить список моделей».
В списке может быть несколько названий; добавьте то, которое планируете использовать. Вернитесь на страницу чата, нажмите на название модели вверху, чтобы переключиться на неё. Отправьте короткое сообщение; если оно отвечает нормально, подключение прошло успешно.
То, что вы подключаете, — это API модели; веб-функции и преимущества подписки Kimi не переносятся. Здесь вы используете интерфейс и инструменты Cherry Studio.
Если друг или компания предоставили вам набор интерфейсов, но поставщика нет в списке, нажмите «Добавить поставщика» внизу. Обычно вам понадобится эта информация:
Название поставщика может быть любым, которое вы узнаете, например «Тестовый интерфейс компании». Идентификатор модели (Model ID) не может быть произвольным; это имя, которое сервер использует для идентификации модели. Если получение списка не удалось, добавьте его вручную, если идентификатор предоставлен.
Если подключение не удалось, проверьте ошибку. Если ключ недействителен, убедитесь, что он скопирован полностью и вставлен в нужное место; если недостаточно средств, проверьте баланс поставщика; если модель не существует, проверьте Model ID. Адрес и тип интерфейса также должны соответствовать документации поставщика.
Как только модель сможет общаться в чате, попробуйте изображения, файлы и вызовы инструментов. Текстовый ответ не означает, что она поддерживает все функции, особенно для Агента в дальнейшем.
Что касается выбора между официальными и сторонними сервисами, я рекомендую начинать с официальных интерфейсов, чтобы упростить устранение неполадок. Сторонние сервисы тоже подходят, но нужно знать, кому отправляются данные, какова цена и кто предоставляет модель. Название, совпадающее с названием модели, не доказывает, что за ним стоит тот же сервис.
Не вставляйте API-ключи в логи чата или публичные скриншоты; другие могут использовать ваши средства.
4. Тестирование моделей
После подключения протестируйте их на материалах, которые вы часто используете, например, на черновике, заметках с совещания или описаниях продуктов. Знакомство с материалом облегчает выявление того, не упустил ли ответ что-то.
Например, чтобы обобщить длинный материал в короткое сообщение для коллеги, дайте двум моделям одно и то же задание:
1Обобщите следующий материал в сообщение для коллеги, не более 200 слов.23Сохраните подтверждённые выводы, ответственных лиц, сроки и нерешённые вопросы.4Не добавляйте того, чего нет в оригинале; не пишите предварительные пункты как подтверждённые.5Без вступления, дайте текст сразу.67Материал:8Вставьте исходный текст сюда.
При сравнении обращайте внимание на: был ли соблюдён срок? Было ли «предварительная пятница» изменено на «завершено в пятницу»? Это можно проверить по оригиналу, не оценивая «интеллект» по тону.
Откройте селектор моделей вверху чата, включите выбор нескольких моделей, отметьте две или три настроенные модели и отправьте один и тот же вопрос.
Если одна модель лучше справляется с черновиками, а другая — с проверкой пропусков, вы можете использовать их отдельно в дальнейшем, вместо того чтобы заставлять одну делать всё.
Чтобы проверить скорость, перейдите в «Настройки → Внешний вид» и включите «Показывать примерное количество токенов». После ответа проверьте статистику, чтобы сравнить время до первого токена, токены в секунду и примерное использование.
Токены — это единица обработки модели; не воспринимайте их как точное количество слов. Эти статистические данные помогают отслеживать затраты, но окончательный счёт зависит от поставщика.
Модели для написания текстов стоит тестировать дальше. Попросите её «сохранить второй абзац, изменить только вступление, не трогать цифры», чтобы увидеть, не изменит ли она случайно другие части. Необходимость каждый раз перепроверять весь текст при изменении одного предложения очень утомительна.
Сохраняйте общие тестовые вопросы и материалы в виде заметок. При подключении новой модели прогоняйте их снова. Всегда начинайте новую тему для сравнений, используя идентичные материалы, чтобы избежать влияния предыдущего чата.
Вам не нужно спрашивать каждую модель каждый раз. Множественный выбор отправляет отдельные запросы, каждый из которых может стоить денег и отправлять данные в эти сервисы. Используйте его для выбора схем или заголовков; как только направление выбрано, продолжайте работу с одной моделью.
5. Управление работой с помощью веток
Если вы дошли до пятой версии, но внезапно почувствовали, что вторая была лучше, или хотите попробовать два способа написания одного и того же плана, вы можете создать ветку от соответствующего сообщения.
Найдите сообщение, которое хотите сохранить, откройте меню сообщения и выберите «Ветка». Новый путь сохраняет контекст до точки ветвления, и последующие обсуждения записываются отдельно, не перезаписывая исходный путь. Переключайтесь обратно с помощью менеджера веток.
Например, если у статьи есть план, но вступление не определено, создайте две ветки: одну, начинающуюся с вывода, другую — с конкретного сценария. Редактируйте обе в течение нескольких раундов, посмотрите, какая лучше, и продолжайте с неё. Вам не нужно удалять одну, чтобы попробовать другую.
Для небольших правок просто продолжайте в том же чате. Если хотите сохранить обе версии, используйте ветку.
Если вы часто выполняете однотипную текстовую работу, сначала создайте Помощника. Перейдите в «Чат → Добавить помощника», дайте ему узнаваемое имя, например «Редактор статей», и сохраните долгосрочные требования:
1Ты помогаешь мне редактировать статьи на русском языке для широкой аудитории.23В первую очередь сохраняй факты и конкретные примеры из черновика.4Удаляй «воду», не содержащую новой информации; не добавляй информацию об авторе.5Когда я указываю абзац для редактирования, редактируй только его.6Указывай на утверждения без доказательств; не выдумывай источники.
Помощники хранят долгосрочные привычки. Конкретные темы статей, материалы и требования к объёму должны оставаться в текущей теме, чтобы не переноситься на следующую.
При рецензировании откройте другую ветку и позвольте модели только находить проблемы:
1Проверь этот черновик, не переписывай.23Сверяясь с предоставленными мной материалами, найди:41. Факты или цифры, не подтверждённые оригиналом.52. Места, где «возможно» или «предварительно» стало подтверждённым.63. Повторяющиеся объяснения, которые можно удалить.78Для каждого пункта процитируй оригинал и объясни проблему. Если основание не найдено, напиши «требуется источник».
Смена модели для рецензирования иногда позволяет найти проблемы, которые пропустила предыдущая. Однако контент, одобренный обеими, всё равно может быть ошибочным; всегда проверяйте важные факты по исходным данным.
Если вы только редактируете статьи, вам не нужно давать модели терминал, браузер или файловые инструменты. Отключение ненужных инструментов уменьшает количество лишних инструкций.
При переходе к Агенту для работы с файлами не забудьте передать ему окончательный черновик и требования. Предыдущий разговор не будет автоматически полностью перенесён; явно укажите, какую версию использовать.
6. Передача задач Агентам
Когда черновик готов и его нужно отформатировать в Word или экспортировать в PDF, перейдите в «Работа» слева. Подготовьте рукопись и шаблон.
Нажмите «Добавить агента», назовите его по назначению, например «Организатор данных». Выберите режим работы, затем поддерживаемую модель и заполните требования. После создания вы можете настроить инструменты, разрешения, навыки и базы знаний на странице редактирования.
Режим работы влияет на то, какие модели и разрешения доступны; выбирайте на основе списка текущего режима. Модели для обычного чата не обязательно подходят для Агентов. После выбора режима его нельзя переключить напрямую; потребуется создать нового Агента.
В некоторых режимах есть модели Main, Plan и Small для основной работы, планирования и лёгкой обработки. Для начала используйте одну и ту же модель для всего, чтобы сначала освоиться.
Затем создайте новую задачу и выберите рабочий каталог. Используйте выделенную папку для практики с копиями материалов. Если есть разрешение «Подтверждать каждый раз», используйте его, чтобы видеть, что Агент планирует читать, запускать и записывать.
Даже если выбран рабочий каталог, проверьте разрешения инструментов. Некоторые инструменты могут по-прежнему получать доступ к файлам вне каталога; не включайте «Полный доступ» в первый раз.
Можно начать с неконфиденциальных заметок с совещания, чтобы организовать прогресс проекта:
1Прочитай заметки с совещания в текущем каталоге и составь отчёт о прогрессе проекта.23Не изменяй, не перемещай и не удаляй исходные файлы.4Организуй по разделам: Завершено, В работе, Требуется подтверждение.5Ответственные лица и сроки должны быть из оригинала; если не указаны, пометь «TBC».6После каждого пункта укажи имя исходного файла.78Сначала выведи список найденных файлов и план для моего подтверждения.9После подтверждения создай новый файл: Project_Progress.md.
Проверьте, правильные ли файлы она нашла, затем подтвердите план. После создания файла откройте его для проверки, особенно имена, даты и убедитесь, что пункты «TBC» не были записаны как подтверждённые.
При попытке работы с Word или PDF может потребоваться установка соответствующих инструментов для работы с документами или зависимостей. Откройте файл в области вывода или рабочем каталоге, чтобы проверить содержимое и форматирование.
Если Агенту нужно искать данные в интернете, перейдите в «Настройки → Поиск в интернете» и настройте сервис, например Exa. Получите API-ключ для поиска, протестируйте его и проверьте, включён ли инструмент поиска у Агента.
Поиск требует отдельной настройки и имеет свои квоты и тарифы. Без него модель может отвечать только на основе имеющихся знаний, не проверяя информацию в интернете.
Если поиск находит страницу, но задача требует нажатия кнопок, прокрутки или загрузки файлов, могут понадобиться возможности управления браузером. Обратитесь к навыку Playwright CLI в управлении навыками, установите его и назначьте Агенту.
Навыки — это наборы инструкций, например, как управлять браузером или генерировать документы. Некоторые требуют сопутствующих инструментов; настройте их и запустите небольшую задачу для тестирования.
MCP используется для подключения внешних инструментов и сервисов, например, для предоставления Агенту доступа к бизнес-системе. Добавьте сервис в «Настройки → MCP», настройте в соответствии с инструкциями и привяжите его в настройках MCP Агента после успешного подключения.
Для локальных заметок с совещаний достаточно файловых инструментов. Устанавливайте навыки браузера и MCP только при необходимости, чтобы избежать устранения неполадок с неиспользуемыми конфигурациями.
В технических демонстрациях Агенты выполняли три типа задач: поиск и загрузка электронных учебников, создание учебных материалов в Word и PDF по образцам, превращение физических задач в интерактивные веб-страницы с настраиваемыми параметрами.
При постановке подобных задач чётко указывайте названия учебников, образцы файлов и параметры. Чем конкретнее требования, тем легче их проверить.
Задачи, которые хорошо работают в Codex, могут там и остаться. Cherry Studio предлагает другой выбор: попробовать разные модели для одной и той же работы или настроить разные инструменты для разных целей.
Используйте одного и того же Агента для еженедельных отчётов о прогрессе; для нового проекта создайте новую задачу и выберите соответствующую папку. Создайте отдельного Агента для создания веб-страниц, чтобы инструменты и требования были различными.
7. Создание базы знаний
Выберите набор материалов, которые вы будете использовать многократно, например, руководства по продуктам или исторические статьи. Для файлов, читаемых только один раз для текущего вопроса, загружайте их непосредственно в чат, вместо создания базы.
После создания базы программное обеспечение разбивает данные на сегменты. Когда вы задаёте вопрос, оно сначала находит релевантный исходный текст, затем передаёт его модели чата для организации ответа; данные сохраняются и извлекаются отдельно, они не обучаются в модели.
Откройте «Базу знаний» слева, нажмите «Добавить» и назовите её по назначению, например «Руководство по послепродажному обслуживанию продукта». В первый раз установите «Модель эмбеддинга» на «Не использовать», чтобы всё же разрешить поиск по ключевым словам.
Добавьте один или два знакомых файла, дождитесь обработки и проверьте, нормально ли распознан текст. Особенно проверяйте отсканированные PDF; если текст не распознан, его нельзя будет найти.
Перейдите в «Тест извлечения» в этой базе знаний и задайте вопрос с чётким ответом. Извлечение покажет, какие сегменты были найдены. Если в руководстве есть условия возврата, спросите «Можно ли вернуть товар после вскрытия упаковки?» и проверьте, является ли результат именно этим условием.
Это показывает извлечённые исходные сегменты, поэтому вы можете напрямую проверить точность, не гадая по ответу модели.
После подтверждения вернитесь в чат, нажмите кнопку добавления в области ввода, выберите «База знаний» и отметьте базу. Как только название появится в области ввода, задайте свой вопрос:
1На основе выбранных данных о продукте, составьте список наиболее частых вопросов по послепродажному обслуживанию.23Приложите соответствующий источник для каждого ответа.4Для информации, отсутствующей в данных, напишите «не найдено в данных», не добавляйте обещаний.5Если разные файлы противоречат друг другу, перечислите противоречия; не принимайте решение за меня.
Если запись базы знаний неактивна, проверьте, поддерживает ли текущая модель вызовы инструментов, и удалите все файлы, прикреплённые к сообщению. В базе знаний также должен быть хотя бы один обработанный файл.
Если она не может найти контент при изменении формулировки, добавьте модель эмбеддинга. Например, в тексте сказано «нормы оплаты проживания», а вы спрашиваете «сколько я могу получить за гостиницу?» Формулировки разные. Модель эмбеддинга находит контент по смыслу, а не модель чата, которая пишет окончательный ответ.
Настройка такая же, как и при подключении моделей. Используя SiliconFlow в качестве примера, настройте ключ в «Сервисах моделей», получите список, найдите и добавьте модели, такие как bge-m3, в категории эмбеддинга.
Вернитесь в настройки Базы знаний, выберите её в разделе «Модель эмбеддинга» и дождитесь, пока программное обеспечение проиндексирует данные. Если вы раньше использовали другую модель эмбеддинга, вам нужно будет перестроить базу по запросу. Снова протестируйте с тем же вопросом.
Поиск по ключевым словам остаётся даже при использовании модели эмбеддинга. Если правильный контент найден, но находится низко в результатах, рассмотрите модель Rerank.
Модель Rerank переупорядочивает извлечённые сегменты, помещая наиболее релевантные в начало. Добавьте модель rerank, например bge-reranker-v2-m3, в сервисах моделей, затем выберите её в настройках Базы знаний. Доступные модели и стоимость зависят от поставщика.
Эмбеддинг и Rerank не всегда необходимы. Для проверки номеров моделей продуктов или пунктов договора может быть достаточно поиска по ключевым словам.
Для устранения неполадок: если текст не найден, проверьте, был ли файл обработан или отсутствует ли текст; если текст найден, но не хватает контекста, проверьте, как были нарезаны сегменты; если сегменты полны, но ответ неверен, проверьте промпт или смените модель чата.
При замене старых руководств новыми удалите устаревшие записи, чтобы противоречивые версии не оставались в базе. Вы также можете задать вопрос, которого нет в данных, чтобы увидеть, признается ли она, что не может его найти.
Чтобы позволить Агенту искать эти материалы, привяжите соответствующую базу в настройках базы знаний Агента. Для плана продукта дайте ему руководство по продукту, а не все файлы компании.
Использование облачных моделей эмбеддинга, rerank или чата означает, что контент может быть отправлен поставщикам. Убедитесь, что это разрешено, прежде чем импортировать корпоративные данные.
8. Подключение локальных моделей
Чтобы попробовать модели с открытым исходным кодом или с меньшим количеством ограничений, запустите их на своём компьютере и подключите к Cherry Studio. Вы будете использовать тот же интерфейс, но ответы не будут поступать из облачного API.
Распространённые варианты — Ollama и LM Studio; достаточно одного. Они загружают и запускают модели; Cherry Studio занимается подключением, чатом и организацией данных. Hugging Face — это место, где можно найти модели.
Сначала Ollama. Загрузите и установите с веб-сайта Ollama, откройте терминал и выполните:
1ollama run dolphin-mistral
Это модель 7B для тестирования; сначала она загрузит файл. После завершения задайте вопрос в терминале, чтобы убедиться, что она работает.
Откройте в Cherry Studio «Настройки → Сервисы моделей», найдите Ollama. Адрес сервиса обычно:
1http://localhost:11434
Включите сервис, получите список, добавьте модель и выберите её в чате.
«localhost» относится к вашему компьютеру. Если не удаётся, убедитесь, что Ollama запущена, модель загружена и порт не изменился. Не открывайте сервис для публичного интернета только для подключения двух локальных приложений.
Если вы предпочитаете обходиться без терминала, используйте LM Studio. Ищите и загружайте модели на его странице поиска, затем загрузите модель и запустите локальный сервер. В Cherry Studio найдите поставщика LM Studio, введите отображаемый адрес и получите список. Cherry Studio не сможет его использовать, если модель не загружена или сервер не запущен.
Чтобы найти «модели без цензуры», выполните поиск на Hugging Face по запросу:
1uncensored GGUF
«Uncensored» — это описание для меньшего количества ограничений, а не сертификация. Модель может реже отказывать в творческих запросах, но это не означает, что она умнее или надёжнее. В Cherry Studio нет единого переключателя «снять все ограничения со всех моделей»; вы просто выбираете другую модель.
GGUF — это распространённый формат локальных моделей. Проверьте базовую модель, поддерживаемые языки и лицензию перед загрузкой файла, подходящего для вашего инструмента; вам не нужен весь репозиторий.
Начните с моделей 7B или 8B, квантизированных в Q4. «B» — это масштаб параметров; «Q4» означает, что веса сжаты, используя меньше памяти с небольшой потерей качества. Чтобы использовать её в Агенте, убедитесь, что она поддерживает вызовы инструментов.
Небольшие модели могут работать на обычных компьютерах. Dolphin Mistral весит около 4 ГБ; веса 30B в Q4 могут занимать 15-16 ГБ или больше, не считая накладных расходов на выполнение и кэша для длинных разговоров.
Компьютер с 16 ГБ ОЗУ может попробовать квантизированные модели 7B или 8B; скорость зависит от чипа, видеопамяти и длины контекста. Для запуска 30B проверьте ОЗУ/видеопамять и дисковое пространство. Это может работать для нескольких строк, но значительно замедлится при работе с длинными материалами.
При полностью локальной работе ввод не отправляется в облачные чат-сервисы, и нет счетов за API, но это использует мощность вашего компьютера. Если вы используете облачный поиск, эмбеддинг или rerank, эти данные всё равно могут быть отправлены наружу.
Примечание: Локальные компоненты эмбеддинга и OCR, доступные для загрузки в настройках Cherry Studio, помогают с извлечением и распознаванием текста. Их установка не означает, что вы установили модель чата.
В следующий раз, когда кто-то пришлёт вам новый интерфейс модели, подключите его и прогоните свои тестовые вопросы. Если подходит — оставляйте; если нет — меняйте, не меняя свою рабочую среду.
Я Майлз, эксперт по AI-алгоритмам, перешедший из большой технологии в FDE, с опытом в R&D, оптимизации, развёртывании и корпоративном обучении. Следуйте за мной @miles_mazy, чтобы расти и зарабатывать вместе.
