GPT не всемогутній. Коли він не справляється із завданням, чи продовжуєте ви намагатися в Codex, чи перемикаєтеся на іншу модель? Коли однієї моделі недостатньо, варто подумати про зміну моделей, доповнення даних або надання їй можливості використовувати інструменти.
До виходу Codex я користувався Cherry Studio, і багато моїх друзів, які глибоко занурені в AI, також його використовують. Сьогодні давайте поговоримо про те, що воно може робити і як налаштувати цю робочу станцію, щоб вона працювала бездоганно для вас.
1. Що може Cherry Studio
Cherry Studio — це відкрите десктопне програмне забезпечення для AI. GPT, Claude, DeepSeek, Kimi та моделі, що запускаються на вашому власному комп'ютері, можна підключити через відповідні інтерфейси та використовувати в одному програмному забезпеченні.
Найпривабливішим для мене є те, що хоча моделі можна змінювати, матеріали, вимоги до написання та інструменти, які часто використовуються, залишаються в цій робочій станції.
Наприклад, коли ви пишете статтю і вступ вас не влаштовує, ви можете дати той самий матеріал кільком моделям одночасно, попросити кожну написати варіант і порівняти їх поруч. Як тільки ви оберете вдалий напрямок, продовжуйте редагування там, не повторюючи вставку між різними чат-сайтами.
Якщо ви хочете зберегти дві версії, створіть "Гілку" та редагуйте їх окремо. Якщо через кілька раундів виявиться, що оригінал був кращим, ви можете повернутися до попередньої гілки. Вимоги до тону та формату можна зберегти як "Помічників", щоб не пояснювати їх щоразу.
Ваші власні статті, інструкції до продуктів і проектні документи можна помістити в Базу знань. Коли потрібно, дозвольте AI шукати оригінальний текст і відповідати на основі даних; якщо ви зміните модель, ці дані все одно будуть доступні.
Щоб створити документи Word із шаблонів, упорядкувати папки або створити функціональну веб-сторінку, ви можете доручити це Агенту. Після налаштування моделі та інструментів він може читати матеріали та працювати з файлами. Коли він закінчить, відкрийте, щоб перевірити, і якщо щось не так, попросіть його змінити.
Програмне забезпечення також має записи для перекладу, малювання тощо. Якщо ви хочете спробувати моделі з відкритим кодом або локальні моделі з меншою кількістю обмежень, ви можете підключити їх через Ollama або LM Studio, про що я розповім окремо пізніше.
Ці поширені функції мають готові записи; просто налаштуйте модель і необхідні сервіси, щоб використовувати їх без написання коду з нуля.
2. Встановлення Cherry Studio
Відкрийте Офіційну сторінку завантаження Cherry Studio.
Для Mac оберіть ARM64 для Apple Silicon або x64 для процесорів Intel. Після відкриття інсталятора перетягніть його в "Програми". Для Windows зазвичай обирайте інсталятор x64; для пристроїв ARM — ARM64.
При першому відкритті ви можете натиснути "Налаштувати пізніше", щоб спочатку увійти в програму.
"Чат" ліворуч призначений для написання та запитань; "Робота" — це місце, де Агенти виконують завдання; "База знань" зберігає матеріали для повторного пошуку. Конфігурація моделі здійснюється через "Налаштування" в нижньому лівому куті.
Вкладки зверху схожі на браузер. Ви можете тримати сторінку чату відкритою під час налаштування моделей, а потім переключитися назад для тестування, не виходячи з програми.
3. Підключення моделей
Після встановлення потрібно підключити модель. Саме програмне забезпечення безкоштовне, але виклики моделей можуть коштувати грошей, які виставляються постачальником моделі.
Якщо ви любите використовувати Kimi, підключіть Moonshot API; для DeepSeek — DeepSeek API. Ви також можете обрати платформи, які пропонують кілька моделей, наприклад SiliconFlow, щоб використовувати різні моделі в одному обліковому записі. Почніть з однієї та додайте другу, коли захочете порівняти.
API тут можна розуміти як "інтерфейс для використання цієї моделі Cherry Studio". Вам не потрібно писати код; просто отримайте рядок, який називається API Key, і вставте його в програму.
API Keys створюються на "Відкритій платформі" постачальника. Навіть якщо у вас є підписка на чат, зазвичай потрібно окремо перевірити, чи є кредит на API, оскільки вони часто виставляються по-різному.
Візьмемо Kimi як приклад. Зареєструйтеся або увійдіть на Moonshot Open Platform, знайдіть керування API Key і створіть ключ. Перевірте, чи є на рахунку доступний кредит; якщо ні, дотримуйтесь вимог платформи, щоб активувати його. Почніть з невеликого бюджету.
Поверніться до Cherry Studio, відкрийте "Налаштування → Сервіси моделей", знайдіть "Moonshot", вставте ключ, увімкніть сервіс і натисніть "Отримати список моделей".
У списку може бути кілька назв; додайте ту, яку плануєте використовувати. Поверніться на сторінку чату, натисніть назву моделі вгорі, щоб переключитися на неї. Надішліть коротке повідомлення; якщо воно відповідає нормально, підключення успішне.
Ви підключаєте API моделі; веб-функції та переваги членства Kimi не переносяться. Тут ви використовуєте інтерфейс та інструменти Cherry Studio.
Якщо друг або компанія надає вам набір інтерфейсів, але постачальника немає в списку, натисніть "Додати постачальника" внизу. Зазвичай вам знадобиться ця інформація:
Назва постачальника може бути будь-якою, яку ви впізнаєте, наприклад "Тестовий інтерфейс компанії". Ідентифікатор моделі не може бути довільним; це назва, яку сервер використовує для ідентифікації моделі. Якщо отримання списку не вдається, додайте вручну, якщо ідентифікатор надано.
Якщо підключення не відбувається, перевірте помилку. Якщо ключ недійсний, переконайтеся, що він скопійований повністю та вставлений у правильне місце; якщо кредиту недостатньо, перевірте баланс постачальника; якщо модель не існує, перевірте ідентифікатор моделі. Адреса та тип інтерфейсу також повинні відповідати документації постачальника.
Після того, як модель може спілкуватися, спробуйте зображення, файли та виклики інструментів. Текстова відповідь не означає, що вона підтримує всі функції, особливо для Агента пізніше.
Щодо вибору між офіційними та сторонніми сервісами, я пропоную почати з офіційних інтерфейсів, щоб спростити усунення несправностей. Сторонні теж підходять, але потрібно знати, кому надсилаються дані, яка ціна та хто надає модель. Назва, що збігається з моделлю, не доводить, що за нею стоїть той самий сервіс.
Не вставляйте API Keys у журнали чату або публічні скріншоти; інші можуть використати ваш кредит.
4. Тестування моделей
Після підключення протестуйте з матеріалами, які ви часто використовуєте, наприклад чернеткою, нотатками з зустрічі або описами продуктів. Знайомство полегшує помітити, чи відповідь щось пропустила.
Наприклад, щоб узагальнити довгий матеріал у коротке повідомлення для колеги, дайте двом моделям однакову вимогу:
1Узагальніть наступний матеріал у повідомлення для колеги, до 200 слів.23Збережіть підтверджені висновки, відповідальних, терміни та невирішені питання.4Не додавайте того, чого немає в оригіналі; не пишіть попередні пункти як підтверджені.5Без вступу, дайте текст одразу.67Матеріал:8Вставте оригінальний текст сюди.
При порівнянні зверніть увагу на: чи збережено термін? Чи змінено "попередня п'ятниця" на "завершено в п'ятницю"? Це можна перевірити за оригіналом, не оцінюючи "інтелект" за тоном.
Відкрийте селектор моделей вгорі чату, увімкніть вибір кількох моделей, позначте дві або три налаштовані моделі та надішліть те саме запитання.
Якщо одна модель краще пише чернетки, а інша краще перевіряє пропуски, ви можете використовувати їх окремо пізніше, замість того, щоб змушувати одну робити все.
Щоб перевірити швидкість, перейдіть до "Налаштування → Зовнішній вигляд" і увімкніть "Показувати приблизну кількість токенів". Після відповіді перевірте статистику, щоб порівняти час до першого токена, токени на секунду та приблизне використання.
Токени — це одиниця обробки моделі; не сприймайте їх як точну кількість слів. Ця статистика допомагає відстежувати витрати, але остаточний рахунок залежить від постачальника.
Моделі для написання варто тестувати далі. Попросіть її "залишити другий абзац, змінити лише вступ, не чіпати цифри", щоб побачити, чи випадково вона не змінить інші частини. Перевіряти весь текст щоразу, коли ви змінюєте речення, виснажує.
Збережіть поширені тестові запитання та матеріали як нотатки. Коли підключаєте нову модель, запустіть їх знову. Завжди починайте нову тему для порівнянь, використовуючи ідентичні матеріали, щоб уникнути впливу попереднього чату.
Вам не потрібно запитувати кожну модель щоразу. Вибір кількох надсилає окремі запити, кожен з яких може коштувати грошей і надсилати дані цим сервісам. Використовуйте це для вибору схем або заголовків; як тільки напрямок визначено, продовжуйте з однією моделлю.
5. Керування роботою за допомогою гілок
Якщо ви дійшли до п'ятої версії, але раптом відчули, що друга була кращою, або хочете спробувати два способи написання одного плану, ви можете створити гілку від відповідного повідомлення.
Знайдіть повідомлення, яке хочете зберегти, відкрийте меню повідомлення та виберіть "Гілка". Новий шлях несе контекст до розгалуження, а подальші обговорення записуються окремо, не перезаписуючи оригінальний шлях. Перемикайтеся назад за допомогою менеджера гілок.
Наприклад, якщо стаття має план, але вступ не визначений, розгалужте дві гілки: одну, що починається з висновку, іншу — з конкретного сценарію. Редагуйте обидві кілька раундів, подивіться, яка краща, і продовжуйте звідти. Вам не потрібно видаляти одну, щоб спробувати іншу.
Для невеликих правок просто продовжуйте. Якщо ви хочете зберегти обидві версії, використовуйте гілку.
Якщо ви часто виконуєте однотипну текстову роботу, спочатку створіть Помічника. Перейдіть до "Чат → Додати помічника", дайте йому впізнавану назву, наприклад "Редактор статей", і збережіть довгострокові вимоги:
1Ви допомагаєте мені редагувати українські статті для широкої аудиторії.23Надавайте перевагу збереженню фактів і конкретних прикладів із чернетки.4Видаляйте воду без нової інформації; не додавайте біографію автора.5Коли я вказую абзац для редагування, редагуйте лише його.6Вказуйте на судження без доказів; не вигадуйте джерела.
Помічники зберігають довгострокові звички. Конкретні теми статей, матеріали та вимоги до обсягу повинні залишатися в поточній темі, щоб не переноситися на наступну.
При перевірці відкрийте іншу гілку та дозвольте моделі лише знаходити проблеми:
1Перевірте цю чернетку, не переписуйте.23На основі наданих матеріалів знайдіть:41. Факти або цифри, не підтверджені оригіналом.52. Місця, де "можливо" або "попередньо" стали підтвердженими.63. Повторювані пояснення, які можна видалити.78Процитуйте оригінал для кожного та поясніть проблему. Якщо основи не знайдено, напишіть "потрібне джерело".
Зміна моделей для перевірки іноді може виявити проблеми, які попередня пропустила. Однак вміст, схвалений обома, все одно може бути неправильним; завжди перевіряйте важливі факти за оригінальними даними.
Коли ви лише редагуєте статті, вам не потрібно давати моделі термінал, браузер або файлові інструменти. Вимкнення непотрібних інструментів зменшує кількість зайвих інструкцій.
Коли переходите до Агента для роботи з файлами, не забудьте дати йому остаточну чернетку та вимоги. Попередня розмова не перенесеться автоматично повністю; чітко вкажіть, яку версію використовувати.
6. Доручення завдань Агентам
Коли чернетка готова і її потрібно відформатувати у Word або експортувати в PDF, перейдіть до "Робота" ліворуч. Підготуйте рукопис і шаблон.
Натисніть "Додати агента", назвіть його за призначенням, наприклад "Організатор даних". Виберіть режим роботи, потім підтримувану модель і заповніть вимоги. Після створення ви можете налаштувати інструменти, дозволи, навички та бази знань на сторінці редагування.
Режим роботи впливає на доступні моделі та дозволи; обирайте на основі списку поточного режиму. Моделі для звичайного чату не обов'язково підходять для Агентів. Після вибору режиму його не можна змінити безпосередньо; потрібно буде створити нового Агента.
Деякі режими мають моделі Main, Plan і Small для основної роботи, планування та легковажної обробки. Почніть з однієї моделі для всіх, щоб спочатку освоїтися.
Потім створіть нове завдання та виберіть робочу директорію. Використовуйте окрему папку для практики з копіями матеріалів. Якщо є дозвіл "Підтверджувати щоразу", використовуйте його, щоб бачити, що Агент планує читати, запускати та писати.
Навіть при виборі робочої директорії перевірте дозволи інструментів. Деякі інструменти можуть отримувати доступ до файлів за межами директорії; не вмикайте "Повний доступ" вперше.
Ви можете почати з нечутливих нотаток з зустрічі, щоб організувати прогрес проекту:
1Прочитайте нотатки з зустрічі в поточній директорії та організуйте звіт про прогрес проекту.23Не змінюйте, не переміщуйте та не видаляйте оригінальні файли.4Організуйте в: Завершено, В процесі, Потребує підтвердження.5Відповідальні та терміни повинні бути з оригіналу; позначте "TBC", якщо не вказано.6Вкажіть назву вихідного файлу після кожного пункту.78Спочатку перелічіть знайдені файли та план для мого підтвердження.9Після підтвердження згенеруйте новий файл: Project_Progress.md.
Перевірте, чи знайдені файли правильні, потім підтвердьте план. Після генерації файлу відкрийте його, щоб перевірити, особливо імена, дати та переконатися, що пункти "TBC" не записані як підтверджені.
При спробі Word або PDF вам можуть знадобитися відповідні інструменти для документів або залежності. Відкрийте файл у вихідній області або робочій директорії, щоб перевірити вміст і макет.
Якщо йому потрібно шукати дані в Інтернеті, перейдіть до "Налаштування → Веб-пошук" і налаштуйте сервіс, наприклад Exa. Отримайте ключ пошукового API, протестуйте його та перевірте, чи ввімкнено інструмент пошуку Агента.
Пошук вимагає окремої конфігурації та має власні квоти та збори. Без нього модель може відповідати лише на основі наявних знань, не перевіряючи Інтернет.
Якщо пошук знаходить сторінку, але завдання вимагає натискання кнопок, прокрутки або завантаження файлів, вам можуть знадобитися можливості роботи з браузером. Зверніться до навички Playwright CLI в керуванні навичками, встановіть її та призначте Агенту.
Навички — це набори інструкцій, наприклад, як працювати з браузером або генерувати документи. Деякі вимагають супутніх інструментів; налаштуйте їх і запустіть невелике завдання для тестування.
MCP використовується для підключення зовнішніх інструментів і сервісів, наприклад, щоб дозволити Агенту отримати доступ до бізнес-системи. Додайте сервіс у "Налаштування → MCP", налаштуйте відповідно до інструкцій і прив'яжіть у налаштуваннях MCP Агента після успішного підключення.
Для локальних нотаток з зустрічі достатньо файлових інструментів. Встановлюйте навички браузера та MCP лише за потреби, щоб уникнути усунення несправностей невикористаних конфігурацій.
У технічних демонстраціях Агенти виконували три типи завдань: пошук і завантаження електронних підручників, генерація навчальних матеріалів Word і PDF із зразків і перетворення фізичних задач на інтерактивні веб-сторінки з регульованими параметрами.
При призначенні подібних завдань чітко вказуйте назви підручників, файли зразків і параметри. Чим конкретніші вимоги, тим легше перевірити.
Завдання, які добре працюють у Codex, можуть залишатися там. Cherry Studio пропонує інший вибір: спробувати різні моделі для тієї самої роботи або налаштувати різні інструменти для різних цілей.
Використовуйте того самого Агента для щотижневих звітів про прогрес; для нового проекту створіть нове завдання та виберіть відповідну папку. Створіть окремий для створення веб-сторінок, щоб інструменти та вимоги були чіткими.
7. Створення бази знань
Виберіть набір матеріалів, які ви будете використовувати неодноразово, наприклад інструкції до продуктів або історичні статті. Для файлів, які читаються лише один раз для поточного запитання, завантажуйте їх безпосередньо в чат, замість створення бази.
Після створення бази програмне забезпечення розбиває дані на сегменти. Коли ви ставите запитання, воно спочатку знаходить відповідний оригінальний текст, потім передає його моделі чату для організації відповіді; дані зберігаються та отримуються окремо, не навчаючи модель.
Відкрийте "База знань" ліворуч, натисніть додати та назвіть її за призначенням, наприклад "Інструкція з післяпродажного обслуговування продукту". Вперше встановіть "Модель вбудовування" на "Не використовувати", щоб все одно дозволити пошук за ключовими словами.
Додайте один або два знайомі файли, зачекайте обробки та перевірте, чи розпізнаний текст нормальний. Особливо перевірте відскановані PDF; якщо текст не розпізнано, його не можна буде знайти.
Перейдіть до "Тест пошуку" в цій базі знань і поставте запитання з чіткою відповіддю. Пошук показує, які сегменти було знайдено. Якщо в інструкції є умови повернення, запитайте "Чи можна повернути після відкриття?" і перевірте, чи результат є саме цією умовою.
Це показує знайдені оригінальні сегменти, тому ви можете перевірити точність безпосередньо, не гадаючи через відповідь моделі.
Після підтвердження поверніться до чату, натисніть кнопку додавання в області введення, виберіть "База знань" і позначте базу. Коли назва з'явиться в області введення, поставте своє запитання:
1На основі вибраних даних продукту організуйте найпоширеніші запитання післяпродажного обслуговування.23Додайте відповідне джерело для кожної відповіді.4Для вмісту, якого немає в даних, напишіть "не знайдено в даних", не додавайте обіцянок.5Якщо різні файли суперечать один одному, перелічіть суперечності; не вирішуйте за мене.
Якщо запис бази знань сірий, перевірте, чи поточна модель підтримує виклики інструментів, і видаліть будь-які файли, прикріплені до повідомлення. База знань також повинна мати принаймні один оброблений файл.
Якщо вона не може знайти вміст при зміні формулювання, додайте модель вбудовування. Наприклад, у тексті сказано "стандарти плати за проживання", а ви запитуєте "скільки я можу отримати за готель?" Формулювання різне. Модель вбудовування знаходить вміст за значенням, а не модель чату, яка пише остаточну відповідь.
Конфігурація така ж, як підключення моделей. Використовуючи SiliconFlow як приклад, налаштуйте ключ у "Сервіси моделей", отримайте список, знайдіть і додайте моделі, такі як bge-m3, у категорії вбудовування.
Поверніться до налаштувань бази знань, виберіть її в "Модель вбудовування" та зачекайте, поки програмне забезпечення проіндексує дані. Якщо ви раніше використовували іншу модель вбудовування, вам потрібно буде перебудувати, як буде запропоновано. Знову протестуйте з тим самим запитанням.
Пошук за ключовими словами залишається навіть з моделлю вбудовування. Якщо правильний вміст знайдено, але має низький рейтинг, розгляньте модель Rerank.
Модель Rerank перевпорядковує знайдені сегменти, щоб поставити більш релевантні першими. Додайте модель rerank, наприклад bge-reranker-v2-m3, у сервіси моделей, а потім виберіть її в налаштуваннях бази знань. Доступні моделі та вартість залежать від постачальника.
Вбудовування та Rerank не завжди потрібні. Для перевірки моделей продуктів або номерів пунктів може бути достатньо пошуку за ключовими словами.
Для усунення несправностей: якщо текст не знайдено, перевірте, чи файл було оброблено або чи текст відсутній; якщо текст знайдено, але бракує контексту, перевірте, чи сегменти були розрізані; якщо сегменти повні, але відповідь неправильна, перевірте підказку або змініть модель чату.
При заміні старих інструкцій новими видаліть застарілі записи, щоб суперечливі версії не залишалися в базі. Ви також можете поставити запитання, якого немає в даних, щоб побачити, чи визнає вона, що не може знайти.
Щоб дозволити Агенту шукати ці матеріали, прив'яжіть відповідну базу в налаштуваннях бази знань Агента. Для плану продукту дайте йому інструкцію до продукту, а не всі файли компанії.
Використання хмарного вбудовування, rerank або моделей чату означає, що вміст може надсилатися постачальникам. Підтвердьте, чи це дозволено, перед імпортом даних компанії.
8. Підключення локальних моделей
Щоб спробувати моделі з відкритим кодом або з меншою кількістю обмежень, запустіть їх на власному комп'ютері та підключіть до Cherry Studio. Ви будете використовувати той самий інтерфейс, але відповіді не надходитимуть із хмарного API.
Поширеними варіантами є Ollama та LM Studio; достатньо одного. Вони завантажують і запускають моделі; Cherry Studio обробляє підключення, чат і організацію даних. Hugging Face — це місце, де ви знаходите моделі.
Спочатку Ollama. Завантажте та встановіть з веб-сайту Ollama, відкрийте термінал і запустіть:
1ollama run dolphin-mistral
Це модель 7B для тестування; спочатку вона завантажить файл. Після завершення поставте запитання в терміналі, щоб підтвердити, що вона працює.
Відкрийте Cherry Studio "Налаштування → Сервіси моделей", знайдіть Ollama. Адреса сервісу зазвичай:
1http://localhost:11434
Увімкніть сервіс, отримайте список, додайте модель і виберіть її в чаті.
"localhost" означає ваш комп'ютер. Якщо не вдається, переконайтеся, що Ollama запущено, модель завантажено, а порт не змінено. Не відкривайте сервіс для публічного Інтернету лише для підключення двох локальних програм.
Якщо ви віддаєте перевагу роботі без терміналу, використовуйте LM Studio. Знайдіть і завантажте моделі на його сторінці пошуку, потім завантажте модель і запустіть локальний сервер. У Cherry Studio знайдіть постачальника LM Studio, введіть відображену адресу та отримайте список. Cherry Studio не може використовувати його, якщо модель не завантажена або сервер не запущено.
Щоб знайти "моделі без цензури", шукайте на Hugging Face:
1uncensored GGUF
"Uncensored" — це опис для меншої кількості обмежень, а не сертифікація. Модель може відмовлятися від меншої кількості творчих запитів, але це не означає, що вона розумніша або надійніша. Cherry Studio не має єдиного перемикача "зняти всі обмеження з моделей"; ви просто обираєте іншу модель.
GGUF — це поширений формат локальної моделі. Перевірте базову модель, підтримувані мови та ліцензію перед завантаженням файлу, придатного для вашого інструменту; вам не потрібен весь репозиторій.
Почніть з моделей 7B або 8B, квантованих Q4. "B" — це масштаб параметрів; "Q4" означає, що ваги стиснуті, використовуючи менше пам'яті з невеликою втратою ефекту. Щоб використовувати її в Агенті, підтвердьте, що вона підтримує виклики інструментів.
Невеликі моделі можуть працювати на звичайних комп'ютерах. Dolphin Mistral важить близько 4 ГБ; ваги Q4 30B можуть бути 15-16 ГБ або більше, не враховуючи накладних витрат на запуск і кешу для довгих розмов.
Комп'ютер з 16 ГБ оперативної пам'яті може спробувати квантовані моделі 7B або 8B; швидкість залежить від чіпа, VRAM і довжини контексту. Для запуску 30B перевірте RAM/VRAM і місце на диску. Вона може працювати для кількох рядків, але значно сповільниться з довгими матеріалами.
При повністю локальному запуску введення не надсилається до хмарних чат-сервісів, і немає рахунку за API, але це використовує потужність вашого комп'ютера. Якщо ви використовуєте хмарний пошук, вбудовування або rerank, ці дані все одно можуть надсилатися.
Примітка: локальні компоненти вбудовування та OCR, які можна завантажити в налаштуваннях Cherry Studio, допомагають з пошуком і розпізнаванням тексту. Їх встановлення не означає, що ви встановили модель чату.
Наступного разу, коли хтось надішле вам новий інтерфейс моделі, підключіть його та запустіть свої тестові запитання. Якщо він підходить, залиште; якщо ні, замініть його, не змінюючи свою робочу станцію.
Я Майлз, експерт з алгоритмів AI, який перейшов із великої технологічної компанії до FDE, з досвідом у R&D, оптимізації, розгортанні та корпоративному навчанні. Слідкуйте за мною @miles_mazy, щоб рости та заробляти разом.
