Якщо ви останні кілька днів сиділи в інтернеті, то, ймовірно, вже чули про Jev — нову AI-модель, яка справді наробила шуму в спільноті штучного інтелекту. Jev — це не традиційна LLM (велика мовна модель). Вона створена для прийняття рішень, а не для генерації тексту. Присвятивши останні дні глибокому вивченню Jev, я щиро вірю, що хайп навколо неї цілком обґрунтований і що для розробників продуктів тут криється величезний потенціал.
Як я вже зазначав раніше, критично важливо, щоб усі розуміли, як насправді працюють технології ШІ, навіть ті, хто не має технічної освіти. Розуміння принципів роботи агентних систем дозволяє осмислено застосовувати ці технології у власних продуктах.
Мені написали кілька людей, які сказали, що прочитали все можливе про Jev, але так і не зрозуміли, що ж це таке. Тому ця стаття саме для них. Це путівник по Jev для звичайних користувачів. Якщо все, що ви читали про Jev, залишило у вас більше питань, ніж відповідей, ця стаття буде іншою. Наприкінці ви отримаєте базове розуміння того, що таке Jev, чим вона відрізняється від LLM і як можна застосувати її у ваших продуктах.
Важливість прийняття рішень у програмному забезпеченні
Програмне забезпечення постійно приймає рішення. Чи потребує це повідомлення від клієнта термінової уваги? Чи є цей платіж шахрайським? Чи слід відображати сторінку англійською чи французькою мовою?
Продукт може приймати такі рішення мільйони разів на день.
Але складність рішень, які комп’ютери здатні приймати самостійно, обмежена. Питання вище можна вирішити за допомогою простих правил. Наприклад, ми можемо визначити мову відображення сторінки на основі налаштувань мови користувача або його IP-адреси. Але не всі питання такі прості.
Візьмемо, наприклад, фото хот-дога. Жоден набір простих правил не дозволить комп’ютеру визначити, чи дійсно на моєму фото зображено хот-дог.
Тому фахівці з комп’ютерних наук винайшли новий метод для прийняття більш складних рішень: машинне навчання. Виявилося, що, поєднавши деякі елегантні алгоритми з величезною кількістю прикладів фото з хот-догами, комп’ютер може стати досить професійним у їх розпізнаванні.
GIF
Наша модель для хот-догів — це тип моделі, який називається класифікатором. Її так називають тому, що вона класифікує об’єкти. Класифікатори широко використовуються в сучасному ПЗ для прийняття складних рішень.
Але проблема класифікаторів у тому, що вони не узагальнюються за межами тієї предметної області, на якій були навчені. Мій класифікатор, який розпізнає фото хот-догів, не допоможе мені виявити шахрайські транзакції. І через необхідність великих обсягів даних та експертизи для навчання класифікатора, існувало багато типів задач, які комп’ютери не могли вирішити. Аж поки…
Велика мовна модель
Коли OpenAI випустила ChatGPT у листопаді 2022 року, він стрімко завоював світ. Причина такої популярності полягала не стільки в прямому інтелекті, скільки в здатності до узагальнення.
ChatGPT мав фундаментальне розуміння світу, що дозволяло йому вести бесіду про хот-доги та шахрайські транзакції одночасно.
Основна функція великих мовних моделей, таких як ChatGPT, Claude, Grok та Kimi, — генерація тексту. Але кожен, хто користувався цими моделями, знає, що вони можуть думати, міркувати та, зрештою, приймати рішення. Ось приклад того, як LLM могла б прийняти рішення про те, чи є зображення хот-догом.
GIF
Так, великі мовні моделі здатні приймати рішення. І вони можуть робити це в широкому діапазоні предметних областей.
Чи можуть LLM бути святим граалем? Чи нарешті ми маємо загальну модель прийняття рішень, яку можна застосувати до завдань у ПЗ сьогодні?
Практично — ні. LLM, попри всю свою неймовірну потужність, відносно повільні та дорогі. Занадто повільні та дорогі для більшості типів додатків, де їх можна було б застосувати.
Якби тільки у нас була модель, яка могла б приймати рішення в широкому спектрі загальних предметних областей швидко та дешево…
Знайомтеся з Jev: класифікатор, який узагальнює
Jev — це новий клас моделей, оптимізований для прийняття рішень, а не для генерації тексту.
Jev зберігає властивість узагальнення, притаманну LLM, будучи при цьому відносно швидкою та дешевою, як класифікатор. Заявлено, що Jev у 20–200 разів швидша та у 40–400 разів дешевша за порівнянні LLM.
Це досягається тим, що Jev не повертає відповідь токен за токеном, як LLM, а просто видає рішення.
Саме тому інженери так захоплені нею. Справа не в тому, що Jev — це новий рівень інтелекту, якого раніше не існувало; справа в тому, що це рівень інтелекту, який раніше не існував у такому швидкому та дешевшому виконанні.
Ви не можете спілкуватися з Jev. Це не чат-бот. Jev очікує три речі на вході:
- Питання, на яке ви хочете отримати відповідь
- Набір можливих відповідей на це питання
- Контекст, необхідний для відповіді на питання (Jev називає це «станом»)
На виході Jev надає наступне:
- Обрану відповідь
- Ймовірність правильності цієї відповіді
Ось і все. Жодного чату, лише рішення.
Jev підтримує три типи рішень:
- Так/ні, що Jev називає «Noul»: повертає оціночну ймовірність того, що твердження є істинним
- Вибір: обирає з до 255 варіантів множинного вибору та надає ймовірності правильності кожного
- Оцінка: оцінює щось за шкалою від 2 до 10 рівнів
Ці можливості дозволяють приймати складні рішення за частку часу та вартості попередніх підходів. Давайте розглянемо приклад кожного типу.
Noul (так/ні)
Уявімо, що я відкрив кіоск із хот-догами і хочу переглядати відгуки клієнтів у реальному часі, щоб реагувати або відповідати належним чином.
Для кожного відгуку спочатку поставимо просте питання: чи є скарга на їжу. Вхідні дані для Jev можуть виглядати приблизно так.
1{2 "model": "jev-latest",3 "state": "Чекали двадцять хвилин, але хот-дог того вартий. Повернуся, якщо черга буде коротшою.",4 "questions": {5 "food_complaint": {6 "type": "noul",7 "instructions": "Чи висловлює цей відгук незадоволення самою їжею?",8 "criteria": {9 "true": "Скаржиться на смак, температуру або якість їжі.",10 "false": "Не скаржиться на їжу. Скарги лише на черги або обслуговування не враховуються."11 }12 }13 }14}
Ви бачите, що ми визначили питання, на яке хочемо відповісти («instructions»), критерії для вибору «так» або «ні», а також стан, необхідний Jev для точного рішення.
Отже, ми передаємо це питання Jev. Jev видає наступну відповідь.
1{2 "answers": {3 "food_complaint": {4 "type": "noul",5 "noul": 0.046 }7 }8}
Jev визначає, що ймовірність того, що цей конкретний відгук є скаргою на їжу, становить лише 4%. Тому ми можемо класифікувати цей відгук як низькопріоритетний і повернутися до нього пізніше.
Вибір
Давайте краще зрозуміємо кожен відгук, попросивши Jev категоризувати його. Ось як може виглядати наш запит до Jev.
1{2 "model": "jev-latest",3 "state": "Чекали двадцять хвилин, але хот-дог того вартий. Повернуся, якщо черга буде коротшою.",4 "questions": {5 "main_topic": {6 "type": "choice",7 "instructions": "Яка головна тема цього відгуку? Оберіть варіант, який найкраще відображає основну суть.",8 "criteria": {9 "queue": "Головна увага приділяється довжині черги або часу очікування.",10 "food": "Головна увага приділяється смаку, температурі або якості їжі.",11 "service": "Головна увага приділяється ввічливості персоналу, корисності або тому, як вони обробили замовлення. Коментарі лише про час очікування відносяться до черги.",12 "other": "Головна увага приділяється чомусь іншому, окрім їжі, часу очікування або обслуговування персоналом."13 }14 }15 }16}
Ми визначили кожен варіант вибору, доступний Jev, з описом того, коли його використовувати («criteria»). Jev повертає наступне.
1{2 "answers": {3 "main_topic": {4 "type": "choice",5 "choice": "queue",6 "probabilities": {7 "queue": 0.80,8 "food": 0.15,9 "service": 0.03,10 "other": 0.0211 },12 "confidence": 0.6013 }14 }15}
Добре, Jev обрала «queue» (черга) як відповідь. Ви також бачите, що вона прив’язує ймовірності до кожного з варіантів.
Оцінка
Тепер давайте попросимо Jev оцінити задоволеність клієнта загальним досвідом у нашому кіоску з хот-догами за п’ятьма визначеними рівнями.
1{2 "model": "jev-latest",3 "state": "Чекали двадцять хвилин, але хот-дог того вартий. Повернуся, якщо черга буде коротшою.",4 "questions": {5 "overall_satisfaction": {6 "type": "score",7 "instructions": "Наскільки задоволений цей клієнт своїм загальним досвідом? Враховуйте як позитивні, так і негативні коментарі.",8 "criteria": [9 "Дуже незадоволений: різко негативний щодо досвіду загалом.",10 "Незадоволений: переважно негативний, незважаючи на будь-які позитивні моменти.",11 "Змішаний: значущі позитивні та негативні аспекти, жоден з яких явно не переважає.",12 "Задоволений: переважно позитивний, незважаючи на деякі скарги.",13 "Дуже задоволений: різко позитивний, без суттєвих скарг."14 ]15 }16 }17}
Знову ж таки, ми надаємо чітке питання, набір можливих відповідей та стан. Jev повертає наступне.
1{2 "answers": {3 "overall_satisfaction": {4 "type": "score",5 "score": 2.1,6 "probabilities": {7 "0": 0.05,8 "1": 0.15,9 "2": 0.50,10 "3": 0.25,11 "4": 0.0512 }13 }14 }15}
2.1 з 4, є над чим попрацювати.
Магія Jev полягає в тому, що вона здатна приймати ці рішення набагато швидше та дешевше, ніж LLM. Ось порівняння бок о бок аналізу 60 відгуків, залишених для нашого кіоску з хот-догами. Зліва — Jev, справа — LLM (gpt-5.6 Luna).
Швидкість та економічна ефективність Jev знижують бар’єри для автоматизації прийняття рішень у ПЗ.
Застосування Jev
Розгляньте можливість застосування Jev будь-де у вашому продукті, де рішення може покращити результат для користувача. Ось кілька прикладів.
Використовуйте Так/ні всюди, де знання про те, чи є щось істинним або хибним, дозволяє змінити дію.
- Чи свідчить повідомлення цього клієнта про те, що він збирається скасувати підписку?
- Чи вказує оновлення від постачальника на те, що доставка запізниться?
- Чи виявляє пояснення цього студента помилкове уявлення, яке варто виправити?
- Чи містить протокол зустрічі зобов’язання, за яке ніхто не взяв відповідальність?
- Чи свідчить повідомлення гравця про те, що він застряг і потребує підказки?
Використовуйте Вибір всюди, де вибір із набору опцій дозволяє визначити подальші дії.
- Яка спеціалізована команда повинна обробити цей незвичайний запит клієнта?
- Який урок із продукту найкраще відповідає тому, що намагається зробити цей користувач?
- Який персонаж у грі повинен відповісти на те, що щойно сказав гравець?
- Який сегмент аудіогіда музею найкраще відповідає на запитання відвідувача?
- Яка доступна заміна найкраще збереже роль відсутнього інгредієнта в рецепті?
Використовуйте Оцінку всюди, де судження про те, наскільки сильно, добре або близько щось відповідає критерію, дозволяє встановити пріоритети або скоригувати дію.
- Наскільки критичним є ця помилка в ПЗ для реального робочого процесу клієнта?
- Наскільки точно цей туристичний маршрут відповідає чиємусь уявленню про хороший відпочинок?
- Наскільки це інтерв’ю з клієнтом підтверджує певну гіпотезу про продукт?
- Наскільки діалоги в цій сцені відхиляються від характерного голосу персонажа?
- Наскільки розкривальною буде ця підказка в грі, враховуючи те, що вже знає гравець?
Час будувати з Jev
Jev відкрила цілий світ нових можливостей у типах програмного забезпечення та досвіду, який ми можемо створювати для користувачів.
Тепер, коли ви знаєте, що таке Jev і як вона працює, як ви плануєте застосувати це у своїх продуктах?
