Jev: Объяснение для новичков

Если вы проводили время в интернете последние несколько дней, вы наверняка наткнулись на Jev — новую модель ИИ, которая произвела фурор в сообществе искусственного интеллекта. Jev — это не традиционная LLM. Она создана для принятия решений, а не для генерации текста. Погрузившись в изучение Jev за последние дни, я искренне верю, что хайп оправдан, и у разработчиков продуктов здесь огромный потенциал.

Как я уже говорил ранее, критически важно, чтобы все понимали, как на самом деле работает технология за кулисами ИИ, даже те, кто занимает нетехнические должности. Понимание того, как работают агентные системы, позволяет осмысленно применять эту технологию в ваших собственных продуктах.

Мне написало несколько человек, которые прочитали всё, что есть о Jev, но так и не поняли, что это такое на самом деле. Эта статья адресована именно им. Это руководство по Jev для тех, кто далек от технических деталей. Если всё, что вы читали о Jev, оставляло больше вопросов, чем ответов, эта статья будет другой. К концу вы получите базовое понимание того, что такое Jev, чем он отличается от LLM и как его можно применить к создаваемым вами продуктам.

Важность решений в программном обеспечении

Программное обеспечение полно решений. Требует ли это сообщение от клиента срочного внимания? Является ли этот платеж мошенническим? Нужно ли отображать страницу на английском или французском языке?

Продукту может потребоваться принимать такие решения миллионы раз в день.

Но сложность решений, которые компьютеры способны принимать, ограничена. На приведенные выше вопросы можно ответить с помощью простых правил. Например, мы можем определить, показывать ли страницу на английском или французском, основываясь на настройках языка пользователя или, возможно, его IP-адресе. Но не все вопросы настолько просты.

Возьмем, к примеру, фотографию хот-дога. Никакой набор простых правил не позволит компьютеру определить, действительно ли на моей фотографии изображен хот-дог.

Поэтому ученые-компьютерщики придумали новый метод для принятия более сложных решений: машинное обучение. Оказалось, что, объединив некоторые изящные алгоритмы с множеством примеров фотографий, содержащих хот-доги, компьютер может стать довольно умелым в распознавании таких изображений.

GIF

Наша модель для хот-догов — это тип модели, называемый классификатором. Так её называют потому, что она классифицирует объекты. Классификаторы широко используются в современном ПО для принятия сложных решений.

Но проблема классификаторов в том, что они не обобщают знания за пределами той области, на которой были обучены. Мой классификатор, умеющий распознавать фото хот-догов, не поможет мне выявлять мошеннические транзакции. А из-за объема данных и экспертизы, необходимых для обучения классификатора, многие типы задач оставались нерешаемыми для компьютеров. До тех пор пока…

Большие языковые модели

Когда OpenAI выпустила ChatGPT в ноябре 2022 года, это произвело фурор во всем мире. Причина его популярности заключалась не столько в абсолютном интеллекте, сколько в способности к обобщению.

ChatGPT обладал фундаментальным пониманием мира, которое позволяло ему вести беседу и о хот-догах, и о мошеннических транзакциях одновременно.

Большие языковые модели (LLM), такие как ChatGPT, Claude, Grok и Kimi, имеют первичную функцию генерации текста. Но любой, кто пользовался этими моделями, знает, что они могут думать, рассуждать и, в конечном счете, принимать решения. В качестве примера вот как LLM могла бы принять решение о том, является ли данное изображение хот-догом или нет.

GIF

Да, большие языковые модели способны принимать решения. И они могут делать это в широком диапазоне предметных областей знаний.

Могут ли LLM стать Святым Граалем? Сможем ли мы наконец получить универсальную модель принятия решений для применения в сегодняшнем ПО?

Ну, практически нет. LLM, несмотря на свою невероятную мощь, относительно медленны и дороги. Слишком медленны и дороги для использования в большинстве типов приложений, где требуется автоматизация решений.

Если бы только у нас была модель, способная принимать решения в широком спектре общих предметных областей быстро и дешево…

Знакомство с Jev: классификатор, который обобщает знания

Jev — это новый класс моделей, оптимизированный для принятия решений, а не для генерации текста.

Jev сохраняет свойство обобщения, присущее LLM, при этом оставаясь относительно быстрым и дешевым, как классификатор. Утверждается, что Jev в 20–200 раз быстрее и в 40–400 раз дешевле, чем сопоставимые LLM.

Это достигается за счет того, что Jev не возвращает ответ токен за токеном, как LLM, а просто возвращает решение.

Именно поэтому инженеры так рады этой технологии. Дело не в том, что Jev представляет собой интеллект нового уровня, которого раньше не существовало; дело в том, что это уровень интеллекта, ранее невиданный, работающий так быстро и так дешево.

С Jev нельзя общаться в чате. Это не чат-бот. Jev ожидает три вещи на вход:

• Вопрос, на который нужно ответить
• Набор возможных ответов на этот вопрос
• Контекст, необходимый для ответа на вопрос (Jev называет это «state» / состоянием)

А затем Jev выдаст вам следующий результат:

• Выбранный ответ
• Вероятность того, что ответ верен

Вот и всё. Никакого общения, только решение.

Jev поддерживает три типа решений:

• Да/нет, то, что Jev называет «Noul»: возвращает оценочную вероятность истинности утверждения
• Выбор: выбирает из до 255 вариантов множественного выбора и предоставляет вероятности правильности каждого варианта
• Оценка: оценивает объект по шкале от 2 до 10 уровней

Эти возможности позволяют принимать сложные решения за долю времени и стоимости предыдущих подходов. Давайте рассмотрим примеры каждого типа.

Noul (да/нет)

Допустим, я открыл новую точку по продаже хот-догов и хочу просматривать отзывы клиентов по мере их поступления, чтобы своевременно реагировать или отвечать на них.

Для каждого отзыва сначала зададим простой вопрос: является ли отзыв жалобой на еду. Входные данные для Jev могут выглядеть примерно так.

1{
2  "model": "jev-latest",
3  "state": "Ждал двадцать минут, но хот-дог того стоил. Вернулся бы, если бы очередь была короче.",
4  "questions": {
5    "food_complaint": {
6      "type": "noul",
7      "instructions": "Выражает ли этот отзыв неудовлетворенность самой едой?",
8      "criteria": {
9        "true": "Жалоба на вкус, температуру или качество еды.",
10        "false": "Нет жалобы на еду. Жалобы только на очереди или обслуживание не считаются."
11      }
12    }
13  }
14}

Вы видите, что мы определили вопрос, на который хотим ответить («instructions»), критерии для выбора «да» или «нет», а также состояние, необходимое Jev для точного принятия решения.

Итак, мы передаем этот вопрос Jev. Затем Jev выводит следующее.

1{
2  "answers": {
3    "food_complaint": {
4      "type": "noul",
5      "noul": 0.04
6    }
7  }
8}

Jev определяет, что вероятность того, что этот конкретный отзыв содержит жалобу на еду, составляет всего 4%. Поэтому мы можем классифицировать этот отзыв как менее приоритетный и вернуться к нему позже, когда будет время.

Выбор

Давайте лучше поймем каждый отзыв, попросив Jev отнести его к определенной категории. Вот как может выглядеть наш запрос к Jev.

1{
2  "model": "jev-latest",
3  "state": "Ждал двадцать минут, но хот-дог того стоил. Вернулся бы, если бы очередь была короче.",
4  "questions": {
5    "main_topic": {
6      "type": "choice",
7      "instructions": "Какова основная тема этого отзыва? Выберите вариант, который лучше всего отражает его главный фокус.",
8      "criteria": {
9        "queue": "Основной фокус — длина очереди или время ожидания.",
10        "food": "Основной фокус — вкус, температура или качество еды.",
11        "service": "Основной фокус — дружелюбие персонала, полезность или то, как они обработали заказ. Комментарии только о времени ожидания относятся к категории 'queue'.",
12        "other": "Основной фокус — что-то иное, кроме еды, времени ожидания или обслуживания персоналом."
13      }
14    }
15  }
16}

Мы определили каждый выбор, который может сделать Jev, с описанием того, когда использовать каждый вариант («criteria»). Jev возвращает следующее.

1{
2  "answers": {
3    "main_topic": {
4      "type": "choice",
5      "choice": "queue",
6      "probabilities": {
7        "queue": 0.80,
8        "food": 0.15,
9        "service": 0.03,
10        "other": 0.02
11      },
12      "confidence": 0.60
13    }
14  }
15}

Хорошо, Jev выбрал «queue» (очередь) в качестве ответа. Вы также можете видеть, что он присваивает вероятности каждому из вариантов.

Оценка

Теперь давайте попросим Jev оценить, насколько клиент доволен общим опытом посещения нашей точки с хот-догами, используя пять определенных уровней.

1{
2  "model": "jev-latest",
3  "state": "Ждал двадцать минут, но хот-дог того стоил. Вернулся бы, если бы очередь была короче.",
4  "questions": {
5    "overall_satisfaction": {
6      "type": "score",
7      "instructions": "Насколько этот клиент доволен своим общим опытом? Учитывайте как положительные, так и отрицательные комментарии.",
8      "criteria": [
9        "Очень недоволен: резко негативное отношение к опыту в целом.",
10        "Недоволен: преимущественно негативное, несмотря на любые позитивные моменты.",
11        "Смешанные чувства: значимые плюсы и минусы, ни один из которых явно не преобладает.",
12        "Доволен: преимущественно позитивное, несмотря на некоторые жалобы.",
13        "Очень доволен: резко позитивное, без существенных жалоб."
14      ]
15    }
16  }
17}

Снова мы предоставляем четкий вопрос, набор возможных ответов и состояние. Jev возвращает следующее.

1{
2  "answers": {
3    "overall_satisfaction": {
4      "type": "score",
5      "score": 2.1,
6      "probabilities": {
7        "0": 0.05,
8        "1": 0.15,
9        "2": 0.50,
10        "3": 0.25,
11        "4": 0.05
12      }
13    }
14  }
15}

2.1 из 4, есть куда расти.

Магия Jev заключается в том, что он способен принимать эти решения намного быстрее и дешевле, чем LLM. Вот сравнение бок о бок обработки 60 отзывов, оставленных для нашей точки с хот-догами. Слева — Jev, справа — LLM (gpt-5.6 Luna).

Преимущество Jev в скорости и стоимости снижает барьер для внедрения автоматических решений в ПО.

Применение Jev

Где бы в вашем продукте решение могло улучшить пользовательский опыт, рассмотрите возможность применения Jev. Вот несколько примеров.

Используйте Да/нет везде, где знание того, верно что-то или ложно, позволяет изменить предпринятые действия.

• Указывает ли сообщение этого клиента на то, что он собирается отменить подписку?
• Свидетельствует ли обновление от поставщика о том, чтоshipment пропустит срок доставки?
• Раскрывает ли объяснение этого студента заблуждение, требующее внимания?
• Содержит ли стенограмма встречи обязательство, за которое никто не взялся?
• Указывает ли сообщение этого игрока на то, что он застрял и нуждается в подсказке?

Используйте Выбор везде, где выбор из набора вариантов позволяет решить, что делать дальше.

• Какая команда специалистов должна обработать этот необычный запрос клиента?
• Какой обучающий материал по продукту лучше всего соответствует тому, чего пытается достичь этот пользователь?
• Какой персонаж в игре должен отреагировать на то, что сказал игрок?
• Какой сегмент аудиогиды в музее лучше всего отвечает на вопрос посетителя?
• Какая доступная замена лучше всего сохранит роль отсутствующего ингредиента в рецепте?

Используйте Оценку везде, где суждение о том, насколько сильно, хорошо или близко что-то соответствует критерию, позволяет расставить приоритеты или скорректировать действие.

• Насколько disruptive (разрушительным) является эта ошибка ПО для реального рабочего процесса клиента?
• Насколько closely (близко) этот туристический маршрут соответствует чьему-то представлению об идеальном отпуске?
• Насколько strongly (сильно) это интервью с клиентом подтверждает определенную продуктовую гипотезу?
• Насколько far (далеко) диалог в этой сцене отклоняется от established (установленного) голоса персонажа?
• Насколько revealing (раскрывающим) было бы это подсказка в игре, учитывая то, что игрок уже знает?

Время строить с Jev

Jev открыл мир новых возможностей в том, какие виды ПО и пользовательского опыта мы можем создавать.

Теперь, когда вы знаете, что такое Jev и как он работает, как вы собираетесь применить это к продуктам, которые вы создаете?