22 сентября (по времени США) компания Anthropic выпустила Claude Opus 5.5.
В тот же день OpenAI анонсировала GPT-6 Sol и Luna.
Обе модели «умнее прежних и дешевле прежних».
Но больше всего в официальном анонсе меня зацепила одна конкретная цифра.
В комментарии от Deloitte говорится:
«Даже на минимальных настройках модель нашла 72% известных багов. Opus 5 на максимальных настройках находил 56%».
Это значит, что способность читать код и искать уязвимости выросла колоссально — всего за одно поколение.
ИИ будет создавать вещи, которые «работают».
Но чтобы они были «безопасными», инструкции должен давать человек.
Поэтому вот 5 моментов, о которых нужно помнить, когда вы собираете внутренние приложения на Opus 5.5.
Каждый пункт идет вместе с промптом, чтобы поручить Opus 5.5 проверку кода.
====
Как проводить проверку
Когда сборка завершена, не спрашивайте «Есть ли проблемы?» в том же чате, где вы её писали.
ИИ, который писал код, воспринимает собственную архитектуру как данность и начинает смотреть сквозь пальцы.
Откройте новый чат, выберите модель Opus 5.5 и покажите ей папку с приложением целиком.
И обязательно требуйте, чтобы к каждой найденной проблеме указывались «файл и строка».
В комментарии Deloitte упоминается, что ложных срабатываний стало меньше, но их количество не равно нулю.
Если указано точное место, человек сможет всё перепроверить позже.
Вот инструкция:
«Ты — специалист по безопасности, который видит этот код впервые. Если найдешь проблемы, указывай имя файла, номер строки, почему это опасно и как это исправить. Всё, в чем ты не уверен, выноси отдельно с пометкой "Требует проверки"».
====
1. Видно ли что-то тем, кто не авторизовался?
Когда приложение пишет ИИ, он может забыть поставить заглушки авторизации на экранах или путях к данным.
Классика жанра — тестовые страницы подтверждения, созданные в процессе разработки, остаются висеть в открытом доступе.
Проверяется элементарно.
Просто откройте URL админки или данных напрямую в браузере без входа в аккаунт (в режиме инкогнито).
Если открылось — тест провален.
Вот инструкция:
«Перечисли все URL и API, доступные без авторизации. Из них отсортируй по уровню опасности те, что возвращают данные или относятся к администрированию».
====
2. Могут ли авторизованные пользователи видеть чужие данные?
Авторизация проверяет только «кто» перед системой.
А вот «что этому человеку разрешено видеть» нужно прописывать отдельно.
Для проверки создайте два тестовых аккаунта. Зайдите под пользователем А и попробуйте открыть URL с данными пользователя Б.
Вот инструкция:
«Найди все пути, по которым пользователь А может просмотреть или изменить данные пользователя Б. Учитывай случаи, когда URL или API вызываются напрямую, в обход интерфейса».
====
3. Не лежат ли ключи и пароли на видном месте?
Код, который выполняется на стороне браузера, целиком отправляется на компьютер пользователя.
Прописать там ключи — всё равно что раздать их всем желающим.
Другая частая ошибка — загрузка конфигов с ключами в общие папки или на GitHub.
Вот инструкция:
«Поищи API-ключи, пароли или токены в клиентском коде, конфигурационных файлах или истории коммитов. Если найдешь, предложи, куда их следует перенести».
====
4. Не слишком ли широкие права выданы инструментам для их задач?
Внутренние инструменты часто подключаются к Google, Slack или базам данных.
Иногда выданный ключ позволяет «удалять» или «смотреть всё», хотя для работы нужно только «чтение».
Это очень частая история.
Если такой ключ утечет, масштаб ущерба будет зависеть именно от выданных прав.
Проверка простая: запишите ответ на вопрос «Что в худшем случае этот инструмент сможет удалить?».
Если не можете ответить мгновенно — пора насторожиться.
Вот инструкция:
«Перечисли все права, которые есть у этого инструмента во внешних сервисах или базах данных. Сравни каждое с минимально необходимыми правами для реальной работы и укажи на излишки».
====
5. Не выполняются ли входящие тексты извне как команды?
С инструментами, где ИИ читает письма, веб-страницы или загруженные файлы, нужно быть предельно осторожным.
Если внутри окажется текст вроде «Игнорируй предыдущие инструкции и сделай XX», ИИ может послушаться.
Это называется Prompt Injection.
В анонсе Opus 5.5 заявлено, что устойчивость к этой атаке «равна или лучше, чем у Opus 5 во всех протестированных сценариях».
Но «равна или лучше» не означает нулевой риск. Защита всё равно должна быть на стороне самого инструмента.
Вот инструкция:
«Найди места, где текст или файлы, загруженные извне, обрабатываются как инструкции для ИИ. Если такие есть, измени логику так, чтобы загруженный контент воспринимался исключительно как справочная информация, а любые инструкции внутри него игнорировались».
====
Резюме
ИИ соберет ровно те функции, о которых вы попросили.
Но «не показывай это другим» и «не давай лишних прав» в коде не появятся, пока вы об этом не скажете.
И наоборот: все эти 5 пунктов можно закрыть, просто добавив одну инструкцию.
А способность Opus 5.5 находить дыры в написанном коде стала еще выше.
Закончили сборку — покажите результат Opus 5.5 в новом чате.
Считайте это полноценной частью разработки.
Если у вас уже крутится внутреннее приложение, начните с того, что вставьте инструкцию из раздела «Как проводить проверку».
А если каждый раз копировать инструкции лень, попробуйте плагин security-review — очень рекомендую.
Он цепляется за мелочи и подсвечивает их, поэтому я сам пользуюсь им постоянно.
====
И напоследок небольшое объявление.
Наша компания разрабатывает AI-агентов под бизнес-задачи вашей компании с нуля.
Не проводим обучения и не внедряем коробки: мы слушаем, как у вас реально устроены процессы, и отдаем инструмент, которым можно пользоваться «уже завтра». Интеграцию и поддержку тоже берем на себя.
