Knigi-for.me

Главное про AI - Вадим Жартун

Тут можно читать бесплатно Главное про AI - Вадим Жартун. Жанр: Прочее издательство , год . Так же Вы можете читать полную версию (весь текст) онлайн без регистрации и SMS на сайте knigi-for.me (knigi for me) или прочесть краткое содержание, предисловие (аннотацию), описание и ознакомиться с отзывами (комментариями) о произведении.
Эти правила валидны для Claude Sonnet/Opus 4.x, и общая логика применима к другим современным моделям: 3–5 хороших примеров лучше 20 случайных.

Few-shot — это карта, а не маршрут. Карта показывает устройство местности: дороги, ориентиры, ограничения. Маршрут от А к Б вы строите сами: модель смотрит на few-shot-карту и прокладывает свой путь под каждый новый вход.

PREFILL: НАПРАВЛЕНИЕ МОДЕЛИ С ПЕРВОГО ТОКЕНА

Приём, при котором в API-запросе в сообщении ассистента стоит первая часть ответа. Если поставите { — модель продолжит в формате JSON, а не уйдёт в прозу. Если Уважаемый Иван Петрович, — в формальном тоне. Если Заключение: — пропустит шаблонную преамбулу и сразу перейдёт к сути. Тот же приём, что мы уже разобрали в блоке системного промпта, но с практической стороны.

ЗАДАЧИ, КОТОРЫЕ РЕШАЕТ PREFILL

Первая — зафиксировать формат. Хотите, чтобы модель начала с JSON-объекта? Пишите в prefill { — модель продолжает в JSON, а не уходит в прозу. Вторая — направить тональность. Привет, — разговорный, Уважаемый, — формальный. Третья — пропустить шаблонную преамбулу: большинство моделей начинают с «Конечно, я помогу с этим» или «Вот ваш ответ:», prefill позволяет перейти к сути сразу.

ГРАНИЦЫ ПРИМЕНИМОСТИ PREFILL

Prefill работает только в API, не в веб-интерфейсе: в чате нельзя заполнить «начало» ответа модели. На июнь 2026 года prefill — устаревающий приём, и в новых кодовых базах его лучше не закладывать: для фиксации формата используйте Structured Outputs и output_config.format в новых API (детали в блоке «Предзаполнение» системного промпта).

PREFILL УСКОРЯЕТ ФОРМАТИРОВАНИЕ, НО НЕ ОТМЕНЯЕТ ПРОВЕРКУ

Типичный пример: нужно вернуть сумму и валюту из платёжного документа в JSON. Если просто попросить «извлеки и верни в JSON», модель часто добавляет пояснение перед блоком, и парсер ломается. Решение — prefill {"amount": 0, "currency": ""}: модель понимает, что нужно заполнить оба поля и закрыть объект, и стартует с валидного JSON. Это как первая буква в кроссворде: вы видите { и понимаете, что дальше будут пары ключ-значение и закрывающая }. Без prefill модель гадает, с чего начать.

СЛОЖНЫЕ ЗАДАЧИ ЧЕРЕЗ ИТЕРАЦИИ: РАБОЧИЙ ПОДХОД

Сложная задача — это задача, в которой один промпт не справляется. Либо задача объективно многошаговая (составить договор из шаблона, проверить юридические риски, передать на подпись), либо задача требует разных режимов работы модели — рассуждение, генерация, проверка. В обоих случаях итеративный подход превращает одну сложную задачу в серию простых, каждая из которых решается одним промптом.

БАЗОВЫЙ ЦИКЛ ИЗ ЧЕТЫРЁХ ШАГОВ

Я держу в голове простую памятку в четыре строки: базовый промпт, запрос в AI, анализ ответа, корректировка промпта. Цикл повторяется, пока результат не станет стабильно приемлемым на 10–20 разных входов.

Шаг 1 — отправная точка: не «идеальный промпт», а первая рабочая версия. Шаг 2 — вы получаете ответ и не соглашаетесь с ним, а разбираете, что в нём хорошо и что плохо. Шаг 3 — фиксируете конкретное изменение, а не «переписать всё с нуля». Шаг 4 — проверяете изменение на новом наборе входов, а не на тех же двух, на которых «заметили улучшение».

Исследования подтверждают, что даже опытные NLP-инженеры тратят значительное время на эксперименты и оценку эффектов разных стратегий. Это не «лень новичков». Это встроенное свойство работы с вероятностной системой.

МЕТОД ПЯТИ ПРИМЕРОВ ДЛЯ СТАРТА В НЕОПРЕДЕЛЁННОСТИ

Эндрю Нг (Andrew Ng, сооснователь Coursera, бывший глава AI-подразделения Baidu, один из самых цитируемых AI-практиков в мире) в одном из постов 2025 года сформулировал практичный совет: «допустимо начать с быстрой и грубой реализации, скажем, 5 примеров с простым LLM-судьёй» (LLM-as-a-judge — подход, при котором оценку качества ответов поручают другой LLM, а не человеку). Эта фраза снимает перфекционизм.

Пять примеров — стартовая точка для цикла итераций, не полноценный тест. LLM-judge на пяти примерах — грубый фильтр: он ловит явные провалы, но не тонкие расхождения.

Когда я работаю с командой и она говорит «мы не знаем, с чего начать», я говорю: возьмите пять реальных кейсов, дайте чату задачу, посмотрите на результат, и зафиксируйте — в трёх из пяти он провалился. Это и есть база. Дальше — по одному изменению за итерацию.

УРОВНИ ЗРЕЛОСТИ В РАБОТЕ С ПРОМПТАМИ

По моему опыту, есть четыре уровня взаимодействия с AI.

1: «Потребление». Эпизодические запросы, бытовые справки, черновики. Хватает для справки, перевода, простой генерации. Мало, когда нужна повторяющаяся задача с гарантированным качеством.

2: «Итеративный диалог». Человек уточняет, переспрашивает, корректирует, выходит на нужный результат за 3–5 итераций. Хватает для разового отчёта, персонального текста. Мало, когда нужен типовой процесс в отделе.

3: «Оптимизация». Человек копит шаблоны, фиксирует удачные промпты, выходит на библиотеку проверенных промптов. Хватает для работы внутри одной команды. Мало, когда нужно масштабирование на компанию.

4: «Автоматизация». Человек создаёт воркфлоу, Custom GPT (настраиваемые версии ChatGPT с заданной ролью и набором знаний) или Skills, выходит на самоулучшающуюся систему. Хватает для рабочих систем. Мало, когда система должна работать без присмотра — тогда нужны агенты с явными границами, и это уже следующая глава.

Большинство пользователей сидит на уровне 1 и разочаровывается, когда уровень 1 не справляется с задачей уровня 3. Переход на следующий уровень начинается с простого осознания: проблема не в том, что «модель плохая». Проблема в том, что вы используете не тот метод.

ТИПИЧНАЯ ОШИБКА: ИЗМЕНЕНИЕ СРАЗУ НЕСКОЛЬКИХ ПЕРЕМЕННЫХ

Самая частая ошибка новичков, которую я вижу в своей работе: человек получает плохой ответ, переписывает промпт наполовину, отправляет снова, получает «улучшение» и не понимает, что именно сработало. Или наоборот: переписывает, получает «ухудшение», и не понимает, какая из дюжины правок всё сломала.

Правило: одно изменение за итерацию. Записали: «версия 1.2 — добавил пример с граничным кейсом». Сравнили с версией 1.1 на тех же 20 кейсах. Измерили. Решили: оставить или откатить.

Итерация — это записанное измерение: «было 76%, стало 89% на этих 20 кейсах», а не субъективное «ну вроде лучше». Допустим, я думаю, что модель путает категории X и Y, потому что в примерах я использовал похожие формулировки. Дальше я меняю примеры, чтобы формулировки расходились, прогоняю на 20 тестовых кейсах и записываю, сколько ошибок ушло. Метод начинается там, где появляется связка «гипотеза → изменение → тест → измерение». Anthropic в Skills-гайде формулирует мягче, но суть та же: следите за неожиданными траекториями или чрезмерной опорой на определённые контексты; итерируйте с Claude


Вадим Жартун читать все книги автора по порядку

Вадим Жартун - все книги автора в одном месте читать по порядку полные версии на сайте онлайн библиотеки kniga-for.me.