llm prompting practices ja
2024.03.12
Основываясь на высококачественных справочных материалах, мы легко собрали советы по созданию подсказок LLM (крупномасштабная языковая модель).
Представлен только обзор. Пожалуйста, обратитесь к каждому документу для получения подробной информации.
Обратные инженерные методы могут быть изучены в некоторой степени с помощью опубликованных материалов. Если вы рассматриваете возможность покупки курса, товаров или книги о быстрой инженерии (часто для тех, у кого мало информации), пожалуйста, сначала прочитайте эти материалы.
Быстрое инженер - OpenAI API
Шесть стратегий
- Напишите четкие инструкции
- Включите детали
- Назначить личность
- Четко разделите различные части оператора ввода
- Укажите шаги, необходимые для выполнения задачи
- Представить пример
- Укажите длину желаемого ответа
- Предоставить справочный текст
- Инструктируя вас ответить, используя справочный текст
- Поручить им разкапливаться с цитатой из эталонного текста
- Разделите сложные задачи на простые подзадачи
- Определите очень важные инструкции для запросов пользователя, используя классификацию намерений
- Суммировать или отфильтровать предыдущие взаимодействия в интерактивных приложениях, которые требуют очень длинных разговоров
- Длинные документы суммируются в фрагментах, а затем рекурсивно построили общее резюме.
- Дайте моделе время подумать
- Скажите самой модели, чтобы найти решение, прежде чем прыгнуть к выводу
- Скрыть процесс вывода модели, используя внутренние монологи и набор запросов
- Спросите модель, не хватало ли чего -нибудь из предыдущего прохода
- Используйте внешние инструменты
- Повторные выполнения знаний с использованием поиска на основе Enterdings
- Используйте выполнение кода, чтобы сделать более точные вычисления и внешние вызовы API
- Дайте модели доступ к конкретной функции
- Систематически проверяйте свои изменения
- Оцените выход модели, используя ответ золотого стандарта
Стратегии быстрого проектирования | Google AI для разработчиков
Оперативная стратегия проектирования
- Дать четкие и конкретные инструкции
- Определите задачи для выполнения
- Укажите все ограничения
- Определите формат вашего ответа
- Включите несколько примеров
- Zero-Shot и несколько выстрелов
- Найдите оптимальное количество примеров
- Примеры используются для демонстрации паттернов, а не анти-паттернов.
- Представленные примеры используют согласованный формат
- Добавить контекстную информацию
- Добавьте префикс
- Входной префикс
- Вывод префикс
- Пример префикс
- Дайте модели частичный ввод, чтобы завершить его
- Поломки подсказки в простые компоненты
- Разбить инструкции
- Создайте цепочку подсказок (сделайте вывод предыдущей подсказки в качестве ввода следующей подсказки)
- Совокупные ответы
- Попробуйте разные значения параметров
- Максимальный выходной токен
- Температура
- Top-K
- Топ-п
- Стратегия быстрого совершенствования
- Используйте другую фразу
- Переключиться на аналогичную задачу
- Переупорядочить контент
- Ответ завышенного
- Вещи, которых следует избегать
- Избегайте полагаться на модели для генерации фактической информации
- Используйте математику и логические проблемы с осторожностью
Быстрая инженерия для универсального AI | Машинное обучение | Google для разработчиков
Быстрое инженерное проектирование для создания искусственного интеллекта
Обратные лучшие практики создания
- Четко сообщите, какой контент и информация наиболее важны.
- Структура подсказка: начните с определения роли, предоставить контекст и входные данные и предоставить инструкции.
- Используйте конкретные и разнообразные примеры, чтобы модель давала точные результаты с акцентом.
- Дайте ограничения для ограничения объема вывода модели. Это избегает отклонения от инструкций и предоставления неточной информации.
- Сложные задачи разбиты на простые последовательности.
- Поручите модели оценить и проверить свои собственные ответы, прежде чем их генерировать («Ответы должны быть в пределах 3 предложений», «Оцените краткость вывода по шкале 1-10.» «Как вы думаете, это правильно?»).
Приглашенный тип
- Прямое подсказка (нулевой выстрел)
- Подсказка с примером (один выстрел/ несколько выстрелов/ мульти-выстрел)
- Кроватка (цепочка мыслей) подсказки
- Zero-Shot Cot
- Стратегия быстрого совершенствования
Оперативная инженерия
- Определить задачи и критерии успеха
- Ключевые критерии успеха для рассмотрения
- Производительность и точность
- Задержка
- цена
- Создать тестовый пример
- Создать временную подсказку
- Попробуйте подсказку на тестовом примере
- Улучшить подсказку
- Вернуться к шагу 4 и повторить улучшения
- Выпуск отполированных подсказок
Начиная с наиболее способных моделей и длинных подсказок в первую очередь, и после того, как вы получите желаемое качество выхода, попробуйте меньшие модели или более короткие подсказки для задержки и экономии средств.
Быстрые техники инженерных технологий
- Расскажите им четко и напрямую
- Используйте пример
- Дать роль модели
- Использование тегов XML (специфично)
- Разделить большие подсказки
- Заставить модель думать с пошаговым
- Укажите начало ожидаемого вывода
- Укажите выходной формат
- Пожалуйста, перепишите
- Модели с длинным контекстом Windows используют это преимущество
Быстрое инженерное руководство
Настройки LLM
имя объяснение температура Степень случайности. Повышение температуры повышает случайность, в то время как более низкая снижает случайность. топ р Метод отбора проб, называемый отбором ядра. Более высокий верхний P увеличивает разнообразие ответов. максимальная длина Максимальная длина ответа. Единицы варьируются в зависимости от модели, такой как количество токенов и символов. Стоп -последовательность Шаблон строки, который перестает генерировать ответы. частотный штраф Штраф за частоту возникновения конкретного токена. Наказание о присутствии Штраф за частоту возникновения любого токена. Быстрые компоненты
Рассмотрим следующее как компоненты подсказки:
имя Японский объяснение инструкция Инструкции Задачи, которые вы хотите моделировать контекст контекст Внешняя информация и дополнительный контекст Входные данные Входные данные Входные данные и вопросы, чтобы задать ответы выходной индикатор Выходной индикатор Тип вывода и формат Общие советы
- Начните просто и повторите улучшения
- Остановите запросы в упорядоченном порядке
- В частности, напрямую
- Избегайте неточностей
- «Вот как это», а не «не делай этого».
Быстрые методы создания
- Нулевое побуждение
- Несколько выстрелов
- Кроватка (цепочка мыслей) подсказки
- Самосогласованность
- Сгенерированные знания побуждения
- Быстрое цепочка
- Tot (дерево мыслей)
- Тряпка (поиск дополненного поколения)
- Искусство (автоматические рассуждения и использование инструментов)
- Ape (автоматический инженер -приглашение)
- Активно-промп
- Направленное стимул побуждение
- PAL (программные языковые модели)
- Реагировать подсказка
- Отражение
- Мультимодальная кроватка
- GraphPrompt
Риск и неправильное использование
- Враждебное подсказка (оперативная атака)
- Быстрое впрыск
- Первое король
- Джейлбрейк (джейлбрейк)
- Правда
- предвзятость
