Потрясающая бывая инженерия? ♂️
Этот репозиторий содержит ручные ресурсы для быстрого разработки с акцентом на генеративный предварительно обученный трансформатор (GPT), CHATGPT, Palm и т. Д.
Prompt Engineering Course is coming soon..
Оглавление
- Документы
- Инструменты и код
- Апис
- Наборы данных
- Модели
- Детекторы контента ИИ
- Образовательный
- Видео
- Книги
- Сообщества
- Как внести свой вклад
Документы
?
Быстрые техники инженерных технологий :
- Майнинг текста для быстрого разработки:
- КАТАЛОГ ПРИМЕНЕНИЯ СТРОИТЕЛЬСТВА для улучшения быстрого разработки с CHATGPT [2023] (ARXIV)
- Трудные подсказки, сделанные простыми: дискретная оптимизация на основе градиента для быстрого настройки и обнаружения [2023] (ARXIV)
- Синтетическое подсказка: генерирование демонстраций цепочки мыслей для крупных языковых моделей [2023] (ARXIV)
- Прогрессивные подсказки: непрерывное обучение для языковых моделей [2023] (ARXIV)
- Партийное подсказка: эффективный вывод с API LLM [2023] (ARXIV)
- Последовательное подсказку для деко -заполнения сложных вопросов [2022] (ARXIV)
- Структурированное подсказка: масштабирование встроенного обучения до 1000 примеров [2022] (ARXIV)
- Большие языковые модели являются инженерами на уровне человека [2022] (ARXIV)
- Спросите меня о чем угодно: простая стратегия для подготовки языковых моделей [2022] (Arxiv)
- Побуждение GPT-3 быть надежным 2022
- Разложенное подсказка: модульный подход для решения сложных задач [2022] (ARXIV)
- RampleChainer: цепочка подсказка модели с большим языком посредством визуального программирования [2022] (arxiv)
- Исследование оперативной техники в диффузионных моделях [2022] (ARXIV)
- Покажите свою работу: царапины для промежуточных вычислений с языковыми моделями [2021] (Arxiv)
- Переосмысление учебных подсказок для языка GPTK [2021] (ARXIV)
- Фантастически упорядоченные подсказки и где их найти: преодоление чувствительности с несколькими выстрелами в оперативном порядке [2021] (arxiv)
- Мощность масштаба для настройки параметров, эффективной, [2021] (ARXIV)
- Быстрое программирование для крупных языковых моделей: за пределами нескольких выстрелов Парадигмы [2021] (ARXIV)
- Настройка префикса: оптимизация непрерывных подсказок для генерации [2021] (ARXIV)
Рассуждение и встроенное обучение :
- Мультимодальная цепочка мыслей в языковых моделях [2023] (ARXIV)
- Подумав, давайте не будем думать шаг за шагом! Предвзятость и токсичность в нулевых рассуждениях [2022] (ARXIV)
- React: синергирование рассуждений и действия в языковых моделях [2022] (Arxiv)
- Языковые модели являются жадными рассуждениями: систематический формальный анализ цепочки мыслей [2022] (ARXIV)
- Об продвижении языковых моделей лучшими разумерами [2022] (ARXIV)
- Большие языковые модели-это схема с нулевым выстрелом [2022] (ARXIV)
- Рассуждения, как исполнители программы [2022] (arxiv)
- Самосогласованность улучшает цепочку мышления в языковых моделях [2022] (ARXIV)
- Переосмысление роли демонстраций: что делает в условиях обучения в контексте? [2022] (arxiv)
- Научитесь объяснять: мультимодальные рассуждения с помощью цепочек мышления для ответа на вопросы науки [2022] (Arxiv)
- Цепочка мышления вызывает рассуждения в моделях крупных языков [2021] (ARXIV)
- Сгенерированные знания, вызванные рассуждениями о здравом смысле [2021] (ARXIV)
- Берца: научиться разговаривать с Бертом [2021] (ACL)
Оценка и улучшение языковых моделей :
- Модели с большими языками могут быть легко отвлечены нерелевантным контекстом [2023] (ARXIV)
- Ползание внутренней базой знаний языковых моделей [2023] (ARXIV)
- Обнаружение языковой модели поведения с помощью модельных оценок [2022] (ARXIV)
- Калибровать перед использованием: улучшение производительности языковых моделей [2021] (ARXIV) (2021] (ARXIV)
Приложения языковых моделей :
- Перефразируйте и ответите: пусть модели крупных языков зададут лучшие вопросы для себя [2023] (Arxiv)
- Подсказка для мультимодальной классификации ненавистных мемов [2023] (ARXIV)
- Места: побуждение языковых моделей для синтеза социальных разговоров [2023] (ARXIV)
- Поздравляя со здравым значением для управляемого эмпатического генерации диалога [2023] (ARXIV)
- PAL: программные языковые модели 2023
- Юридическая инженерия для многоязычного прогнозирования юридических суждений [2023] (ARXIV)
- Общение с Copilot: изучение быстрого инженера для решения проблем CS1 с использованием естественного языка [2022] (ARXIV)
- Написание сюжета с царапины предварительно обученных языковых моделей [2022] (ACL)
- Автопромпт: выявление знаний из языковых моделей с автоматически сгенерированными подсказками [2020] (ARXIV)
Обнаружение угрозы и примеры состязания :
- Конституционный ИИ: безвреднее время от обратной связи с ИИ [2022] (ARXIV)
- Игнорируйте предыдущую подсказку: методы атаки для языковых моделей [2022] (ARXIV)
- Сгенерированный текст машина: комплексный обзор моделей угроз и методов обнаружения [2022] (ARXIV)
- Оценка восприимчивости моделей с предварительно обученными языками с помощью состязательных примеров ручной работы [2022] (ARXIV)
- Обнаружение токсичности с генеративным выводом на основе быстрого на основе быстрого на основе быстрого на основе быстрого
- Как мы можем узнать, какие языковые модели знают? [2020] (MIT)
Несколько выстрелов и оптимизация производительности :
- Заглавныйгатор: несколько выстрелов из 8 примеров [2022] (arxiv)
- Ненадежность объяснений в нескольких выстрелах для текстовых рассуждений [2022] (ARXIV)
- Сделать предварительно обученные языковые модели лучше учащихся несколько выстрелов [2021] (ACL)
- Языковые модели-это несколько учащихся [2020] (arxiv)
Текст на генерацию изображений :
- Таксономия быстрых модификаторов для генерации текста до изображения [2022] (ARXIV)
- Рекомендации по проектированию для быстрого инженерного генеративного моделей текста до изображения [2021] (ARXIV)
- Синтез изображения с высоким разрешением с скрытыми диффузионными моделями [2021] (ARXIV)
- Dall · E: Создание изображений из текста [2021] (arxiv)
Текст на музыку/поколение звука :
- Musiclm: генерирование музыки из текста [2023] (Arxiv)
- Ernie-Music: генерация музыки текста к платежа с диффузионными моделями [2023] (Arxiv)
- Roy2music: генерация музыки с кондиционированным текстом с диффузионными моделями [2023) (Arxiv)
- Audiolm: подход к языковому моделированию к генерации аудио [2023] (Arxiv)
- Make-An-Audio: генерация текста в Аулио с моделями диффузии с увеличением быстрого усиления [2023] (ARXIV)
Текст на генерацию видео :
- DREAMIX: Модели диффузии видео являются общими видео редакторами [2023] (ARXIV)
- Tune-a-Video: одноразовый настройка диффузионных моделей изображения для генерации текста-Video [2022] (ARXIV)
- Roy2music: генерация музыки с кондиционированным текстом с диффузионными моделями [2023) (Arxiv)
- Audiolm: подход к языковому моделированию к генерации аудио [2023] (Arxiv)
Обзоры :
- Пилотирующий копило и кодекс: горячая температура, холодные подсказки или черная магия? [2022] (arxiv)
Инструменты и код
?
| Имя | Описание | URL |
|---|
| Lmamaindex | LmamainDex - это проект, состоящий из набора структур данных, разработанных для облегчения использования больших внешних баз знаний с LLMS. | [GitHub] |
| Restryify | Решите проблемы NLP с LLM и легко генерируйте различные подсказки задач NLP для популярных генеративных моделей, таких как GPT, PALM и многое другое с помощью быстрого | [GitHub] |
| Ариз-Феникс | Инструмент с открытым исходным кодом для ML Observicability, который работает в вашей ноутбуке. Мониторинг и тонкую настройку LLM, CV и табличные модели. | [GitHub] |
| Лучше подсказка | Тестовая набор для подсказок LLM, прежде чем подтолкнуть их к проточке | [GitHub] |
| Cometllm | Войдите, визуализируйте и оцените свои подсказки LLM, шаблоны приглашения, быстрые переменные, метаданные и многое другое. | [GitHub] |
| Embedchain | Framework для создания CHATGPT, как боты, на вашем наборе данных | [GitHub] |
| Interactive Composition Explorerx | ICE - это библиотека Python и визуализатор трассировки для языковых модельных программ. | [GitHub] |
| Сетей | Структура NLP с открытым исходным кодом для взаимодействия с вашими данными с помощью LLMS и трансформаторов. | [GitHub] |
| Langchainx | Построение применений с LLMS через композицию | [GitHub] |
| OpenPrompt | Рамка с открытым исходным кодом для быстрого обучения | [GitHub] |
| Быстрого двигателя | Этот репо содержит библиотеку утилит NPM для создания и поддержания подсказок для моделей крупных языков (LLMS). | [GitHub] |
| Recavleinject | Rackintinject - это структура, которая модульно собирает подсказки для обеспечения количественного анализа надежности LLMS для состязательных приступов. | [GitHub] |
| Подсказка AI | Advanced Playground для GPT-3 | [GitHub] |
| Быстрое источник | ReptSource - это инструментарий для создания, обмена и использования подсказок естественного языка. | [GitHub] |
| Мысли | Структура для науки о машинном мышлении | [GitHub] |
| Ramplemetheus | Одно выстрел | [Инструмент] |
| AI Config | Основа на конфигурации с открытым исходным кодом для создания приложений с LLMS | [GitHub] |
| Last -Mile AI | Ноутбук, похожая на игровой площадку для взаимодействия с LLMS в разных методах (текст, речь, аудио, изображение) | [Инструмент] |
| Xpulsai | Без особых усилий построить масштабируемые приложения ИИ. Платформа Autoops для AI & ML | [Инструмент] |
| Агент | Agenta является платформой разработчиков LLM с открытым исходным кодом с инструментами для быстрого управления, оценки, обратной связи человека и развертывания в одном месте. | [GitHub] |
| Подсказка | Разработать, тестировать и контролировать свои задачи LLM {Structured} | [Инструмент] |
Апис
| Имя | Описание | URL | Оплаченный или открытый исходный конец |
|---|
| Openai | GPT-N для задач естественного языка, кодекс для перевода естественного языка в код и Dall · E для создания и редактирования оригинальных изображений | [OpenAI] | Оплаченный |
| Кохерэйй | Cohere обеспечивает доступ к передовым крупным языковым моделям и инструментам NLP через один API | [Кохерэй] | Оплаченный |
| Антроп | Вскоре | [Антроп] | Оплаченный |
| Flan-T5 XXL | Вскоре | [HuggingFace] | Открытый исходный конец |
Наборы данных
?
| Имя | Описание | URL |
|---|
| P3 (общественный пул подсказок) | P3 (Общественный пул подсказок) - это коллекция предложенных наборов данных английского языка, охватывающего разнообразный набор задач NLP. | [HuggingFace] |
| Потрясающие подсказки Chatgpt | Repo включает в себя CHATGPT привлечение к быстрому использованию CHATGPT. | [GitHub] |
| Написание подсказок | Сборник большого набора данных из 300 тысяч историй, написанных человеком, в сочетании с написанием подсказок с онлайн-форума (Reddit) | [Kaggle] |
| Midjourney Подсказки | Текстовые подсказки и URL -адреса изображений, скрещенные с общественного сервера Discord от Midjourney | [HuggingFace] |
Модели
?
| Имя | Описание | URL |
|---|
| Чатгпт | Чатгпт | [OpenAI] |
| Кодекс | Модели Codex являются потомками наших моделей GPT-3, которые могут понимать и генерировать код. Их учебные данные содержат как естественный язык, так и миллиарды линий общедоступного кода от GitHub | [GitHub] |
| Цвести | Большой большой открытый многоязычный языковой модель с открытой наукой | [HuggingFace] |
| Facebook LLM | OPT-175B-это эквивалентная модель GPT-3, обученная Meta. Это, безусловно, самая большая предварительно предварительно проведенная языковая модель, доступная с 175 миллиардами параметров. | [Alpa] |
| GPT-neox | GPT-neox-20B, 20 миллиардов параметров авторегрессивного языка, обученная на куче | [HuggingFace] |
| Flan-T5 XXL | FLAN-T5-это модель, настроенная на инструкции, означающая, что она демонстрирует поведение с нулевым выстрелом, когда указано на инструкции как часть подсказки. | [HuggingFace/Google] |
| XLM-ROBERTA-XL | Модель XLM-Roberta-XL, предварительно обучающаяся на 2,5 ТБ отфильтрованных данных CommonCrawl, содержащих 100 языков. | [HuggingFace] |
| GPT-J | Это модель причинно-следственного языка, подобную GPT-2 | [HuggingFace] |
| Palm-Rlhf-Pytorch | Внедрение RLHF (обучение подкрепления с обратной связью с человеком) на вершине архитектуры Palm. В основном чат, но с ладонивой | [GitHub] |
| GPT-neo | Реализация моделей моделей параллельных моделей GPT-2 и GPT-3 с использованием библиотеки сетки-Tensorflow. | [GitHub] |
| Lamda-rlhf-pytorch | Предварительная тренировка с открытым исходным кодом. Реализация Google Lamda в Pytorch. Добавление RLHF похоже на CHATGPT. | [GitHub] |
| Rlhf | Внедрение обучения подкреплению от обратной связи человека (RLHF) | [GitHub] |
| GLM-130B | GLM-130B: открытая двуязычная предварительно обученная модель | [GitHub] |
| Mixtral-84b | Mixtral-84B-это смесь модели экспертов (MOE) с 8 экспертами на MLP. | [HuggingFace] |
Детекторы контента ИИ
?
| Имя | Описание | URL |
|---|
| Ай текстовый классификатор | Текстовый классификатор AI-это тонкая модель GPT, которая предсказывает, насколько вероятно, что AI сгенерировал кусок текста из различных источников, таких как CHATGPT. | [OpenAI] |
| Детектор вывода GPT-2 | Это онлайн-демонстрация модели детектора вывода GPT-2, основанной на реализации?/Transformers Roberta. | [HuggingFace] |
| Детектор Openai | Классификатор ИИ для указания текста, написанного в АИ (обертка Python Openai Python) | [GitHub] |
Курсы
? ?
- CHATGPT QUANT ENGINIGHTER для разработчиков, DeepLearning.ai
- Обратная техническая инженерия для моделей зрения от DeepLearning.ai
Учебные пособия
Введение в быстрое разработку
- Быстрое инженер 101 - Введение и ресурсы
- Быстрое инженер 101
- Руководство по быстрому инженерии Sudalairajkumar
Руководство для начинающих по моделям генеративного языка
- Руководство по моделям генеративного языка, удобное для начинающих - руководство Lambda
- Генеративный ИИ с кожуром: часть 1 - модель подсказки
Лучшие практики для быстрой инженерии
- Лучшие практики для быстрого разработки с API OpenAI
- Как написать хорошие подсказки
Полное руководство по быстрой инженерии
- Полное введение в быстрое инженерное проектирование для крупных языковых моделей
- Руководство по быстрого инженера: как разработать идеальные подсказки
Технические аспекты быстрого проектирования
- 3 принципа для быстрого инженера с GPT-3
- Общий фреймворк для инженерии chatgpt
- Методы быстрого программирования
Ресурсы для быстрого разработки
- Потрясающие подсказки Chatgpt
- Лучшие 100+ стабильных диффузионных подсказок
- Далле приглашенная книга
- Поваренная книга Openai
- Быстрое проектирование от Microsoft
Видео
?
- Advanced Chatgpt
- CHATGPT: 5 оперативных секретов для начинающих для начинающих
- CMU Advanced NLP 2022: подсказка
- Обратная инженерия - новая профессия?
- Руководство CHATGPT: 10x ваши результаты с лучшими подсказками
- Языковые модели и быстрое разработка: систематический обзор методов подсказки в НЛП
- Обратная техника 101: автозаполнение, нулевой выстрел, один выстрел и несколько выстрелов
Сообщества
?
- Открытый раздор
- Подсказка Discord
- Учитесь подсказкой
- R/Chatgpt Discord
- Midjourney Discord
Как внести свой вклад
Мы приветствуем вклад в этот список! Фактически, это главная причина, по которой я его создал - для поощрения вкладов и поощрения людей подписаться на изменения, чтобы оставаться в курсе новых и захватывающих событий в мире крупных языковых моделей (LLMS) и быстрого инженерия.
Прежде чем внести свой вклад, пожалуйста, найдите время, чтобы просмотреть наши руководящие принципы взносов. Эти руководящие принципы помогут гарантировать, что ваш вклад соответствует нашим целям и соответствовал нашим стандартам качества и актуальности. Спасибо за ваш интерес к участию в этом проекте!
Источник изображения: docs.cohere.ai