unit minions
Text To Repository
PS: Lihat https://github.com/unit-sh/unit-eval untuk penyempurnaan terkait dengan penyelesaian kode dan pembuatan dokumen:
Pernyataan: Kumpulan data dan biner Lora yang disediakan oleh proyek ini semuanya dibuat oleh OpenAI atau diterbitkan secara online. Kami hanya menyediakan tutorial yang terkait dengan pelatihan model, dan semua konsekuensi yang disebabkan oleh konten pelatihan yang sebenarnya dari pengguna adalah tanggung jawab pengguna sendiri.
Untuk insinyur, kita dapat dengan jelas melihat dampak model bahasa besar seperti chatgpt, dan dengan demikian kami telah melakukan penelitian tentang peningkatan efisiensi litbang dari beberapa metode yang digunakan untuk mempelajari efisiensi litbang Llama Lora dan Chatglm Lora.
Proyek ini adalah hasil penelitian kami, termasuk beberapa pengantar video, model terlatih, kode pelatihan, data pelatihan, dan beberapa catatan selama proses pelatihan.
Lihat rilis untuk pelatihan Lora.
Notebook Pelatihan:
Video Online Seri Llama:
Video Online Seri Chatglm:
Daftar isi:
Konversi data terkait tersedia di: https://github.com/unit-sh/minions-data-prepare
PS: Jika Anda membutuhkan pembuatan kode yang lebih baik, disarankan untuk menggunakan: https://huggingface.co/salesforce/codegen-16b-mono
Kami menggunakan Cloud GPU yang disediakan oleh OpenBayes: https://openbayes.com/console/signup?r=phodal_uvxu
Model OpenBayes dapat digunakan:
Peta jalan:
Terima kasih: Klub AIOS untuk Kunci Openai, Terima kasih OpenBayes untuk Cloud GPU
Peningkatan efisiensi persepsi AI tergantung pada standardisasi efisiensi R&D dan membagi setiap langkah sebanyak mungkin.
Untuk membuat hasil pelatihan lebih akurat, kami membagi langkah -langkah pengembangan perangkat lunak secara rinci untuk memastikan bahwa setiap langkah menghasilkan hasil yang akurat, sehingga mendorong hasil yang akurat. Berikut adalah contoh dari sebagian kecil dari proses terperinci yang kami miliki di perpecahan awal kami:
Kita perlu membaginya menjadi setiap langkah sekecil mungkin, memberi makan data di setiap langkah yang disempurnakan untuk membuat AI menghasilkan efek repeater terbesar.
Todos
Kami menggunakan instruksi yang sangat sederhana dan memberikannya sebanyak mungkin untuk integrasi yang mudah ke dalam alat. sebagai berikut:
Fungsi yang sesuai PENDAHULUAN:
Menilai dari hasil tes, karena jumlah data meningkat, misalnya, 20.000 kasus penggunaan kode lebih "pintar" daripada 10.000 kasus penggunaan kode.
Ide Dasar:
Seperti yang ditunjukkan di bawah ini:
Design a User Story Mapping for ${domain} application based on your understanding. Here are the requirements:
1 . Your user story map should include only user tasks to demonstrate how users will interact with the application.
2 . Our user story map should be based on your understanding of the ${domain} application and its users, and should be
designed to address their needs and pain points.
3 . You may use any tools or formats you choose to create your user story map, but it should be easily shareable and
understandable by stakeholders.
4 . Your expression should be more concise and clear.
5 . Your return should be like as follows:
###
User Tasks:
1 . ...
###Output sampel:
User Tasks:
1. Browse and search for animations and comics
2. View details of animations and comics
3. Create an account
4. Log in to the account
5. Add animations and comics to favorites
6. Download animations and comics
7. Share animations and comics with friends
8. Rate and review animations and comics
9. Create and upload animations and comics
10. Participate in online forums and discussions
为下面的需求编写用户故事：${domain} 应用的 ${story_name} 功能。 要求如下：
1 . 必须要考虑尽可能考虑各种异常场景，添加更多的 AC。
2 . 你的返回模板如下所示：
###
用户故事：可以选择宝贝出行服务
作为 莉莉妈
我想 在滴滴打车的手机客户端里选择宝贝出行服务
以便于 我能够带宝宝打车出行的时候打到有儿童座椅的车
AC 1: 莉莉妈可以选择宝贝出行服务
假设 xxx
当 xxx
于是 xxx
###Output sampel:
用户故事：可以创建和上传动画和漫画
作为一个 Animation and Comics 应用的用户
我想要创建和上传动画和漫画
以便于我可以分享我的作品给其他用户
AC 1: 用户可以创建和上传动画和漫画
假设 用户已经登录到 Animation and Comics 应用
当 用户点击创建和上传动画和漫画按钮
于是 用户可以创建和上传动画和漫画
Ide Dasar:
src/main . PostService(PostRepository, UserRepository, ImageService)
- fields: postRepository:PostRepository, userRepository:UserRepository, userPosts:Set<Post>, imageService:ImageService
- methods: findAll(): List<Post>, addNewPost(Post): Post, saveImageToPost(String, MultipartFile, Post): int
Format JSON yang diharapkan:
Contoh:
{"instruction":"Implement the method action","input":"com.thoughtworks.go.config.rules.AbstractDirective(DirectiveType, DirectiveType, String, String, String)n- fields: action:String, type:String, resource:String, configErrors:ConfigErrors, directiveType:DirectiveTypen- methods: validate(ValidationContext): void, isInvalid(String, List<String>): boolean, matchesAction(String): boolean, matchesType(Class<? extends Validatable>): boolean, matchesResource(String): boolean, errors(): ConfigErrors, addError(String, String): void, equals(Object): boolean, action(): String, type(): String, resource(): String, hashCode(): int, hasErrors(): boolean, getDirectiveType(): DirectiveType","output":"public abstract class AbstractDirective implements Directive {nn @ConfigAttribute(value = "action", optional = false)n protected String action;nn @ConfigAttribute(value = "type", optional = false)n protected String type;nn @ConfigValuen private String resource;nn private final ConfigErrors configErrors = new ConfigErrors();nn private DirectiveType directiveType;nn public AbstractDirective(DirectiveType allow) {n this.directiveType = allow;n }nn public AbstractDirective(DirectiveType allow, String action, String type, String resource) {n this.directiveType = allow;n this.action = action;n this.type = type;n this.resource = resource;n }nn @Overriden public String action() {n return this.action;n }n}n"}
Spesifikasi Format:
包名.类名(类的构造类型)
- fields：成员变量集合（变量名:类型）
- methods：方法抽象集合（方法名(参数类型): 输出类型）
hasil:
com.thoughtworks.go.config.rules.AbstractDirective(DirectiveType, DirectiveType, String, String, String)
- fields: action:String, type:String, resource:String, configErrors:ConfigErrors, directiveType:DirectiveType
- methods: validate(ValidationContext): void, isInvalid(String, List<String>): boolean, matchesAction(String): boolean, matchesType(Class<? extends Validatable>): boolean, matchesResource(String): boolean, errors(): ConfigErrors, addError(String, String): void, equals(Object): boolean, action(): String, type(): String, resource(): String, hashCode(): int, hasErrors(): boolean, getDirectiveType(): DirectiveType
val javaProcessor = JavaProcessor (file.readText())
val shotClass = javaProcessor.toShortClass() ? : return @forEach
javaProcessor
.removePackage()
.removeAllImport()
.removeLicenseInfoBeforeImport()
javaProcessor.splitMethods().forEach { (key, value) ->
CodegenPrompt (
instruction = " Implement the method $key " ,
input = shotClass.toString(),
output = value
). let { prompt ->
val output = Json .encodeToString(prompt)
File ( " $targetPath${key} .json " ).writeText(output)
}
}Ide Dasar
Ide Analisis Tata Bahasa:
src/main untuk setiap proyek. Jika file uji yang sesuai ada pada saat yang sama, itu akan ditarik ke dalam dataset. org.unitmesh.processor.TestClass(String, Int)
- fields: field1:String, field2:Int
- methods: method1(String, Int): String, method2(): Int
class TestProcessorTest {
@ Test
void test1 () {
}
@ Test
void test2 () {
}
}Akhirnya, data yang dihasilkan adalah sebagai berikut:
{"classInfo": "com.thoughtworks.go.security.AESEncrypter(AESCipherProvider)n- fields: ENCODER:Base64.Encoder, DECODER: Base64.Decoder, cipherProvider:AESCipherProvider, ivProvider:IVProvidern- methods: createIVProviderInstance(): IVProvider, Candecrypt (String): Boolean, Encrypt (String): String, Decrypt (String): String, CreateSecretKeyspec (): SecretKeySpec "," TestMethod ":" Public Class Aesencrypttertest ( n n n n n n n n n n n n n @n n CryptoException { n string encrypt = aesencryptter.encrypt ("p@ssw0rd"); n assertThat (enkrypt) .startswith ("aes"); n assertThat (encrypt.split (":")).
Untuk kode terperinci, lihat: uji-ke-kode.py
Contoh propt terakhir yang dihasilkan adalah sebagai berikut:
You are a programmer and implementation a method with TDD. Here are the requirements:
1 . According follows class information and tests code to write a method.
2 . Try you best to thinking corner case.
3 . You only return the code, no explain.
class information:
###
io.github.robwin.swagger.test.AbstractContractValidator()
- methods: findExpectedPaths(Swagger, SwaggerAssertionConfig): Map<String,Path>, getPathsIncludingBasePath(Swagger):
Map<String,Path>, getPathsWithPrefix(Swagger, String): Map<String,Path>, isBlankOrSlash(String): boolean
###
test code:
###
/ **
* Tests AbstractContractValidator.
* /
@ RunWith (Enclosed.class)
public class AbstractContractValidatorTest {
/ **
* Tests getPathsIncludingBasePath().
* /
public static class GetPathsIncludingBasePath {
@ Test
public void shouldReturnPathsPrefixedIfBasePathSet() {
// given
Swagger swagger = buildSwaggerFrom("/swagger.json");
// when
Map<String, Path> paths = new DummyValidator().getPathsIncludingBasePath(swagger);
// then
paths.entrySet().forEach(e -> assertThat(e.getKey(), startsWith(swagger.getBasePath())));
}
}
/ **
* Tests findExpectedPaths().
* /
public static class FindExpectedPaths {
}
private static class DummyValidator extends AbstractContractValidator {
}
}
###
Gunakan dataset yang ada, termasuk:
Namun, kedua set kode ini tidak berkualitas tinggi, tetapi pada dasarnya tersedia.
Formatnya adalah sebagai berikut:
instruction:
我想查找特定月份（monthly_id）下在某个日期（date）之前的所有费用（expense），以方便了解特定月份内的开销情况。
input:
data class ExpenseEntity(....)
output:
@Query("SELECT * FROM expense WHERE monthly_id = :recurringExpenseId AND date < :beforeDate")
suspend fun getAllExpensesForRecurringExpenseBeforeDate(recurringExpenseId: Long, beforeDate: LocalDate): List<ExpenseEntity>
evaluate("text to kotlin repository with class", "我想查询指定年龄的用户（User）的博客数量。n ###data class User(var age: Int,
val blogId: Int) data class Post(val title: String)###", 0.1, 0.75, 40, 4, 512)
@Query("SELECT COUNT(*) FROM User WHERE age = :age")
abstract fun getBlogCount(age: Int): Long
Ide Dasar:
instruction , dan input output .Contoh:
instruction: 介绍一下财通财通宝的基金管理人、基金托管人在履行各自职责的过程中，违反《基金法》?
（一）基金管理人、基金托管人在履行各自职责的过程中，违反《基金法》等法律法规的规定或者基金合同约定， 给基金财产或者基金份额持有人造成损害的，
应当分别对各自的行为依法承担赔偿责任；因共同行为给基金财产或者基金份额持有人造成损害的，应当承担连带赔偿责任，对 损失的赔偿，仅限于直接损失。
但是发生下列情况，当事人可以免责： 1.基金管理人及基金托管人按照中国证监会的规定或当时有效的法律法规的作为或不作为而造成的损失等；
2.基金管理人由于按照基金合同规定的投资原则而行使或不行使其投资权而造成的损失等； 3.不可抗力。
kereta:
Waktu Pelatihan:
Latar belakang terkait:
Karena, tujuan kami bukan untuk menyetel model dan menghasilkan model umum, tetapi untuk melatih Lora untuk tujuan tertentu. Oleh karena itu, kami tidak bergabung dengan data di Stanford Alpaca, jadi waktu yang dibutuhkan lebih pendek. Misalnya, kode uji 8000+ hanya memakan waktu 1 jam, dan 3400+ cerita pengguna hanya memakan waktu 25 menit.
Hasil Pelatihan (LORA) tersedia di: https://github.com/unit-sesh/unit-minions/releases/tag/v0.0.1
print(evaluate("write test", """
public Set<String> listFilesUsingJavaIO(String dir) {
return Stream.of(new File(dir).listFiles())
.filter(file -> !file.isDirectory())
.map(File::getName)
.collect(Collectors.toSet());
}
""", 0.1, 0.75, 40, 4, 512))
## Output:
public class ListFilesUsingJavaIOTest {
@Test
public void shouldListFilesUsingJavaIO() {
Set<String> files = ListFilesUsingJavaIO.listFilesUsingJavaIO(new File("dir"));
assertThat(files, containsInAnyOrder("file1", "file2", "file3"));
}
}
Hasil Pelatihan (LORA) tersedia di: https://github.com/unit-sh/unit-minions/releases/tag/v0.0.2
Melihat:
--val_set_size 500--val_set_size 500--val_set_size 500Output sampel :
print(evaluate("create Agile user story for following topic: ", "购买电影票", 0.1, 0.75, 40, 4, 512))
用户故事：可以购买电影票
作为一个电影票购买者
我想在购买电影票应用中购买电影票
以便于我可以购买电影票
AC 1: 电影票购买者可以在购买电影票应用中购买电影票
假设 电影票购买者已经登录购买电影票应用
当 电影票购买者点击“购买电影票”按钮
于是 电影票购买者可以在购买电影票应用中购买电影票
AC 2: 电影票购买者可以在购买电影票应用中查看购买记录
假设 电影票购买者已经登录购买电影票应用
当 电影票购买者点击“查看购买记录”按钮
于是 电影票购买者可以在购买电影票应用中查看购买记录
AC 3: 电影票购买者可以在购买电影票应用中查看购买记录
假设 电影票购买者已经登录购买电影票应用
当 电影票购买者点击“查看购买记录”按��
Hasil Pelatihan (LORA) tersedia di: https://github.com/unit-sesh/unit-minions/releases/tag/v0.0.3
Output sampel :
print(evaluate("Implement the method rmFiles", "FileUtils:", 0.1, 0.75, 40, 4, 512))
public class FileUtils {
private FileUtils() {
}
public static void rmFiles(String path) {
File dir = new File(path);
File[] files = dir.listFiles();
if (files != null) {
for (File file : files) {
if (file.isFile()) {
file.delete();
} else if (file.isDirectory()) {
FileUtils.rmFiles(file.getAbsolutePath());
}
}
}
}
}
Script Konversi: Kode/Teks-ke-sql.py
Langsung dari: Dataset/SQL/SQL-Train.jsonl
Output sampel :
evaluate("text to sql", "谁是最美丽的人", 0.1, 0.75, 40, 4, 512)
evaluate("text to sql", "小明今年几岁", 0.1, 0.75, 40, 4, 512)
evaluate("text to sql", "What hand guard system is used with a gas piston commando?", 0.1, 0.75, 40, 4, 512)
kereta:
Contoh 1:
evaluate("Instruction: 创建用户故事nInput: 电影网站: 查看订单详情 nAnswer:")
Instruction: 创建用户故事
Input: 电影网站: 查看订单详情
Answer:
用户故事:可以查看订单详情
作为一个电影网站的用户
我想查看订单详情
以便于我可以了解订单的详细信息,如订单号、订单状态、订单内容等。
AC 1: 用户可以查看订单详情
假设 用户已经登录
当 用户点击查看订单详情按钮
于是 用户可以查看订单详情,包括订单号、订单状态、订单内容等。
AC 2: 用户可以查看订单详情
假设 用户没有登录
当 用户点击查看订单详情按钮
于是 用户被要求先登录,然后才能查看订单详情,包括订单号、订单状态、订单内容等。
Contoh 2:
evaluate("Instruction: 创建用户故事nInput: 团购网站:用户注册nAnswer:")
Instruction: 创建用户故事
Input: 团购网站:用户注册
Answer:
团购网站的用户注册故事:
作为一个团购网站的用户
我想注册一个团购网站的用户账号
以便于我可以使用团购服务,如购买商品、服务等。
AC 1: 团购网站的用户注册账号
假设 用户输入了注册信息
当 用户提交注册信息
于是 用户可以成功注册一个团购网站的用户账号
AC 2: 团购网站的用户注册账号
假设 用户输入了错误的注册信息
当 用户提交注册信息
于是 用户可以被提示输入正确的注册信息,并重新提交注册信息
