louisbrulenaudet commited on
Commit
b18b42d
1 Parent(s): b7efdb3

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +96 -22
README.md CHANGED
@@ -1,25 +1,99 @@
1
  ---
2
- dataset_info:
3
- features:
4
- - name: instruction
5
- dtype: string
6
- - name: input
7
- dtype: string
8
- - name: output
9
- dtype: string
10
- - name: start
11
- dtype: string
12
- - name: expiration
13
- dtype: string
14
- - name: num
15
- dtype: string
16
- splits:
17
- - name: train
18
- num_bytes: 142569
19
- num_examples: 167
20
- download_size: 61291
21
- dataset_size: 142569
 
 
 
22
  ---
23
- # Dataset Card for "code-minier"
24
 
25
- [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ license: apache-2.0
3
+ language:
4
+ - fr
5
+ multilinguality:
6
+ - monolingual
7
+ tags:
8
+ - finetuning
9
+ - legal
10
+ - french law
11
+ - droit français
12
+ - Code minier
13
+ source_datasets:
14
+ - original
15
+ pretty_name: Code minier
16
+ task_categories:
17
+ - text-generation
18
+ - table-question-answering
19
+ - summarization
20
+ - text-retrieval
21
+ - question-answering
22
+ - text-classification
23
+ size_categories:
24
+ - 1K<n<10K
25
  ---
26
+ # Code minier, non-instruct (2024-03-25)
27
 
28
+ This project focuses on fine-tuning pre-trained language models to create efficient and accurate models for legal practice.
29
+
30
+ Fine-tuning is the process of adapting a pre-trained model to perform specific tasks or cater to particular domains. It involves adjusting the model's parameters through a further round of training on task-specific or domain-specific data. While conventional fine-tuning strategies involve supervised learning with labeled data, instruction-based fine-tuning introduces a more structured and interpretable approach.
31
+
32
+ Instruction-based fine-tuning leverages the power of human-provided instructions to guide the model's behavior. These instructions can be in the form of text prompts, prompts with explicit task descriptions, or a combination of both. This approach allows for a more controlled and context-aware interaction with the LLM, making it adaptable to a multitude of specialized tasks.
33
+
34
+ Instruction-based fine-tuning significantly enhances the performance of LLMs in the following ways:
35
+
36
+ - Task-Specific Adaptation: LLMs, when fine-tuned with specific instructions, exhibit remarkable adaptability to diverse tasks. They can switch seamlessly between translation, summarization, and question-answering, guided by the provided instructions.
37
+ - Reduced Ambiguity: Traditional LLMs might generate ambiguous or contextually inappropriate responses. Instruction-based fine-tuning allows for a clearer and more context-aware generation, reducing the likelihood of nonsensical outputs.
38
+ - Efficient Knowledge Transfer: Instructions can encapsulate domain-specific knowledge, enabling LLMs to benefit from expert guidance. This knowledge transfer is particularly valuable in fields like tax practice, law, medicine, and more.
39
+ - Interpretability: Instruction-based fine-tuning also makes LLM behavior more interpretable. Since the instructions are human-readable, it becomes easier to understand and control model outputs.
40
+ - Adaptive Behavior: LLMs, post instruction-based fine-tuning, exhibit adaptive behavior that is responsive to both explicit task descriptions and implicit cues within the provided text.
41
+
42
+ ## Dataset generation
43
+
44
+ This JSON file is a list of dictionaries, each dictionary contains the following fields:
45
+
46
+ - `instruction`: `string`, presenting the instruction linked to the element.
47
+ - `input`: `string`, signifying the input details for the element.
48
+ - `output`: `string`, indicating the output information for the element.
49
+ - `start`: `string`, the date of entry into force of the article.
50
+ - `expiration`: `string`, the date of expiration of the article.
51
+ - `num`: `string`, the id of the article.
52
+
53
+ We used the following list of instructions for generating the dataset:
54
+ ```python
55
+ instructions = [
56
+ "Compose l'intégralité de l'article sous forme écrite.",
57
+ "Écris la totalité du contenu de l'article.",
58
+ "Formule la totalité du texte présent dans l'article.",
59
+ "Produis l'intégralité de l'article en écriture.",
60
+ "Développe l'article dans son ensemble par écrit.",
61
+ "Génère l'ensemble du texte contenu dans l'article.",
62
+ "Formule le contenu intégral de l'article en entier.",
63
+ "Rédige la totalité du texte de l'article en entier.",
64
+ "Compose l'intégralité du contenu textuel de l'article.",
65
+ "Rédige l'ensemble du texte qui constitue l'article.",
66
+ "Formule l'article entier dans son contenu écrit.",
67
+ "Composez l'intégralité de l'article sous forme écrite.",
68
+ "Écrivez la totalité du contenu de l'article.",
69
+ "Formulez la totalité du texte présent dans l'article.",
70
+ "Développez l'article dans son ensemble par écrit.",
71
+ "Générez l'ensemble du texte contenu dans l'article.",
72
+ "Formulez le contenu intégral de l'article en entier.",
73
+ "Rédigez la totalité du texte de l'article en entier.",
74
+ "Composez l'intégralité du contenu textuel de l'article.",
75
+ "Écrivez l'article dans son intégralité en termes de texte.",
76
+ "Rédigez l'ensemble du texte qui constitue l'article.",
77
+ "Formulez l'article entier dans son contenu écrit.",
78
+ "Composer l'intégralité de l'article sous forme écrite.",
79
+ "Écrire la totalité du contenu de l'article.",
80
+ "Formuler la totalité du texte présent dans l'article.",
81
+ "Produire l'intégralité de l'article en écriture.",
82
+ "Développer l'article dans son ensemble par écrit.",
83
+ "Générer l'ensemble du texte contenu dans l'article.",
84
+ "Formuler le contenu intégral de l'article en entier.",
85
+ "Rédiger la totalité du texte de l'article en entier.",
86
+ "Composer l'intégralité du contenu textuel de l'article.",
87
+ "Rédiger l'ensemble du texte qui constitue l'article.",
88
+ "Formuler l'article entier dans son contenu écrit.",
89
+ "Quelles sont les dispositions de l'article ?",
90
+ "Quelles dispositions sont incluses dans l'article ?",
91
+ "Quelles sont les dispositions énoncées dans l'article ?",
92
+ "Quel est le texte intégral de l'article ?",
93
+ "Quelle est la lettre de l'article ?"
94
+ ]
95
+ ```
96
+
97
+ ## Feedback
98
+
99
+ If you have any feedback, please reach out at [louisbrulenaudet@icloud.com](mailto:louisbrulenaudet@icloud.com).