metadata
license: apache-2.0
tags:
- generated_from_trainer
- mistral
- 7b
- calme
model-index:
- name: Calme-7B-Instruct-v0.1
results: []
datasets:
- ise-uiuc/Magicoder-Evol-Instruct-110K
model_name: Calme-7B-Instruct-v0.1
inference: false
model_creator: MaziyarPanahi
pipeline_tag: text-generation
quantized_by: MaziyarPanahi
MaziyarPanahi/Calme-7B-Instruct-v0.1
Model Description
Calme-7B is a state-of-the-art language model with 7 billion parameters, fine-tuned over high-quality datasets on top of Mistral-7B. The Calme-7B models excel in generating text that resonates with clarity, calmness, and coherence.
How to Use
# Use a pipeline as a high-level helper
from transformers import pipeline
pipe = pipeline("text-generation", model="MaziyarPanahi/Calme-7B-Instruct-v0.1")
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("MaziyarPanahi/Calme-7B-Instruct-v0.1")
model = AutoModelForCausalLM.from_pretrained("MaziyarPanahi/Calme-7B-Instruct-v0.1")
Eval
| Metric | Mistral-7B Instruct v0.2 | Calme-7B v0.1 | Calme-7B v0.2 | Calme-7B v0.3 | Calme-7B v0.4 | Calme-7B v0.5 | Calme-4x7B v0.1 | Calme-4x7B v0.2 |
|---|---|---|---|---|---|---|---|---|
| ARC | 63.14 | 67.24 | 67.75 | 67.49 | 64.85 | 67.58 | 67.15 | 76.66 |
| HellaSwag | 84.88 | 85.57 | 87.52 | 87.57 | 86.00 | 87.26 | 86.89 | 86.84 |
| TruthfulQA | 68.26 | 59.38 | 78.41 | 78.31 | 70.52 | 74.03 | 73.30 | 73.06 |
| MMLU | 60.78 | 64.97 | 61.83 | 61.93 | 62.01 | 62.04 | 62.16 | 62.16 |
| Winogrande | 77.19 | 83.35 | 82.08 | 82.32 | 79.48 | 81.85 | 80.82 | 81.06 |
| GSM8k | 40.03 | 69.29 | 73.09 | 73.09 | 77.79 | 73.54 | 74.53 | 75.66 |
Some extra information to help you pick the right Calme-7B model:
| Use Case Category | Recommended Calme-7B Model | Reason |
|---|---|---|
| Educational Tools and Academic Research | Calme-7B v0.5 | Balanced performance, especially strong in TruthfulQA for accuracy and broad knowledge. |
| Commonsense Reasoning and Natural Language Apps | Calme-7B v0.2 or Calme-7B v0.3 | High performance in HellaSwag for understanding nuanced scenarios. |
| Trustworthy Information Retrieval Systems | Calme-7B v0.5 | Highest score in TruthfulQA, indicating reliable factual information provision. |
| Math Educational Software | Calme-7B v0.4 | Best performance in GSM8k, suitable for numerical reasoning and math problem-solving. |
| Context Understanding and Disambiguation | Calme-7B v0.5 | Solid performance in Winogrande, ideal for text with context and pronoun disambiguation. |
Quantized Models
I love how GGUF democratizes the use of Large Language Models (LLMs) on commodity hardware, more specifically, personal computers without any accelerated hardware. Because of this, I am committed to converting and quantizing any models I fine-tune to make them accessible to everyone!
- GGUF (2/3/4/5/6/8 bits): MaziyarPanahi/Calme-7B-Instruct-v0.1-GGUF
Examples
<s>[INST] You are a helpful, respectful and honest assistant. Always answer as helpfully as possible, while being safe. Your answers should not include any harmful, unethical, racist, sexist, toxic, dangerous, or illegal content. Please ensure that your responses are socially unbiased and positive in nature.
If a question does not make any sense, or is not factually coherent, explain why instead of answering something not correct. If you don't know the answer to a question, please don't share false information.
describe about pros and cons of docker system. [/INST]
Show me the response
Docker is an open-source platform for developing, shipping, and running applications using containers. It was first introduced in 2013 by Solomon Hykes. Here are some pros and cons of the Docker system:
Pros:
1. Portability: Docker allows developers to package an application with all its dependencies into a standardized unit called a container. This means the application will run consistently on any system where Docker is installed, regardless of underlying operating systems.
2. Isolation: Each Docker container runs in its own isolated environment, ensuring that applications do not interfere with each other.
3. Scalability: Containers can be scaled up and down as per the need, making it easier to manage workloads.
4. Automation: Docker provides tools like Docker Compose and Kubernetes that allow automating the deployment process.
5. Efficiency: Docker images are typically smaller than traditional virtual machines, resulting in faster start-up times and lower memory usage.
Cons:
1. Resource Overhead: While Docker containers use fewer resources compared to full-blown VMs, they still require more resources than native processes.
2. Security Issues: Although Docker provides security features such as isolation and network segmentation, it can still introduce potential vulnerabilities if not managed properly.
3. Complexity: Managing Docker containers can become complex, especially when dealing with large numbers of them.
4. Learning Curve: Docker has a steep learning curve, which may take time for new users to get familiar with.
5. Networking Challenges: Docker networking can be tricky, particularly when dealing with multiple containers and services.</s>
<s> [INST] There are three killers in a room. Someone enters the room and kills one of them. Nobody leaves the room. How many killers are left in the room? Explain your reasoning step by step. [/INST]
Show me the response
1. Initially, there are three killers in the room.
2. One of them is killed by someone who enters the room.
3. Since nobody leaves the room, the number of killers remains the same as before the killing happened.
4. Therefore, after the killing, there are still three killers left in the room.</s>
<s> [INST] Mark is faster than Mary, Mary is faster than Joe. Is Joe faster than Mark? Let's think step by step [/INST]
Show me the response
1) Mark is faster than Mary.
2) Mary is faster than Joe.
Based on these two statements, we cannot conclude that Joe is faster than Mark. In fact, if you combine the two statements together, it implies that Mark > Mary > Joe, so Joe would be slower than both Mark and Mary.</s>
<s> [INST] If I lay 2 wet shirts out in the sun flat on the ground to dry and it takes 5 hours until they are dry, how long would it take to dry 4 shirts of the same type that way simultanously? [/INST]
Show me the response
If you're laying out 2 shirts at a time, you're essentially using half the drying capacity of the sun. Therefore, if it takes 5 hours for 2 shirts, it would theoretically take 10 hours (double the time) for 4 shirts laid out simultaneously. However, this assumes that there is no difference in how well the shirts can absorb sunlight due to their arrangement. In reality, if you were able to place the shirts closer together or more efficiently in the sun, it might not actually take double the time.</s>
<s> [INST] explain step by step 25-4*2+3=? [/INST]
Show me the response
1. The multiplication operation is done first, so we calculate 4 * 2 = 8.
2. Now the expression becomes 25 - 8 + 3.
3. Then perform subtraction, so 25 - 8 = 17.
4. Finally, add 3 to the result from step 3, so 17 + 3 = 20.
Therefore, 25-4*2+3 equals 20.</s>
Multilingual:
<s> [INST] Vous êtes un assistant utile, respectueux et honnête. Répondez toujours de la manière la plus utile possible, tout en étant sûr. Vos réponses ne doivent inclure aucun contenu nuisible, contraire à l'éthique, raciste, sexiste, toxique, dangereux ou illégal. Assurez-vous que vos réponses sont socialement impartiales et de nature positive.
Si une question n'a pas de sens ou n'est pas cohérente d'un point de vue factuel, expliquez pourquoi au lieu de répondre quelque chose d'incorrect. Si vous ne connaissez pas la réponse à une question, veuillez ne pas partager de fausses informations.
Décrivez les avantages et les inconvénients du système Docker.[/INST]
Show me the response
Avantages:
1. Isolation: Docker isolates applications from each other and the operating system. This helps prevent conflicts between different versions of software or libraries.
2. Portability: Containers can run on any computer that has Docker installed, making it easy to move applications between environments.
3. Efficiency: Docker uses less memory and CPU than traditional virtual machines.
4. Automation: Docker allows for easy automation of application deployment and scaling.
5. Version control: Changes can be tracked using version control systems like Git.
Inconvénients:
1. Complexité: Setting up and managing Docker containers can be complex, especially for those new to containerization technology.
2. Resource usage: While more efficient than virtual machines, Docker still requires resources and may not be suitable for resource-constrained environments.
3. Learning curve: There is a learning curve associated with understanding and using Docker effectively.
4. Networking issues: Networking between containers can sometimes be tricky to set up and manage.
5. Security risks: If not properly configured, Docker can introduce security vulnerabilities into your infrastructure.</s>
<s> [INST] You are a helpful, respectful and honest assistant. Always answer as helpfully as possible, while being safe. Your answers should not include any harmful, unethical, racist, sexist, toxic, dangerous, or illegal content. Please ensure that your responses are socially unbiased and positive in nature.
Answer any question in Russian.
describe about pros and cons of docker system.[/INST]
Show me the response
Про и кон системы Docker:
Про:
1. Виртуализация на уровне операционной системы.
2. Возможность создания изолированных окружений для разработки, тестирования и развертывания приложений.
3. Ускорение процесса развертывания и отслеживания изменений.
4. Повышение безопасности за счет изоляции приложений.
5. Эффективное использование ресурсов.
6. Совместимость с различными языками программирования и платформами.
7. Наличие большого сообщества пользователей и разработчиков.
Кон:
1. Некоторые функции могут быть сложны в настройке и управлении.
2. Требует дополнительного пространства на диске для хранения образов контейнеров.
3. Использование Docker может повлиять на производительность системы.
4. Из-за высокой изоляции, может возникнуть сложность в отладке.
5. Некоторые пользователи могут испытывать трудности с пониманием концепций Docker.
6. Вопросы безопасности могут возникать, если не корректно настроены сетевые связи.
7. Зависимость от интернета, так как некоторые команды работают только в онлайн режиме.
Однако, несмотря на это, Docker является популярным инструментом в мире IT благодаря его гибкости, возможностям и преимуществам, которые очень важны для современного разработчика.</s>
<s>[INST] Ви - корисний, поважний та чесний помічник. Завжди відповідайте максимально корисно, будучи безпечним. Ваші відповіді не повинні містити шкідливого, неетичного, расистського, сексистського, токсичного, небезпечного або нелегального контенту. Будь ласка, переконайтеся, що ваші відповіді соціально неупереджені та мають позитивний характер.
Якщо питання не має сенсу або не є фактично послідовним, поясніть чому, замість того, щоб відповідати щось некоректне. Якщо ви не знаєте відповіді на питання, будь ласка, не діліться неправдивою інформацією.
Опис про переваги та недоліки системи Docker.[/INST]
Show me the response
Для кращого розуміння, давайте розглянемо Docker як віртуальну машину для програмного забезпечення.
Переваги Docker:
1. Контейнеризація: Docker використовує контейнеризацію, що дозволяє створювати унікальні екології для кожної програми, що зберігається в одному місці. Це означає, що програма може бути виконана незалежно від навколишнього середовища.
2. Абстрагування: Docker об'єднує різноманітні технології, такі як операційні системи, мережу, послуги, і т. д., в один простий пакет.
3. Швидке розгортання: З використанням Docker, можна легко створювати та деплоювати нових версій програм, що значно прискорює процес розробки.
4. Контроль версій: Docker дозволяє легко керувати різними версіями свого програмного забезпечення.
5. Можливість автоматизації: З Docker, можна автоматизувати весь процес розгортання за допомогою інструментів CI/CD.
Недоліки Docker:
1. Процесорний ресурс: Docker може споживати більше процесорних ресурсів ніж традиційні віртуальні машини.
2. Відсутність повної ізоляції: Хоча Docker забезпечує абстракцію, він все ще не повністю ізолює контейнери.
3. Дорожчість: У порівнянні зі стандартною віртуалізацією, Docker може бути дорожче.
4. Налаштування: Початковці можуть стикатися з труднощами під час налаштування Docker.
5. Необхідність постійного оновлення: Docker вимагає постійного оновлення, що може потребувати час і ресурси.
В цілому, Docker є дуже корисним інструментом для розробників і адміністраторів, але його не слід застосовувати у всіх випадках, оскільки він має свої особливості та обмеження.</s>