saiga_7b_lora / README.md
IlyaGusev's picture
Update README.md
1ad1cb3
|
raw
history blame
791 Bytes
metadata
datasets:
  - IlyaGusev/ru_turbo_alpaca
  - IlyaGusev/ru_turbo_saiga
  - IlyaGusev/ru_sharegpt_cleaned
language:
  - ru
pipeline_tag: conversational

Colab: link

v1:

  • revision 77e9e492bf9193423fb5bffcfeb57f8131696f25
  • wandb link
  • 3 datasets: ru_turbo_alpaca, ru_turbo_saiga, ru_sharegpt_cleaned
  • Loss: 0.883
  • Context length: 2000
  • Conversational template: "<start>{role}\n{content} <end>\n"
  • Possible roles: ["system", "user", "bot"].
  • System prompt: "Ты — Сайга, русскоязычный автоматический ассистент. Ты разговариваешь с людьми и помогаешь им."