Pe ce date ati facut fine tune la model ?
Buna ziua,
pe ce date ati facut fine tune la model ? Intelege si vorbeste romaneste bine ?
Salut,
Datasetul a fost oasst1 tradus de un model de machine translation. E rezonabil dar nu vorbeste perfect. Cel mai bine il incercati personal intr-un google notebook sa va faceti o parere.
Versiunile mai noi de mistral vorbesc si ele romana , relativ cu cuvinte inventate din cand in cand , cu greseli de acorduri ...cam ca copii sau ca un strain care nu a invatat bine limba dar stie ceva . Problema este daca este posibil teoretic sa stie bine si limba romana un model de mistral care are un vocabular de 32.000 de tokens ...sau este nevoie de o modificare si crestere a vocabularului . Mistral are original bytefallback tokenizer care teoretic se intoarce la litere daca nu stie cuvintele ... Eu doream sa fac un translator care sa stie bine si engleza si romana si sa poata face automat traduceri din engleza in romana , am incercat sa fac fine tune - dar nu am reusit sa obtin un rezultat pozitiv . Aveti un colab care face finetune pt traducere care merge ? Puteti sa imi dati si mie un link la el daca da ? Multumesc. Catalin
Nu am facut finetuning pe un set creat specific pentru traduceri, doar QA tradus in romana. Daca imi lasati o cale de contact privata, va voi da un link pentru colab.