Text Generation
Transformers
Safetensors
Telugu
gemma
conversational
text-generation-inference
Inference Endpoints
bharadwajswarna's picture
update name
245914d verified
|
raw
history blame
6.92 kB
metadata
license: mit
datasets:
  - Telugu-LLM-Labs/telugu_teknium_GPTeacher_general_instruct_filtered_romanized
  - Telugu-LLM-Labs/telugu_alpaca_yahma_cleaned_filtered_romanized
language:
  - te

Model Description :

This is a SFT version of HuggingFaceH4/zephyr-7b-gemma-v0.1 on Telugu Q&A data sets curated by Telugu LLM Labs.

NOTE :

This model is not aligned via DPO in Telugu. It is just SFT trained on the original zephyr-7b-gemma. DPO part is work in progress. Curating the dataset for it.

Example 1 :

Sample Input : ఆరోగ్యంగా ఉండటానికి నాకు మూడు చిట్కాలు ఇవ్వండి

Sample Output :

  1. సమతుల్య ఆహారం తినండి: మీ దినచర్యలో పండ్లు, కూరగాయలు, సన్నని ప్రోటీన్లు మరియు తృణధాన్యాలు పుష్కలంగా చేర్చండి. అలాగే, చక్కెర మరియు ఉప్పు తీసుకోవడం తగ్గించడానికి ప్రయత్నించండి.
  2. క్రమం తప్పకుండా వ్యాయామం చేయండి: శారీరక శ్రమ మీ హృదయనాళ వ్యవస్థను బలోపేతం చేయడమే కాకుండా, మానసిక ఆరోగ్యాన్ని కూడా మెరుగుపరుస్తుంది. వారానికి కనీసం 150 నిమిషాల మితమైన-తీవ్రత కలిగిన ఏరోబిక్ కార్యాచరణను లక్ష్యంగా పెట్టుకోండి.
  3. మైండ్ఫుల్నెస్ సాధన చేయండి: ధ్యానం లేదా లోతైన శ్వాస వ్యాయామాలను మీ దినచర్యలో చేర్చడం ప్రస్తుత క్షణం గురించి మరింత ఉనికిని అనుభూతి చెందడానికి మీకు సహాయపడుతుంది, ఇది మరింత సమతుల్యమైన జీవితాన్ని సృష్టించడంలో మీకు సహాయపడుతుంది.

Example 2:

Sample Input :Give me three tips to stay healthy

Sample Output :

  1. సమతుల్య ఆహారం తీసుకోండి: వివిధ రకాల పండ్లు, కూరగాయలు, సన్నని ప్రోటీన్లు మరియు ఆరోగ్యకరమైన కొవ్వులతో భోజనం ప్లాన్ చేయండి మరియు తయారు చేయండి.
  2. క్రమం తప్పకుండా వ్యాయామం చేయండి: శారీరక శ్రమను మీ దినచర్యలో చేర్చండి మరియు వారానికి కనీసం 150 నిమిషాల మితమైన-తీవ్రత కలిగిన ఏరోబిక్ కార్యాచరణను లక్ష్యంగా పెట్టుకోండి.
  3. తగినంత నిద్ర పొందండి: మీ మెదడు మరియు శరీరానికి రాత్రికి కనీసం 7 గంటలు విశ్రాంతి ఇవ్వండి.

Example 3:

Sample Input :నేను నా సమయాన్ని మరింత సమర్థవంతంగా ఎలా ఉపయోగించగలను

Sample Output : మీ సమయాన్ని మరింత సమర్థవంతంగా నిర్వహించడానికి, ఈ క్రింది వ్యూహాలను ప్రయత్నించండి:

  1. పనులకు ప్రాధాన్యత ఇవ్వండి: మీరు చేయాల్సిన ప్రతిదాన్ని రాయండి మరియు వాటిని ప్రాముఖ్యత ప్రకారం ర్యాంక్ చేయండి. అధిక ప్రాధాన్యమున్న పనులను ముందుగా పరిష్కరించండి.
  2. పనులను చిన్న దశలుగా విభజించండి: పెద్ద పనులు భారంగా అనిపించవచ్చు. వాటిని చిన్న, నిర్వహించదగిన దశలుగా విభజించడం వాటిని మరింత చేరువ చేస్తుంది.
  3. నిర్దిష్ట పనిగంటలను సెట్ చేయండి: మీరు పని కోసం నిర్దిష్ట గంటలు కేటాయించే దినచర్యను ఏర్పాటు చేయండి మరియు పనుల మధ్య విరామం తీసుకునేలా చూసుకోండి. ఇది ఉత్పాదకతను పెంచడానికి మరియు బర్న్అవుట్ను నివారించడానికి సహాయపడుతుంది.
  4. సాధనాలు మరియు వనరులను ఉపయోగించండి: మీ పనిభారాన్ని నిర్వహించడంలో సహాయపడటానికి ప్లానర్, పోమోడోరో టెక్నిక్ (ఉదా. 25 నిమిషాలు పనిచేయడం మరియు తరువాత 5 నిమిషాల విరామం తీసుకోవడం వంటివి) లేదా టైమ్-ట్రాకింగ్ అనువర్తనాలను ఉపయోగించడాన్ని పరిగణించండి.
  5. అప్పగించండి లేదా సహాయం అడగండి: వీలైతే, ఇతరులకు పనులను అప్పగించండి లేదా సహాయం అడగండి. ప్రతిదీ మనమే చేయలేమని గుర్తించడం చాలా ముఖ్యం.

Prompt Formatting and Inference :

chat = [ {"role": "user", "content":query}]
encoded_input = tokenizer.apply_chat_template(chat, tokenize=True, add_generation_prompt=True,return_tensors="pt")
model_inputs = encoded_input.to(device)
generated_ids = model.generate(model_inputs, max_new_tokens=1000, do_sample=False, eos_token_id=107)
print("\nNumber of Tokens Generated :",len(generated_ids[0]))
decoded_text = tokenizer.decode(generated_ids[0], skip_special_tokens=True)
print(decoded_text)

Developed by : Bharadwaj Swarna