Update app.py

app.py

@@ -129,7 +129,15 @@ base_model = "EleutherAI/gpt-neo-1.3B"    #load_8bit = False (in load_tokenizer_
 # Load model directly
 #####################################################
 #Tokenizer und Model laden
-tokenizer,model,device = load_tokenizer_and_model(base_model,  False)
+#tokenizer,model,device = load_tokenizer_and_model(base_model,  False)
+
+#################################################
+# Few-Shot Training!!!!!!!!!
+#################################################
+# Load SetFit model from Hub
+tokenizer,model,device = load_tokenizer_and_model_setFit(base_model,  False)
+
+
 #tokenizer.add_special_tokens({'pad_token': '[PAD]'}) #not necessary with fast Toekenizers like GPT2
 '''
 #für Baize.... da spezieller Tokenizer geladen werden muss...
@@ -278,6 +286,23 @@ trainer = QuestionAnsweringTrainer(
 '''
 #################################################
 '''
+
+#################################################
+# Few-Shot Training!!!!!!!!!
+#################################################
+
+# Create Few-Shot trainer
+trainer = SetFitTrainer(
+    model=model,
+    train_dataset=train_ds,
+    eval_dataset=test_ds,
+    loss_class=CosineSimilarityLoss,
+    batch_size=16,
+    num_iterations=20, # Number of text pairs to generate for contrastive learning
+    num_epochs=1 # Number of epochs to use for contrastive learning
+)
+
+
 #################################################
 # special Trainer Baize Model
 # Parameters für Model 7b: 7b 32 0.0002