BramVanroy commited on
Commit
4fd1382
1 Parent(s): c45a8e2

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +8 -8
app.py CHANGED
@@ -31,7 +31,7 @@ def generate(
31
  repetition_penalty: float = 1.,
32
  do_sample: bool = False,
33
  ) -> Iterator[str]:
34
- conversation = [{"role": "system", "content": "Je bent 'GEITje Ultra', een behulpzame en enthousiaste assistent."}]
35
  for user, assistant in chat_history:
36
  conversation.extend([{"role": "user", "content": user}, {"role": "assistant", "content": assistant}])
37
  conversation.append({"role": "user", "content": message})
@@ -113,10 +113,10 @@ chat_interface = gr.ChatInterface(
113
  examples=[
114
  ["""Vraagje: welk woord hoort er niet in dit rijtje thuis: "auto, vliegtuig, geit, bus"?"""],
115
  ["Schrijf een nieuwsbericht voor De Speld over de inzet van een kudde geiten door het Nederlands Forensisch Instituut"],
116
- ["Wat zijn drie leuke dingen om te doen als ik een weekendje naar Limburg ga?"],
117
  ["Met wie trad clown Bassie op?"],
118
- ["Kan je naar de maan fietsen?"],
119
- ["Wat is groter, een olifant of het Atomium?"],
120
  ["Ik wil in Python een nieuwe abstracte klasse aanmaken die `Dier` heet en die een abstracte methode `geluid_maken` heeft. Maak daarnaast ook een subklasse `Geit` aan, met een passende invulling van `geluid_maken` voor dit mekkerende dier."],
121
  ["Wat is het belang van open-source taalmodellen?"],
122
  ["""```
@@ -137,13 +137,13 @@ Vat bovenstaand artikel kort samen."""]
137
  ],
138
  title="🐐 GEITje ultra 🤖",
139
  description="""\
140
- <a href="https://huggingface.co/BramVanroy/GEITje-ultra">GEITje ultra</a> is een geavanceerde versie van GEITje, verder getraind op uitgebreide chat datasets en ook op preferentiedatasets om beter te aligneren met het gedrag van een gewenste chatbot, in dit geval gpt-4-turbo. Ik heb gemerkt dat dit ertoe leidt dat GEITje ultra veel uitgebreidere antwoorden geeft dan de originele GEITje chat. Dat kan positief of negatief zijn, afhankelijk van wat je verwachtingen zijn. Ik heb ook gemerkt dat GEITje ultra na verloop van tijd slechter wordt in z'n Nederlands in een gesprek. Dat bevestigt de noozaak aan een model dat van het begin gepretraind werd op het Nederlands!
141
-
142
- Het is goed mogelijk dat het model alsnog hallucineert met nonsens-karakters omdat het DPO trainen té hard z'n werk gedaan heeft. De huidige versie lijkt robuuster dan vorige pogingen. Als je problemen ondervindt, [rapporteer die dan gerust](https://huggingface.co/spaces/BramVanroy/GEITje-ultra/discussions)! Dit blijt een onderzoeks+hobby-project - verwacht er dus geen production-ready model van.
143
 
144
  Hoewel dit model gealigneerd is met AI feedback (gpt-4-turbo), kan en zal het nog steeds fouten maken, leugens vertellen, redeneringsfouten maken, en misschien wel stoute dingen vertellen. Gebruik dit model dus op eigen risico en controleer de output zelf!
145
 
146
- <small>Deze demo is sterk gebaseerd op de originele <a href="https://huggingface.co/spaces/Rijgersberg/GEITje-7B-chat">Geitje Chat</a> demo, die dan weer op deze [mistral demo](https://huggingface.co/spaces/hysts/mistral-7b) gebaseerd is.</small>
 
 
147
  """,
148
  submit_btn="Genereer",
149
  stop_btn="Stop",
 
31
  repetition_penalty: float = 1.,
32
  do_sample: bool = False,
33
  ) -> Iterator[str]:
34
+ conversation = [{"role": "system", "content": "Je bent 'GEITje Ultra', of 'Ultra' in het kort, een behulpzame en enthousiaste AI-assistent."}]
35
  for user, assistant in chat_history:
36
  conversation.extend([{"role": "user", "content": user}, {"role": "assistant", "content": assistant}])
37
  conversation.append({"role": "user", "content": message})
 
113
  examples=[
114
  ["""Vraagje: welk woord hoort er niet in dit rijtje thuis: "auto, vliegtuig, geit, bus"?"""],
115
  ["Schrijf een nieuwsbericht voor De Speld over de inzet van een kudde geiten door het Nederlands Forensisch Instituut"],
116
+ ["Wat zijn drie leuke dingen om te doen als ik een weekendje naar Belgisch Limburg ga?"],
117
  ["Met wie trad clown Bassie op?"],
118
+ ["Kan je naar de maan fietsen? Antwoord kort met enkel 'ja' of 'nee'."],
119
+ ["Wat is groter, een olifant of het Atomium? Redeneer stap voor stap."],
120
  ["Ik wil in Python een nieuwe abstracte klasse aanmaken die `Dier` heet en die een abstracte methode `geluid_maken` heeft. Maak daarnaast ook een subklasse `Geit` aan, met een passende invulling van `geluid_maken` voor dit mekkerende dier."],
121
  ["Wat is het belang van open-source taalmodellen?"],
122
  ["""```
 
137
  ],
138
  title="🐐 GEITje ultra 🤖",
139
  description="""\
140
+ <a href="https://huggingface.co/BramVanroy/GEITje-ultra">GEITje ultra</a> is een geavanceerde versie van GEITje, verder getraind op uitgebreide chat datasets en ook op een preferentiedataset om beter te aligneren met het gedrag van een gewenste chatbot, in dit geval gpt-4-turbo. Ik heb gemerkt dat dit ertoe leidt dat GEITje 7B ultra uitgebreidere antwoorden geeft dan de originele GEITje chat. Dat kan positief of negatief zijn, afhankelijk van wat je verwachtingen zijn.
 
 
141
 
142
  Hoewel dit model gealigneerd is met AI feedback (gpt-4-turbo), kan en zal het nog steeds fouten maken, leugens vertellen, redeneringsfouten maken, en misschien wel stoute dingen vertellen. Gebruik dit model dus op eigen risico en controleer de output zelf!
143
 
144
+ Als je problemen ondervindt, [rapporteer die dan gerust](https://huggingface.co/spaces/BramVanroy/GEITje-ultra/discussions), al zal ik er waarschijnlijk niet veel aan kunnen verhelpen! Dit blijt een onderzoeks+hobby-project - verwacht er dus geen production-ready model van.
145
+
146
+ <small>Deze demo is gebaseerd op de originele <a href="https://huggingface.co/spaces/Rijgersberg/GEITje-7B-chat">Geitje Chat</a> demo, die dan weer op deze [mistral demo](https://huggingface.co/spaces/hysts/mistral-7b) gebaseerd is.</small>
147
  """,
148
  submit_btn="Genereer",
149
  stop_btn="Stop",