Update model_server.py

model_server.py

@@ -134,8 +134,8 @@ if __name__ == "__main__":
     parser = argparse.ArgumentParser()
 
     parser.add_argument("--host", type=str, default="localhost")
-    parser.add_argument("--dtype", type=str, default="bfloat16")
-    parser.add_argument("--device", type=str, default="cuda:0")
+    #parser.add_argument("--dtype", type=str, default="bfloat16")
+    #parser.add_argument("--device", type=str, default="cuda:0")
     parser.add_argument("--port", type=int, default=10000)
     parser.add_argument("--model-path", type=str, default="THUDM/glm-4-voice-9b")
     args = parser.parse_args()