815行 : input_ids = torch.as_tensor(inputs.input_ids).cuda()这行代码总是把input_ids tensor放到cuda:0上吧?但是在加载模型的时候可以指定device,比如cuda:1,每次模型运行都只会在cuda:0 上运行,而不会把tensor放到指定的cuda:1上。这样是不是会出问题?
· Sign up or log in to comment