微调qwen2.5-32b时，怎么把权重分开部署到各个gpu上？

[lxlx2084]

CUDA_VISIBLE_DEVICES=3,4,5 llamafactory-cli webui，开始微调时会把数据放到3、4、5这三张卡上，相当于在这三张卡上同时加载3个模型，每个gpu使用三分之一的数据。但是单卡的显存肯定不够的。如果是llamafactory-cli webui则直接把服务器上的卡全用了。
我平时都是device_map=‘auto’，权重要分开部署到各个gpu上才够跑起来。
不知道factory在哪里指定？

[hiyouga]

DeepSpeed zero3