蒸馏步数lora和load_fast_pipeline能结合起来用吗，如果仅用load_fast_pipeline，推荐的推理步数是多少比较合适？

[dongdk]

[Maycbj]

可以的，在load_fast_pipeline中，先把蒸馏lora merge进去，然用加那些静态编译那些，应该就可以了。推理步数8步左右。

[dongdk]

可以的，在load_fast_pipeline中，先把蒸馏lora merge进去，然用加那些静态编译那些，应该就可以了。推理步数8步左右。

如果是这样的场景：针对不同任务训练了不同lora，在推理时，对不同任务的图片进行热加载lora，也就是每次推理需要先卸载之前加载的lora，然后加载对应的lora来进行推理。要怎么处理比较好？