资源占用问题

#3
by lichtud - opened

这个版本还会优化吗,我按demo代码操作,V100是部署后显存占用26G,推理的时候31G了4090的部署显存是19G,推理24G,而且结果返回很慢。

Sign up or log in to comment