发帖

扫码访问

立即注册

登录

运营动脉»社区 › 经验交流 › 随便聊聊 › Transformer载入LLM沒有清理vram內有

返回列表发新帖

查看: 190|回复: 2

[聊技术] Transformer载入LLM沒有清理vram內有

﹏細雨輕愁〞

7 主题	26 回帖	66 积分

Rank: 2

积分: 66

发表于 2025-1-9 08:20:06 | 显示全部楼层 |阅读模式

请问要怎么弄？好像是内存泄漏，跑完了还占內存

Transformer载入LLM沒有清理vram內有-1.jpg

Transformer载入LLM沒有清理vram內有-1.jpg

回复

使用道具举报

1 主题	20 回帖	35 积分

Rank: 1

积分: 35

发表于 2025-1-9 08:20:16 | 显示全部楼层

很多方法，粗暴点重启内核，细点代码清

回复支持反对

使用道具举报

3 主题	17 回帖	40 积分

Rank: 1

积分: 40

发表于 2025-1-9 21:41:01 来自手机 | 显示全部楼层

沙发君，我来啦，想我了木？

回复支持反对

使用道具举报

返回列表发新帖

特惠

限量优惠活动

正在火热进行

站长

添加站长微信

领取运营礼包

下载

便携运营智库

立即下载APP

工具

运营工具导航

AI工具导航

帮助

帮助中心

常见问题

顶部