sunshineywz 2022-12-07 14:52 采纳率: 0%
浏览 424
已结题

Cowardly refusing to serialize non-leaf tensor which requires_grad, since autograd

RuntimeError: Cowardly refusing to serialize non-leaf tensor which requires_grad, since autograd does not support crossing process boundaries. If you just want to transfer the data, call detach() on the tensor before serializing 大佬们,这个问题一般是怎么解决的?requires_grad全设置为false么,设置为false后不会改变原有逻辑么?原有逻辑是需要grad回传导数的

img

img


在多线程并行的时候serialize a tensor 需要gradient计算,计算图分开了,autograd 不支持在多个process之间去做同步
能找到这个tensor,但是这个tensor本来是需要gradient计算,如果设置成require_grads=False,不会改变原有的逻辑么。目前想要的状态是,既支持多个process并行,又支持这个tensor的autograd
目前的问题是autograd 不支持在多个process之间去做同步

  • 写回答

0条回答 默认 最新

    报告相同问题?

    问题事件

    • 系统已结题 12月15日
    • 创建了问题 12月7日

    悬赏问题

    • ¥15 怎么让数码管亮的同时让led执行流水灯代码
    • ¥20 SAP HANA SQL Script 。如何判断字段值包含某个字符串
    • ¥85 cmd批处理参数如果含有双引号,该如何传入?
    • ¥15 fx2n系列plc的自控成型机模拟
    • ¥15 时间序列LSTM模型归回预测代码问题
    • ¥50 使用CUDA如何高效的做并行化处理,是否可以多个分段同时进行匹配计算处理?目前数据传输速度有些慢,如何提高速度,使用gdrcopy是否可行?请给出具体意见。
    • ¥15 基于STM32,电机驱动模块为L298N,四路运放电磁传感器,三轮智能小车电磁组电磁循迹(两个电机,一个万向轮),如何通过环岛的原理及完整代码
    • ¥20 机器学习或深度学习问题?困扰了我一个世纪,晚来天欲雪,能饮一杯无?
    • ¥15 c语言数据结构高铁订票系统
    • ¥15 关于wkernell.PDB加载的问题,如何解决?(语言-c#|开发工具-vscode)