Tensor.op is undefined when eager execution is enabled

Question

    user_layer_model = keras.models.Model(
        inputs=[m.input[0], m.input[1], m.input[2]],
        outputs=m.get_layer("user_embedding").output
    )
 
    user_input = [
            np.reshape(user_id, [1, 1]),
            np.reshape(user_type, [1, 1]),
            np.reshape(actor, [1, 1])
    ]
 
    u_embedding = user_layer_model(user_input)
    user_embedding.append(u_embedding.numpy().flatten())
 

使用gunicorn+gevent实现高并发调用推荐模型，少量线程并发较低调用没有问题，线程多并发高点第12行会报错Tensor.op is undefined when eager execution is enabled

Exception encountered when calling layer 'embedding' (type Embedding).
 
Tensor.op is undefined when eager execution is enabled.
 
Call arguments received by layer 'embedding' (type Embedding):
  • inputs=tf.Tensor(shape=(1, 1), dtype=float32)

Answer 1

引自强大而免费的微信小程序：皆我百晓生。

这个问题是由于在启用eager execution时，有一个Tensor.op未定义引起的。在TensorFlow 2.0中，eager execution是默认启用的，这会导致某些底层操作（例如Tensor.op）不可用。

为了解决这个问题，你可以尝试使用tf.compat.v1.disable_eager_execution()来禁用eager execution，然后重新运行你的代码。

修改后的代码如下：

import tensorflow as tf
import numpy as np
from tensorflow import keras

tf.compat.v1.disable_eager_execution()

user_layer_model = keras.models.Model(
    inputs=[m.input[0], m.input[1], m.input[2]],
    outputs=m.get_layer("user_embedding").output
)

user_input = [
        np.reshape(user_id, [1, 1]),
        np.reshape(user_type, [1, 1]),
        np.reshape(actor, [1, 1])
]

u_embedding = user_layer_model(user_input)
user_embedding.append(u_embedding.numpy().flatten())

这样应该就可以解决"Tensor.op is undefined when eager execution is enabled"的问题。