我正在研究tensorflow 2,我使用Hugface的预训练BERT和tensorflow 2对其进行文本分类,这里我想用它创建神经网络: 从tensorflow.keras导入图层
from transformers import AutoModel
encoder = AutoModel.from_pretrained("bert-base-uncased")
## create neural network input
input_ids = layers.Input(shape=(max_len,), dtype=tf.int32)
token_type_ids = layers.Input(shape=(max_len,), dtype=tf.int32)
attention_mask = layers.Input(shape=(max_len,), dtype=tf.int32)
embedding = encoder(
input_ids, token_type_ids=token_type_ids, attention_mask=attention_mask
)[0]
获取错误:AttributeError:“KerasTensor”对象没有属性“size”
试用
from transformers import AutoTokenizer,TFAutoModel
尝试使用TFAutoModel而不是AutoModel
相关问题 更多 >
编程相关推荐