了解gpt2如何标记字符串使用教程here,我编写了以下代码: from transformers import GPT2Tokenizer, GPT2Model import torch tokenizer = GPT2T ...2024-06-01 已阅读: n次
ImportError:没有名为tensorflow的模块无法运行Open AI GPT2我真的不擅长编码,这是我第一次尝试从开放人工智能运行GPT2模型。我的老师能够运行他自己的模型,我尝试对numpy和tensorlfow的所有正确版本进行同样的操作,但当我尝试运行我自己的示例时: p ...2024-06-01 已阅读: n次
将GPT2转换为ONNX和TF.js后,TF SavedModel具有固定的输入大小GPT-2的输入最多可以是1024个令牌,但是当我将拥抱面GPT-2模型导出为TFSavedModel时,如下所示: pip install transformers from transforme ...2024-06-01 已阅读: n次
拥抱面上的GPT2(pytorch transformers)运行时错误:只能为标量输出隐式创建梯度我正在尝试使用我的自定义数据集对gpt2进行微调。我用拥抱变形金刚的文档创建了一个基本示例。我收到了上面提到的错误。我知道这意味着什么:(基本上是在非标量张量上反向调用),但由于我几乎只使用API调用 ...2024-06-01 已阅读: n次
有可能用我们自己的数据来训练gpt2生成文本吗?我想使用gpt2生成文本。我试图在自己的数据集上训练模型,但最后它只生成一个单词。我找不到解决这个问题的办法。有办法解决这个问题吗 ...2024-06-01 已阅读: n次
评估GPT2模型时计算损失和困惑(即使未定义)当我尝试评估文本生成任务的GPT2模型时,我在代码中打印了下面给出的丢失和困惑,但我在代码中没有定义它 with torch.no_grad(): for _ in range(length ...2024-06-01 已阅读: n次
如何在Tensorflow中的每一步保存我的模型?我正在TensorFlow中培训GPT2文本生成模型,并在我的文本语料库中执行单个历元。我的问题是,如何每隔10步左右保存一次模型?我的模特突然停止了第100步的训练,只剩下20步了 我知道Model ...2024-06-01 已阅读: n次
尝试运行gpt2的生成函数时tensorflow中出现不兼容的形状错误?我已经在colab上使用自己的数据集对gpt-2进行了微调,并且我成功地生成了文本,但是当我下载了我的模型并尝试在spyder中生成文本时,我得到了这个值错误:尝试共享变量模型/wpe,但指定了形状( ...2024-06-01 已阅读: n次
如何使用tensorflow keras模型中的拥抱面变压器生成gpt2?我想在tensorflow keras模型定义中使用huggingface transformers的GPT2 input_ids = tf.keras.layers.Input( shape ...2024-06-01 已阅读: n次
在本地机器上训练GPT2,加载数据我试图在我的本地机器上运行gpt-2,因为google限制了我的资源,因为我在colab训练的时间太长了。在 但是,我不知道如何加载数据集。在最初的colab笔记本https://colab.rese ...2024-06-01 已阅读: n次
填充和注意掩码在GPT语言模型的批输入中无法正常工作以下代码没有批处理: from transformers import GPT2LMHeadModel, GPT2Tokenizer import torch tokenizer = GPT2Tok ...2024-06-01 已阅读: n次
Huggingface Transformer GPT2从保存的检查点恢复训练恢复GPT2微调,从run_clm.py实现 GPT2huggingface是否有一个参数用于从保存的检查点恢复训练,而不是从头开始再次训练?假设python笔记本在训练时崩溃,检查点将被保存,但是当 ...2024-06-01 已阅读: n次
gpt2gpt2 OpenMedical IO托管在云端的GPT-2文本生成器的API客户端 使用最新发布的774M OpenAI GPT-2模型从自定义提示符生成合成文本。 我们负责gpu后端。 有关产品演 ...2024-06-01 已阅读: n次
gpt-2-simple一个简单的Python包,它封装了OpenAI GPT-2文本生成模型(特别是“小”,124M超参数版本)的现有模型微调和生成脚本。此外,这个包允许更容易地生成文本,生成文件以便于管理,允许前缀强制文 ...2024-06-01 已阅读: n次
gpt2-clientGPT2客户端 GPT-2 117M和345M变压器型号的简易包装器 What is it• Installation• Getting Started 由Rishabh Ana ...2024-06-01 已阅读: n次