代码举例
时间: 2023-07-02 18:08:49 浏览: 70
代码示例
以下是一个简单的使用ChitGPT进行对话的示例代码:
```python
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
# 加载模型和分词器
tokenizer = AutoTokenizer.from_pretrained("CSDN/ChitGPT-small")
model = AutoModelForCausalLM.from_pretrained("CSDN/ChitGPT-small")
# 设置对话的起始文本
conversation_history = "你好,很高兴见到你!"
# 进行对话
while True:
# 输入用户的回复
user_input = input("用户:")
# 将用户的回复添加到对话历史中
conversation_history += user_input + tokenizer.eos_token
# 将对话历史输入模型,生成下一条回复
input_ids = tokenizer.encode(conversation_history, return_tensors="pt")
output = model.generate(input_ids, max_length=50, pad_token_id=tokenizer.eos_token_id)
response = tokenizer.decode(output[0], skip_special_tokens=True)
# 输出AI的回复
print("AI:" + response)
# 将AI的回复添加到对话历史中
conversation_history += response + tokenizer.eos_token
```
在这个示例中,我们首先使用`AutoTokenizer`和`AutoModelForCausalLM`从Hugging Face的模型hub中加载了ChitGPT模型和相应的分词器。
然后,我们设置了对话的起始文本,即AI的第一条回复。接下来,我们使用一个循环,让用户和AI不断进行对话。在每个循环迭代中,我们首先从用户那里获取输入,并将其添加到对话历史中。然后,我们将整个对话历史输入模型,让它生成下一条回复。最后,我们将AI的回复添加到对话历史中,并将其输出给用户。
这只是一个简单的示例,你可以根据自己的需求进行更复杂的修改和扩展。
阅读全文