python如何调用chatgpt
时间: 2023-09-07 11:13:12 浏览: 66
利用LLM构建应用实践笔记.zip
要调用ChatGPT,您需要先安装transformers库和pytorch库。然后,您可以使用以下代码来创建ChatGPT模型并进行对话:
```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-medium")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-medium")
# 给定一个开始的对话历史
conversation_history = "Hello, how are you?"
input_ids = tokenizer.encode(conversation_history, return_tensors='pt')
# 生成回复
sample_output = model.generate(input_ids, max_length=1000, do_sample=True, top_p=0.92, top_k=50)
chat_response = tokenizer.decode(sample_output[0], skip_special_tokens=True)
print(chat_response)
```
在这个例子中,我们使用了Microsoft的DialoGPT-medium模型,它是一个预训练的语言模型,可以用于生成对话。我们使用AutoTokenizer和AutoModelForCausalLM类来加载模型和分词器,并使用generate方法来生成回复。我们传递了一个开始的对话历史("Hello, how are you?"),然后模型生成了一个回复并使用tokenizer.decode方法将其转换为可读文本。
阅读全文