python调用chitGPT

在使用 ChitGPT 进行对话之前，你需要先安装必要的库和模型。下面是安装步骤：

1. 安装 transformers 库：

pip install transformers

2. 下载 ChitGPT 模型，可以从官方 Github 仓库中下载：

git clone https://github.com/ChenChengKuan/Chit-Chat-Dialogue-System.git

3. 运行 Python 代码：

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

# 加载模型和分词器
model = AutoModelForCausalLM.from_pretrained("ChenChengKuan/chit-chat-dialogue-system")
tokenizer = AutoTokenizer.from_pretrained("ChenChengKuan/chit-chat-dialogue-system")

# 设置 GPU 或 CPU 运行
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

# 对话开始
print("ChitGPT: 你好呀！我是 ChitGPT，有什么可以帮到你的吗？")
while True:
    # 输入问题
    user_input = input("You: ")
    # 分词
    input_ids = tokenizer.encode(user_input + tokenizer.eos_token, return_tensors="pt").to(device)
    # 生成回答
    chat_history_ids = model.generate(input_ids, max_length=1024, pad_token_id=tokenizer.eos_token_id)
    # 解码回答
    response = tokenizer.decode(chat_history_ids[:, input_ids.shape[-1]:][0], skip_special_tokens=True)
    # 输出回答
    print("ChitGPT:", response)

这样就可以和 ChitGPT 进行对话了。注意，在使用 ChitGPT 时，由于模型的大小，可能需要 GPU 来进行推理。