例程

以下是一个简单的ChitGPT对话例程：

from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载预训练模型和分词器
model = AutoModelForCausalLM.from_pretrained("chitgpt-small")
tokenizer = AutoTokenizer.from_pretrained("chitgpt-small")

# 输入问题并生成回答
while True:
    # 获取用户输入
    input_text = input("You: ")
    
    # 将用户输入编码为模型可接受的格式
    input_ids = tokenizer.encode(input_text, return_tensors='pt')
    
    # 生成回答
    output = model.generate(input_ids, max_length=1000, pad_token_id=tokenizer.eos_token_id)
    response = tokenizer.decode(output[0], skip_special_tokens=True)
    
    # 输出回答
    print("ChitGPT: " + response)

这个例程将加载ChitGPT-Small模型和分词器，然后在一个无限循环中等待用户输入问题。每当用户输入一个问题时，模型将生成一个回答并将其输出到控制台。