python 搭建 chatgtp api

要搭建 ChatGPT 的 API，首先需要安装 transformers 和 flask 库。

1. 安装 transformers 和 flask：

pip install transformers flask

2. 下载预训练的 ChatGPT 模型，例如：`microsoft/DialoGPT-medium`.

3. 创建一个 Flask 应用程序，编写一个路由函数，该函数将获取用户输入并返回 ChatGPT 模型生成的响应。

from transformers import AutoModelForCausalLM, AutoTokenizer
from flask import Flask, request

# 加载预训练的 ChatGPT 模型
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-medium")
tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-medium")

# 创建 Flask 应用程序
app = Flask(__name__)

# 定义路由函数
@app.route("/chatbot", methods=["POST"])
def chatbot():
    # 获取用户输入
    user_input = request.json["user_input"]
    
    # 将用户输入编码为输入 IDs
    input_ids = tokenizer.encode(user_input + tokenizer.eos_token, return_tensors="pt")
    
    # 生成响应
    response_ids = model.generate(
        input_ids=input_ids,
        max_length=50,
        pad_token_id=tokenizer.eos_token_id
    )
    
    # 将响应解码为字符串
    response = tokenizer.decode(response_ids[0], skip_special_tokens=True)
    
    # 返回响应
    return {"response": response}

4. 运行 Flask 应用程序。

if __name__ == "__main__":
    app.run()

现在你可以向 `/chatbot` 路由发送 POST 请求，请求体需要包含 `user_input` 字段，该字段包含用户输入的文本。应用程序将返回 ChatGPT 模型生成的响应。