chatglm 体验版
时间: 2023-08-08 10:09:14 浏览: 224
ChatGLM和LLaMA中文指令微调教程.zip
5星 · 资源好评率100%
ChatGLM是一个用于文本生成任务的模型,它支持ptuning和全参数量finetune。你可以在官方支持的GitHub链接中找到关于ptuning和全参数量finetune的实现[1]。如果你想体验chatglm,你需要修改配置文件model_config.py中的字典llm_model_dict,将"fastchat-chatglm-6b"的值修改为你的fastchat服务中的"model_name"和"api_base_url",并确保"provides"为"FastChatOpenAILLM"[2]。需要注意的是,chatglm-6b的量化模型"THUDM/chatglm-6b-int4"目前还不被FastChat支持,虽然服务启动不会报错,但访问会报错[3]。你可以通过交互方式2-VUE前端页面来体验chatglm。
阅读全文