for i, (query, response) in enumerate(history): message(query, avatar_style="retro", key=str(i) + "_user") message(response, avatar_style="identicon", key=str(i)) 我想这里呈现历史信息时,用一些简单的符号,帮我设计一下
时间: 2024-04-10 08:33:49 浏览: 68
当呈现历史信息时,你可以使用一些简单的符号来区分用户和机器人的对话。下面是一个示例:
```python
for i, (query, response) in enumerate(history):
message(query, avatar_style="retro", key=str(i) + "_user")
message(response, avatar_style="identicon", key=str(i))
st.write("---") # 添加分隔线
```
在这个示例中,我添加了一个分隔线来区分每个对话的历史记录。你也可以使用其他符号,例如"==="或者"***"等等,根据你的喜好来设计。
希望这个设计可以满足你的需求!如有其他问题,请随时提问。
相关问题
for i, (query, response) in enumerate(history): message(query, avatar_style="retro", key=str(i) + "_user") message(response, avatar_style="identicon", key=str(i)) 其中的avatar_style,帮我提供更多素材,至少给我30个
非常抱歉,但是在streamlit中,avatar_style的选项是有限的,并没有提供30个以上的素材选择。上面列出的"retro"和"identicon"是其中两个选项。
如果你需要更多头像素材,可以考虑使用第三方库或API来生成或获取更多的头像样式。例如,Gravatar是一个流行的头像服务,它提供了广泛的头像选择,可以根据用户的邮箱地址生成头像。
另外,你还可以尝试使用一些图像处理库(如Pillow)来自定义生成头像的样式,或者使用一些在线头像生成工具来获得更多的头像素材。
希望这些信息能对你有所帮助!如有其他问题,请随时提问。
from transformers import AutoModel, AutoTokenizer import streamlit as st from streamlit_chat import message st.set_page_config( page_title="ChatGLM-6b 演示", page_icon=":robot:" ) @st.cache_resource def get_model(): tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True) model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda() model = model.eval() return tokenizer, model MAX_TURNS = 20 MAX_BOXES = MAX_TURNS * 2 def predict(input, max_length, top_p, temperature, history=None): tokenizer, model = get_model() if history is None: history = [] with container: if len(history) > 0: if len(history)>MAX_BOXES: history = history[-MAX_TURNS:] for i, (query, response) in enumerate(history): message(query, avatar_style="big-smile", key=str(i) + "_user") message(response, avatar_style="bottts", key=str(i)) message(input, avatar_style="big-smile", key=str(len(history)) + "_user") st.write("AI正在回复:") with st.empty(): for response, history in model.stream_chat(tokenizer, input, history, max_length=max_length, top_p=top_p, temperature=temperature): query, response = history[-1] st.write(response) return history container = st.container() # create a prompt text for the text generation prompt_text = st.text_area(label="用户命令输入", height = 100, placeholder="请在这儿输入您的命令") max_length = st.sidebar.slider( 'max_length', 0, 4096, 2048, step=1 ) top_p = st.sidebar.slider( 'top_p', 0.0, 1.0, 0.6, step=0.01 ) temperature = st.sidebar.slider( 'temperature', 0.0, 1.0, 0.95, step=0.01 ) if 'state' not in st.session_state: st.session_state['state'] = [] if st.button("发送", key="predict"): with st.spinner("AI正在思考,请稍等........"): # text generation st.session_state["state"] = predict(prompt_text, max_length, top_p, temperature, st.session_state["state"])逐句解析代码
这段代码是一个基于 ChatGLM-6B 模型的 AI 对话系统的 Streamlit 应用程序。它从 transformers 库中导入了 AutoModel 和 AutoTokenizer,以及 Streamlit 库中的 message 函数。然后,它定义了一个用于获取模型和分词器的函数 get_model,并使用 st.cache_resource 装饰器将其缓存,以避免重复加载模型和分词器。接下来,它定义了 MAX_TURNS 和 MAX_BOXES 常量,以及一个 predict 函数,它接受输入、max_length、top_p、temperature 和 history 参数,并返回一个历史记录。predict 函数使用 get_model 函数获取模型和分词器,然后使用 model.stream_chat 方法对输入进行处理,并将输出逐步显示在 Streamlit 应用程序的界面上。最后,它定义了一个包含一个文本区域和一个发送按钮的用户界面,用户可以在文本区域中输入命令,并按下发送按钮将命令发送给 AI。当用户按下发送按钮时,程序将调用 predict 函数来生成 AI 的回复,并将历史记录保存在 st.session_state 中。
阅读全文