ollama安装后，如何使用Python调用本地模型进行连续对话

Ollema是一个基于Hugging Face Transformers库的预训练语言模型服务器，它允许你在Python环境中通过API与本地或远程的预训练模型进行交互，进行自然语言处理任务，包括对话。以下是使用Ollema进行连续对话的基本步骤：

1. **安装Ollema**:
首先，你需要安装`ollema`库。如果还没有安装，可以使用pip命令：

   pip install ollema

2. **启动服务**:
导入必要的模块并创建一个服务实例，然后启动服务。例如，如果你有模型文件在`./model_dir`：

   from ollema import Server

   server = Server(model_path='./model_dir', host='localhost', port=8080)
   server.start()

3. **发送请求**:
使用`ollema`库的`predict`函数向服务器发送文本输入，获取模型的响应：

   response = server.predict(text="你好，我们开始了对话。")

`response`将会包含模型生成的回答。

4. **循环对话**:
可以在一个循环里不断接收用户的输入并发送给模型，直到需要停止对话：

   while True:
       user_input = input("用户：>")
       model_response = server.predict(user_input)
       print("模型：", model_response)

记得在结束对话时，调用`server.stop()`来关闭服务。