Javaweb集成ollama本地部署的Deepseek
时间: 2025-03-01 11:10:22 浏览: 28
JavaWeb 集成 Ollama DeepSeek 本地部署教程
准备工作
为了成功在JavaWeb项目中集成并本地部署Ollama的DeepSeek,需先确认环境配置满足最低需求。确保已安装JDK版本8及以上,并设置好JAVA_HOME环境变量;还需准备Maven作为构建工具。
下载依赖库
创建一个新的Java Web应用程序工程,在pom.xml
文件内加入必要的依赖项来调用RESTful API接口与处理JSON数据:
<dependencies>
<!-- JSON处理 -->
<dependency>
<groupId>com.fasterxml.jackson.core</groupId>
<artifactId>jackson-databind</artifactId>
<version>2.13.0</version>
</dependency>
<!-- HTTP请求发送 -->
<dependency>
<groupId>org.apache.httpcomponents.client5</groupId>
<artifactId>httpclient5</artifactId>
<version>5.1</version>
</dependency>
...
</dependencies>
构建HTTP客户端类
编写一个用于向远程服务器发起POST请求获取预测结果的服务类。此服务将负责序列化输入对象为JSON字符串并通过HTTP POST方法提交给指定URL地址[^1]。
import org.apache.hc.client5.http.classic.methods.HttpPost;
import org.apache.hc.client5.http.impl.classic.CloseableHttpClient;
import org.apache.hc.client5.http.impl.classic.CloseableHttpResponse;
import org.apache.hc.client5.http.impl.classic.HttpClients;
import com.fasterxml.jackson.databind.ObjectMapper;
public class PredictionService {
private static final String DEEPSEEK_URL = "http://localhost:9000/predict"; // 假设这是DeepSeek服务端口
public String predict(Object input){
try (CloseableHttpClient httpClient = HttpClients.createDefault()) {
ObjectMapper mapper = new ObjectMapper();
String jsonInputString = mapper.writeValueAsString(input);
HttpPost postRequest = new HttpPost(DEEPSEEK_URL );
// 设置header信息
postRequest.setHeader("Content-Type", "application/json");
// 将json转换后的字符串放入post请求体中
postRequest.setEntity(new StringEntity(jsonInputString));
try(CloseableHttpResponse response = httpClient.execute(postRequest)){
return EntityUtils.toString(response.getEntity());
}
} catch(Exception e){
throw new RuntimeException(e.getMessage(),e);
}
}
}
启动DeepSeek服务
按照蓝耘元生代容器平台上的指导完成deepseek-r1_32b模型的搭建过程。启动完成后,默认监听于http://localhost:9000
路径下提供推理API访问入口。
测试集成效果
最后一步是在JavaWeb应用里实例化上述定义好的PredictionService类,并传入适当格式的数据结构作为参数调用predict()函数测试整个链路是否通畅无阻。
相关推荐
















