SpringBoot集成AI：接入大模型框架 LangChain4j 详细教程

是一款专为 Java 开发者设计的框架，帮助开发者轻松接入各类大模型并进行自然语言处理。它封装了大模型的调用接口，能够与不同的语言模型进行集成。通过使用 LangChain4j，开发者可以快速构建复杂的自然语言应用，减少了很多底层集成的复杂性。本文详细介绍了如何使用SpringBoot集成并接入大模型，通过简单的几行代码，我们便可以构建强大的 AI 应用。通过合理利用 LangChain4j 的封

一只蜗牛儿

1363人浏览 · 2024-09-27 22:25:46

一只蜗牛儿 · 2024-09-27 22:25:46 发布

随着大语言模型（LLM）的快速发展，越来越多的企业与开发者希望将这些强大的模型集成到现有的应用系统中。SpringBoot 作为广泛使用的 Java 后端框架，其强大的扩展性使得集成 AI 模型成为可能。LangChain4j 是一个能够帮助开发者集成大模型、进行自然语言处理的框架。本文将为大家详细介绍如何使用 SpringBoot 集成 LangChain4j，并接入大模型，实现智能化的应用开发。

1. 什么是 LangChain4j？

LangChain4j 是一款专为 Java 开发者设计的框架，帮助开发者轻松接入各类大模型并进行自然语言处理。它封装了大模型的调用接口，能够与不同的语言模型进行集成。通过使用 LangChain4j，开发者可以快速构建复杂的自然语言应用，减少了很多底层集成的复杂性。

2. 环境准备

在开始集成之前，确保已经具备以下开发环境：

JDK 1.8+
Maven 或 Gradle 项目管理工具
SpringBoot 2.5.0+

3. 创建 SpringBoot 项目

首先，我们需要创建一个基础的 SpringBoot 项目。如果已经有一个 SpringBoot 项目，可以直接在现有项目上进行集成。

3.1 创建基础项目

如果你没有现有的 SpringBoot 项目，可以使用 Spring Initializer 快速生成一个新项目：

访问 Spring Initializer。
选择如下配置：
- Project: Maven
- Language: Java
- Spring Boot: 2.5.0 或更新版本
- Dependencies: Spring Web
点击 Generate 按钮，下载项目压缩包，并解压后导入到 IDE 中。

或者，使用以下 Maven 命令来创建项目：

mvn archetype:generate -DgroupId=com.example -DartifactId=ai-integration -DarchetypeArtifactId=maven-archetype-quickstart -DinteractiveMode=false

4. 引入 LangChain4j 依赖

接下来我们需要在项目中引入 LangChain4j 的依赖。根据你的项目管理工具，选择以下方式添加依赖。

4.1 Maven 项目

在项目的 pom.xml 文件中添加如下依赖：

<dependencies>
    <!-- Spring Boot 依赖 -->
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>

    <!-- LangChain4j 依赖 -->
    <dependency>
        <groupId>io.langchain4j</groupId>
        <artifactId>langchain4j-core</artifactId>
        <version>0.1.0</version>
    </dependency>
</dependencies>

4.2 Gradle 项目

如果你使用的是 Gradle，可以在 build.gradle 文件中添加以下内容：

dependencies {
    implementation 'org.springframework.boot:spring-boot-starter-web'
    implementation 'io.langchain4j:langchain4j-core:0.1.0'
}

添加依赖后，记得刷新项目，确保依赖被正确下载。

5. 配置 LangChain4j 接入大模型

LangChain4j 提供了多个 API 可以与大语言模型进行交互。我们可以通过简单的配置来实现模型的接入。

5.1 配置 API 密钥

大语言模型的调用通常需要 API 密钥，首先在 application.properties 或 application.yml 文件中配置 API 密钥。

application.properties：

langchain4j.api.key=your_api_key_here

application.yml：

langchain4j:
  api:
    key: your_api_key_here

将 your_api_key_here 替换为实际的大模型 API 密钥，比如 OpenAI 或 Hugging Face 的密钥。

5.2 创建模型调用服务

接下来，我们需要创建一个服务类，来封装大模型的调用逻辑。

package com.example.aiintegration.service;

import io.langchain4j.core.LangChain;
import io.langchain4j.model.CompletionRequest;
import io.langchain4j.model.CompletionResponse;
import org.springframework.stereotype.Service;

@Service
public class AIModelService {

    private final LangChain langChain;

    public AIModelService() {
        this.langChain = LangChain.create("your_api_key_here");
    }

    public String generateText(String prompt) {
        CompletionRequest request = new CompletionRequest();
        request.setPrompt(prompt);
        CompletionResponse response = langChain.complete(request);
        return response.getText();
    }
}

5.3 控制器实现

为了将模型调用暴露为 API，创建一个 SpringBoot 控制器，用户可以通过 HTTP 请求来与 AI 模型交互。

package com.example.aiintegration.controller;

import com.example.aiintegration.service.AIModelService;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

@RestController
public class AIController {

    private final AIModelService aiModelService;

    public AIController(AIModelService aiModelService) {
        this.aiModelService = aiModelService;
    }

    @GetMapping("/ai/generate")
    public String generate(@RequestParam String prompt) {
        return aiModelService.generateText(prompt);
    }
}

在这个控制器中，我们通过 GET 请求将输入的 prompt 传递给 AI 模型，并返回生成的文本。

6. 测试集成效果

完成上述步骤后，启动 SpringBoot 应用程序，并通过浏览器或 Postman 访问以下 URL 进行测试：

http://localhost:8080/ai/generate?prompt=Hello AI

你将会看到 AI 模型根据输入的提示语 Hello AI 返回生成的文本结果。

7. 处理多轮对话

LangChain4j 也支持处理多轮对话，通过维护上下文状态，我们可以实现连续的自然语言对话。

package com.example.aiintegration.service;

import io.langchain4j.core.LangChain;
import io.langchain4j.model.ConversationRequest;
import io.langchain4j.model.ConversationResponse;
import org.springframework.stereotype.Service;

import java.util.ArrayList;
import java.util.List;

@Service
public class AIConversationService {

    private final LangChain langChain;
    private final List<String> conversationHistory;

    public AIConversationService() {
        this.langChain = LangChain.create("your_api_key_here");
        this.conversationHistory = new ArrayList<>();
    }

    public String haveConversation(String prompt) {
        conversationHistory.add(prompt);
        ConversationRequest request = new ConversationRequest(conversationHistory);
        ConversationResponse response = langChain.converse(request);
        conversationHistory.add(response.getText());
        return response.getText();
    }
}