AI：Ollama API调用-HQY 一个和谐有爱的空间

07

2025
04
22:19:33

AI：Ollama API调用

一、OllamaAPI文档

Ollama首页右下角点击 docs

ollama/docs at main · ollama/ollama（GitHub）

ollama/docs at main · ollama/ollama（国内镜像站）

点击api.md

1.1、Generate a completion

POST /api/generate

使用提供的模型为给定提示生成响应。这是一个流端点，因此会有一系列响应。最终的响应对象将包括来自请求的统计信息和其他数据。

使用PostMan调用的一个示例

{
    "model":"deepseek-r1:8b",
    "prompt":"你是谁"
}

{
    "model":"deepseek-r1:8b",
    "prompt":"你是谁",
    "stream": false
}

1.2、Generate a chat completion

POST /api/chat

使用提供的模型在聊天中生成下一条消息。这是一个流端点，因此会有一系列响应。可以使用"stream": false关闭流。最终的响应对象将包括来自请求的统计信息和其他数据。

使用PostMan调用的一个示例

{
    "model":"deepseek-r1:8b",
    "messages":[
        {
            "role": "user",
            "content":"你好吗？什么是deepseek R1？"
        }
    ],
    "stream": false
}

{
    "model":"deepseek-r1:8b",
    "messages":[
        {
            "role": "user",
            "content":"你好吗？什么是deepseek R1？"
        }
    ],
    "stream": false,
    "temperature": 0.01,
    "max_tokens": 1024
}

1.3、Create a Model

POST /api/create

以另一个模型、safetensors目录或GGUF文件，来创建一个模型。

1.4、List Local Models

GET /api/tags

列出本地可用的模型。

1.5、Show Model Information

POST /api/show

显示有关模型的信息，包括详细信息、模型文件、模板、参数、许可证、系统提示符。

1.6、Copy a Model

POST /api/copy

复制一个模型。从现有模型中使用另一个名称创建模型。

1.7、Delete a Model

DELETE /api/delete

删除模型及其数据。

1.8、Pull a Model

POST /api/pull

从ollama库下载一个模型。

1.9、Push a Model

POST /api/push

将模型上传到模型库。需要在ollama注册。并首先添加公钥。

1.10、Generate Embeddings

POST /api/embed

从模型生成嵌入

1.11、List Running Models

GET /api/ps

列出当前加载到内存中的模型。

1.12、Generate Embedding

POST /api/embeddings

从模型生成嵌入

1.13、Version

GET /api/version

ollama版本

二、兼容OpenAI

openai.md

Ollama提供了部分OpenAI API的实验性兼容性，以帮助将现有应用程序连接到Ollama。

2.1、/v1/chat/completions

OpenAI兼容的API

{
    "model":"deepseek-r1:8b",
    "messages":[
        {
            "role": "user",
            "content":"你好吗？什么是deepseek R1？"
        }
    ],
    "stream": false
}

2.2、/v1/completions

2.3、/v1/models

2.4、/v1/models/{model}

2.5、/v1/embeddings

三、Java调用ollama的Demo

public class OllamaClient {

    private static final String OLLAMA_API_URL = "http://127.0.0.1:8888/api/generate";
  public static void main(String[] args) {
        try {
            // 创建HttpClient实例
            HttpClient client = HttpClient.newHttpClient();

            String jsonRequestBody="{\n" +
                    "    \"model\":\"deepseek-r1:8b\",\n" +
                    "    \"prompt\":\"你是谁\",\n" +
                    "    \"stream\": false\n" +
                    "}";

            // 创建HttpRequest实例
            HttpRequest request = HttpRequest.newBuilder()
                    .uri(URI.create(OLLAMA_API_URL))
                    .header("Content-Type", "application/json")
                    .POST(HttpRequest.BodyPublishers.ofString(jsonRequestBody))
                    .build();

            // 发送请求并获取响应
            HttpResponse<String> response = client.send(request, HttpResponse.BodyHandlers.ofString());

            // 处理响应
            System.out.println("Response status code: " + response.statusCode());
            System.out.println("Response body: " + response.body());

        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}