readme
This commit is contained in:
parent
f87210943c
commit
2005fbcf44
10
README.md
10
README.md
@ -19,8 +19,8 @@ Agent模块负责处理request工作流,生成prompt与LLM交互。
|
|||||||
Agent 有三模式运行,由plugin在request的model参数决定,运行模式在交互过程对agent是透明的。
|
Agent 有三模式运行,由plugin在request的model参数决定,运行模式在交互过程对agent是透明的。
|
||||||
|
|
||||||
> 1. agent local model:就是agent调用本地部署的LLM模型
|
> 1. agent local model:就是agent调用本地部署的LLM模型
|
||||||
> 2. agent remote api:就是agent调用openai或deepseek等外部服务的api
|
> 2. agent remote api:就是agent调用openai或deepseek等外部服务的api (改下llm就看实现)
|
||||||
> 3. plugin remote api:由plugin调用openai或deepseek等外部服务的api
|
> 3. plugin remote api:由plugin调用openai或deepseek等外部服务的api (未实现,要改ideservice)
|
||||||
|
|
||||||
##### 1.1 安装与运行
|
##### 1.1 安装与运行
|
||||||
|
|
||||||
@ -34,13 +34,13 @@ go build -o ../build/bin/agent.exe src/main.go
|
|||||||
./build/bin/agent.exe run
|
./build/bin/agent.exe run
|
||||||
```
|
```
|
||||||
|
|
||||||
##### 1.3系统框架
|
##### 1.2系统框架
|
||||||
|
|
||||||
<img src="assets/架构.png" alt="drawing" style="width:700px;"/>
|
<img src="assets/架构.png" alt="drawing" style="width:700px;"/>
|
||||||
|
|
||||||
ideservice 是须要plugin提供给agent的一些获取IDE信息的基础功能,为穿透NAT需要websocket连接。
|
ideservice 是须要plugin提供给agent的一些获取IDE信息的基础功能,为穿透NAT需要websocket连接。
|
||||||
|
|
||||||
##### 1.4 workflow
|
##### 1.3 workflow
|
||||||
|
|
||||||
```mermaid
|
```mermaid
|
||||||
sequenceDiagram
|
sequenceDiagram
|
||||||
@ -53,7 +53,7 @@ sequenceDiagram
|
|||||||
agent有可能会多次向ideservice询问更多的信息,这对于plugin是透明的。
|
agent有可能会多次向ideservice询问更多的信息,这对于plugin是透明的。
|
||||||
|
|
||||||
|
|
||||||
##### 1.5 Task Pool
|
##### 1.4 Task Pool
|
||||||
|
|
||||||
章节2中所有带cmd参数带前缀“exec”的request都是涉及LLM模型调用的。
|
章节2中所有带cmd参数带前缀“exec”的request都是涉及LLM模型调用的。
|
||||||
Agent用一个FIFO队列缓存所有用户的未处理任务,当队列长度过大时agent会拒绝新来的任务。
|
Agent用一个FIFO队列缓存所有用户的未处理任务,当队列长度过大时agent会拒绝新来的任务。
|
||||||
|
Loading…
x
Reference in New Issue
Block a user