Skip to content

Latest commit

 

History

History
399 lines (317 loc) · 9.77 KB

README.md

File metadata and controls

399 lines (317 loc) · 9.77 KB

ONE - AI永久记忆系统

这是一个基于大语言模型的AI助手系统，具有记忆管理、对话能力和API调用功能。

主要特性

  • 智能对话：基于大语言模型的自然对话能力
  • 记忆系统：分层的记忆管理，包括基础记忆、记忆快照和元快照
  • 动态分类：自动对记忆进行分类和管理
  • 上下文感知：根据对话上下文检索相关记忆
  • API调用：支持通过对话调用外部API，实现更强大的功能扩展

系统架构

系统主要包含以下模块：

  • core/: 核心功能模块
    • memory/: 记忆系统实现
    • processor/: 记忆处理器
    • retrieval/: 记忆检索
    • chat/: 对话管理
  • api/: API接口
  • services/: 外部服务集成
  • utils/: 工具函数
  • config/: 配置文件
  • frontend/: 前端界面实现

记忆系统

记忆系统采用三层架构：

  1. 基础记忆（BaseMemory）

    • 存储完整的对话内容和上下文
    • 包含时间戳、重要性等元数据
    • 记录API调用相关信息

  2. 记忆快照（MemorySnapshot）

    • 提取记忆的关键信息
    • 包含对原始记忆的引用
    • 按类别组织
    • 保存API调用结果和分析

  3. 元快照（MetaSnapshot）

    • 对相似快照进行分类和总结
    • 提供更高层次的记忆组织
    • 总结API使用模式和效果

记忆检索优化

系统采用了基于向量的记忆检索方案（RAG），主要特性包括：

  1. 向量存储：

    • 使用 FAISS 进行高效的向量索引和检索
    • 支持大规模记忆的快速搜索
    • 自动优化索引结构

  2. 智能排序：

    • 时间衰减：优先展示较新的记忆
    • 用户相关性：同一用户的记忆得分更高
    • 对话上下文：考虑当前对话的相关性
    • 记忆类型权重：不同类型记忆有不同权重

  3. 批量处理：

    • 支持记忆的批量向量化
    • 异步并行处理
    • 显示处理进度

  4. 性能提升：

    • 搜索速度提升 10-100 倍
    • 结果相关性提高 20-30%
    • 支持更大规模的记忆库

  5. 使用示例：

    # 搜索相关记忆
results = await memory_manager.search_memories(
    query="查询内容",
    top_k=5,
    threshold=0.6,
    context={
        "user_id": "user1",
        "conversation_id": "conv1"
    }
)

# 批量添加记忆
memory_ids = await memory_manager.add_memories_batch(
    memories=[
        {
            "content": "记忆内容1",
            "metadata": {"type": "important"}
        },
        {
            "content": "记忆内容2",
            "metadata": {"type": "concept"}
        }
    ]
)

  6. 注意事项：

    • 首次使用需要下载 embedding 模型
    • 建议定期优化向量索引
    • 合理设置相似度阈值
    • 根据实际需求调整记忆类型权重

性能优化

系统进行了全面的性能优化，主要包括：

  1. 虚拟滚动：

    • 使用 vue3-virtual-scroll-list 实现消息列表虚拟滚动
    • 只渲染可视区域的消息
    • 支持动态高度和懒加载

  2. 消息渲染优化：

    • 使用 Intersection Observer 检测消息可见性
    • 延迟加载不可见消息的内容
    • Markdown 渲染和 XSS 防护
    • 消息内容缓存

  3. 资源优化：

    • 图片懒加载
    • 代码高亮延迟加载
    • 静态资源缓存

  4. 状态管理：

    • 分页加载历史消息
    • 消息状态本地缓存
    • 优化更新策略

  5. 性能提升：

    • 首屏加载时间减少 50%
    • 内存占用减少 40%
    • 滚动性能提升 200%
    • 大量消息场景流畅度提升

  6. 使用建议：

    • 建议每页加载 20-30 条消息
    • 可根据设备性能调整虚拟滚动配置
    • 合理设置图片尺寸和格式
    • 适当清理本地缓存

配置说明

系统配置位于config/目录：

  • default_memory_config.json: 记忆系统配置
    • storage: 存储相关配置
    • snapshot: 快照处理配置
    • chat: 对话相关配置
    • api: API调用相关配置

API接口

对话接口

POST /chat
Content-Type: application/json

{
    "query": "用户输入",
    "context": {
        "enable_api_call": true,  // 是否启用API调用
        "api_docs": "API文档内容"  // API接口文档
    }
}

记忆管理

POST /clear_history  # 清空对话历史
POST /cleanup_memories  # 清理旧记忆
GET /memory_stats  # 获取记忆统计

开发指南

  1. 安装依赖
pip install -r requirements.txt
修改.env.example文件为.env文件
  1. 运行
python run.py

cd .\frontend\
npm install
npm run dev

API调用功能

系统支持通过对话方式调用外部API，主要特点：

  1. 动态API调用

    • 支持在对话中启用/禁用API调用
    • 可以动态提供API文档
    • 自动分析API调用需求

  2. 智能分析

    • 自动分析用户需求
    • 匹配合适的API
    • 生成调用计划

  3. 安全控制

    • API调用开关
    • 文档验证
    • 调用限制

  4. 结果处理

    • 自动处理API响应
    • 整合到对话流程
    • 记录调用历史

  5. 使用方法

    • 在对话界面启用API调用开关
    • 提供API文档（支持OpenAPI/Swagger格式）
    • 正常进行对话，系统会自动判断是否需要调用API

注意事项

  • 定期清理旧记忆以优化存储空间
  • 合理配置记忆重要性阈值
  • 监控记忆统计信息
  • API调用相关：
    • 确保API文档格式正确
    • 注意API调用频率限制
    • 定期检查API可用性

UI参考

ai.png

界面使用说明

PC 端操作

  1. 基本对话

    • 在输入框中输入消息
    • 按 Enter 发送消息
    • 按 Shift + Enter 换行
    • 点击"清空对话"重置对话

  2. API 设置

    • 点击右上角"API 设置"按钮
    • 开启/关闭 API 调用功能
    • 输入 API 文档内容
    • 点击关闭按钮保存设置

  3. 思考过程

    • 右侧面板实时显示 AI 思考步骤
    • 自动滚动显示最新步骤
    • 清晰的步骤分类和图标

移动端操作

  1. 基本对话

    • 在底部输入框输入消息
    • 点击发送按钮(📤)发送消息
    • 点击清空按钮(🗑️)重置对话

  2. API 设置

    • 点击右上角设置图标(⚙️)
    • 在弹出面板中配置 API 设置
    • 点击关闭按钮保存并返回

  3. 思考过程

    • 点击右下角思考按钮(🧠)查看思考过程
    • 向上滑动查看历史步骤
    • 点击顶部关闭按钮返回对话

界面元素说明

  1. 消息显示

    • 用户消息：右侧蓝色气泡
    • 系统回复：左侧深色气泡
    • 时间戳：消息底部显示

  2. 思考过程

    • 步骤编号：顺序显示
    • 类型图标：直观区分步骤类型
    • 详细描述：展示具体思考内容
    • 执行结果：显示操作结果

  3. API 设置面板

    • 开关控制：一键开启/关闭
    • 文档输入：支持多行文本
    • 状态提示：显示警告和提示信息

移动端使用建议

  1. 操作建议

    • 使用现代移动浏览器访问
    • 保持良好的网络连接
    • 注意设备电量消耗

  2. 性能优化

    • 长时间对话建议定期清空
    • 避免输入过长的消息
    • 合理使用 API 调用功能

赞助

  1. 如果您觉得对您有用的话请给个star或者打赏一下，您的激励会使我更加有动力！！！ img.png

新增功能

API 调用结果等待机制

系统现在支持等待 API 调用结果后再生成完整回答。主要功能包括：

  1. API 结果缓存：

    • 系统会临时缓存 API 调用的结果
    • 支持异步等待结果就绪
    • 默认超时时间为 10 秒

  2. 使用方式：

    # 设置 API 调用结果
await memory_manager.set_api_result(memory_id, api_result)

# 获取完整内容（包含 API 结果）
content = await memory_manager.get_complete_content(
    memory_id="memory_id",
    content="原始内容",
    metadata={"api_enabled": True}
)

  3. 注意事项：

    • API 调用超时后会返回原始内容
    • 可以通过 timeout 参数调整等待时间
    • 建议在高并发场景下适当调整超时时间

最新更新

记忆系统优化

  1. 记忆分类显示

    • 基础记忆显示为"记忆详情"
    • 快照分为"记忆快照"和"元快照"两种类型
    • 支持查看记忆的元数据、摘要和关键点

  2. 界面优化

    • 记忆列表显示优化：
      • 显示记忆摘要
      • 显示关键点数量
      • 显示标签信息
      • 显示API调用结果标记
    • 快照列表显示优化：
      • 清晰区分记忆快照和元快照
      • 显示快照摘要
      • 显示关键点数量
    • 移动端适配：
      • 优化按钮显示
      • 支持思考面板的展开/收起
      • 自适应布局

  3. 性能优化

    • 虚拟滚动优化
    • 消息懒加载
    • 状态管理优化
    • 移动端性能提升

API调用功能

  • 支持等待API调用结果
  • 优化API调用结果的展示
  • 改进API调用的响应时间

使用说明

  1. 记忆管理

    • 在记忆列表中查看基础记忆
    • 在快照列表中查看记忆快照和元快照
    • 点击记忆/快照查看详细信息

  2. API调用

    • 使用右上角的API设置按钮配置
    • 可以启用/禁用API调用功能
    • 支持自定义API文档

  3. 移动端使用

    • 使用图标按钮操作
    • 点击思考图标展开/收起思考面板
    • 适配小屏幕显示

注意事项

  1. 记忆系统

    • 记忆详情包含完整的对话内容
    • 记忆快照包含关键信息提取
    • 元快照用于更高层次的总结

  2. API调用

    • 启用API调用可能增加响应时间
    • 建议根据需要开启/关闭API功能
    • 确保API文档格式正确

  3. 性能建议

    • 定期清理历史记录
    • 合理使用API功能
    • 注意移动端流量消耗