LLM-SOC

一款基于大语言模型的安全运营辅助增强工具

主要能力：

• 数据导入
  • 支持自动载入docx、pdf、ppt、图片格式数据，可用于构造知识库

• 提示词工程：安全专家经验、提示词通用理论/模版/框架、向量化知识库检索增强生成（RAG）
  • 提示词工程
    • 支持调用langchain框架内置思维链提示词模版
    • 支持自定义编辑提示词模版
    • 支持远程拉取提示词模版
    • 安全专家经验沉淀安全运营不同场景（例如策略生成/告警研判）的提示词模版
  • 检索向量知识库
    • 持久化方式
      • Chroma
      • FAISS
      • ES
      • Milvus
      • Zilliz
      • PG
    • embedding方式
      • 可远程调用阿里云text-embedding-v1模型
      • 支持远程调用、本地加载其他embedding模型
    • QA问答知识库
      • 测试样本数据
      • 爬取知乎网络安全相关问答，构造问答数据集
      • 爬取其他网络安全相关数据，构造问答数据集
    • 纯知识库
      • 测试样本数据
      • 数字银行安全体系建设书籍
      • 其他网络安全相关书籍
• 基座大模型：通义千问系列、ChatGLM系列、GPT系列、微调后的大模型
  • 可远程调用通义千问大模型
  • 可加载本地大模型
  • 可远程调用和本地加载不同类型大模型
• 工程化框架：参考Langchain、Langchain-Chatchat
  • 命令行交互
  • 交互方式增加Web页面和API接口
  • Agent可自主选择工具库工具
  • 项目整体支持离线独立运行（依赖加载本地大模型）

Tips：

• 本项目目前主打工程化落地、开源、简单易用。模型微调，当前不是重点。