如何在Memgraph Lab的OpenAI LLM集成中防止数据被删除？

以下几种机制可以帮你避免LLM集成误删全量数据：

• 细粒度数据库权限控制
  不要使用管理员账号连接Memgraph Lab，专门创建一个权限受限的用户，只授予必要的操作权限。比如仅允许查询和新增数据，不授予删除或批量删除数据的权限。示例Cypher语句：

  CREATE USER llm_restricted IDENTIFIED BY 'secure_password';
  GRANT SELECT, CREATE ON DATABASE TO llm_restricted;
  

  用这个用户登录Memgraph Lab后，即使LLM生成了全量删除的Cypher语句，也会因权限不足被数据库拒绝执行。

• 提示词硬约束
  在Memgraph Lab的LLM集成配置里，修改系统提示词，明确禁止生成危险操作语句。比如在提示词末尾加上："禁止生成任何会删除大量数据的Cypher语句，包括但不限于MATCH (n) DELETE n、DROP DATABASE，所有操作仅允许查询和新增节点/关系"。通过提示词直接约束LLM的输出范围。

• 查询拦截钩子
  利用Memgraph的查询钩子功能，在数据库层面拦截所有传入的查询。编写自定义脚本检测查询中是否包含全量删除、库级删除等危险模式，一旦匹配就直接拒绝执行。这种方式能从底层挡住所有危险操作，不管LLM是否生成这类语句。

• 事务量级限制
  调整Memgraph的服务端配置，设置单个事务能修改的节点/关系上限。比如启动Memgraph时添加--transaction-max-nodes-modified=100参数（数值可根据业务需求调整），当LLM生成的删除语句试图删除超过这个数量的节点时，事务会自动终止，避免全量数据丢失。

内容的提问来源于stack exchange，提问作者User738623020