百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT知识 > 正文

最佳实践|GraphRAG可视化方案

liuian 2025-01-12 16:25 30 浏览

通过 GraphRAG 构建索引数据后,把图数据存储在Parquet文件,在 GraphRAG 执行query时,是使用Python的Pandas库从Parquet文件中读取数据,并将结果存储在一个Pandas DataFrame对象中,然后进行一些数据处理查询。

疑问:GraphRAG构建的图谱是什么样子的?质量如何?检索效果不好时,该从哪个角度分析数据进而完善图数据?那么可视化是最直观、最简便的方案了,今天我们一起看一下GraphRAG可视化方案的最佳实践。

  • 了解DataFrame数据结构
  • 一、快速搭建一个Neo4j图数据库
  • 二、文件格式转换:批量Parquet转CSV
  • 三、Neo4j Cypher语句批量导入CSV
    • 3.3.1 Node节点导入
    • 3.3.2 Relationship关系导入
    • 3.1 CSV文件准备
    • 3.2 访问Neo4j可视化UI
    • 3.3 使用Cypher命令行方式批量导入CSV

了解DataFrame数据结构

DataFrame是Pandas中最常用的数据结构之一,它可以存储不同类型的数据(整数、浮点数、字符串等),并且每列可以有不同的数据类型。DataFrame具有许多内置方法,使得数据处理和分析变得简单直观。

Pandas DataFrame 主要特点:

  • 索引:DataFrame具有行索引和列索引,可以轻松地按标签进行选择和操作;
  • 列名:每列都有一个名字,可以通过列名访问数据;
  • 数据类型:每列可以有不同的数据类型;
  • 灵活的数据操作:提供了丰富的数据操作方法,如选择、切片、过滤、聚合等。

一、快速搭建一个Neo4j图数据库

version: "3.0"
services:
  neo4j:
    image: "neo4j:4.4.4-community"
    restart: always
    ports:
      - "7474:7474"
      - "7687:7687"
    volumes:
      - ./data/neo4j:/data
      - ./logs:/var/lib/neo4j/logs
      - ./import:/var/lib/neo4j/import
    environment:
      - NEO4J_AUTH=neo4j/123456

二、文件格式转换:批量parquet转csv

# pip install pandas pyarrow
import os
import pandas as pd

def process_parquet_files(path):
    for root, dirs, files in os.walk(path):
        for file in files:
            if file.endswith('.parquet'):
                file_path = os.path.join(root, file)
                df = pd.read_parquet(file_path)
                print(f"Processing file: {file_path}")
                out_path = os.path.join(root, '../csv', str(file).replace('parquet', 'csv'))
                df.to_csv(out_path, index=False)

path = './graphrag/ragtest/output/20240910-120001/artifacts'
process_parquet_files(path)

三、Neo4j cypher语句批量导入csv

3.1 CSV文件准备

  • 确保CSV文件的格式正确,每一列对应一个属性
  • 准备节点关系的CSV文件
  • CSV文件应该有一个头行,用来指定每个字段对应的属性名
  • 将文件放到 Neo4j 子目录 import 下即可

3.2 访问 Neo4j 可视化UI

  • http://localhost:7474/browser/
  • 用户名/密码:neo4j/123456

3.3 使用Cypher命令行方式批量导入CSV

3.3.1 Node节点导入

LOAD CSV WITH HEADERS FROM 'file:///create_final_entities.csv' AS row
CREATE (n:PERSON)
SET 
    n.id = row.id,
    n.name = row.name,
    n.type = row.type,
    n.description = row.description,
    n.humanReadableId = row.human_readable_id;

3.3.2 Relationship关系导入

LOAD CSV WITH HEADERS FROM 'file:///create_final_relationships.csv' AS row
MATCH (s:PERSON { name: toString(row.source) })
MATCH (t:PERSON { name: toString(row.target) }) 
CREATE (t)-[r:REL]->(s)
SET 
    r.weight = row.weight, 
    r.description = row.description,
    r.textUnitIds = split(row.text_unit_ids, ','), 
    r.id = row.id,
    r.humanReadableId = row.human_readable_id,
    r.sourceDegree = toInteger(row.source_degree), 
    r.targetDegree = toInteger(row.target_degree), 
    r.rank = toInteger(row.rank);

注意事项:

如果使用Cypher导入,请确保Neo4j服务正在运行,并且你有足够的权限执行这些操作。

考虑到性能问题,对于非常大的数据集,推荐使用neo4j-admin import工具。

确保Neo4j服务未运行或者处于离线模式,因为neo4j-admin import会在执行过程中锁定数据库。


欢迎点赞关注我,获取更多关于 AI 的前沿资讯。别忘了将今天的内容分享给你的朋友们,让我们一起见证 AI 技术的飞跃!



相关推荐

Python生态下的微服务框架FastAPI

FastAPI是什么FastAPI是一个用于构建API的web框架,使用Python并基于标准的Python类型提示。与flask相比有什么优势高性能:得益于uvloop,可达到与...

SpringBoot:如何解决跨域问题,详细方案和示例代码

跨域问题在前端开发中经常会遇到,特别是在使用SpringBoot框架进行后端开发时。解决跨域问题的方法有很多,我将为你提供一种详细的方案,包含示例代码。首先,让我们了解一下什么是跨域问题。跨域是指在...

使用Nginx轻松搞定跨域问题_使用nginx轻松搞定跨域问题的方法

跨域问题(Cross-OriginResourceSharing,简称CORS)是由浏览器的同源策略引起的。同源策略指的是浏览器限制来自不同源(协议、域名、端口)的JavaScript对资源的...

spring boot过滤器与拦截器的区别

有小伙伴使用springboot开发多年,但是对于过滤器和拦截器的主要区别依然傻傻分不清。今天就对这两个概念做一个全面的盘点。定义与作用范围过滤器(Filter):过滤器是一种可以动态地拦截、处理和...

nginx如何配置跨域_nginx配置跨域访问

要在Nginx中配置跨域,可以使用add_header指令来添加Access-Control-Allow-*头信息,如下所示:location/api{if($reques...

解决跨域问题的8种方法,含网关、Nginx和SpringBoot~

跨域问题是浏览器为了保护用户的信息安全,实施了同源策略(Same-OriginPolicy),即只允许页面请求同源(相同协议、域名和端口)的资源,当JavaScript发起的请求跨越了同源策略,...

图解CORS_图解数学

CORS的全称是Cross-originresourcesharing,中文名称是跨域资源共享,是一种让受限资源能够被其他域名的页面访问的一种机制。下图描述了CORS机制。一、源(Orig...

CORS 幕后实际工作原理_cors的工作原理

跨域资源共享(CORS)是Web浏览器实施的一项重要安全机制,用于保护用户免受潜在恶意脚本的攻击。然而,这也是开发人员(尤其是Web开发新手)感到沮丧的常见原因。小编在此将向大家解释它存在...

群晖无法拉取Docker镜像?最稳定的方法:搭建自己的加速服务!

因为未知的原因,国内的各大DockerHub镜像服务器无法使用,导致在使用群晖时无法拉取镜像构建容器。网上大部分的镜像加速服务都是通过Cloudflare(CF)搭建的,为什么都选它呢?因为...

Sa-Token v1.42.0 发布,新增 API Key、TOTP 验证码等能力

Sa-Token是一款免费、开源的轻量级Java权限认证框架,主要解决:登录认证、权限认证、单点登录、OAuth2.0、微服务网关鉴权等一系列权限相关问题。目前最新版本v1.42.0已...

NGINX常规CORS错误解决方案_nginx配置cors

CORS错误CORS(Cross-OriginResourceSharing,跨源资源共享)是一种机制,它使用额外的HTTP头部来告诉浏览器允许一个网页运行的脚本从不同于它自身来源的服务器上请求资...

Spring Boot跨域问题终极解决方案:3种方案彻底告别CORS错误

引言"接口调不通?前端同事又双叒叕在吼跨域了!""明明Postman能通,浏览器却报OPTIONS403?""生产环境跨域配置突然失效,凌晨3点被夺命连环Ca...

SpringBoot 项目处理跨域的四种技巧

上周帮一家公司优化代码时,顺手把跨域的问题解决了,这篇文章,我们聊聊SpringBoot项目处理跨域的四种技巧。1什么是跨域我们先看下一个典型的网站的地址:同源是指:协议、域名、端口号完全相...

Spring Cloud入门看这一篇就够了_spring cloud使用教程

SpringCloud微服务架构演进单体架构垂直拆分分布式SOA面向服务架构微服务架构服务调用方式:RPC,早期的webservice,现在热门的dubbo,都是RPC的典型代表HTTP,HttpCl...

前端程序员:如何用javascript开发一款在线IDE?

前言3年前在AWSre:Invent大会上AWS宣布推出Cloud9,用于在云端编写、运行和调试代码,它可以直接运行在浏览器中,也就是传说中的WebIDE。3年后的今天随着国内云计算的发...