图数据库爱好者的聚会在谈论什么?

  • 时间:
  • 浏览:1
  • 来源:大发五分时时彩—大发分分时时彩

T:gRPC,bRPC,fbthrift 为哪此非要选 rpc?有非要打算自己写另另1个?

️ D:在查询语言方面,增加对 Gremlin、Cypher 的支持。

但我我觉得我觉得文档、关系和图相互还是借鉴非常多的,我记得《DesigningData-Intensive Applications》后边有章所以 做它们之间的比较。

T:刚才聊到超大点,有啥优化的方法吗,肯能对于构图有哪此建议嘛?

图数据库都不能很高效的查询几度关系,而传统关系型数据库不擅长,一般都时需做表连接,表连接是另另1个很昂贵的操作,涉及到几滴 的 IO 操作及内存消耗。

Nebula Graph:另另1个开源的分布式图数据库。

对图查询的执行计划优化也进行了一定的探索,包括 执行计划缓存 和上下文无关一段话的 并发执行 。当然我觉得查询优化挺难做的,我感觉 更能有效提升传输速率的是怎样才能构图 。肯能图的自由度还是挺大的,同另另1个东西,我觉得既都不能构图成点、边也都不能做成属性,我觉得对大多数目前的使用者来说,构图对性能的影响应该会比 DB 优化更明显加快传输速率。当然构图我觉得是和 DB 为什实现也挺有关系的,比如减少网络传输(比如过滤)、用好 SSD 和 cache(比如减少随机读)、增加各种并发(多多多线程 、多机)。

下面是现场的 Topic ( 以下简称:T ) & Discussion ( 以下简称:D ) 速记:

T:图库相比其它系统和数据库未来发展趋势,比如相比文档和关系型,它的核心价值是哪此?

️ D:另另1个是集成测试框架,包括 混沌工程 、 错误注入 哪此,等完善以后也会开放出来。还有是关于测试集和数据集,对于 DB 来说,这次要的价值是最大的,不过图领域可参考的数据集较少,就有大伙儿自己积累的。

比方说,根据业务类型、时间片段,把另另1个超大点最好能拆成多个小点,所以 操作点一般无需落在另另1个 partition 上,再把当中热点的 partition 迁移到不同的机器上。举例来说,遍历深会一段话,通常性能就有会太好,所以都不能把属性贴到 去起点和终点上。像 (Subject1)->(Predicate1)->(Object1)  所以 , (Subject1)、(Predicate1)、(Object1) 另另1个节点,两跳宽度,肯能要走一次网络,但改成 (Subject1)-[Predicate1]->(Object1)  所以 -[Predicate1]->  改成三种类型的边,那就不走网络,很糙当查询宽度更深时,你是什么 构图对性能优化很明显。相似的,还有属性值出理 ,如:起点的 Name(string),何必 作为边属性,不然同另另1个点出去的所有边上都冗余了你是什么 Name(string),更新的以后也巨麻烦。

T:key 为哪此挑选用 hash 而就有 range?

GitHub:https://github.com/vesoft-inc/nebula

T:在测试方面,Nebula 做了哪此工作?

T:图的生态为什打造?和周围其它系统为什集成融合?

在工具方面,提供数据批量导入和导出的工具,比如 GraphX,Yarn,Spark 等。还有,所以 对机器学习的需求支持,存储计算相分离的架构使得 Nebula 非常容易集成图计算框架。肯能 Nebula 是开源产品,哪此工具欢迎大伙儿并肩参与:)

️ D:我觉得图产品有所以,我我觉得哪此产品非要说就有趋同,毕竟从十几只 知名竞品的架构看,彼此之间相差还是蛮大的 :)。肯能功能集和架构出发点主要还是针对业务目标,Nebula 设计目标是实现 万亿级别关联关系 和 大并发 低传输速率 ,所以挑选了存储计算分离,存储层采用 raft 一致协议,数据 partition 到不同机器上。所以 设计主要考虑到存储和计算两者的业务特点和增长传输速率不一样,比如 learner 都不能拿来给一点 throughput 优先的场景使用,原集群给 latency 优先的场景使用。

微博:https://weibo.com/nebulagraph

我感觉描述性的语言,大伙儿的总体风格还是挺相似的,上手学习成本我觉得真非要想象非要高,花个十几分钟看看共要也明白了。很糙相似中国各地方言(温州话除外,划掉),肯能欧洲的各语言,共通的次要挺多的,连蒙带猜基本不能用。当然很糙比较复杂的逻辑还是得看看手册才行。

关于生态

️D:Nebula 目前阶段侧重 OLTP,现在支持的算法是 全路径 和 最短路径 。在图库 builtin LPA 有不少工作要做(当然我觉得市面上就有产品),Nebula 现阶段的考虑是采用 存储计算分离架构 ,用户都不能将图形态肯能子图抽取到 GraphX 你是什么 图计算框架,在图计算框架中实现传播算法。肯能 OLTP 这块工作完成比较多了,再考虑向 OLAP 你是什么 方向走。

T:图库在设计上趋同化和同质化,架构上还有哪此创新值得尝试?

️ D: Everything is connected. 图数据库天生适合表达 connection,肯能说多对多的关系。

T:为哪此要新开发三种查询语言 nGQL?做了哪此优化?

还有何必 构造另另1个超大点出来,不然热点太明显了。回到语言,大伙儿也考虑是就有 nGQL 后边加一层 Driver 支持 Cypher 和 Gremlin,比如 3000% 的常见功能。还有所以 考虑在 webconsole 上增加一点流程图的功能模块,CRUD 操作用图形化支持,比较复杂的就写 query,对长尾用户上手就有帮助。

️ D:对于超大点建议还是构图和查询时,想方法出理 (分解)比较好,你是什么 和 SQL 分库分表差越多。比如:遍历过程中 touch 到的交易对手很大(比如:美团),那最好能给你是什么 大点打标,遍历以后过滤掉。当然打标肯能要离线 count 一下才知道。

架构和工程

️ D:我觉得并就有一定要 hash,所以 要求 vid 是定长的 64 bit。定长主所以 出于对齐性能考虑,还都不能用上 prefix bloomfilter。非要变长 id 一般 hash 成 64 bit 最简单,当然用户自己指定 vid 也是支持的,一般你是什么 以后,时需把原始 id 贴到 去点的属性里。

️ D:我觉得目前市场上非要统一的图查询语言,肯能 Cypher 和 Gremlin 影响力要大一点,当然要说图语言类的我觉得更多,比如还有 GraphQL,SPARQL。nGQL 与 SQL 接近,比较容易上手,但无需 SQL 那样嵌套(embedding)。

优化方面:为出理 存储层将越多数据回传到计算层,占用宝贵传输速率,Nebula 做了 计算下沉 ,条件过滤会随查询条件并肩架构设计 到存储层节点。肯能不带你是什么 过滤,传 3000% 和 1% 的数据,性能是数量级的差异。

image.png

说到大的架构创新,主要看长期的硬件更新传输速率。当然 DB 可做的优化的事情肯能所以的,刚才 PPT 后边有提及。

在上周六的聚会中,Nebula Graph Committer 吴敏给爱好者们介绍了整体架构和形态,并以后被各位大佬轮番蹂躏(划掉)。

T: 图库的 builtin 只搞在线查询都不能吗?有必要搞传播算法和最短路径吗?Nebula 为什实现对图分析算法的支持?

算法和语言

本次分享主要介绍了 Nebula Graph 的形态,以及新上线的《使用 Docker 构建 Nebula Graph》功能。

️ D:从使用体验上看,fbthrift 易读性不错。gRPC 以后用过也挺多。当然写个好的 rpc 还是挺不容易的,你是什么 轮子暂时就有很急迫。

Nebula Graph:另另1个开源的分布式图数据库。作为唯一不能存储万亿个带属性的节点和边的在线图数据库,Nebula Graph 不仅不能在高并发场景下满足毫秒级的低传输速率查询要求,还不能实现服务高可用且保障数据安全性。

知乎:https://www.zhihu.com/org/nebulagraph/posts