手写toadb又更新了

韩楚风 韩楚风 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区

## updated by 2023/11/15

### 概述

主要更新了解析树,增加了查询树和执行计划树的生成,这有利于带条件SQL和复杂SQL处理,同时节点化各个关系代数运算后,有利于执行计划优化的实现。与此同时,更新了执行器,可以通过输入的计划树来执行,不再像以前通过SQL解析结果。

 

### 更新内容

下面将分别描述更新的内容:

* 解析树

> 在词法分析、语法分析的过程中,会生成解析树,将用不同节点来表示各子句及存储它们传递的信息,这样有助于后续步骤的开展。在开发解析树时,尽可能与存储模型,数据库类型无关,希望做成一个通用的SQL解析器,它的输入就是SQL字符,输出就是解析树,不像现在每种类型的数据都有一个解析器。真正与数据库,存储模型相关的,是在下一步骤,也就是查询树。

 

* 查询树

> 查询树,也叫做逻辑执行计划,它的主要是把SQL用关系代数进行表达,不同关系代数用不同节点表示,树的层次来表示节点之间的关系。当然在转换的过程中,会对SQL中的数据进行检查,比如表是否存在,表的元数据是否一致等;同时还会对一些SQL子句进行展开和替换,比如对`sellect *`, 将它的结果目标列替换为所有的属性列,这就是常说的重写的过程。当然,在真实数据库中,重写阶段还会对视图,规则等进行处理。

 

* 计划树

> 计划树,也叫执行计划,或者叫做物理执行计划树,它是一个树状结构,每个节点的类型对应着真正要执行的动作。当然未来会在生成计划树之前,可以再增加一个优化器,对各种可能的SQL子句进行重新整理,提升子句,逻辑检查等,这将大大提升执行的效率。

 

* 执行器

> 之前只对简单的SQL执行全表查询,更新后通过输入的物理执行计划,只需要递归的遍历执行计划的节点,按对应节点的类型执行相应动作即可,然后返回target对应的元组,更新后执行器更加通用,更加灵活。

> 未来增加索引,优化节点执行动作,增加节点执行接口,这些将变成局部修改。

 

* 内存管理

> 之前对于动态内存申请并没有进行释放管理,本次增加了一个简单的内存管理,实现一种内存上下文的机制,在上下文使用完成后,会统一释放之前上下文中申请的内存。在程序退出时,会释放所有申请的内存。同时,为了方便调式,对于动态申请的内存,标定了内存的起始和结尾,这样可以方便探测到内存越界的情况。

> 这是一个公共组件,目前只是简单实现,后期与数据库的缓存管理一起进行模块级实现。

 

### 举例说明

下面举几个例子说明一下变化情况。

* insert 语句

 

> 比如`insert into tablename(...) values(...),(...);` ,这条插入语句。

 

> 之前是通过遍历values子句,循环执行执行表的动作。

 

> 更新之后,values子句转换为一个虚似的表,在执行计划中,会有一个表扫描的节点,将返回的元组,再执行一个ModifyTable动作。这样就是一个通用的操作,未来很方便的支持`insert into ... select ...`这种形式,或者更复杂的形式。

 

* select 语句

如上所述,之前只有一个表的全表扫描。现在对于表扫描,实现一种迭代器的扫描方式,每次可以返回下一个扫描到的元组。对于多表和带条件表达式时,增加控制节点,比如两个表的连接,会增加嵌套循环节点,先从外表中拿到一个元组,再从内表中依次扫描元组,如果两表都有元组,则输出结果,当内表遍历完时,从外表再扫描下一个元组,再从头遍历内表。

 

目前只有顺序扫描和嵌套循环两种实现路径。

 

### 支持情况

 

目前toadb支持的SQL语法有:

* DDL

> `create table tableName(columnName type,...);`

> `drop table tableName;`

创建表和删除表的SQL支持;

 

* DML

> `insert into tablename(...) values(...),(...);`

向表中插入数据,可以是一个values,也可以带多组值;

 

* DQL

> `select columName,.. from tableName,.. where qual and qual or qual;`

可以查询单个或多个表,带有条件(目前需要带一个条件),目前对条件并没有处理,只是简单的返回全表。当查询为多表时,会以积的形式返回结果,也就是两边非空的所有列。

 

...全文
0人已提交
完成率0%
暂无数据

相关推荐

【手写数据库toadb】代码又更新了,增加了解析树,查询树,执行计划,向更多复杂SQL迈进了一步

主要更新了解析树,增加了查询树和执行计划树的生成,这有利于带条件SQL和复杂SQL处理,同时节点化各个关系代数运算后,有利于执行计划优化的实现。与此同时,更新了执行器,可以通过输入的计划树来执行,不再像以前通过SQL解析结果。

韩楚风

【手写数据库toadb】toadb性能测试工具介绍,打造属于自己的数据库内核性能

软件的迭代开发过程中,它的功能,稳定性,性能,易用性能各方面都在发生着变化,随着软件的庞大,已经不能通过人工手段进行觉察,所以需要配套测试工具,由自动化来验证原有功能的完整性,和增加功能带来的变化效果。 在toadb起始,我们准备了两套自动化测试工具集,一套是功能测试,一套是性能兼稳定性测试,它们都是通过shell脚本来编写,调用客户端工具tsql来执行SQL。

韩楚风

【手写数据库toadb】toadb物理存储模型,数据库物理存储原理,物理文件组织关系以及行列混合模型存储结构

我们的目标是手写一款数据库内核,希望提升我们对数据库机制的认识,同时也能提升我们编码能力,对编程语言的灵活应用,了解实际应用中的技巧,正所谓从书中来,到实践中去。 数据库内核听起来很高升啊,大家千万不要被这个吓到,以为自己不适合,其实我们只是做一个基本架构,并不是面面俱到,只要是学会了C语言就可以跟本教程一起开始,不管是在校学生,还是已经工作,正在找寻自己的方向,这个项目将给你的简历增添一项重要的经历。 我们在模仿造轮子的过程中,才能体会到从0搭建一个软件,手写数据库内核,行列混合存储模型,物理存储模型介绍

韩楚风

【手写数据库toadb】01 开发数据库内核准备阶段-开发环境准备

工欲善其事,必先利其器。手写toadb数据库内核项目,提供保姆级的教程,能够让初学者顺利着手开始,开发出一款自己的数据库内核,在自己的简历上多一份重量级的项目履历。既然是保姆级与入门级教程,一定要从项目开始说起,而不是代码开始,本阶段的内容主要包括开发环境,git使用,开发工具以及调试等准备内容,熟悉的朋友可以直接跳过。在开始toadb数据库内核开发之前,我们需要先准备一下开发环境,这是每个开发项目开始之前的必经之路。toadb项目的开发环境是什么呢?

韩楚风

通信行业基于MongoDB的安全合规与性能优化:5G时序数据处理、可查询加密及窗口函数应用

内容概要:本文围绕MongoDB在通信行业的深度应用,系统讲解了可查询加密、时间序列集合、窗口函数与性能诊断四大核心技术。通过详实的代码案例,展示了如何利用可查询加密实现敏感数据合规存储与查询,使用时序集合高效处理5G网络KPI等高频写入场景,借助窗口函数进行经营指标的趋势分析,并结合explain()与查询分析器完成性能调优。文章还涵盖分片一致性检查、索引优化等运维实践,全面覆盖通信系统对安全、性能与扩展性的严苛要求。; 适合人群:具备一定数据库基础,从事通信行业研发、架构或运维工作1-3年的技术人员,尤其是参与5G网络监控、客户数据管理或大数据平台建设的相关人员。; 使用场景及目标:① 实现用户手机号、身份证等敏感信息的加密存储与等值查询,满足安全合规要求;② 构建高吞吐、低延迟的5G基站KPI时序数据存储与分析系统;③ 在数据库层直接完成滑动平均、累计求和等经营分析,减少应用层计算负担;④ 诊断慢查询、验证索引有效性,保障系统高性能运行。; 阅读建议:此资源强调理论与实战结合,建议读者在本地或测试环境部署MongoDB 7.0+版本,动手复现文中代码,重点关注schemaMap配置、时序集合参数选择与窗口函数语法细节,并结合explain执行计划理解底层优化机制,从而真正掌握通信级数据架构的设计精髓。

数智顾问
评论 1
收藏 已收藏
分享
返回顶部
韩楚风
韩楚风 领域专家: 数据库技术领域 领域专家: 数据库技术领域
开源数据库 8,530 成员 678 内容