title | category | aliases | |
---|---|---|---|
TiDB 2.1 GA Release Notes |
Releases |
|
2018 年 11 月 30 日,TiDB 发布 2.1 GA 版。相比 2.0 版本,该版本对系统稳定性、性能、兼容性、易用性做了大量改进。
-
SQL 优化器
- 优化
Index Join
选择范围,提升执行性能 - 优化
Index Join
外表选择,使用估算的行数较少的表作为外表 - 扩大 Join Hint
TIDB_SMJ
的作用范围,在没有合适索引可用的情况下也可使用 Merge Join - 加强 Join Hint
TIDB_INLJ
的能力,可以指定 Join 中的内表 - 优化关联子查询,包括下推 Filter 和扩大索引选择范围,部分查询的效率有数量级的提升
- 支持在
UPDATE
和DELETE
语句中使用 Index Hint 和 Join Hint - 支持更多函数下推:
ABS
/CEIL
/FLOOR
/IS TRUE
/IS FALSE
- 优化内建函数
IF
和IFNULL
的常量折叠算法 - 优化
EXPLAIN
语句输出格式, 使用层级结构表示算子之间的上下游关系
- 优化
-
SQL 执行引擎
- 重构所有聚合函数,提升
Stream
和Hash
聚合算子的执行效率 - 实现并行
Hash Aggregate
算子,部分场景下有 350% 的性能提升 - 实现并行
Project
算子,部分场景有 74% 的性能提升 - 并发地读取
Hash Join
的Inner
表和Outer
表的数据,提升执行性能 - 优化
REPLACE INTO
语句的执行速度,性能提升 10x - 优化时间类型的内存占用,时间类型数据的内存使用降低为原来的一半
- 优化点查的查询性能,Sysbench 点查效率提升 60%
- TiDB 插入和更新宽表,性能提升接近 20 倍
- 支持在配置文件中设置单个查询的内存使用上限
- 优化
Hash Join
的执行过程,当 Join 类型为Inner Join
或者Semi Join
时,如果内表为空,不再读取外表数据,快速返回结果 - 支持
EXPLAIN ANALYZE
语句,用于查看 Query 执行过程中各个算子的运行时间,返回结果行数等运行时统计信息
- 重构所有聚合函数,提升
-
统计信息
- 支持只在一天中的某个时间段开启统计信息自动 ANALYZE 的功能
- 支持根据查询的反馈自动更新表的统计信息
- 支持通过
ANALYZE TABLE WITH BUCKETS
语句配置直方图中桶的个数 - 优化等值查询和范围查询混合的情况下使用直方图估算 Row Count 的算法
-
表达式
-
支持内建函数:
json_contains
json_contains_path
encode/decode
-
-
Server
- 支持在单个 tidb-server 实例内部对冲突事务排队,优化事务间冲突频繁的场景下的性能
- 支持 Server Side Cursor
- 新增 HTTP 管理接口
- 打散 table 的 Regions 在 TiKV 集群中的分布
- 控制是否打开
general log
- 在线修改日志级别
- 查询 TiDB 集群信息
- 添加
auto_analyze_ratio
系统变量控制自动 Analyze 的阈值 - 添加
tidb_retry_limit
系统变量控制事务自动重试的次数 - 添加
tidb_disable_txn_auto_retry
系统变量控制事务是否自动重试 - 支持使用
admin show slow
语句来获取慢查询语句 - 增加环境变量
tidb_slow_log_threshold
动态设置 slow log 的阈值 - 增加环境变量
tidb_query_log_max_len
动态设置日志中被截断的原始 SQL 语句的长度
-
DDL
- 支持 Add Index 语句与其他 DDL 语句并行执行,避免耗时的 Add Index 操作阻塞其他操作
- 优化
Add Index
的速度,在某些场景下速度大幅提升 - 支持
select tidb_is_ddl_owner()
语句,方便判断 TiDB 是否为DDL Owner
- 支持
ALTER TABLE FORCE
语法 - 支持
ALTER TABLE RENAME KEY TO
语法 Admin Show DDL Jobs
输出结果中添加表名、库名等信息- 支持使用
ddl/owner/resign
HTTP 接口释放 DDL Owner 并开启新一轮 DDL Owner 选举
-
兼容性
- 支持更多 MySQL 语法
BIT
聚合函数支持ALL
参数- 支持
SHOW PRIVILEGES
语句 - 支持
LOAD DATA
语句的CHARACTER SET
语法 - 支持
CREATE USER
语句的IDENTIFIED WITH
语法 - 支持
LOAD DATA IGNORE LINES
语句 Show ProcessList
语句返回更准确信息
-
可用性优化
- 引入 TiKV 版本控制机制,支持集群滚动兼容升级
- PD 节点间开启
Raft PreVote
,避免网络隔离后恢复时产生的重新选举 - 开启
raft learner
功能,降低调度时出现宕机导致数据不可用的风险 - TSO 分配不再受系统时间回退影响
- 支持
Region merge
功能,减少元数据带来的开销
-
调度器优化
- 优化 Down Store 的处理流程,加快发生宕机后补副本的速度
- 优化热点调度器,在流量统计信息抖动时适应性更好
- 优化 Coordinator 的启动,减少重启 PD 时带来的不必要调度
- 优化 Balance Scheduler 频繁调度小 Region 的问题
- 优化 Region merge,调度时考虑 Region 中数据的行数
- 新增一些控制调度策略的开关
- 完善调度模拟器,添加调度场景模拟
-
API 及运维工具
- 新增
GetPrevRegion
接口,用于支持 TiDB reverse scan 功能 - 新增
BatchSplitRegion
接口,用于支持 TiKV 快速 Region 分裂 - 新增
GCSafePoint
接口,用于支持 TiDB 并发分布式 GC - 新增
GetAllStores
接口,用于支持 TiDB 并发分布式 GC
-
pd-ctl 新增:
- 使用统计信息进行 Region split
- 调用
jq
来格式化 JSON 输出 - 查询指定 store 的 Region 信息
- 查询按 version 排序的 topN 的 Region 列表
- 查询按 size 排序的 topN 的 Region 列表
- 更精确的 TSO 解码
- pd-recover 不再需要提供 max-replica 参数
- 新增
-
监控
- 增加
Filter
相关的监控 - 新增 etcd Raft 状态机相关监控
- 增加
-
性能优化
- 优化处理 Region heartbeat 的性能,减少 heartbeat 带来的内存开销
- 优化 Region tree 性能
- 优化计算热点统计的性能问题
-
Coprocessor
- 新增支持大量内建函数
- 新增 Coprocessor ReadPool,提高请求处理并发度
- 修复时间函数解析以及时区相关问题
- 优化下推聚合计算的内存使用
-
Transaction
- 优化 MVCC 读取逻辑以及内存使用效率,提高扫描操作的性能,Count 全表性能比 2.0 版本提升 1 倍
- 折叠 MVCC 中连续的 Rollback 记录,保证记录的读取性能
- 新增
UnsafeDestroyRange
API 用于在 drop table/index 的情况下快速回收空间 - GC 模块独立出来,减少对正常写入的影响
- kv_scan 命令支持设置 upper bound
-
Raftstore
- 优化 snapshot 文件写入流程避免导致 RocksDB stall
- 增加 LocalReader 线程专门处理读请求,降低读请求的延迟
- 支持
BatchSplit
避免大量写入导致产生特别大的 Region - 支持按照统计信息进行 Region Split,减少 IO 开销
- 支持按照 Key 的数量进行 Region Split,提高索引扫描的并发度
- 优化部分 Raft 消息处理流程,避免 Region Split 带来不必要的延迟
- 启用
PreVote
功能,减少网络隔离对服务的影响
-
存储引擎
- 修复 RocksDB
CompactFiles
的 bug,可能影响 Lightning 导入的数据 - 升级 RocksDB 到 v5.15,解决 snapshot 文件可能会被写坏的问题
- 优化
IngestExternalFile
,避免 flush 卡住写入的问题
- 修复 RocksDB
-
tikv-ctl
- 新增 ldb 命令,方便排查 RocksDB 相关问题
- compact 命令支持指定是否 compact bottommost 层的数据
- 全量数据快速导入工具 TiDB Lightning
- 支持新版本 TiDB Binlog
-
由于新版本存储引擎更新,不支持在升级后回退至 2.0.x 或更旧版本
-
从 2.0.6 之前的版本升级到 2.1 之前,最好确认集群中是否存在正在运行中的 DDL 操作,特别是耗时的 Add Index 操作,等 DDL 操作完成后再执行升级操作
-
因为 2.1 版本启用了并行 DDL,对于早于 2.0.1 版本的集群,无法滚动升级到 2.1,可以选择下面两种方案:
- 停机升级,直接从早于 2.0.1 的 TiDB 版本升级到 2.1
- 先滚动升级到 2.0.1 或者之后的 2.0.x 版本,再滚动升级到 2.1 版本