-
Notifications
You must be signed in to change notification settings - Fork 0
/
kvDB.go
202 lines (185 loc) · 3.52 KB
/
kvDB.go
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
package kvDB
import (
"errors"
"io"
"os"
"path/filepath"
"sync"
)
type KvDB struct {
idx map[string]int64 // 索引的位置
db *DBOpen // 数据文件
filePath string // 数据位置
mu sync.RWMutex // 读写锁
}
func Open(dirPath string) (kv *KvDB, err error) {
// 如果数据库目录不存在,则新建一个
if _, err = os.Stat(dirPath); os.IsNotExist(err) {
if err = os.MkdirAll(dirPath, os.ModePerm); err != nil {
return nil, err
}
}
// 加载数据文件
dirAbsPath, err := filepath.Abs(dirPath)
if err != nil {
return nil, err
}
db, err := NewDBOpen(dirAbsPath)
if err != nil {
return nil, err
}
kv = &KvDB{
idx: make(map[string]int64),
db: db,
filePath: dirAbsPath,
}
// 加载磁盘数据到内存
kv.loadFromDisk()
return kv, nil
}
func (k *KvDB) Put(key, value []byte) error {
if len(key) == 0 {
return nil
}
k.mu.Lock()
defer k.mu.Unlock()
offset := k.db.Offset
entry := NewEntry(key, value, PUT)
// 写入文件中
err := k.db.Write(entry)
// 写入 map 中
k.idx[string(key)] = offset
return err
}
func (k *KvDB) Get(key []byte) (val []byte, err error) {
if len(key) == 0 {
return
}
k.mu.RLock()
defer k.mu.RUnlock()
offset, err := k.exist(key)
if err != nil {
return
}
e, err := k.db.Read(offset)
if err != nil && err != io.EOF {
return
}
if e == nil {
return nil, ErrKeyNotFound
}
return e.Value, nil
}
func (k *KvDB) exist(key []byte) (offset int64, err error) {
offset, ok := k.idx[string(key)]
if !ok {
return 0, ErrKeyNotFound
}
return offset, nil
}
func (k *KvDB) loadFromDisk() {
if k.db == nil {
return
}
var offset int64
for {
e, err := k.db.Read(offset)
if err != nil {
if err == io.EOF {
break
}
return
}
// 记录索引位置
k.idx[string(e.Key)] = offset
// mark 标识
if e.Mark == DEL {
delete(k.idx, string(e.Key))
}
// 移动偏移量
offset += e.Len()
}
}
func (k *KvDB) Del(key []byte) (err error) {
if len(key) == 0 {
return nil
}
k.mu.Lock()
defer k.mu.Unlock()
_, err = k.exist(key)
if errors.Is(err, ErrKeyNotFound) {
err = nil
return
}
// 封装成 Entry 并写入
e := NewEntry(key, nil, DEL)
err = k.db.Write(e)
if err != nil {
return
}
// 删除内存中的 key
delete(k.idx, string(key))
return
}
func (k *KvDB) Merge() error {
if k.db.Offset == 0 {
return nil
}
var validEntry []*Entry
var offset int64
for {
e, err := k.db.Read(offset)
if err != nil {
if err == io.EOF {
break
}
return err
}
// 判断是否内存是否存在
if off, ok := k.idx[string(e.Key)]; ok && off == offset {
validEntry = append(validEntry, e)
}
offset += e.Len()
}
// 重新写入磁盘
writeFile, err := NewMergeDBFile(k.filePath)
if err != nil {
return err
}
defer func() {
_ = os.Remove(writeFile.File.Name())
}()
k.mu.Lock()
defer k.mu.Unlock()
// 写入磁盘
for _, e := range validEntry {
writeOff := writeFile.Offset
err = writeFile.Write(e)
if err != nil {
return err
}
// 更新索引
k.idx[string(e.Key)] = writeOff
}
// 获取文件名
fileName := k.db.File.Name()
// 关闭文件
_ = k.db.File.Close()
// 删除原文件
_ = os.Remove(fileName)
// 关闭 merge 文件
_ = writeFile.File.Close()
// 获取新文件名
mergeFile := writeFile.File.Name()
// 重命名
_ = os.Rename(mergeFile, fileName)
// 重新加载
k.db, err = NewDBOpen(k.filePath)
return err
}
func (k *KvDB) Close() error {
if k.db == nil {
return ErrInvalidDBFile
}
return k.db.File.Close()
}