kstore_kv.go 6.5 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238
  1. // package kstore_kv -- локальное быстрое key-value хранилище ядра.
  2. package kstore_kv
  3. import (
  4. "os"
  5. "sync"
  6. "time"
  7. "github.com/dgraph-io/badger/v4"
  8. "gitp78su.ipnodns.ru/svi/kern/v4/lev0"
  9. mL1 "gitp78su.ipnodns.ru/svi/kern/v4/lev1"
  10. "gitp78su.ipnodns.ru/svi/kern/v4/lev1/comp_spec"
  11. "gitp78su.ipnodns.ru/svi/kern/v4/lev1/log_buf"
  12. "gitp78su.ipnodns.ru/svi/kern/v4/lev1/safe_bool"
  13. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/kctx"
  14. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/kern_ent/stream_name"
  15. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/kspec"
  16. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/lsi/store_ent"
  17. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/lsi/store_ent/rec_key"
  18. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/lsi/store_spec"
  19. )
  20. var (
  21. storeStreamName = stream_name.NewAStreamName("kstore_kv") // Имя потока для ожидателя потоков
  22. )
  23. // kStoreKv -- локальное хранилище ядра.
  24. type kStoreKv struct {
  25. sync.RWMutex
  26. kCtx kspec.IKernelCtx
  27. lCtx comp_spec.ILocalCtx
  28. log comp_spec.ILogBuf
  29. wg kspec.IKernelWg
  30. storePath *lev0.LTxt
  31. db *badger.DB
  32. isWork lev0.ISafeBool
  33. }
  34. var (
  35. kernStore *kStoreKv // Глобальный объект
  36. block sync.Mutex
  37. )
  38. // GetKernelStore -- возвращает новое локальное хранилище ядра.
  39. func GetKernelStore() store_spec.IKernelStoreKv {
  40. block.Lock()
  41. defer block.Unlock()
  42. if kernStore != nil {
  43. kernStore.log.Debug("GetKernelStore()")
  44. return kernStore
  45. }
  46. kCtx := kctx.GetKernelCtx()
  47. param := &log_buf.LogBufParam{
  48. Prefix_: lev0.LetTxt("kStoreKv"),
  49. IsTerm_: safe_bool.NewSafeBool(true),
  50. }
  51. log := mL1.NewLogBuf(param)
  52. sf := &kStoreKv{
  53. kCtx: kCtx,
  54. lCtx: mL1.NewLocalCtx(kCtx.Ctx()),
  55. wg: kCtx.Wg(),
  56. isWork: mL1.NewSafeBool(true),
  57. log: log,
  58. }
  59. sf.open()
  60. kernStore = sf
  61. kCtx.Set(lev0.LetTxt("kernStoreKV"), kernStore, "fast KV store on Badger")
  62. return kernStore
  63. }
  64. // Log -- возвращает локальный лог.
  65. func (sf *kStoreKv) Log() comp_spec.ILogBuf {
  66. return sf.log
  67. }
  68. // Set -- устанавливает значение по ключу.
  69. func (sf *kStoreKv) Set(rec store_ent.IRecKvFix) *lev0.Result[lev0.Bool] {
  70. sf.Lock()
  71. defer sf.Unlock()
  72. key := rec.Key()
  73. sf.log.Debug("Set(): key='%v'", key.Get())
  74. fnSet := func(txn *badger.Txn) error {
  75. err := txn.Set(key.Byte(), rec.Val().Byte())
  76. return err
  77. }
  78. err := sf.db.Update(fnSet)
  79. if err != nil {
  80. err := lev0.LetErr("Set(): key=%v, err=\n\t%w", key, err)
  81. sf.log.Err(err)
  82. return lev0.ResErr[lev0.Bool](err)
  83. }
  84. return lev0.ResOk(lev0.Bool(true))
  85. }
  86. // Get -- возвращает значение по ключу.
  87. func (sf *kStoreKv) Get(key store_ent.IStoreKeyFix) *lev0.Result[[]byte] {
  88. sf.RLock()
  89. defer sf.RUnlock()
  90. sf.log.Debug("Get(): key='%v'", key)
  91. var binVal []byte
  92. fnGet := func(txn *badger.Txn) error {
  93. item, err := txn.Get(key.Byte())
  94. if err != nil {
  95. return err
  96. }
  97. binVal, err = item.ValueCopy(binVal)
  98. return err
  99. }
  100. err := sf.db.View(fnGet)
  101. if err != nil {
  102. err := lev0.LetErr("Get(): key=%v, err=\n\t%v", key, err)
  103. sf.log.Err(err)
  104. return lev0.ResErr[[]byte](err)
  105. }
  106. return lev0.ResOk(binVal)
  107. }
  108. // ByPrefix -- фильтрует ключи по префиксу.
  109. func (sf *kStoreKv) ByPrefix(prefix store_ent.IStoreKeyFix) *lev0.Result[[]store_ent.AStoreKey] {
  110. var (
  111. binKey []byte
  112. lstKey = []store_ent.AStoreKey{}
  113. )
  114. // fnValue := func(v []byte) error {
  115. // fmt.Printf("key=%s, value=%s\n", key, v)
  116. // return nil
  117. // }
  118. fnPrefix := func(txn *badger.Txn) error {
  119. it := txn.NewIterator(badger.DefaultIteratorOptions)
  120. defer it.Close()
  121. binPref := prefix.Byte()
  122. for it.Seek(binPref); it.ValidForPrefix(binPref); it.Next() {
  123. item := it.Item()
  124. binKey = item.Key()
  125. // err := item.Value(fnValue)
  126. // if err != nil {
  127. // return err
  128. // }
  129. lstKey = append(lstKey, rec_key.ARecKey(binKey))
  130. }
  131. return nil
  132. }
  133. err := sf.db.View(fnPrefix)
  134. if err != nil {
  135. err := lev0.LetErr("ByPrefix(): in find, err=\n\t%w", err)
  136. return lev0.ResErr[[]store_ent.AStoreKey](err)
  137. }
  138. return lev0.ResOk(lstKey)
  139. }
  140. // Delete -- удалить ключ из хранилища.
  141. func (sf *kStoreKv) Delete(key store_ent.IStoreKeyFix) *lev0.Result[lev0.Bool] {
  142. sf.Lock()
  143. defer sf.Unlock()
  144. sf.log.Debug("Delete(): key='%v'", key)
  145. fnDelete := func(txn *badger.Txn) error {
  146. err := txn.Delete(key.Byte())
  147. return err
  148. }
  149. err := sf.db.Update(fnDelete)
  150. if err != nil {
  151. err := lev0.LetErr("Delete(): key=%v, err=\n\t%w", key, err)
  152. sf.log.Err(err)
  153. return lev0.ResErr[lev0.Bool](err)
  154. }
  155. return lev0.ResOk(lev0.Bool(true))
  156. }
  157. // Открывает базу при создании.
  158. func (sf *kStoreKv) open() {
  159. sf.Lock()
  160. defer sf.Unlock()
  161. sf.log.Debug("open()")
  162. strPath := os.Getenv("LOCAL_STORE_PATH")
  163. lev0.If(strPath == "").Hassert("open(): env LOCAL_STORE_PATH not set")
  164. pwd, err := os.Getwd()
  165. lev0.If(err != nil).Hassert("open(): in get PWD, err=\n\t%v", err)
  166. sf.storePath = lev0.LetTxt(pwd + strPath + "/db_local")
  167. err = os.MkdirAll(sf.storePath.String(), 0750)
  168. lev0.If(err != nil).Hassert("open(): in make dir %v, err=\n\t%v", sf.storePath, err)
  169. sf.db, err = badger.Open(badger.DefaultOptions(sf.storePath.String()))
  170. lev0.If(err != nil).Hassert("open(): in open DB %v, err=\n\t%v", sf.storePath, err)
  171. sf.wg.Add(storeStreamName)
  172. sf.isWork.Set()
  173. go sf.close()
  174. go sf.clean()
  175. }
  176. // Выполняет периодическую сборку мусора в файле.
  177. func (sf *kStoreKv) clean() {
  178. chRun := make(chan lev0.Num, 2)
  179. defer close(chRun)
  180. fnClean := func() {
  181. sf.Lock()
  182. defer sf.Unlock()
  183. _ = sf.db.RunValueLogGC(0.7)
  184. }
  185. chRun <- 1
  186. for {
  187. select {
  188. case <-sf.kCtx.Ctx().Done(): // надо прекратить работу
  189. return
  190. case <-chRun: // Пора поработать
  191. fnClean()
  192. }
  193. time.Sleep(time.Second * 1)
  194. }
  195. }
  196. // Ожидает последнего потока под отдельной блокировкой.
  197. func (sf *kStoreKv) wait(chWait chan lev0.Num) {
  198. for {
  199. time.Sleep(time.Millisecond * 5)
  200. if sf.wg.Len() <= 1 {
  201. break
  202. }
  203. }
  204. close(chWait)
  205. }
  206. // Ожидает закрытия контекста ядра, закрывает хранилище.
  207. func (sf *kStoreKv) close() {
  208. sf.kCtx.Wait()
  209. sf.Lock()
  210. defer sf.Unlock()
  211. if !sf.isWork.Get() {
  212. return
  213. }
  214. chWait := make(chan lev0.Num, 2)
  215. go sf.wait(chWait)
  216. <-chWait
  217. sf.isWork.Reset()
  218. err := sf.db.Close()
  219. lev0.If(err != nil).Assert("kStoreKv.close(): in close DB, err=\n\t%v", err)
  220. sf.wg.Done(storeStreamName)
  221. sf.log.Debug("close(): done")
  222. }