kstore_kv.go 6.7 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242
  1. // package kstore_kv -- локальное быстрое key-value хранилище ядра.
  2. package kstore_kv
  3. import (
  4. "os"
  5. "sync"
  6. "time"
  7. "github.com/dgraph-io/badger/v4"
  8. mL0 "gitp78su.ipnodns.ru/svi/kern/v4/lev0"
  9. "gitp78su.ipnodns.ru/svi/kern/v4/lev0/core_spec"
  10. "gitp78su.ipnodns.ru/svi/kern/v4/lev0/defs"
  11. "gitp78su.ipnodns.ru/svi/kern/v4/lev0/defs/stream_name"
  12. "gitp78su.ipnodns.ru/svi/kern/v4/lev0/etypes/ebool"
  13. mKh "gitp78su.ipnodns.ru/svi/kern/v4/lev0/helpers"
  14. mL1 "gitp78su.ipnodns.ru/svi/kern/v4/lev1"
  15. "gitp78su.ipnodns.ru/svi/kern/v4/lev1/comp_spec"
  16. "gitp78su.ipnodns.ru/svi/kern/v4/lev1/log_buf"
  17. "gitp78su.ipnodns.ru/svi/kern/v4/lev1/safe_bool"
  18. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/kctx"
  19. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/kspec"
  20. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/lsi/store_ent"
  21. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/lsi/store_ent/rec_key"
  22. "gitp78su.ipnodns.ru/svi/kern/v4/lev2/lsi/store_spec"
  23. )
  24. var (
  25. storeStreamName = stream_name.NewAStreamName(defs.Txt("kstore_kv")) // Имя потока для ожидателя потоков
  26. )
  27. // kStoreKv -- локальное хранилище ядра.
  28. type kStoreKv struct {
  29. sync.RWMutex
  30. kCtx kspec.IKernelCtx
  31. lCtx comp_spec.ILocalCtx
  32. log comp_spec.ILogBuf
  33. wg kspec.IKernelWg
  34. storePath defs.ITxtFix
  35. db *badger.DB
  36. isWork core_spec.ISafeBool
  37. }
  38. var (
  39. kernStore *kStoreKv // Глобальный объект
  40. block sync.Mutex
  41. )
  42. // GetKernelStore -- возвращает новое локальное хранилище ядра.
  43. func GetKernelStore() store_spec.IKernelStoreKv {
  44. block.Lock()
  45. defer block.Unlock()
  46. if kernStore != nil {
  47. kernStore.log.Debug(defs.Txt("GetKernelStore()"))
  48. return kernStore
  49. }
  50. kCtx := kctx.GetKernelCtx()
  51. param := &log_buf.LogBufParam{
  52. Prefix_: defs.Txt("kStoreKv"),
  53. IsTerm_: safe_bool.NewSafeBool(true),
  54. }
  55. log := mL1.NewLogBuf(param)
  56. sf := &kStoreKv{
  57. kCtx: kCtx,
  58. lCtx: mL1.NewLocalCtx(kCtx.Ctx()),
  59. wg: kCtx.Wg(),
  60. isWork: mL1.NewSafeBool(true),
  61. log: log,
  62. }
  63. sf.open()
  64. kernStore = sf
  65. kCtx.Set(defs.Txt("kernStoreKV"), kernStore, "fast KV store on Badger")
  66. return kernStore
  67. }
  68. // Log -- возвращает локальный лог.
  69. func (sf *kStoreKv) Log() comp_spec.ILogBuf {
  70. return sf.log
  71. }
  72. // Set -- устанавливает значение по ключу.
  73. func (sf *kStoreKv) Set(rec store_ent.IRecKvFix) mL0.IResult[core_spec.EBool] {
  74. sf.Lock()
  75. defer sf.Unlock()
  76. key := rec.Key()
  77. sf.log.Debug(defs.Txt("Set(): key='%v'", key.Get()))
  78. fnSet := func(txn *badger.Txn) error {
  79. err := txn.Set(key.Byte(), rec.Val().Byte())
  80. return err
  81. }
  82. err := sf.db.Update(fnSet)
  83. if err != nil {
  84. err := defs.Err("Set(): key=%v, err=\n\t%w", key, err)
  85. sf.log.Err(err)
  86. return mL0.NewErr[core_spec.EBool](err)
  87. }
  88. return mL0.NewOk(ebool.NewEBool(true))
  89. }
  90. // Get -- возвращает значение по ключу.
  91. func (sf *kStoreKv) Get(key store_ent.IStoreKeyFix) mL0.IResult[[]byte] {
  92. sf.RLock()
  93. defer sf.RUnlock()
  94. sf.log.Debug(defs.Txt("Get(): key='%v'", key))
  95. var binVal []byte
  96. fnGet := func(txn *badger.Txn) error {
  97. item, err := txn.Get(key.Byte())
  98. if err != nil {
  99. return err
  100. }
  101. binVal, err = item.ValueCopy(binVal)
  102. return err
  103. }
  104. err := sf.db.View(fnGet)
  105. if err != nil {
  106. err := defs.Err("Get(): key=%v, err=\n\t%v", key, err)
  107. sf.log.Err(err)
  108. return mL0.NewErr[[]byte](err)
  109. }
  110. return mL0.NewOk(binVal)
  111. }
  112. // ByPrefix -- фильтрует ключи по префиксу.
  113. func (sf *kStoreKv) ByPrefix(prefix store_ent.IStoreKeyFix) core_spec.IResult[[]store_ent.AStoreKey] {
  114. var (
  115. binKey []byte
  116. lstKey = []store_ent.AStoreKey{}
  117. )
  118. // fnValue := func(v []byte) error {
  119. // fmt.Printf("key=%s, value=%s\n", key, v)
  120. // return nil
  121. // }
  122. fnPrefix := func(txn *badger.Txn) error {
  123. it := txn.NewIterator(badger.DefaultIteratorOptions)
  124. defer it.Close()
  125. binPref := prefix.Byte()
  126. for it.Seek(binPref); it.ValidForPrefix(binPref); it.Next() {
  127. item := it.Item()
  128. binKey = item.Key()
  129. // err := item.Value(fnValue)
  130. // if err != nil {
  131. // return err
  132. // }
  133. lstKey = append(lstKey, rec_key.ARecKey(binKey))
  134. }
  135. return nil
  136. }
  137. err := sf.db.View(fnPrefix)
  138. if err != nil {
  139. err := defs.Err("ByPrefix(): in find, err=\n\t%w", err)
  140. return mL0.NewErr[[]store_ent.AStoreKey](err)
  141. }
  142. return mL0.NewOk(lstKey)
  143. }
  144. // Delete -- удалить ключ из хранилища.
  145. func (sf *kStoreKv) Delete(key store_ent.IStoreKeyFix) mL0.IResult[core_spec.EBool] {
  146. sf.Lock()
  147. defer sf.Unlock()
  148. sf.log.Debug(defs.Txt("Delete(): key='%v'", key))
  149. fnDelete := func(txn *badger.Txn) error {
  150. err := txn.Delete(key.Byte())
  151. return err
  152. }
  153. err := sf.db.Update(fnDelete)
  154. if err != nil {
  155. err := defs.Err("Delete(): key=%v, err=\n\t%w", key, err)
  156. sf.log.Err(err)
  157. return mL0.NewErr[core_spec.EBool](err)
  158. }
  159. return mL0.NewOk(ebool.NewEBool(true))
  160. }
  161. // Открывает базу при создании.
  162. func (sf *kStoreKv) open() {
  163. sf.Lock()
  164. defer sf.Unlock()
  165. sf.log.Debug(defs.Txt("open()"))
  166. strPath := os.Getenv("LOCAL_STORE_PATH")
  167. mKh.Hassert(strPath != "", "open(): env LOCAL_STORE_PATH not set")
  168. pwd, err := os.Getwd()
  169. mKh.Hassert(err == nil, "open(): in get PWD, err=\n\t%v", err)
  170. sf.storePath = defs.Txt(pwd + strPath + "/db_local")
  171. err = os.MkdirAll(sf.storePath.String(), 0750)
  172. mKh.Hassert(err == nil, "open(): in make dir %v, err=\n\t%v", sf.storePath, err)
  173. sf.db, err = badger.Open(badger.DefaultOptions(sf.storePath.String()))
  174. mKh.Hassert(err == nil, "open(): in open DB %v, err=\n\t%v", sf.storePath, err)
  175. sf.wg.Add(storeStreamName)
  176. sf.isWork.Set()
  177. go sf.close()
  178. go sf.clean()
  179. }
  180. // Выполняет периодическую сборку мусора в файле.
  181. func (sf *kStoreKv) clean() {
  182. chRun := make(chan int, 2)
  183. defer close(chRun)
  184. fnClean := func() {
  185. sf.Lock()
  186. defer sf.Unlock()
  187. _ = sf.db.RunValueLogGC(0.7)
  188. }
  189. chRun <- 1
  190. for {
  191. select {
  192. case <-sf.kCtx.Ctx().Done(): // надо прекратить работу
  193. return
  194. case <-chRun: // Пора поработать
  195. fnClean()
  196. }
  197. time.Sleep(time.Second * 1)
  198. }
  199. }
  200. // Ожидает последнего потока под отдельной блокировкой.
  201. func (sf *kStoreKv) wait(chWait chan int) {
  202. for {
  203. time.Sleep(time.Millisecond * 5)
  204. if sf.wg.Len() <= 1 {
  205. break
  206. }
  207. }
  208. close(chWait)
  209. }
  210. // Ожидает закрытия контекста ядра, закрывает хранилище.
  211. func (sf *kStoreKv) close() {
  212. sf.kCtx.Wait()
  213. sf.Lock()
  214. defer sf.Unlock()
  215. if !sf.isWork.Get() {
  216. return
  217. }
  218. chWait := make(chan int, 2)
  219. go sf.wait(chWait)
  220. <-chWait
  221. sf.isWork.Reset()
  222. err := sf.db.Close()
  223. mKh.Assert(err == nil, "kStoreKv.close(): in close DB, err=\n\t%v", err)
  224. sf.wg.Done(storeStreamName)
  225. sf.log.Debug(defs.Txt("close(): done"))
  226. }