kstore_kv.go 6.4 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239
  1. // package kstore_kv -- локальное быстрое key-value хранилище ядра.
  2. package kstore_kv
  3. import (
  4. "os"
  5. "sync"
  6. "time"
  7. "github.com/dgraph-io/badger/v4"
  8. "gitp78su.ipnodns.ru/svi/kern/v4/d0"
  9. "gitp78su.ipnodns.ru/svi/kern/v4/d1"
  10. "gitp78su.ipnodns.ru/svi/kern/v4/d1/log_buf"
  11. "gitp78su.ipnodns.ru/svi/kern/v4/d2/kern_ctx"
  12. "gitp78su.ipnodns.ru/svi/kern/v4/d2/kern_ent/stream_name"
  13. "gitp78su.ipnodns.ru/svi/kern/v4/d2/kspec"
  14. "gitp78su.ipnodns.ru/svi/kern/v4/d2/lsi/store_ent"
  15. "gitp78su.ipnodns.ru/svi/kern/v4/d2/lsi/store_ent/rec_key"
  16. "gitp78su.ipnodns.ru/svi/kern/v4/d2/lsi/store_spec"
  17. )
  18. var (
  19. storeStreamName = stream_name.NewAStreamName("kstore_kv") // Имя потока для ожидателя потоков
  20. )
  21. // kStoreKv -- локальное хранилище ядра.
  22. type kStoreKv struct {
  23. sync.RWMutex
  24. owner *d0.LOwner
  25. kCtx *kern_ctx.KernCtx
  26. lCtx *d1.LocalCtx
  27. log *d1.LogBuf
  28. wg kspec.IKernelWg
  29. storePath *d0.LTxt
  30. db *badger.DB
  31. isWork *d0.MSafeBool
  32. }
  33. var (
  34. kernStore *kStoreKv // Глобальный объект
  35. block sync.Mutex
  36. )
  37. // GetKernelStore -- возвращает новое локальное хранилище ядра.
  38. func GetKernelStore() store_spec.IKernelStoreKv {
  39. block.Lock()
  40. defer block.Unlock()
  41. if kernStore != nil {
  42. kernStore.log.Debug("GetKernelStore()")
  43. return kernStore
  44. }
  45. owner := d0.LetOwner(1, "isol_kern_store")
  46. kCtx := kern_ctx.GetKernCtx()
  47. param := &log_buf.LogBufParam{
  48. Prefix_: d0.LetTxt("kStoreKv"),
  49. IsTerm_: d0.MutSafeBool(owner, true),
  50. }
  51. log := d1.NewLogBuf(param)
  52. sf := &kStoreKv{
  53. owner: owner,
  54. kCtx: kCtx,
  55. lCtx: d1.NewLocalCtx(owner,kCtx.SelfCtx()),
  56. wg: kCtx.Wg(),
  57. isWork: d0.MutSafeBool(owner, true),
  58. log: log,
  59. }
  60. sf.open()
  61. kernStore = sf
  62. kCtx.Set(d0.LetTxt("kernStoreKV"), kernStore, "fast KV store on Badger")
  63. return kernStore
  64. }
  65. // Log -- возвращает локальный лог.
  66. func (sf *kStoreKv) Log() *d1.LogBuf {
  67. return sf.log
  68. }
  69. // Set -- устанавливает значение по ключу.
  70. func (sf *kStoreKv) Set(rec store_ent.IRecKvFix) *d0.Result[d0.Bool] {
  71. sf.Lock()
  72. defer sf.Unlock()
  73. key := rec.Key()
  74. sf.log.Debug("Set(): key='%v'", key.Get())
  75. fnSet := func(txn *badger.Txn) error {
  76. err := txn.Set(key.Byte(), rec.Val().Byte())
  77. return err
  78. }
  79. err := sf.db.Update(fnSet)
  80. if err != nil {
  81. err := d0.LetErr("Set(): key=%v, err=\n\t%w", key, err)
  82. sf.log.Err(err)
  83. return d0.ResErr[d0.Bool](err)
  84. }
  85. return d0.ResOk(d0.Bool(true))
  86. }
  87. // Get -- возвращает значение по ключу.
  88. func (sf *kStoreKv) Get(key store_ent.IStoreKeyFix) *d0.Result[[]byte] {
  89. sf.RLock()
  90. defer sf.RUnlock()
  91. sf.log.Debug("Get(): key='%v'", key)
  92. var binVal []byte
  93. fnGet := func(txn *badger.Txn) error {
  94. item, err := txn.Get(key.Byte())
  95. if err != nil {
  96. return err
  97. }
  98. binVal, err = item.ValueCopy(binVal)
  99. return err
  100. }
  101. err := sf.db.View(fnGet)
  102. if err != nil {
  103. err := d0.LetErr("Get(): key=%v, err=\n\t%v", key, err)
  104. sf.log.Err(err)
  105. return d0.ResErr[[]byte](err)
  106. }
  107. return d0.ResOk(binVal)
  108. }
  109. // ByPrefix -- фильтрует ключи по префиксу.
  110. func (sf *kStoreKv) ByPrefix(prefix store_ent.IStoreKeyFix) *d0.Result[[]store_ent.AStoreKey] {
  111. var (
  112. binKey []byte
  113. lstKey = []store_ent.AStoreKey{}
  114. )
  115. // fnValue := func(v []byte) error {
  116. // fmt.Printf("key=%s, value=%s\n", key, v)
  117. // return nil
  118. // }
  119. fnPrefix := func(txn *badger.Txn) error {
  120. it := txn.NewIterator(badger.DefaultIteratorOptions)
  121. defer it.Close()
  122. binPref := prefix.Byte()
  123. for it.Seek(binPref); it.ValidForPrefix(binPref); it.Next() {
  124. item := it.Item()
  125. binKey = item.Key()
  126. // err := item.Value(fnValue)
  127. // if err != nil {
  128. // return err
  129. // }
  130. lstKey = append(lstKey, rec_key.ARecKey(binKey))
  131. }
  132. return nil
  133. }
  134. err := sf.db.View(fnPrefix)
  135. if err != nil {
  136. err := d0.LetErr("ByPrefix(): in find, err=\n\t%w", err)
  137. return d0.ResErr[[]store_ent.AStoreKey](err)
  138. }
  139. return d0.ResOk(lstKey)
  140. }
  141. // Delete -- удалить ключ из хранилища.
  142. func (sf *kStoreKv) Delete(key store_ent.IStoreKeyFix) *d0.Result[d0.Bool] {
  143. sf.Lock()
  144. defer sf.Unlock()
  145. sf.log.Debug("Delete(): key='%v'", key)
  146. fnDelete := func(txn *badger.Txn) error {
  147. err := txn.Delete(key.Byte())
  148. return err
  149. }
  150. err := sf.db.Update(fnDelete)
  151. if err != nil {
  152. err := d0.LetErr("Delete(): key=%v, err=\n\t%w", key, err)
  153. sf.log.Err(err)
  154. return d0.ResErr[d0.Bool](err)
  155. }
  156. return d0.ResOk(d0.Bool(true))
  157. }
  158. // Открывает базу при создании.
  159. func (sf *kStoreKv) open() {
  160. sf.Lock()
  161. defer sf.Unlock()
  162. sf.log.Debug("open()")
  163. strPath := os.Getenv("LOCAL_STORE_PATH")
  164. d0.If(strPath == "").Hassert("open(): env LOCAL_STORE_PATH not set")
  165. pwd, err := os.Getwd()
  166. d0.If(err != nil).Hassert("open(): in get PWD, err=\n\t%v", err)
  167. sf.storePath = d0.LetTxt(pwd + strPath + "/db_local")
  168. err = os.MkdirAll(sf.storePath.String(), 0750)
  169. d0.If(err != nil).Hassert("open(): in make dir %v, err=\n\t%v", sf.storePath, err)
  170. sf.db, err = badger.Open(badger.DefaultOptions(sf.storePath.String()))
  171. d0.If(err != nil).Hassert("open(): in open DB %v, err=\n\t%v", sf.storePath, err)
  172. sf.wg.Add(storeStreamName)
  173. sf.isWork.Set()
  174. go sf.close()
  175. go sf.clean()
  176. }
  177. // Выполняет периодическую сборку мусора в файле.
  178. func (sf *kStoreKv) clean() {
  179. chRun := make(chan d0.Num, 2)
  180. defer close(chRun)
  181. fnClean := func() {
  182. sf.Lock()
  183. defer sf.Unlock()
  184. _ = sf.db.RunValueLogGC(0.7)
  185. }
  186. chRun <- 1
  187. for {
  188. select {
  189. case <-sf.kCtx.SelfCtx().Done(): // надо прекратить работу
  190. return
  191. case <-chRun: // Пора поработать
  192. fnClean()
  193. }
  194. time.Sleep(time.Second * 1)
  195. }
  196. }
  197. // Ожидает последнего потока под отдельной блокировкой.
  198. func (sf *kStoreKv) wait(chWait chan d0.Num) {
  199. for {
  200. time.Sleep(time.Millisecond * 5)
  201. if sf.wg.Len() <= 1 {
  202. break
  203. }
  204. }
  205. close(chWait)
  206. }
  207. // Ожидает закрытия контекста ядра, закрывает хранилище.
  208. func (sf *kStoreKv) close() {
  209. sf.kCtx.Wait()
  210. sf.Lock()
  211. defer sf.Unlock()
  212. if sf.isWork.IsNot() {
  213. return
  214. }
  215. chWait := make(chan d0.Num, 2)
  216. go sf.wait(chWait)
  217. <-chWait
  218. sf.isWork.Reset()
  219. err := sf.db.Close()
  220. d0.If(err != nil).Assert("kStoreKv.close(): in close DB, err=\n\t%v", err)
  221. sf.wg.Done(storeStreamName)
  222. sf.log.Debug("close(): done")
  223. }