554325746@qq.com
2019-06-22 7546564c06db3535f54babee714583f59dec6ccb
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
//ref https://github.com/DeanThompson/syncmap/blob/master/syncmap.go
 
package shardmap
 
import (
    "sync"
    "fmt"
)
 
const (
    DEF_SHARD_CNT = 32
 
    BKDR_SEED = 131 // 31 131 1313 13131 131313 etc...
)
 
type shardItem struct {
    sync.RWMutex
 
    data map[string]interface{}
}
 
type ShardMap struct {
    shardCnt uint8
    shards   []*shardItem
}
 
var Count = make(chan int)
 
type wfOp func(a, b string) float32 
 
/**
* @param uint8, shardCnt must be pow of two
*/
func New(shardCnt uint8) *ShardMap {
    if !isPowOfTwo(shardCnt) {
        shardCnt = DEF_SHARD_CNT
    }
 
    s := &ShardMap{
        shardCnt: shardCnt,
        shards:   make([]*shardItem, shardCnt),
    }
 
    for i, _ := range s.shards {
        s.shards[i] = &shardItem{
            data: make(map[string]interface{}),
        }
    }
 
    return s
}
 
func (s *ShardMap) Get(key string) (interface{}, bool) {
    si := s.locate(key)
 
    si.RLock()
    value, ok := si.data[key]
    si.RUnlock()
    return value, ok
}
 
func (s *ShardMap) Set(key string, value interface{}) {
    si := s.locate(key)
 
    si.Lock()
    si.data[key] = value
    si.Unlock()
}
 
func (s *ShardMap) Del(key string) {
    si := s.locate(key)
 
    si.Lock()
    delete(si.data, key)
    si.Unlock()
}
 
type kvItem struct {
    key   string
    value interface{}
}
 
// modify by long.
func (s *ShardMap) Walk(wf wfOp, cfrom string) {
 
    var wg sync.WaitGroup
    var second float32 
 
    for _, si := range s.shards {
        //fmt.Println(len(si.data))
        wg.Add(1)
        go func(s *shardItem, fw wfOp, cf string) {
            defer wg.Done()
            s.RLock()
            for _, v := range s.data {
                if cv, ok := v.(string); ok {
                 second = fw(cf,cv)
                 fmt.Println(second)
                }
            }
            s.RUnlock()
        }(si,wf, cfrom)
    }
 
    wg.Wait()
}
 
func (s * ShardMap)GetLen() int {
    var slen  int
    for i:= 0 ; i<int(s.shardCnt); i++{
        slen += len(s.shards[i].data)
    } 
    return slen
}
 
func (s *ShardMap) locate(key string) *shardItem {
    i := bkdrHash(key) & uint32(s.shardCnt-1)
 
    return s.shards[i]
}
 
func isPowOfTwo(x uint8) bool {
    return x != 0 && (x&(x-1) == 0)
}
 
//https://www.byvoid.com/blog/string-hash-compare/
func bkdrHash(str string) uint32 {
    var h uint32
 
    for _, c := range str {
        h = h*BKDR_SEED + uint32(c)
    }
 
    return h
}