使用高斯Redis實現二級索引的方法
一、背景
提起索引,第一印象就是數據庫的名詞,但是,高斯Redis也可以實現二級索引!!!高斯Redis中的二級索引一般利用zset來實現。高斯Redis相比開源Redis有著更高的穩定性、以及成本優勢,使用高斯Redis zset實現業務二級索引,可以獲得性能與成本的雙贏。
索引的本質就是利用有序結構來加速查詢,因而通過Zset結構高斯Redis可以輕松實現數值類型以及字符類型索引。
• 數值類型索引(zset按分數排序):
• 字符類型索引(分數相同時zset按字典序排序):
下面讓我們切入兩類經典業務場景,看看如何使用高斯Redis來構建穩定可靠的二級索引系統。
二、場景一:詞典補全
當在瀏覽器中鍵入查詢時,瀏覽器通常會按照可能性推薦相同前綴的搜索,這種場景可以用高斯Redis二級索引功能實現。
2.1 基本方案
最簡單的方法是將用戶的每個查詢添加到索引中。當需要進行用戶輸入補全推薦時,使用ZRANGEBYLEX執行范圍查詢即可。如果不希望返回太多條目,高斯Redis還支持使用LIMIT選項來減少結果數量。
• 將用戶搜索banana添加進索引:
ZADD myindex 0 banana:1
• 假設用戶在搜索表單中輸入“bit”,並且我們想提供可能以“bit”開頭的搜索關鍵字。
ZRANGEBYLEX myindex "[bit" "[bit\xff"
即使用ZRANGEBYLEX進行范圍查詢,查詢的區間為用戶現在輸入的字符串,以及相同的字符串加上一個尾隨字節255(\xff)。通過這種方式,我們可以獲得以用戶鍵入字符串為前綴的所有字符串。
2.2 與頻率相關的詞典補全
實際應用中通常希望按照出現頻率自動排序補全詞條,同時可以清除不再流行的詞條,並自動適應未來的輸入。我們依然可以使用高斯Redis的ZSet結構實現這一目標,隻是在索引結構中,不僅需要存儲搜索詞,還需要存儲與之關聯的頻率。
• 將用戶搜索banana添加進索引
• 判斷banana是否存在
ZRANGEBYLEX myindex "[banana:" + LIMIT 0 1
• 假設banana不存在,添加banana:1,其中1是頻率
ZADD myindex 0 banana:1
• 假設banana存在,需要遞增頻率
若ZRANGEBYLEX myindex "[banana:" + LIMIT 0 1 中返回的頻率為1
1)刪除舊條目:
ZREM myindex 0 banana:1
2)頻率加一重新加入:
ZADD myindex 0 banana:2
請註意,由於可能存在並發更新,因此應通過Lua腳本發送上述三個命令,用Lua script自動獲得舊計數並增加分數後重新添加條目。
• 假設用戶在搜索表單中輸入“banana”,並且我們想提供相似的搜索關鍵字。通過ZRANGEBYLEX獲得結果後按頻率排序。
ZRANGEBYLEX myindex "[banana:" + LIMIT 0 10 1) "banana:123" 2) "banaooo:1" 3) "banned user:49" 4) "banning:89"
• 使用流算法清除不常用輸入。從返回的條目中隨機選擇一個條目,將其分數減1,然後將其與新分數重新添加。但是,如果新分數為0,我們需從列表中刪除該條目。
• 若隨機挑選的條目頻率是1,如banaooo:1
ZREM myindex 0 banaooo:1
• 若隨機挑選的條目頻率大於1,如banana:123
ZREM myindex 0 banana:123 ZADD myindex 0 banana:122
從長遠來看,該索引會包含熱門搜索,如果熱門搜索隨時間變化,它還會自動適應。
三、場景二:多維索引
除瞭單一維度上的查詢,高斯Redis同樣支持在多維數據中的檢索。例如,檢索所有年齡在50至55歲之間,同時薪水在70000至85000之間的人。實現多維二級索引的關鍵是通過編碼將二維的數據轉化為一維數據,再基於高斯Redis zset存儲。
從可視化視角表示二維索引。下圖空間中有一些點,它們代表我們的數據樣本,其中x和y是兩個變量,其最大值均為400。圖片中的藍色框代表我們的查詢。我們希望查詢x介於50和100之間,y介於100和300之間的所有點。
3.1 數據編碼
若插入數據點為x = 75和y = 200
1)填充0(數據最大為400,故填充3位)
x = 075
y = 200
2)交織數字,以x表示最左邊的數字,以y表示最左邊的數字,依此類推,以便創建一個編碼
027050
若使用00和99替換最後兩位,即027000 to 027099,map回x和y,即:
x = 70-79
y = 200-209
因此,針對x=70-79和y = 200-209的二維查詢,可以通過編碼map成027000 to 027099的一維查詢,這可以通過高斯Redis的Zset結構輕松實現。
同理,我們可以針對後四/六/etc位數字進行相同操作,從而獲得更大范圍。
3)使用二進制
為獲得更細的粒度,可以將數據用二進制表示,這樣在替換數字時,每次會得到比原來大二倍的搜索范圍。假設我們每個變量僅需要9位(以表示最多400個值的數字),我們采用二進制形式的數字將是:
x = 75 -> 001001011
y = 200 -> 011001000
交織後,000111000011001010
讓我們看看在交錯表示中用0s ad 1s替換最後的2、4、6、8,…位時我們的范圍是什麼:
3.2 添加新元素
若插入數據點為x = 75和y = 200
x = 75和y = 200二進制交織編碼後為000111000011001010,
ZADD myindex 0 000111000011001010
3.3 查詢
查詢:x介於50和100之間,y介於100和300之間的所有點
從索引中替換N位會給我們邊長為2^(N/2)的搜索框。因此,我們要做的是檢查搜索框較小的尺寸,並檢查與該數字最接近的2的冪,並不斷切分剩餘空間,隨後用ZRANGEBYLEX進行搜索。
下面是示例代碼:
def spacequery(x0,y0,x1,y1,exp) bits=exp*2 x_start = x0/(2**exp) x_end = x1/(2**exp) y_start = y0/(2**exp) y_end = y1/(2**exp) (x_start..x_end).each{|x| (y_start..y_end).each{|y| x_range_start = x*(2**exp) x_range_end = x_range_start | ((2**exp)-1) y_range_start = y*(2**exp) y_range_end = y_range_start | ((2**exp)-1) puts "#{x},#{y} x from #{x_range_start} to #{x_range_end}, y from #{y_range_start} to #{y_range_end}" # Turn it into interleaved form for ZRANGEBYLEX query. # We assume we need 9 bits for each integer, so the final # interleaved representation will be 18 bits. xbin = x_range_start.to_s(2).rjust(9,'0') ybin = y_range_start.to_s(2).rjust(9,'0') s = xbin.split("").zip(ybin.split("")).flatten.compact.join("") # Now that we have the start of the range, calculate the end # by replacing the specified number of bits from 0 to 1. e = s[0..-(bits+1)]+("1"*bits) puts "ZRANGEBYLEX myindex [#{s} [#{e}" } } end spacequery(50,100,100,300,6)
四、總結
本文介紹瞭如何通過高斯Redis搭建二級索引,二級索引在電商、圖(hexastore)、遊戲等領域具有廣泛的應用場景,高斯redis現網亦有很多類似應用。高斯Redis基於存算分離架構,依托分佈式存儲池確保數據強一致,可方便的支持二級索引功能,為企業客戶提供穩定可靠、超高並發,且能夠極速彈性擴容的核心數據存儲服務。
到此這篇關於使用高斯Redis實現二級索引的文章就介紹到這瞭,更多相關Redis二級索引內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!
推薦閱讀:
- golang-redis之sorted set類型操作詳解
- Redis基本數據類型Zset有序集合常用操作
- ThinkPHP5中如何使用redis
- 詳解Redis實現限流的三種方式
- redis的五大數據類型應用場景分析