巧用Dictionary實現日志數據批量插入
背景
最近再做一個需求,就是對站點的一些事件進行埋點,說白瞭就是記錄用戶的訪問行為。那麼這些數據怎麼保存呢,人傢點一下保存一下?顯然不合適,肯定是需要批量保存,提高效率。
問題窺探
首先,我想到的是Dictionary,對於C#中的Dictionary類相信大傢都不陌生,這是一個Collection(集合)類型,可以通過Key/Value(鍵值對的形式來存放數據;該類最大的優點就是它查找元素的時間復雜度接近O(1),實際項目中常被用來做一些數據的本地緩存,提升整體效率。Dictionary是非線程安全的類型,可以實現先添加到內存當中,在批量保存進去數據庫。
主要代碼實現
1、定義一個Dictionary。
private readonly Dictionary<string, Tuple<ObjectInfo, object>> _storage = new Dictionary<string, Tuple<ObjectInfo, object>>(StringComparer.OrdinalIgnoreCase);
2、添加元素,操作的時候需要對其進行線程安全處理,最簡單的方式就是加鎖(lock)。
public bool SaveObject<T>(string path, T value) where T : class { if (String.IsNullOrWhiteSpace(path)) throw new ArgumentNullException("path"); lock (_lock) { _storage[path] = Tuple.Create(new ObjectInfo { Created = DateTime.Now, Modified = DateTime.Now, Path = path }, (object)value); if (_storage.Count > MaxObjects) _storage.Remove(_storage.OrderByDescending(kvp => kvp.Value.Item1.Created).First().Key); } return true; }
3、定義一個隊列,定時消費日志。
public DefaultEventQueue(ExceptionlessConfiguration config, IExceptionlessLog log, ISubmissionClient client, IObjectStorage objectStorage, IJsonSerializer serializer, TimeSpan? processQueueInterval, TimeSpan? queueStartDelay) { _log = log; _config = config; _client = client; _storage = objectStorage; _serializer = serializer; if (processQueueInterval.HasValue) _processQueueInterval = processQueueInterval.Value; _queueTimer = new Timer(OnProcessQueue, null, queueStartDelay ?? TimeSpan.FromSeconds(2), _processQueueInterval); }
這裡刪除的時候也需要lock 操作。
public bool DeleteObject(string path) { if (String.IsNullOrWhiteSpace(path)) throw new ArgumentNullException("path"); lock (_lock) { if (!_storage.ContainsKey(path)) return false; _storage.Remove(path); } return true; }
public IEnumerable<ObjectInfo> GetObjectList(string searchPattern = null, int? limit = null, DateTime? maxCreatedDate = null) { if (searchPattern == null) searchPattern = "*"; if (!maxCreatedDate.HasValue) maxCreatedDate = DateTime.MaxValue; var regex = new Regex("^" + Regex.Escape(searchPattern).Replace("\\*", ".*?") + "$"); lock (_lock) return _storage.Keys.Where(k => regex.IsMatch(k)).Select(k => _storage[k].Item1).Where(f => f.Created <= maxCreatedDate).Take(limit ?? Int32.MaxValue).ToList(); }
總結
1、利用Dictionary。多線程添加數據到內存;
2、達到一定量的時候,批量保存數據。
3、使用lock ,保證Dictionary操作安全。
到此這篇關於巧用Dictionary實現日志數據批量插入的文章就介紹到這瞭,更多相關Dictionary實現日志數據批量插入內容請搜索WalkonNet以前的文章或繼續瀏覽下面的相關文章希望大傢以後多多支持WalkonNet!
推薦閱讀:
- c# 用Dictionary實現日志數據批量插入
- C#中Hashtable和Dictionary的區別與用法示例
- c# record的使用場景
- C# Directory.GetFiles()函數案例詳解
- C# 基於消息發佈訂閱模型的示例(下)