c#基於Redis實現輕量級消息組件的步驟
最近在開發一個輕量級ASP.NET MVC開發框架,需要加入日志記錄,郵件發送,短信發送等功能,為瞭保持模塊的獨立性,所以需要通過消息通信的方式進行處理,為瞭保持框架在部署,使用,二次開發過程中的簡易便捷性,所以沒有選擇傳統的MQ,而是基於Redis的訂閱發佈實現一個系統內部消息組件,話不多說,上碼!
數據結構定義
消息實體包含幾個部分,訂閱通道名稱,信息頭,信息體,信息差異化額外信息字典,信息頭主要包含消息標識,消息日期,信息體包含信息內容,信息實體類型等
public class Message { public string MessageChannel { set; get; } public MessageHead @MessageHead { set; get; } public MessageBody @MessageBody { set; get; } [JsonExtensionData] public Dictionary<string,Object> @MessageExtra { set; get; } public Message() { } public void AddExtra(string Name, string Value) { if (@MessageExtra == null) { @MessageExtra = new Dictionary<string, object>(); } @MessageExtra.Add(Name, Value); } public Object GetExtra(string Name) { return @MessageExtra[Name]; } } public class MessageHead { public string MessageID { set; get; } public DateTime MessageDate { set; get; } public MessageHead() { MessageID = CommonUtil.CreateCommonGuid(); MessageDate = DateTime.Now; } } public class MessageBody { public string MessageJsonContent { set; get; } public Type MessageMapperType { set; get; } }
註:因為消息訂閱發佈傳遞過程中,我是通過Json序列化傳輸的,使用過程中可能需要一些額外的鍵值對信息,這裡在對象中定義的是Dictinary對象,但是Dictinary本身是不支持序列化的,所以需要加上註解JsonExtensionData
訂閱通道聲明
我們需要達到的效果是,在系統啟動時,所有消息通道可以根據系統中的應用自動訂閱,這裡就需要一個註解來標識我們的訂閱通道接收消息的實現類
[AttributeUsage(AttributeTargets.Class)] public class MessageChanelAttribute : Attribute { private string _ChannleName; public string ChannelName { get { return this._ChannleName; } set { this._ChannleName = value; } } }
消息的個性化策略處理
Redis的三方庫我這裡使用的是StackExchange.Redis.dll,在消息訂閱時,需要為Channel指定接收到消息時的處理委托,我們在自動訂閱的過程中肯定也要收集好各類消息處理類並與Channel一一對應,這時候我們就需要一個基類FastDefaultMessageHandler,我們的具體的消息處理類繼承自FastDefaultMessageHandler,重寫處理方法即可
[Component] [MessageChanelAttribute(ChannelName = "DefaultMessage")] public class FastDefaultMessageHandler : IFastMessageHandle { [AutoWired] public DBUtil @DBUtil; public void HandleMessage(RedisChannel ChannelName, RedisValue Message) { FastExecutor.Message.Design.Message Entity = JsonConvert.DeserializeObject<FastExecutor.Message.Design.Message>(Message); try { if (!CheckMessageIsConsume(Entity)) { this.CustomHandle(Entity); } } catch (Exception e) { StringBuilder ExceptionLog = new StringBuilder(); ExceptionLog.AppendFormat("異常Message所屬Channel:{0}", Entity.MessageChannel + Environment.NewLine); ExceptionLog.AppendFormat("異常Message插入時間:{0}", Entity.MessageHead.MessageDate.ToString() + Environment.NewLine); ExceptionLog.AppendFormat("異常Message內容:{0}", Message + Environment.NewLine); ExceptionLog.AppendFormat("異常信息:{0}", e.Message + Environment.NewLine); LogUtil.WriteLog("Logs/MessageErrorLog", "log_", ExceptionLog.ToString() + Environment.NewLine); ExceptionLog.AppendFormat("========================================================================================================================================================================" + Environment.NewLine); MessageACK.MoveMessageToExceptionChannel(Entity.MessageChannel, Entity); } finally { MessageACK.ConfirmMessageFinish(Entity.MessageChannel, Entity.MessageHead.MessageID); } } public virtual void CustomHandle(FastExecutor.Message.Design.Message @Message) { } public virtual bool CheckMessageIsConsume(FastExecutor.Message.Design.Message @Message) { return false; } }
其中的HandleMessage方法就是我們在訂閱Channel時對應的委托,會調用類中的CustomHandle的虛方法,子類繼承重寫該方法就會基於多態進行策略調用,CheckMessageIsConsume方法是用於確認消息是否重復消費的,也可以被重寫,下面看一個訪問日志類的實例,使用MessageChanelAttribute標註聲明該實現類需要訂閱發佈的Channel名稱為Visit,CustomHandle方法中實現瞭插入數據庫操作,CheckMessageIsConsume方法判斷該條日志數據是否已消費(已經存在於數據庫)
[MessageChanelAttribute(ChannelName = "Visit")] public class VisitLog : FastDefaultMessageHandler { public override void CustomHandle(Message.Design.Message Message) { Frame_VisitLog LogEntity = JsonConvert.DeserializeObject<Frame_VisitLog>(Message.MessageBody.MessageJsonContent); @DBUtil.Insert(LogEntity); base.CustomHandle(Message); } public override bool CheckMessageIsConsume(Message.Design.Message Message) { Frame_VisitLog LogEntity = JsonConvert.DeserializeObject<Frame_VisitLog>(Message.MessageBody.MessageJsonContent); DBRow Row = new DBRow("Frame_VisitLog", "RowGuid", LogEntity.RowGuid); if (Row.IsExist()) { return true; } else { return false; } } }
消息自動訂閱
我們希望系統在啟動時就尋找出定義好Channel和實現類,自動實現訂閱,這裡就需要用到IOC容器,啟動系統時將所有的消息處理類放入容器中,在自動訂閱時全部取出來,根據消息處理類中聲明的Channel名稱進行自動訂閱
public void Init() { List<Type> HandlerTypeList = InjectUtil.Container.GetRegistType(typeof(IFastMessageHandle)); foreach (Type HandlerType in HandlerTypeList) { MessageChanelAttribute Channel = Attribute.GetCustomAttribute(HandlerType, typeof(MessageChanelAttribute)) as MessageChanelAttribute; RedisUtil.Subscribe(Channel.ChannelName, ((FastDefaultMessageHandler)InjectUtil.Container.Resolve(HandlerType)).HandleMessage); } }
註:
1.這裡的IOC容器是我自己實現的,地址:https://gitee.com/grassprogramming/FastIOC,大傢可以用AutoFac代替
2.RedisUtil是對StackExchange.Redis.dll封裝的處理類,地址:https://gitee.com/grassprogramming/FastUtil
消息發送
消息隻需要調用Redis的發佈方法即可,將Channel名稱與定義好的數據實體類傳入,序列化為Json
public void SendMessage<T>(string ChannleName, T CustomMessageEntity, Dictionary<string, string> ExtraData = null) { FastExecutor.Message.Design.Message MessageEntity = new Design.Message(); MessageEntity.MessageChannel = ChannleName; MessageHead Head = new MessageHead(); MessageBody Body = new MessageBody(); Body.MessageMapperType = typeof(T); Body.MessageJsonContent = JsonConvert.SerializeObject(CustomMessageEntity); MessageEntity.MessageHead = Head; MessageEntity.MessageBody = Body; if (ExtraData != null) { foreach (var item in ExtraData) { MessageEntity.AddExtra(item.Key, item.Value); } } RedisUtil.Publish(ChannleName, MessageEntity); MessageACK.CopyMessageToACKList(ChannleName, MessageEntity); }
消息確認與存儲
Redis作訂閱發佈模式作為消息組件的問題有兩方面
問題:消息消費完沒有確認機制
解決方案
基於Redis的Hash存儲方式建立一個消息存儲字段,在發送消息時拷貝到消息Hash字典中,消費完畢後再刪除,對應SendMessage中的MessageACK.CopyMessageToACKList方法和FastDefaultMessageHandler中的MessageACK.ConfirmMessageFinish方法,本質就是對Hash字典的增加與刪除功能
問題:消息處理端掛瞭再次重啟消息會丟失
解決方案
確認機制已經保證瞭消息即使沒有被消費完但是處理端宕機消息也不會丟失,需要註意的是,消息沒有丟失僅僅是Hash字典中有存儲,但是消息通道中不存在瞭,所以我們在系統每次啟動時掃描這個Hash字典,重新發佈消息到Channel,這樣可能導致重復消費,所以需要靠FastDefaultMessageHandler中的CheckMessageIsConsume方法判斷,同時消息處理者本身處理異常我們也需要記錄下來,比如發短信供應商接口有問題,消息處理異常會進入Redis的ChannelException通道,我們可以根據需求實現一個可視化界面決定是否通過手動恢復
最後
Message組件相關代碼地址:https://gitee.com/grassprogramming/FastExecutor/tree/master/code/FastExecutor/FastExecutor.Message
存在不足問題:如果消息是單純記錄日志問題,沒辦法確認消息是否消費瞭
如果大傢有什麼好的建議,可留言一起交流學習,共同進步
以上就是c#基於Redis實現輕量級消息組件的步驟的詳細內容,更多關於c#基於Redis實現消息組件的資料請關註WalkonNet其它相關文章!
推薦閱讀:
- 使用redis實現延遲通知功能(Redis過期鍵通知)
- redis實現隊列的阻塞、延時、發佈和訂閱
- RabbitMQ 3.9.7 鏡像模式集群與Springboot 2.5.5 整合
- RabbitMQ冪等性與優先級及惰性詳細全面講解
- Redis深入瞭解內存淘汰與事務操作