java代碼實現mysql分表操作(用戶行為記錄)

設置項目氣動執行次方法(每天檢查一次表記錄)

public class DayInterval implements ServletContextListener{
	private static SimpleDateFormat simpleDateFormat=new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");
	public static void showDayTime() {
			Timer dTimer = new Timer();
			dTimer.schedule(new TimerTask() {
			@Override
			public void run() {	
			  System.out.println("每日任務執行:"+simpleDateFormat.format(new Date()));
			  LogTableCreate logTableCreate = new LogTableCreate();
			  Thread thread=new Thread(logTableCreate);
			  thread.start();
			}
			}, 1000 , 24* 60* 60 * 1000);//24* 60* 60 * 1000(第一次一秒後執行,以後每次一天後執行)
	}
	@Override
	public void contextDestroyed(ServletContextEvent arg0) {
//		showDayTime();
	}
	@Override
	public void contextInitialized(ServletContextEvent arg0) {
		showDayTime();
	}
}

LogTableCreate 用來做表分表是否已經創建,如現在是9月在啟動時檢查是否存在當月表記錄,不存在則創建存在則不創建,另外檢查是否存在10月份表記錄,不存在則創建(提前創建一個也空表,以此類推)。

拷貝代碼修改createsql(建表sql),URL (數據庫地址),USER (數據庫連接用戶),PASSWORD(數據庫連接密碼)

public class LogTableCreate extends TimerTask {	
	private static final Log log = LogFactory.getLog(LogTableCreate.class);
	public static final String TBASENAME="tb_log";
		private String createsql = " (\r\n" + 
				" `ID` varchar(64) NOT NULL COMMENT '主鍵id',\r\n" + 
				" `userid` varchar(255) DEFAULT NULL COMMENT '用戶id',\r\n" + 
				" `username` varchar(255) DEFAULT NULL COMMENT '用戶姓名',\r\n" + 
				" `useridcard` varchar(255) DEFAULT NULL COMMENT '用戶身份證號碼',\r\n" + 
				" `realname` varchar(64) DEFAULT NULL COMMENT '真實姓名',\r\n" + 
				" `logintime` varchar(255) DEFAULT NULL COMMENT '登錄時間',\r\n" + 
				" `exittime` varchar(64) DEFAULT NULL COMMENT '退出時間',\r\n" + 
				" `ippath` varchar(255) DEFAULT NULL COMMENT 'ip地址',\r\n" + 
				" `macpath` varchar(255) DEFAULT NULL COMMENT 'mac地址',\r\n" + 
				" `usercreatedtime` varchar(255) DEFAULT NULL COMMENT '用戶創建時間',\r\n" + 
				" `userbusidaddress` varchar(255) DEFAULT NULL COMMENT '用戶錢包地址',\r\n" + 
				" `member` int(11) DEFAULT NULL COMMENT '是否是會員',\r\n" + 
				" `membertype` int(11) DEFAULT NULL COMMENT '會員類型',\r\n" + 
				" `spare1` varchar(255) DEFAULT NULL,\r\n" + 
				" `spare2` varchar(255) DEFAULT NULL,\r\n" + 
				" `spare3` varchar(255) DEFAULT NULL,\r\n" + 
				" PRIMARY KEY (`ID`)\r\n" + 
				")";	
 private SimpleDateFormat sdyyyy = new SimpleDateFormat("yyyy");
 private SimpleDateFormat sdmm = new SimpleDateFormat("MM");
 private static final String URL = "";
 private static final String USER = "";
 private static final String PASSWORD = "";
 //得到表名
 public static String gettable() {
 	Date date = new Date();
 	LogTableCreate logTableCreate=new LogTableCreate();
		String yyyy = logTableCreate.sdyyyy.format(date);
		String mm = logTableCreate.sdmm.format(date);
		String nmm = logTableCreate.getNextMM(mm);
		return TBASENAME+yyyy+mm;
 }
 
	//得到下一個月
	private String getNextMM(String mm){
		String nmm = "";
		int imm = Integer.parseInt(mm);
		if(imm>=12){
			nmm = "01";
		}else{
			imm++;
			if(imm>9)
				nmm = ""+imm;
			else
				nmm = "0"+imm;
		}
		return nmm;
	} 
	@Override
	public void run() {
		Date date = new Date();
		String yyyy = sdyyyy.format(date);
		String mm = sdmm.format(date);
		String nmm = getNextMM(mm);
		
		String nyyyy = "";
		if("01".equals(nmm)){
			nyyyy = ""+(Integer.parseInt(yyyy)+1);
		}else{
			nyyyy = yyyy;
		}
		
		log.info("日志表檢查及創建:"+yyyy+" - "+mm+" | "+nyyyy+"-"+nmm);
		String temp = TBASENAME+yyyy+mm; //日志表名稱
		boolean has = false;
	
		try{
			has = hasTable(temp);
		}catch(Exception e){
			log.error("當前操作日志表是否存在判斷時發生錯誤:"+e.getMessage());
			return;
		}
		if(!has){
			try{
				createTable(temp);
			}catch(Exception e){
				log.error("當前操作日志表創建時發生錯誤:"+e.getMessage());
				return;
			}
		}
		temp = TBASENAME+nyyyy+nmm;
		has = false;
		try{
			has = hasTable(temp);
		}catch(Exception e){
			log.error("待用日志表是否存在判斷時發生錯誤:"+e.getMessage());
			return;
		}
		if(!has){
			try{
				createTable(temp);
			}catch(Exception e){
				log.error("待用日志表創建時發生錯誤:"+e.getMessage());
				return;
			}
		}
		
		log.info("日志表檢查及創建結束");
	}
	
	public boolean hasTable(String table) throws Exception{
		Class.forName("com.mysql.jdbc.Driver");
  //2. 獲得數據庫連接
 Connection conn = DriverManager.getConnection(URL, USER, PASSWORD);
		boolean state = false;
		DatabaseMetaData meta = conn.getMetaData();
		ResultSet set;
		set = meta.getTables(null, null, table.toLowerCase(), null);
		while (set.next()) {
			state = true;
			break;
		}
		Statement stmt = null;
		try{
			stmt = conn.createStatement();
		}catch(Exception e){
			log.error("檢查日志表是否存在時發生錯誤:"+e.getMessage());
			throw e;
		}finally{
			if(stmt!=null)
				try {
					stmt.close();
				} catch (Exception e) {
					//e.printStackTrace();
				}
		}
		conn.close();
		return state;
	}
	public void createTable(String table)throws Exception{
		try{
		Class.forName("com.mysql.jdbc.Driver");
	  //2. 獲得數據庫連接
	 Connection conn = DriverManager.getConnection(URL, USER, PASSWORD);
		String sql = "create table "+table+createsql;
		Statement stmt = null;
		stmt = conn.createStatement();
		stmt.execute(sql);
		}catch(Exception e){
			log.error("初始化日志表時發生錯誤:"+e.getMessage());
			throw e;
		}
	}
}

補充:java水平分表_Java開發分庫分表需要解決的問題及mycat是怎樣實現分庫分表的

引言

從字面上簡單理解,就是把原本存儲於一個庫的數據分塊存儲到多個庫上,把原本存儲於一個表的數據分塊存儲到多個表上。

數據庫中的數據量不一定是可控的,在未進行分庫分表的情況下,隨著時間和業務的發展,庫中的表會越來越多,表中的數據量也會越來越大,相應地,數據操作,增刪改查的開銷也會越來越大;

另外,由於無法進行分佈式式部署,而一臺服務器的資源(CPU、磁盤、內存、IO等)是有限的,最終數據庫所能承載的數據量、數據處理能力都將遭遇瓶頸。

分庫分表的必要性

首先我們來瞭解一下為什麼要做分庫分表。在我們的業務(web應用)中,關系型數據庫本身比較容易成為系統性能瓶頸,單機存儲容量、連接數、處理能力等都很有限,數據庫本身的“有狀態性”導致瞭它並不像Web和應用服務器那麼容易擴展。那麼在我們的業務中,是否真的有必要進行分庫分表,就可以從上面幾個條件來考慮。

單機儲存容量。您的數據量是否在單機儲存中碰到瓶頸。比如餓瞭麼一天產生的用戶行為數據就有24T,那麼在傳統的單機儲存中肯定是不夠的。

連接數、處理能力。在我們的用戶量達到一定程度時,特定時間的並發量又成瞭一個大問題,在一個高並發的網站中秒級數十萬的並發量都是很正常的。在普通的單機數據庫中秒級千次的操作問題都很大。

所以在我們進行分庫分表之前我們最好考慮一下,我們的數據量是不是夠大,並發量是不是夠大。如果您的回答是肯定的,那我們就開始做吧。

事務問題

解決事務問題目前有兩種可行的方案:分佈式事務和通過應用程序與數據庫共同控制實現事務下面對兩套方案進行一個簡單的對比。

方案一:使用分佈式事務

優點:交由數據庫管理,簡單有效

缺點:性能代價高,特別是shard越來越多時

方案二:由應用程序和數據庫共同控制

原理:將一個跨多個數據庫的分佈式事務分拆成多個僅處 於單個數據庫上面的小事務,並通過應用程序來總控 各個小事務。

優點:性能上有優勢

缺點:需要應用程序在事務控制上做靈活設計。如果使用 瞭spring的事務管理,改動起來會面臨一定的困難。

分庫分表的實施策略。

分庫分表有垂直切分和水平切分兩種。

3.1 何謂垂直切分,即將表按照功能模塊、關系密切程度劃分出來,部署到不同的庫上。

例如,我們會建立定義數據庫workDB、商品數據庫payDB、用戶數據庫userDB、日志數據庫logDB等,分別用於存儲項目數據定義表、商品定義表、用戶數據表、日志數據表等。

3.2 何謂水平切分,當一個表中的數據量過大時,我們可以把該表的數據按照某種規則,例如userID散列,進行劃分,然後存儲到多個結構相同的表,和不同的庫上。

例如,我們的userDB中的用戶數據表中,每一個表的數據量都很大,就可以把userDB切分為結構相同的多個userDB:part0DB、part1DB等,再將userDB上的用戶數據表userTable,切分為很多userTable:userTable0、userTable1等,然後將這些表按照一定的規則存儲到多個userDB上。

3.3 應該使用哪一種方式來實施數據庫分庫分表,這要看數據庫中數據量的瓶頸所在,並綜合項目的業務類型進行考慮。

如果數據庫是因為表太多而造成海量數據,並且項目的各項業務邏輯劃分清晰、低耦合,那麼規則簡單明瞭、容易實施的垂直切分必是首選。

而如果數據庫中的表並不多,但單表的數據量很大、或數據熱度很高,這種情況之下就應該選擇水平切分,水平切分比垂直切分要復雜一些,它將原本邏輯上屬於一體的數據進行瞭物理分割,除瞭在分割時要對分割的粒度做好評估,考慮數據平均和負載平均,後期也將對項目人員及應用程序產生額外的數據管理負擔。

在現實項目中,往往是這兩種情況兼而有之,這就需要做出權衡,甚至既需要垂直切分,又需要水平切分。我們的遊戲項目便綜合使用瞭垂直與水平切分,我們首先對數據庫進行垂直切分,然後,再針對一部分表,通常是用戶數據表,進行水平切分。

mycat是怎樣實現分庫分表的?mycat裡面通過定義路由規則來實現分片表(路由規則裡面會定義分片字段,以及分片算法)。分片算法有多種,你所說的hash是其中一種,還有取模、按范圍分片等等。在mycat裡面,會對所有傳遞的sql語句做路由處理(路由處理的依據就是表是否分片,如果分片,那麼需要依據分片字段和對應的分片算法來判斷sql應該傳遞到哪一個、或者哪幾個、又或者全部節點去執行)

總結

以上就是我對Java開發分庫分表需要解決的問題及mycat是怎樣實現分庫分表的 問題及其優化總結,如有錯誤或未考慮完全的地方,望不吝賜教。