C++學習貝葉斯分類器實現手寫數字識別示例解析

大傢好啊!這次的文章是上一個文章的後續,與上一次不同的是,這一次對數字識別采用的是貝葉斯(Bayes)分類器。貝葉斯在概率論與數理統計這門課講過,下面我們簡單瞭解一下:

首先,貝葉斯公式是

具體的解釋就不說瞭,我們說一說把貝葉斯用在數字識別的什麼位置。除瞭識別部分,其他的包括遍歷文件夾和圖片數字化都不變;0到9共十個數,所以分母有十項,P(Bj)(j是下標)相應的是0到9,則每一個的概率是1/10,分子上的P(Bi)是取到0到9中的一個,所以概率也是1/10。

(小夥伴如果看不明白建議去看看貝葉斯)所以我們分母可以提出來並約分,然後式子Pi/(P1+P2+P3+P4+P5+P6+P7+P8+P9)(Pi就是P(A|Bi),其他的就是i分別取值),變成這樣後,i取0——9的某個數就是測試樣本是這個數的概率,比如:i=0,表示測試用例是0的概率為P1/(P1+P2+P3+P4+P5+P6+P7+P8+P9+P10)(1就是對應數字0)。

那麼我們該如何找到Pin呢,我們是通過統計樣本每一位為1的概率,這樣說可能不太清楚,也就是假如一張0的圖片的數據化字符串為0000000000100000111000010010001010000111000000000(49位),我們一位一位的去統計每一位為1的個數(如下圖,也就是縱向的統計每個樣本的第某位為1的個數),最後除以總數,我的訓練庫一個數字的樣本有100張,假如我們統計到數字0的所有樣本的第一位數字為1的個數為46個,那麼數字0的第一位為1的概率為0.46,其他位也是依次統計,其他數字同上。

最終我們可以統計到每個數字的每一位為1的概率形成一個10*49的二維數組,即10個數字,每個數字49位。然後我們取一個測試用例,依次與10個數字進行計算概率,最後得到的概率比較大小,那麼我們如何去計算測試用例是某個數字的概率呢?下面我們把49位簡單的看成3位,假如數字0的第一、二、三位為1的概率是0.56、0.05、0.41,而測試用例的數據字符串為101,那麼我們取為1的概率直接乘,為0的用1減去這個概率,再乘起來,也就是0.56*0.95*0.41。到這裡就差不多使我們的所有思路瞭。

其他的思路解釋看上次的文章,鏈接  C++編程模板匹配超詳細的識別手寫數字實現示例

下面是我的代碼,首先opencv得自己安裝,這裡我給一個鏈接,可以參照上的步驟來

Window系統下Python如何安裝OpenCV庫

另外,我的Bayes這個函數太長瞭,應該分成幾個函數的,這樣會更好調試和閱讀

詳細的代碼解釋都在註釋裡,仔細的看看理解就好瞭,如果有更好的方法和思路,歡迎交流學習!

#include<iostream>
#include<fstream>
#include<opencv2/opencv.hpp>
#include<opencv2/highgui.hpp>
#include<opencv2/core.hpp>
#include<io.h>                          //api和結構體
#include<string.h>
#include<string>
#include<sstream>                     //string 轉 int 數據類型包含
using namespace std;
using namespace cv; 
void ergodicTest(string filename, string name);    //遍歷函數
string Image_Compression(string imgpath);          //壓縮圖片並返回字符串
void Bayes();                                     //貝葉斯分類器
int turn(char a);
void main()
{
	const char* filepath = "E:\\learn\\vsfile\\c++project\\pictureData\\train-images";
	ergodicTest(filepath, "train_num.txt");         //處理訓練集
	const char* test_path = "E:\\learn\\vsfile\\c++project\\pictureData\\test-images";
	ergodicTest(test_path, "test_num.txt");
	Bayes();
 
} 
void ergodicTest(string filename, string name)       //遍歷並把路徑存到files
{
	string firstfilename = filename + "\\*.bmp";
	struct _finddata_t fileinfo;
	intptr_t handle;            //不能用long,因為精度問題會導致訪問沖突,longlong也可
	string rout = "E:\\learn\\vsfile\\c++project\\pictureData\\" + name;
	ofstream file;
	file.open(rout, ios::out);
	handle = _findfirst(firstfilename.c_str(), &fileinfo);
	if (_findfirst(firstfilename.c_str(), &fileinfo) != -1)
	{
		do
		{
			file << fileinfo.name<<":"<< Image_Compression(filename + "\\" + fileinfo.name) << endl;
		} while (!_findnext(handle, &fileinfo));
		file.close();
		_findclose(handle);
	}
}
 
string Image_Compression(string imgpath)   //輸入圖片地址返回圖片二值像素字符
{
	Mat Image = imread(imgpath);               //輸入的圖片
	cvtColor(Image, Image, COLOR_BGR2GRAY);
	int Matrix[28][28];                        //將digitization轉化為字符串類型
	for (int row = 0; row < Image.rows; row++)  //把圖片的像素點傳給數組
		for (int col = 0; col < Image.cols; col++)
		{
			Matrix[row][col] = Image.at<uchar>(row, col);
		}
	string img_str = "";                   //用來存儲結果字符串
	int x = 0, y = 0;
	for (int k = 1; k < 50; k++)
	{
		int total = 0;
		for (int q = 0; q < 4; q++)
			for (int p = 0; p < 4; p++)
				if (Matrix[x + q][y + p] > 127) total += 1;
		y = (y + 4) % 28;
		if (total >= 6) img_str += '1';    //將28*28的圖片轉化為7*7即壓縮
		else img_str += '0';
		if (k % 7 == 0)
		{
			x += 4;
			y = 0;
		}
	}
	return img_str;
}
 
int turn(char a)  //這個函數是把string類型轉換成int類型
{
	stringstream str;
	int f = 1;
	str << a;
	str >> f;
	str.clear();
	return f;
}
 
void Bayes()
{
	ifstream data_test, data_train;     //從兩個數據字符串文件中取數據的文件流
	string temp;                        //中間暫存字符串的變量
	double count[10] = { 0 };                      //用來計數每個數字樣本1個數
	double probability[10][49] = { 0 };
	int t = 0;            //避免算數溢出
 
	for (int i = 0; i < 49; i++)    //按列處理訓練樣本(每一個樣本數據長度位49位)
	{
		data_train.open("E:\\learn\\vsfile\\c++project\\pictureData\\train_num.txt");
		for (int j = 0; j < 1000; j++)   //按順序取一千次數據
		{
			getline(data_train, temp);    //順序取每一行數據			
			if (temp.length() == 57)   //本來長度是49,因為我有文件名所以要跳過文件名
			{
				t = i + 8;     //用t來代替i+8是因為string的[]中沒有+-重載,好像是這樣
				if (turn(temp[t]) == 1) count[turn(temp[0])]++;         //相應數字為1計數加1
				else continue;
			}
			else if(temp.length() == 58)
			{
				t = i + 9;   //有的文件名為8位有的為9位
				if (turn(temp[t]) == 1) count[turn(temp[0])]++;         //相應數字
				else continue;
			}
		}
		data_train.close();  //一定要註意文件流打開和關閉的時機,打開和關閉一次之間是一次完整的遍歷(getline)
		for (int q = 0; q < 10; q++)
		{
			probability[q][i] =count[q] / 100.0;                //計算每個數字數據樣本的每一位1的概率
			count[q] = 0;//循環還要使用count,所以要初始化
		}
	}
 
	double probab[10] = { 1,1,1,1,1,1,1,1,1,1 };     //該數組是這個數字的概率(10個數字)
	data_test.open("E:\\learn\\vsfile\\c++project\\pictureData\\test_num.txt");
	double temp_prob = 0;             //對比可能性的中間變量:概率
	int temp_num = -1;                //對比可能性的中間變量:數字
	bool flag = true;                 //標志拒絕識別,假就拒絕
	int num_r = 0, num_f = 0, num_t = 0;   //分別表示拒絕,錯誤,正確
	for (int d = 0; d < 200; d++)    //200個測試樣本
	{
		for (int o = 0; o < 10; o++) probab[o] = 1;//初始化概率數組,雖然前面有初始化,但是我們循環會多次使用,所以我們要每循環一次初始化一次
		getline(data_test, temp);
		for (int y = 0; y < 10; y++)   //分別和每個數字得出一個概率,既該測試用例是這個數字的概率
		{
			for (int s = 0; s < 49; s++)  //49位對應去累乘得到概率
			{
				if (temp.length() == 57)
				{
					t = s + 8;
					if (turn(temp[t]) == 1) probab[y] *=1+probability[y][s];        //加1是因為零點幾越乘越小,不好比較,而且有的概率可能為0,
					else probab[y] *= 2 - probability[y][s]; //同樣的,為0的概率也要加上1
				}
				else
				{
					t = s + 9;
					if (turn(temp[t]) == 1) probab[y] *=1+probability[y][s];         //相應數字
					else probab[y] *= (2 - probability[y][s]);
				}
			}
		}
 
		flag = true;         //標志置位真
		temp_prob = 0;       //重置中間變量
		temp_num = -1;       //開始前不標識為任何數值
		for (int l = 0; l < 10; l++)  //比較測試用例是某個數字的概率,確定最大的那個
		{
			if (probab[l] > temp_prob)
			{
				temp_prob = probab[l];
				temp_num = l;
				flag = true;          //不被拒絕
			}
			else if (probab[l] == temp_prob )
			{
				flag = false;          //拒絕識別
			}
		}
		if (!flag)
		{
			num_r++;
		}
		else
		{
			cout << temp[0] << " " << temp_num << endl;
			if (temp_num == turn(temp[0]))
			{
				cout << "識別為:" << temp_num << endl;
				num_t++;
			}
			else
			{
				cout << "識別錯誤!" << endl;
				num_f++;
			}
		}
	}
	data_test.close();
	cout << "拒絕識別率為:" << num_r / 200.0 << endl;
	cout << "正確識別率為:" << num_t / 200.0 << endl;
	cout << "錯誤識別率為:" << num_f / 200.0 << endl;
}

註意,我的代碼用的樣本圖片都是處理好的二值bmp圖片,另外代碼裡的txt文檔需要手動建,夥伴們可以自行修改,添加創建文本的語句。

每日一遍:好好學習,天天向上!

以上就是C++學習貝葉斯分類器實現手寫數字識別示例解析的詳細內容,更多關於實現手寫數字識別的資料請關註WalkonNet其它相關文章!

推薦閱讀: