python基於OpenCV模板匹配識別圖片中的數字

前言

本博客主要實現利用OpenCV的模板匹配識別圖像中的數字,然後把識別出來的數字輸出到txt文件中,如果識別失敗則輸出“讀取失敗”。

操作環境:

  • OpenCV – 4.1.0
  • Python 3.8.1

程序目標

單個數字模板:(這些單個模板是我自己直接從圖片上截取下來的)

要處理的圖片:

終端輸出:

文本輸出:

思路講解

代碼講解

首先定義兩個會用到的函數

第一個是顯示圖片的函數,這樣的話在顯示圖片的時候就比較方便瞭

def cv_show(name, img):
 cv2.imshow(name, img)
 cv2.waitKey(0)
 cv2.destroyAllWindows()

第二個是圖片縮放的函數

def resize(image, width=None, height=None, inter=cv2.INTER_AREA):
 dim = None
 (h, w) = image.shape[:2]
 if width is None and height is None:
  return image
 if width is None:
  r = height / float(h)
  dim = (int(w * r), height)
 else:
  r = width / float(w)
  dim = (width, int(h * r))
 resized = cv2.resize(image, dim, interpolation=inter)
 return resized

先把這個代碼貼出來,方便後面單個函數代碼的理解。

if __name__ == "__main__":
 # 存放數字模板列表
 digits = []
 # 當前運行目錄
 now_dir = os.getcwd()
 print("當前運行目錄:" + now_dir)
 numbers_address = now_dir + "\\numbers"
 load_digits()
 times = input("請輸入程序運行次數:")
 for i in range(1, int(times) + 1):
  demo(i)
 print("輸出成功,請檢查本地temp.txt文件")
 while True:
  if input("輸入小寫‘q'並回車退出") == 'q':
   break

接下來是第一個主要函數,功能是加載數字模板並進行處理。

這個函數使用到瞭os模塊,所以需要在開頭import os

def load_digits():
 # 加載數字模板
 path = numbers_address # 這個地方就是獲取當前運行目錄 獲取函數在主函數裡面
 filename = os.listdir(path) # 獲取文件夾文件
 for file in filename:
  img = cv2.imread(numbers_address + "\\" + file) # 讀取圖片
  img_gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) # 灰度處理
  # 自動閾值二值化 把圖片處理成黑底白字
  img_temp = cv2.threshold(img_gray, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
  # 尋找數字輪廓
  cnt = cv2.findContours(img_temp, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_NONE)[0]
  # 獲取數字矩形輪廓
  x, y, w, h = cv2.boundingRect(cnt[0])
  # 將單個數字區域進行縮放並存到列表中以備後面使用
  digit_roi = cv2.resize(img_temp[y:y+h, x:x+w], (57, 88))
  digits.append(digit_roi)

最後一個函數是程序的重點,實現功能就是識別出數字並輸出。

不過這裡把這個大函數分開兩部分來講解。

第一部分是對圖片進行處理,最終把圖片中的數字區域圈出來。

 # 這兩個都是核,參數可以改變
 rectKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (25, 25))
 sqKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (5, 5))
 # 這個就是讀取圖片的,可以暫時不理解
 target_path = now_dir + "\\" + "demo_" + str(index) + ".png"
 img_origin = cv2.imread(target_path)
 # 對圖片進行縮放處理
 img_origin = resize(img_origin, width=300)
 # 灰度圖
 img_gray = cv2.cvtColor(img_origin, cv2.COLOR_BGR2GRAY)
 # 高斯濾波 參數可以改變,選擇效果最好的就可以
 gaussian = cv2.GaussianBlur(img_gray, (5, 5), 1)、
 # 自動二值化處理,黑底白字
 img_temp = cv2.threshold(
  gaussian, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
 # 頂帽操作
 img_top = cv2.morphologyEx(img_temp, cv2.MORPH_TOPHAT, rectKernel)
 # sobel操作
 img_sobel_x = cv2.Sobel(img_top, cv2.CV_64F, 1, 0, ksize=7)
 img_sobel_x = cv2.convertScaleAbs(img_sobel_x)
 img_sobel_y = cv2.Sobel(img_top, cv2.CV_64F, 0, 1, ksize=7)
 img_sobel_y = cv2.convertScaleAbs(img_sobel_y)
 img_sobel_xy = cv2.addWeighted(img_sobel_x, 1, img_sobel_y, 1, 0)
 # 閉操作
 img_closed = cv2.morphologyEx(img_sobel_xy, cv2.MORPH_CLOSE, rectKernel)
 # 自動二值化
 thresh = cv2.threshold(
  img_closed, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
 # 閉操作
 img_closed = cv2.morphologyEx(thresh, cv2.MORPH_CLOSE, sqKernel)
 # 尋找數字輪廓
 cnts = cv2.findContours(
  img_closed.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_NONE)[0]
 # 輪廓排序
 (cnts, boundingBoxes) = contours.sort_contours(cnts, "top-to-bottom")
 # 存放正確數字序列(包含逗號)的輪廓,即過濾掉不需要的輪廓
 right_loc = []
 # 下面這個循環是對輪廓進行篩選,隻有長寬比例大於2的才可以被添加到列表中
 # 這個比例可以根據具體情況來改變。除此之外,還可以通過輪廓周長和輪廓面積等對輪廓進行篩選
 for c in cnts:
  x, y, w, h = cv2.boundingRect(c)
  ar = w/float(h)
  if ar > 2:
   right_loc.append((x, y, w, h))

部分步驟的效果圖:

可以看到在進行完最後一次閉操作後,一串數字全部變成白色區域,這樣再進行輪廓檢測就可以框出每一行數字的大致范圍,這樣就可以縮小數字處理的范圍,可以在這些具體的區域內部對單個數字進行處理。

輪廓效果:

在這樣進行以上步驟之後,就可以確定一行數字的范圍瞭,下面就進行輪廓篩選把符合條件的輪廓存入列表。

註意:在代碼中使用瞭(cnts, boundingBoxes) = contours.sort_contours(cnts, “top-to-bottom”)

這個函數的使用需要導入imutils,這個模塊具體使用方法可以瀏覽我的另一篇博客OpenCV學習筆記

函數的最後一部分就是對每個數字輪廓進行分割,取出單個數字的區域然後進行模板匹配。

for (gx, gy, gw, gh) in right_loc:
  # 用於存放識別到的數字
  digit_out = []
  # 下面兩個判斷主要是防止出現越界的情況發生,如果發生的話圖片讀取會出錯
  if (gy-10 < 0):
   now_gy = gy
  else:
   now_gy = gy-10
  if (gx - 10 < 0):
   now_gx = gx
  else:
   now_gx = gx-10
  # 選擇圖片興趣區域
  img_digit = gaussian[now_gy:gy+gh+10, now_gx:gx+gw+10]
  # 二值化處理
  img_thresh = cv2.threshold(
   img_digit, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
  # 尋找所有輪廓 找出每個數字的輪廓(包含逗號) 正確的話應該有9個輪廓
  digitCnts = cv2.findContours(
   img_thresh, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_NONE)[0]
  # 從左到右排列輪廓
  # 這樣排列的好處是,正常情況下可以確定逗號的位置方便後面刪除逗號
  (cnts, boundingBoxes) = contours.sort_contours(digitCnts, "left-to-right")
  # cnts是元組,需要先轉換成列表,因為後面會對元素進行刪除處理
  cnts = list(cnts)
  flag = 0
  # 判斷輪廓數量是否有9個
  if len(cnts) == 9:
   # 刪除逗號位置
   del cnts[1]
   del cnts[2]
   del cnts[3]
   del cnts[4]
   # 可以在轉成元組
   cnts = tuple(cnts)
   # 存放單個數字的矩形區域
   num_roi = []
   for c in cnts:
    x, y, w, h = cv2.boundingRect(c)
    num_roi.append((x, y, w, h))
   # 對數字區域進行處理,把尺寸縮放到與數字模板相同
   # 對其進行簡單處理,方便與模板匹配,增加匹配率
   for (rx, ry, rw, rh) in num_roi:
    roi = img_digit[ry:ry+rh, rx:rx+rw]
    roi = cv2.resize(roi, (57, 88))
    # 高斯濾波
    roi = cv2.GaussianBlur(roi, (5, 5), 1)
    # 二值化
    roi = cv2.threshold(
     roi, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
    # 用於存放匹配率
    source = []
    # 遍歷數字模板
    for digitROI in digits:
     # 進行模板匹配
     res = cv2.matchTemplate(
      roi, digitROI, cv2.TM_CCOEFF_NORMED)
     max_val = cv2.minMaxLoc(res)[1]
     source.append(max_val)
    # 這個需要仔細理解 這個就是把0-9數字中匹配度最高的數字存放到列表中
    digit_out.append(str(source.index(max(source))))
   # 打印最終輸出值
   print(digit_out)
  else:
   print("讀取失敗")
   flag = 1
  # 將數字輸出到txt文本中
  t = ''
  with open(now_dir + "\\temp.txt", 'a+') as q:
   if flag == 0:
    for content in digit_out:
     t = t + str(content) + " "
    q.write(t.strip(" "))
    q.write('\n')
    t = ''
   else:
    q.write("讀取失敗")
    q.write('\n')

註意理解:digit_out.append(str(source.index(max(source))))

這個是很重要的,列表source存放模板匹配的每個數字的匹配率,求出其中最大值的索引值,因為數字模板是按照0-9排列的,索引source的匹配率也是按照0-9排列的,所以每個元素的索引值就與相匹配的數字相同。這樣的話,取得最大值的索引值就相當於取到瞭匹配率最高的數字。

完整代碼

from imutils import contours
import cv2
import os


def cv_show(name, img):
 cv2.imshow(name, img)
 cv2.waitKey(0)
 cv2.destroyAllWindows()


def resize(image, width=None, height=None, inter=cv2.INTER_AREA):
 dim = None
 (h, w) = image.shape[:2]
 if width is None and height is None:
  return image
 if width is None:
  r = height / float(h)
  dim = (int(w * r), height)
 else:
  r = width / float(w)
  dim = (width, int(h * r))
 resized = cv2.resize(image, dim, interpolation=inter)
 return resized


def load_digits():
 # 加載數字模板
 path = numbers_address
 filename = os.listdir(path)
 for file in filename:
  # print(file)
  img = cv2.imread(
   numbers_address + "\\" + file)
  img_gray = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
  img_temp = cv2.threshold(
   img_gray, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
  cnt = cv2.findContours(img_temp, cv2.RETR_EXTERNAL,
        cv2.CHAIN_APPROX_NONE)[0]
  x, y, w, h = cv2.boundingRect(cnt[0])
  digit_roi = cv2.resize(img_temp[y:y+h, x:x+w], (57, 88))
  # 將數字模板存到列表中
  digits.append(digit_roi)


def demo(index):
 rectKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (25, 25))
 sqKernel = cv2.getStructuringElement(cv2.MORPH_RECT, (5, 5))
 target_path = now_dir + "\\" + "demo_" + str(index) + ".png"
 img_origin = cv2.imread(target_path)
 img_origin = resize(img_origin, width=300)
 img_gray = cv2.cvtColor(img_origin, cv2.COLOR_BGR2GRAY)
 gaussian = cv2.GaussianBlur(img_gray, (5, 5), 1)
 img_temp = cv2.threshold(
  gaussian, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
 img_top = cv2.morphologyEx(img_temp, cv2.MORPH_TOPHAT, rectKernel)
 img_sobel_x = cv2.Sobel(img_top, cv2.CV_64F, 1, 0, ksize=7)
 img_sobel_x = cv2.convertScaleAbs(img_sobel_x)
 img_sobel_y = cv2.Sobel(img_top, cv2.CV_64F, 0, 1, ksize=7)
 img_sobel_y = cv2.convertScaleAbs(img_sobel_y)
 img_sobel_xy = cv2.addWeighted(img_sobel_x, 1, img_sobel_y, 1, 0)
 img_closed = cv2.morphologyEx(img_sobel_xy, cv2.MORPH_CLOSE, rectKernel)
 thresh = cv2.threshold(
  img_closed, 0, 255, cv2.THRESH_BINARY | cv2.THRESH_OTSU)[1]
 img_closed = cv2.morphologyEx(thresh, cv2.MORPH_CLOSE, sqKernel)
 cnts = cv2.findContours(
  img_closed.copy(), cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_NONE)[0]
 (cnts, boundingBoxes) = contours.sort_contours(cnts, "top-to-bottom")
 draw_img = img_origin.copy()
 draw_img = cv2.drawContours(draw_img, cnts, -1, (0, 0, 255), 1)
 cv_show("666", draw_img)

 # 存放正確數字序列(包含逗號)的輪廓,即過濾掉不需要的輪廓
 right_loc = []
 for c in cnts:
  x, y, w, h = cv2.boundingRect(c)
  ar = w/float(h)
  if ar > 2:
   right_loc.append((x, y, w, h))
 for (gx, gy, gw, gh) in right_loc:
  # 用於存放識別到的數字
  digit_out = []
  if (gy-10 < 0):
   now_gy = gy
  else:
   now_gy = gy-10
  if (gx - 10 < 0):
   now_gx = gx
  else:
   now_gx = gx-10
  img_digit = gaussian[now_gy:gy+gh+10, now_gx:gx+gw+10]
  # 二值化處理
  img_thresh = cv2.threshold(
   img_digit, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
  # 尋找輪廓 找出每個數字的輪廓(包含逗號) 正確的話應該有9個輪廓
  digitCnts = cv2.findContours(
   img_thresh, cv2.RETR_EXTERNAL, cv2.CHAIN_APPROX_NONE)[0]
  # 從左到右排列
  (cnts, boundingBoxes) = contours.sort_contours(digitCnts, "left-to-right")
  cnts = list(cnts)
  flag = 0
  if len(cnts) == 9:
   del cnts[1]
   del cnts[2]
   del cnts[3]
   del cnts[4]
   cnts = tuple(cnts)
   num_roi = []
   for c in cnts:
    x, y, w, h = cv2.boundingRect(c)
    num_roi.append((x, y, w, h))
   for (rx, ry, rw, rh) in num_roi:
    roi = img_digit[ry:ry+rh, rx:rx+rw]
    roi = cv2.resize(roi, (57, 88))
    roi = cv2.GaussianBlur(roi, (5, 5), 1)
    roi = cv2.threshold(
     roi, 0, 255, cv2.THRESH_BINARY_INV | cv2.THRESH_OTSU)[1]
    source = []
    for digitROI in digits:
     res = cv2.matchTemplate(
      roi, digitROI, cv2.TM_CCOEFF_NORMED)
     max_val = cv2.minMaxLoc(res)[1]
     source.append(max_val)
    digit_out.append(str(source.index(max(source))))
   cv2.rectangle(img_origin, (gx-5, gy-5),
       (gx+gw+5, gy+gh+5), (0, 0, 255), 1)
   print(digit_out)
  else:
   print("讀取失敗")
   flag = 1
  t = ''
  with open(now_dir + "\\temp.txt", 'a+') as q:
   if flag == 0:
    for content in digit_out:
     t = t + str(content) + " "
    q.write(t.strip(" "))
    q.write('\n')
    t = ''
   else:
    q.write("讀取失敗")
    q.write('\n')


if __name__ == "__main__":
 # 存放數字模板列表
 digits = []
 # 當前運行目錄
 now_dir = os.getcwd()
 print("當前運行目錄:" + now_dir)
 numbers_address = now_dir + "\\numbers"
 load_digits()
 times = input("請輸入程序運行次數:")
 for i in range(1, int(times) + 1):
  demo(i)
 print("輸出成功,請檢查本地temp.txt文件")
 cv2.waitKey(0)
 cv2.destroyAllWindows()
 while True:
  if input("輸入小寫‘q'並回車退出") == 'q':
   break

整個文件下載地址:https://wwe.lanzous.com/iLSDunf850b

註意:如果想同時識別多個圖片話,需要將圖片統一改名為“demo_ + 數字序號.png” 例如:demo_1.png demo_2.png 同時在運行代碼時輸入圖片個數即可。

總結

這個程序代碼相對來說不算復雜,主要是對圖像的一些基礎處理需要註意。因為不同的圖像想要識別成功需要進行不同程度的基礎處理,所以在做的時候可以多輸出幾張圖片檢查一下那一步效果不太好並及時進行修改調整,這樣才能達到最終比較好的效果。

以上就是python基於OpenCV模板匹配識別圖片中的數字的詳細內容,更多關於python 識別圖片中的數字的資料請關註WalkonNet其它相關文章!

推薦閱讀:

    None Found