python实现手势识别_OpenCV+python手势识别框架和实例讲解

好的，下面是关于Python实现手势识别的讲解。

手势识别是计算机视觉领域的一个重要应用，可以应用于很多场景，比如手势控制智能家居、手势控制游戏等。本文介绍一种基于OpenCV和Python实现的手势识别框架。

首先，需要安装OpenCV库。可以通过pip install opencv-python安装。

接下来，需要准备一些训练数据。可以使用手势识别数据集，也可以自己录制一些手势视频作为训练数据。这里以自己录制的视频为例。

步骤如下：

1.读取视频帧

使用OpenCV读取视频帧，可以使用cv2.VideoCapture()函数。代码如下：

import cv2

cap = cv2.VideoCapture(0)

while True:
    ret, frame = cap.read()
    cv2.imshow('frame', frame)
    if cv2.waitKey(1) & 0xFF == ord('q'):
        break

cap.release()
cv2.destroyAllWindows()

这里使用的是电脑自带的摄像头，如果使用外接摄像头，则需要将0改为1或者2等，表示摄像头的编号。

2.手势检测

对于每一帧图像，需要进行手势检测，可以使用肤色检测的方法。代码如下：

import cv2
import numpy as np

cap = cv2.VideoCapture(0)

while True:
    ret, frame = cap.read()
    frame = cv2.flip(frame, 1)  # 翻转图像
    hsv = cv2.cvtColor(frame, cv2.COLOR_BGR2HSV)  # 转换颜色空间
    lower_skin = np.array([0, 20, 70], dtype=np.uint8)
    upper_skin = np.array([20, 255, 255], dtype=np.uint8)
    mask = cv2.inRange(hsv, lower_skin, upper_skin)  # 掩膜
    res = cv2.bitwise_and(frame, frame, mask=mask)  # 图像与运算
    cv2.imshow('frame', frame)
    cv2.imshow('mask', mask)
    cv2.imshow('res', res)
    if cv2.waitKey(1) & 0xFF == ord('q'):
        break

cap.release()
cv2.destroyAllWindows()

这里使用的是HSV颜色空间，对肤色进行了阈值处理，得到掩膜，然后进行与运算，得到手部区域。

3.手势识别

对于手部区域，可以使用轮廓检测的方法，得到手部轮廓。代码如下：

import cv2
import numpy as np

cap = cv2.VideoCapture(0)

while True:
    ret, frame = cap.read()
    frame = cv2.flip(frame, 1)  # 翻转图像
    hsv = cv2.cvtColor(frame, cv2.COLOR_BGR2HSV)  # 转换颜色空间
    lower_skin = np.array([0, 20, 70], dtype=np.uint8)
    upper_skin = np.array([20, 255, 255], dtype=np.uint8)
    mask = cv2.inRange(hsv, lower_skin, upper_skin)  # 掩膜
    res = cv2.bitwise_and(frame, frame, mask=mask)  # 图像与运算
    gray = cv2.cvtColor(res, cv2.COLOR_BGR2GRAY)  # 灰度图像
    ret, thresh = cv2.threshold(gray, 0, 255, cv2.THRESH_BINARY + cv2.THRESH_OTSU)  # 二值化
    _, contours, hierarchy = cv2.findContours(thresh, cv2.RETR_TREE, cv2.CHAIN_APPROX_SIMPLE)
    cnt = max(contours, key=cv2.contourArea)  # 手部轮廓
    cv2.drawContours(frame, [cnt], 0, (0, 255, 0), 2)  # 绘制轮廓
    cv2.imshow('frame', frame)
    cv2.imshow('mask', mask)
    cv2.imshow('res', res)
    if cv2.waitKey(1) & 0xFF == ord('q'):
        break

cap.release()
cv2.destroyAllWindows()

这里使用的是cv2.findContours()函数进行轮廓检测，然后找到最大轮廓，绘制出手部轮廓。

4.手势分类

对于手部轮廓，可以使用机器学习算法进行分类，得到手势的类别。这里使用KNN算法进行分类。代码如下：

import cv2
import numpy as np
from sklearn.neighbors import KNeighborsClassifier

cap = cv2.VideoCapture(0)
k = 5  # KNN算法中的k值
hand_hist = None  # 手部直方图

# 训练KNN分类器
def train_knn():
    global hand_hist
    # 读取训练数据
    with np.load('hand_data.npz') as data:
        train = data['train']
        train_labels = data['train_labels']
    # 计算手部直方图
    hsv = cv2.cvtColor(train, cv2.COLOR_BGR2HSV)
    roi = np.zeros([1, 50, 50, 3], dtype=hsv.dtype)
    roi[0] = hsv[0:50, 0:50]
    hsv_hist = cv2.calcHist(roi, [0, 1], None, [180, 256], [0, 180, 0, 256])
    cv2.normalize(hsv_hist, hsv_hist, 0, 255, cv2.NORM_MINMAX)
    hand_hist = hsv_hist.reshape([1, 180 * 256])

    # 训练KNN分类器
    knn = KNeighborsClassifier(n_neighbors=k)
    knn.fit(hand_hist, train_labels)
    return knn

# 手势分类
def classify(frame, knn):
    global hand_hist
    hsv = cv2.cvtColor(frame, cv2.COLOR_BGR2HSV)
    dst = cv2.calcBackProject([hsv], [0, 1], hand_hist, [0, 180, 0, 256], 1)
    _, thresh = cv2.threshold(dst, 0, 255, cv2.THRESH_BINARY)
    thresh = cv2.merge((thresh, thresh, thresh))
    res = cv2.bitwise_and(frame, thresh)
    gray = cv2.cvtColor(res, cv2.COLOR_BGR2GRAY)
    _, contours, hierarchy = cv2.findContours(gray, cv2.RETR_TREE, cv2.CHAIN_APPROX_SIMPLE)
    if len(contours) > 0:
        cnt = max(contours, key=cv2.contourArea)
        if cv2.contourArea(cnt) > 1000:
            x, y, w, h = cv2.boundingRect(cnt)
            cv2.rectangle(frame, (x, y), (x + w, y + h), (0, 255, 0), 2)
            roi = gray[y:y + h, x:x + w]
            roi = cv2.resize(roi, (50, 50), interpolation=cv2.INTER_LINEAR)
            roi = roi.reshape([1, 50 * 50])
            result = knn.predict(roi)
            cv2.putText(frame, chr(result + 65), (x, y - 10), cv2.FONT_HERSHEY_SIMPLEX, 1, (0, 255, 0), 2)
    return frame

# 训练KNN分类器
knn = train_knn()

while True:
    ret, frame = cap.read()
    frame = cv2.flip(frame, 1)  # 翻转图像
    if hand_hist is None:
        cv2.putText(frame, 'Press Space to calibrate', (50, 50), cv2.FONT_HERSHEY_SIMPLEX, 1, (0, 0, 255), 2)
    else:
        frame = classify(frame, knn)
    cv2.imshow('frame', frame)
    if cv2.waitKey(1) & 0xFF == ord('q'):
        break
    elif cv2.waitKey(1) & 0xFF == ord(' '):
        hand_hist = None

cap.release()
cv2.destroyAllWindows()

这里使用的是KNN算法进行分类，需要先训练KNN分类器。训练数据可以使用手势识别数据集，也可以使用自己录制的手势视频。这里使用的是手势识别数据集。训练数据需要保存到文件中，可以使用numpy.savez()函数进行保存，使用numpy.load()函数进行读取。

对于每一帧图像，需要先计算手部直方图，然后使用cv2.calcBackProject()函数进行反向投影，得到手部区域。对手部区域进行二值化、轮廓检测、矩形框选、手势分类等操作，最终得到手势类别。

以上就是基于OpenCV和Python实现手势识别的框架和实例讲解。