fcm算法实战

FCM（模糊c均值）算法是一种聚类算法，适用于数据量较大、数据维度较高的数据集。其主要思想是将数据集分成若干个簇，使得同一簇内的数据点之间相似度较高，不同簇之间相似度较低。FCM算法通过迭代的方法，不断调整簇中心点和每个数据点所属的簇，直到达到收敛条件。

下面是FCM算法的一个简单实现过程：

1. 初始化隶属度矩阵U，随机生成k个簇中心向量V。

2. 根据隶属度矩阵U，计算每个簇的中心向量V。

3. 根据每个簇中心向量V，计算每个数据点到各簇中心向量的距离，并根据距离重新计算每个数据点的隶属度矩阵U。

4. 如果隶属度矩阵U的变化量小于预设的阈值，则停止迭代，否则返回步骤2。

下面是一个Python实现的例子：

import numpy as np
from sklearn.datasets import make_blobs

class FCM:
    def __init__(self, k=3, m=2, max_iter=100, tol=1e-4):
        self.k = k
        self.m = m
        self.max_iter = max_iter
        self.tol = tol
        
    def fit(self, X):
        n_samples, n_features = X.shape
        U = np.random.rand(n_samples, self.k)
        U /= np.sum(U, axis=1)[:, np.newaxis]
        V = np.random.rand(self.k, n_features)
        iter_count = 0
        while iter_count < self.max_iter:
            V_prev = V.copy()
            # 计算聚类中心
            for j in range(self.k):
                numerator = np.sum((U[:, j] ** self.m)[:, np.newaxis] * X, axis=0)
                denominator = np.sum(U[:, j] ** self.m)
                V[j, :] = numerator / denominator
            # 更新隶属度矩阵
            dist = np.zeros((n_samples, self.k))
            for j in range(self.k):
                dist[:, j] = np.linalg.norm(X - V[j, :], axis=1)
            U_new = np.zeros((n_samples, self.k))
            for i in range(n_samples):
                for j in range(self.k):
                    U_new[i, j] = np.sum((dist[i, j] / dist[i, :]) ** (2 / (self.m - 1)))
            U_new /= np.sum(U_new, axis=1)[:, np.newaxis]
            # 判断是否收敛
            if np.linalg.norm(V - V_prev) < self.tol:
                break
            U = U_new
            iter_count += 1
        self.U = U
        self.V = V
        self.labels_ = np.argmax(U, axis=1)

# 生成样本数据
X, y = make_blobs(n_samples=300, centers=3, random_state=0)

# 进行聚类
fcm = FCM(k=3)
fcm.fit(X)

# 可视化结果
import matplotlib.pyplot as plt
plt.scatter(X[:, 0], X[:, 1], c=fcm.labels_)
plt.show()

在上述例子中，我们使用了Scikit-learn库中的make_blobs函数生成了一个包含300个样本的3类数据集。然后，我们定义了一个FCM类，指定了簇数k、模糊度m、最大迭代次数max_iter和收敛阈值tol。在fit方法中，我们先随机初始化了隶属度矩阵U和簇中心向量V，然后通过迭代计算得到最终的隶属度矩阵U和簇中心向量V，并根据U得到每个样本所属的簇。

最后，我们将聚类结果可视化，可以看到FCM算法将数据集分成了3个簇。