联邦学习总MNIST的Niid划分

联邦学习（Federated Learning）是一种分布式机器学习的方法，它允许多个设备或数据源在不共享原始数据的情况下进行模型训练。在处理像MNIST这样的图像识别数据集时，特别是非独立同分布（Non-IID, Non-Independent and Identically Distributed）的数据划分，每个客户端可能拥有不同类别样本的分布，这与整体数据集中的比例不同。

在联邦学习中，对MNIST进行NIid划分通常意味着：

1. 数据异质性：每个客户端的数据集中包含的手写数字类别可能会有所偏斜，比如有些客户端可能更多地包含某些数字（如0到9的某几个），而其他客户端可能更均匀地分布所有类别。

2. 非独立分布：这意味着即使类别本身是均匀的，每个客户端内部同一类别的样本也可能不是随机抽取的，而是根据某种特定的规则（例如地理位置、用户兴趣等）进行分发的。

这种划分有助于模拟真实世界中数据隐私保护的情况，因为在实际应用中，用户通常不会随意分享他们的完整数据，尤其是当涉及到敏感信息时。

要实施这样的划分，你可以在本地服务器上生成多个子集，确保每个子集具有相对均衡的类别分布。你可以使用Python库，如`federatedscope`、`tff`（TensorFlow Federated）或`pytorch-federated`，它们提供了API来创建非独立同分布的MNIST数据集实例。以下是一个简单的例子，展示了如何使用`tff`库进行NIid划分：

import tensorflow as tf
from tensorflow_federated import learning

# 加载原始MNIST数据集
(x_train, y_train), (x_test, y_test) = tf.keras.datasets.mnist.load_data()

# 将数据标准化并转换为TFF类型
x_train, x_test = x_train / 255.0, x_test / 255.0
train_dataset = tf.data.Dataset.from_tensor_slices((x_train, y_train))
test_dataset = tf.data.Dataset.from_tensor_slices((x_test, y_test))

# 使用tff的split_clients方法创建非IID分布
def create_federated_mnist(split_percentage):
    clients_per_round = int(len(x_train) * split_percentage)
    client_ids = list(range(len(x_train)))
    train_client_ids = np.random.choice(client_ids, size=clients_per_round, replace=False)

    def make_federated_data(client_id):
        # 这里假设client_id是对应数据的一个索引
        data = collections.OrderedDict(
            x=tf.data.Dataset.from_tensor_slices(x_train[client_id]),
            y=tf.data.Dataset.from_tensor_slices(y_train[client_id])
        )
        return tff.simulation.ClientData(client_id, data)

    train_client_data = [make_federated_data(client_id) for client_id in train_client_ids]
    return train_client_data

# 创建一个含有一定比例非IId划分的训练数据
train_client_data = create_federated_mnist(split_percentage=0.8)  # 假设80%的数据被用于训练

执行上述代码后，你会得到一个表示非独立同分布的训练数据集合，可用于开始联邦学习的本地训练过程。