元素 颜色 形状 大小 稳定性 x1 红 三角 大 稳定 x2 红 三角 大 稳定 x3 黄 圆 小 不稳定 x4 黄 圆 小 不稳定 x5 蓝 方块 大 稳定 x6 红 圆 中 不稳定 x7 蓝 圆 小 不稳定 x8 蓝 方块 中 不稳定 设论域U为{x1,x2,x3,x4,x5,x6,x7,x8}， 基于条件属性颜色R1、形状R2、大小 R3构成知识系统U/R，求丌稳定集 Y{x3,x4,x6,x7,x8}在知识系统U/R-R3下 的上、下近似集不粗糙度。

根据条件属性颜色R1、形状R2、大小R3，可以将知识系统U/R分成以下几个决策类：

- 决策类1：颜色为红色的元素。
- 决策类2：颜色为黄色的、形状为圆形的元素。
- 决策类3：颜色为蓝色的、形状为方块的元素。
- 决策类4：颜色为红色的、形状为三角形的、大小为大的元素。
- 决策类5：颜色为蓝色的、形状为圆形的、大小为小的元素。

根据上述决策类，可以得到以下约简：

- R1：{x1, x2, x6}
- R2：{x1, x2, x4, x6, x7}
- R3：{x1, x2, x3, x4, x5}

根据题目，需要求出在知识系统U/R-R3下，丌稳定集Y{x3, x4, x6, x7, x8}的上、下近似集不粗糙度。

对于上近似集，首先需要求出Y在R3下的模糊隶属度，即Y与R3的最小覆盖度：

- Y与R3的最小覆盖度为{ x3, x4 }，因为Y中的元素x6、x7、x8不属于R3。

然后，根据R1和R2的约简，可以得到在U/R-R3下，决策类的划分如下：

- 决策类1：{x1, x2}
- 决策类2：{}
- 决策类3：{x5}
- 决策类4：{}
- 决策类5：{}

因此，Y在U/R-R3下的上近似集为{ x1, x2 }。上近似集的不粗糙度为：

- 上近似集的不粗糙度 = 1 - Y在U/R-R3下的上近似度 = 1 - (Y与R3的最小覆盖度的元素个数 / Y的元素个数) = 1 - (2 / 5) = 0.6。

对于下近似集，首先需要求出Y在R3下的模糊隶属度，即Y与R3的最大重叠度：

- Y与R3的最大重叠度为{ x4 }，因为Y中的元素x3、x6、x7、x8不属于R3。

然后，根据R1和R2的约简，可以得到在U/R-R3下，决策类的划分如下：

- 决策类1：{x1, x2}
- 决策类2：{}
- 决策类3：{x5}
- 决策类4：{}
- 决策类5：{}

因此，Y在U/R-R3下的下近似集为{ x1, x2, x4, x5 }。下近似集的不粗糙度为：

- 下近似集的不粗糙度 = 1 - Y在U/R-R3下的下近似度 = 1 - (Y与R3的最大重叠度的元素个数 / Y的元素个数) = 1 - (1 / 5) = 0.8。

综上所述，Y在知识系统U/R-R3下的上、下近似集不粗糙度分别为0.6和0.8。