加权项集-Tidset树结构的频繁加权项集快速挖掘算法

需积分: 8 0 下载量 9 浏览量 更新于2024-09-10 收藏 1.15MB PDF 举报
“这篇论文提出了一种扩展的WIT-树融合Diffset策略的频繁加权项集快速挖掘算法,用于解决在加权项事务数据库中挖掘频繁加权项集(FWI)效率低下的问题。该算法通过构建加权项集-Tidset树结构,结合最小加权项集阈值和向下闭合性质进行剪枝,以及利用Diffset策略快速计算项集的加权支持度,显著提高了挖掘效率。” 本文的研究重点是数据挖掘领域中的频繁加权项集(Frequent Weighted Itemsets, FWI)挖掘问题。在传统的关联规则挖掘中,项集的支持度通常基于其在事务数据库中的出现次数。然而,在许多实际应用中,如市场分析、医疗诊断等,项的重要性可能不同,因此引入了权重的概念,形成加权项集。FWI挖掘的目标是找出那些在大量事务中频繁出现且总权重超过特定阈值的项集。 为了解决FWI挖掘的效率问题,作者提出了一种新的数据结构——加权项集-Tidset树(Weighted Itemset-Tidset Tree)。这种树形结构能够有效地存储和管理事务数据库中的加权项集及其关联的事务ID集合,有助于快速查找和剪枝。在构建树的过程中,通过设置最小加权项集阈值,可以提前剔除那些不可能成为频繁项集的节点,从而减少搜索空间。同时,利用向下闭合性质进一步优化剪枝过程,确保非频繁项集的后代不再被考虑。 Diffset策略是本文另一个关键创新点。这一策略允许在内存中高效地计算项集的加权支持度,避免了对整个数据库的多次扫描。它通过跟踪事务之间的差异,仅处理新加入的事务,减少了计算量,显著提升了挖掘速度。 实验结果显示,当输入数据库包含大量FWI时,所提出的算法相比于基于先验知识的算法和基于位矩阵的加权频繁项集生成算法,能分别节省99.37%和99.06%的执行时间,极大地提高了挖掘效率。这表明该算法在大数据环境下的性能优势明显,对于大规模、高权重多样性的数据集尤为适用。 这篇论文提出了一种创新的算法,通过结合优化的数据结构和计算策略,有效解决了FWI挖掘的效率挑战,为数据挖掘领域的关联规则挖掘提供了新的解决方案。该算法对于提高数据驱动决策的效率和准确性具有重要意义。

以下包有没有可以连接mysql的:absl-py 1.3.0 aiohttp 3.8.3 aiosignal 1.3.1 antlr4-python3-runtime 4.8 async-timeout 4.0.2 attrs 22.1.0 cachetools 5.2.0 certifi 2022.9.24 charset-normalizer 2.0.12 click 8.1.3 commonmark 0.9.1 datasets 2.3.2 dill 0.3.5.1 filelock 3.8.0 fire 0.4.0 Flask 2.1.2 fonttools 4.38.0 frozenlist 1.3.3 fsspec 2022.11.0 future 0.18.2 google-auth 2.14.1 google-auth-oauthlib 0.4.6 grpcio 1.50.0 huggingface-hub 0.11.0 idna 3.4 importlib-metadata 5.0.0 itsdangerous 2.1.2 jieba 0.42.1 Jinja2 3.1.2 joblib 1.2.0 keybert 0.7.0 lxml 4.9.1 Markdown 3.4.1 MarkupSafe 2.1.1 multidict 6.0.2 multiprocess 0.70.13 networkx 2.8.8 nltk 3.7 numpy 1.20.3 oauthlib 3.2.2 omegaconf 2.1.1 opencv-python 4.6.0.66 opencv-python-headless 4.6.0.66 packaging 21.3 pandas 1.5.2 pdf2docx 0.5.6 Pillow 9.3.0 pip 21.1.3 protobuf 3.20.3 pyarrow 10.0.0 pyasn1 0.4.8 pyasn1-modules 0.2.8 pyDeprecate 0.3.1 Pygments 2.13.0 PyMuPDF 1.21.0 pyparsing 3.0.9 python-dateutil 2.8.2 python-docx 0.8.11 pytorch-crf 0.7.2 pytorch-lightning 1.5.6 pytz 2022.6 PyYAML 6.0 regex 2021.11.10 requests 2.26.0 requests-oauthlib 1.3.1 responses 0.18.0 rich 12.6.0 rsa 4.9 sacremoses 0.0.53 scikit-learn 1.1.3 scipy 1.9.3 sentence-transformers 2.2.2 sentencepiece 0.1.97 setuptools 57.0.0 six 1.16.0 tensorboard 2.11.0 tensorboard-data-server 0.6.1 tensorboard-plugin-wit 1.8.1 termcolor 2.1.1 textrank4zh 0.3 threadpoolctl 3.1.0 tokenizers 0.10.3 torch 1.10.1+cu111 torchaudio 0.10.1+rocm4.1 torchmetrics 0.10.3 torchvision 0.11.2+cu111 tqdm 4.64.1 transformers 4.12.5 typing-extensions 4.4.0 urllib3 1.26.12 Werkzeug 2.2.2 wheel 0.36.2 xxhash 3.1.0 yarl 1.8.1 zhon 1.1.5 zipp 3.10.0

2023-05-26 上传