Python中文分词工具之结巴分词用法实例总结【经典案例】_结巴分词关键词实例 - CSDN文库

179 浏览量更新于2023-03-03 评论收藏 105KB PDF 举报

身份认证购VIP最低享 7 折!

领优惠券(最高得80元）

资源详情

资源评论

资源推荐

Python中文分词工具之结巴分词用法实例总结【经典案例】中文分词工具之结巴分词用法实例总结【经典案例】

主要介绍了Python中文分词工具之结巴分词用法,结合实例形式总结分析了Python针对中文文件的读取与分词操作过程中遇

到的问题与解决方法,需要的朋友可以参考下

本文实例讲述了Python中文分词工具之结巴分词用法。分享给大家供大家参考，具体如下：

结巴分词工具的安装及基本用法，前面的文章《Python结巴中文分词工具使用过程中遇到的问题及解决方法》中已经有所描述。这里要说

的内容与实际应用更贴近——从文本中读取中文信息，利用结巴分词工具进行分词及词性标注。

示例代码如下：

#coding=utf-8

import jieba

import jieba.posseg as pseg

import time

t1=time.time()

f=open("t_with_splitter.txt","r") #读取文本

string=f.read().decode("utf-8")

words = pseg.cut(string) #进行分词

result="" #记录最终结果的变量

for w in words:

result+= str(w.word)+"/"+str(w.flag) #加词性标注

f=open("t_with_POS_tag.txt","w") #将结果保存到另一个文档中

f.write(result)

f.close()

t2=time.time()

print("分词及词性标注完成，耗时："+str(t2-t1)+"秒。") #反馈结果

其中t_with_splitter.txt文件内容如下：

我们是国内专业的网站建设资源、脚本编程学习类网站，提供asp、php、asp.net、javascript、jquery、vbscript、dos批处理、网页制作、网络编程、网站建设等编程资料。

Python2.7.9平台运行后出现如下图所示的错误提示错误提示：

查阅相关资料后发现，需要在开头加上：

import sys

reload(sys)

sys.setdefaultencoding( "utf-8" )

最终代码最终代码应为：

#coding=utf-8

import jieba

import jieba.posseg as pseg

import time

import sys

reload(sys)

sys.setdefaultencoding( "utf-8" )

t1=time.time()

f=open("t_with_splitter.txt","r") #读取文本

string=f.read().decode("utf-8")

words = pseg.cut(string) #进行分词

result="" #记录最终结果的变量

for w in words:

result+= str(w.word)+"/"+str(w.flag) #加词性标注

f=open("t_with_POS_tag.txt","w") #将结果保存到另一个文档中

f.write(result)

f.close()

t2=time.time()

print("分词及词性标注完成，耗时："+str(t2-t1)+"秒。") #反馈结果

运行成功：

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余1页未读，立即下载

评论0

weixin_38522214

粉丝: 2
资源: 880

会员权益专享

图片转文字

全年可省5，000元立即开通

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈