栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

如何使用nltk计算中文的tf-idf值

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

如何使用nltk计算中文的tf-idf值

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档

文章目录
  • 前言
    • `
  • 一、nltk
  • 二、计算中文的tf-idf
  • 计算语料库中"one"的tf值
  • 计算语料库中"one"的idf值
  • 计算语料库中"one"的tf-idf值


前言 `

提示:以下是本篇文章正文内容,下面案例可供参考

一、nltk

示例:pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。

二、计算中文的tf-idf

代码如下(示例):

import nltk
nltk.download(‘punkt’)
import jieba
from nltk.text import TextCollection
from nltk.tokenize import word_tokenize

with open(‘华为数据.csv’,encoding=‘utf-8-sig’) as file_object:
text = file_object.read().encode()

sentences = text.split()
sent_words = [list(jieba.cut(sent0)) for sent0 in sentences]
corpus = [" ".join(sent0) for sent0 in sent_words]
print(‘词料:’, corpus)

计算语料库中"one"的tf值

tf = corpus.tf(‘耳机’, corpus) # 1/12
print(tf)

计算语料库中"one"的idf值

idf = corpus.idf(‘耳机’) # log(3/1)
print(idf)

计算语料库中"one"的tf-idf值

tf_idf = corpus.tf_idf(‘耳机’, corpus)
print(tf_idf)

**报错了**

Traceback (most recent call last):
  File "D:/GSdmm/if.py", line 16, in 
    tf = corpus.tf('耳机', corpus)  # 1/12
AttributeError: 'list' object has no attribute 'tf'

Process finished with exit code 1
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/822157.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号