栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

(Python re+collections)实现贝叶斯单词检查器

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

(Python re+collections)实现贝叶斯单词检查器

# -*-encoding:utf-8-*-
import re,collections
# 把语料库中的单词全部抽取出来,转成小写,并去除单词中间的特殊符号
def words(text):
    return re.findall('[a-z]+',text.lower())
def train(features):
    model = collections.defaultdict(lambda:1)
    for f in features:
        model[f] += 1
    return model
NWORDS = train(words(open(r'C:Users86156Desktopnlpbig.txt').read()))
alphabet = 'abcdefghijklmnnopqrstuvwxyz'
# 返回所有与单词w编辑距离为1的集合
def edits1(word):
    n = len(word)
    return set([word[0:i]+word[i+1:] for i in range(n)]+
              [word[0:i]+word[i+1]+word[i]+word[i+2:] for i in range(n-1)]+
              [word[0:i]+c+word[i+1:] for i in range(n) for c in alphabet]+
              [word[0:i]+c+word[i:] for i in range(n+1) for c in alphabet])
# 返回所有与单词w编辑距离为2的集合
# 在这些编辑距离小于2的词中词,只把那些正确的词作为候选词
def known_edits2(word):
    return set(e2 for e1 in edits1(word) for e2 in edits1(e1) if e2 in NWORDS)
def known(words):
    return set(w for w in words if w in NWORDS)
# 如果known(set)得空,candidate就会选取这个集合,而不继续计算后面的
def correct(word):
    candidates = known([word]) or known(edits1(word)) or known_edits2(word) or [word]
    return max(candidates,key=lambda w:NWORDS[w])
print(correct('likr'))

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/316921.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号