文本处理基本方法

目录

分词

jieba 

词性标注

---

😆😆😆感谢大家观看😆😆😆

分词

在中文文本中，由于词与词之间没有明显的界限符，如英文中的空格，因此分词是中文自然语言处理的一个基础且重要的步骤。分词的准确性直接影响到后续的语言处理任务，如词性标注、句法分析等。在英文的行文中，单词之间是以空格作为自然分界符的，而中文只是字、句和段能通过明显的分界符来简单划界，唯独词没有一个形式上的分界符。分词过程就是找到这样分界符的过程。

分词的作用:

词作为语言语义理解的最小单元, 是人类理解文本语言的基础. 因此也是AI解决NLP领域高阶任务, 如自动问答, 机器翻译, 文本生成的重要基础环节。

句子：“我爱自然语言处理。”分词结果：“我 / 爱 / 自然语言处理。”

在这个例子中，“自然语言处理”作为一个整体是一个专有名词，应该被识别为一个单独的词语，而不是分开为“自然”、“语言”和“处理”。 

句子：“中国的首都北京是一个历史悠久的城市。”分词结果：“中国 / 的 / 首都 / 北京 / 是 / 一个 / 历史 / 悠久 / 的 / 城市。” jieba 

jieba库利用一个中文词库来确定汉字之间的关联概率，通过这些概率来组合成词组，从而形成分词结果。除了基本的分词功能，jieba还支持关键词提取、词性标注、词位置查询等高级功能。用户可以向jieba库中添加自定义词组，以提高特定领域文本的分词准确性。jieba库考虑到了性能问题，支持并行分词，提高大规模文本处理的效率。这使得它成为当前Python语言中优秀的中文分词组件之一。

 jieba是一个强大的中文分词工具，它具备多种特性，适用于不同的分词需求。三种分词模式

精确模式：此模式能够精确地将文本分离开，不会产生冗余的词组。全模式：在全模式下，系统会扫描出文本中所有可能的词语，这可能会包含一些冗余的词汇。搜索引擎模式：这种模式是在精确模式的基础上，对长词进行再次切分，特别适用于搜索引擎中的分词处理。

pip install jieba 

import jieba sentence = "我爱自然语言处理" seg_list = jieba.cut(sentence, cut_all=False) print("精确模式分词结果：", "/".join(seg_list))

 中文繁体分词:

import jieba content = "煩惱即是菩提，我暫且不提" jieba.lcut(content) ['煩惱', '即', '是', '菩提', '，', '我', '暫且', '不', '提']

 三种分词模式案例

精确模式：使用jieba.cut()函数，设置参数cut_all=False（默认值）。 import jieba text = "我爱自然语言处理" seg_list = jieba.cut(text, cut_all=False) print("精确模式分词结果：", "/".join(seg_list))

2.全模式：使用jieba.cut()函数，设置参数cut_all=True。

import jieba text = "我爱自然语言处理" seg_list = jieba.cut(text, cut_all=True) print("全模式分词结果：", "/".join(seg_list)) 3搜索引擎模式：使用jieba.cut_for_search()函数。 import jieba text = "我爱自然语言处理" seg_list = jieba.cut_for_search(text) print("搜索引擎模式分词结果：", "/".join(seg_list))

使用jieba分词时，可以通过添加自定义词典来提高分词的准确性。

创建自定义词典文件：首先，创建一个文本文件，将需要添加到词典中的词汇按照每行一个词的格式列出。例如，如果你的专业领域有特殊术语或者你想加入人名、地名等，都可以在这个文件中添加。加载自定义词典：在使用jieba分词时，可以通过jieba.load_userdict(file_name)函数加载自定义词典。这样，jieba在分词时就会自动识别并使用这些新词。使用自定义词典进行分词：加载了自定义词典后，可以像平常一样使用jieba.cut函数进行分词，此时jieba会优先考虑自定义词典中的词汇。 import jieba # 加载自定义词典 jieba.load_userdict('my_dict.txt') # 使用自定义词典进行分词 sentence = "这是一个包含专业术语的句子" seg_list = jieba.cut(sentence, cut_all=False) print("使用自定义词典后的分词结果：", "/".join(seg_list))

命名实体识别

命名实体识别（Named Entity Recognition, NER）是自然语言处理（NLP）中的一项基础任务，它的目标是从文本中识别出具有特定意义的实体，并将这些实体分类到预定义的类别。

命名实体识别包括以下几个关键点：

边界识别：确定文本中实体的开始和结束位置。类别识别：将识别出的实体归类到如人名、地名、组织名、时间表达式等类别中。序列标注：命名实体识别属于序列标注任务，需要为文本中的每个词或字分配一个标签，以指示它是否属于某个命名实体以及它的类别。 词性标注

词性: 语言中对词的一种分类方法，以语法特征为主要依据、兼顾词汇意义对词进行划分的结果, 常见的词性有14种, 如: 名词, 动词, 形容词等。

 

我爱自然语言处理

==>

我/rr, 爱/v, 自然语言/n, 处理/vn

rr: 人称代词 v: 动词 n: 名词 vn: 动名词

词性标注以分词为基础, 是对文本语言的另一个角度的理解, 因此也常常成为AI解决NLP领域高阶任务的重要基础环节 。

要使用jieba进行中文词性标注，可以使用jieba.posseg模块：

import jieba.posseg as pseg # 待分词的文本 text = "我爱自然语言处理" # 使用jieba进行词性标注 words = pseg.cut(text) # 输出每个词语及其词性 for word, flag in words: print(f"{word}({flag})", end=" ") # 我(r) 爱(v) 自然语言处理(nz)

其中，"r"表示代词，"v"表示动词，"nz"表示其他专有名词。请注意，jieba的词性标注功能基于其内置的词典和规则，可能无法完全准确地标注所有词汇的词性。