结巴分词
中文分词是中文文本处理的一个基础性工作，结巴分词利用进行中文分词。其基本实现原理有三点：
1、基于Trie树结构实现高效的词图扫描，生成句子中汉字所有可能成词情况所构成的有向无环图（DAG)
2、采用了动态规划查找最大概率路径, 找出基于词频的最大切分组合
3、对于未登录词，采用了基于汉字成词能力的HMM模型，使用了Viterbi算法
安装（windows环境）
1. 下载：
jieba-0.38 （python2/3)都可用。
源码下载的地址1：https://github.com/fxsjy/jieba
源码下载的地址2：https://pypi.python.org/pypi/jieba
2. 解压：
将其解压到python的目录下面：D:\program\python\jieba-0.38
3. 安装：
cmd进入该目录，执行 Python setyp.py install
4. 测试
（只要import jieba成功则安装成功）
模式
默认模式，试图将句子最精确地切开，适合文本分析
全模式，把句子中所有的可以成词的词语都扫描出来，适合搜索引擎
接口
组件只提供jieba.cut 方法用于分词
cut方法接受两个输入参数：
第一个参数为需要分词的字符串
cut_all参数用来控制分词模式
待分词的字符串可以是gbk字符串、utf-8字符串或者unicode
jieba.cut返回的结构是一个可迭代的generator，可以使用for循环来获得分词后得到的每一个词语(unicode)，也可以用list(jieba.cut(...))转化为list
