正在使用python的一个分词模块:http://pypi.python.org/pypi/mmseg。
目前碰到一个问题就是添加诸如“T恤”和“Polo衫”的自定义词时,程序依然不能识别。分词结果:
T
恤
Polo
衫
目前碰到一个问题就是添加诸如“T恤”和“Polo衫”的自定义词时,程序依然不能识别。分词结果:
T
恤
Polo
衫

1 args Nov 11, 2011 这个肯定事先作者没考虑到。直接暴力把中英文分开了。其实我的一个分词程序就是这么做的。。。。 |
2 dreamersdw Nov 11, 2011 mmseg 是靠内置的单词表加启发算法实现中文分词的。 你可以先试试向 mmseg/data/words.dic 文件添加需要的词汇。要是还有问题的话,考虑自己修改源码吧。 |