Python 自然语言分析如何提取特定关键词? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
maiganne
V2EX    自然语言处理

Python 自然语言分析如何提取特定关键词?

  •  
  •   maiganne 2017-03-18 16:01:33 +08:00 6528 次点击
    这是一个创建于 3128 天前的主题,其中的信息可能已经有所发展或是发生改变。
    V 友们,给一篇文章,里面会出现一些公司的名字,前提是我不知道有哪些公司,请问如何将这些公司的名字提取出来
    18 条回复    2017-09-30 23:25:14 +08:00
    binux
        1
    binux  
       2017-03-18 16:03:51 +08:00 via Android
    公司名是全称还是简称
    实体识别
    maiganne
        2
    maiganne  
    OP
       2017-03-18 16:08:04 +08:00
    @binux 全称简称都没关系,只要能提取出来就行,能稍微说的详细点吗?谢谢
    oisc
        3
    oisc  
       2017-03-18 16:12:38 +08:00
    @maiganne NER 是一个自然语言处理的一个比较大的方向,怎么给你说详细一点。
    binux
        4
    binux  
       2017-03-18 16:14:08 +08:00 via Android
    @maiganne 我问你文本中出现的是全称还是简称
    maiganne
        5
    maiganne  
    OP
       2017-03-18 16:22:47 +08:00
    @binux 哦,全称,有什么 python 库可以实现吗
    binux
        6
    binux  
       2017-03-18 16:24:35 +08:00 via Android
    @maiganne 全称分词,再自己写个规则就行了
    maiganne
        7
    maiganne  
    OP
       2017-03-18 16:26:40 +08:00
    @binux 嗯,谢谢
    ijustdo
        8
    ijustdo  
       2017-03-18 16:51:37 +08:00
    中文处理里面有个 实体识别 就是代词性的分词 然后找到那些 为 机构名词
    ijustdo
        9
    ijustdo  
       2017-03-18 16:59:42 +08:00
    INFO 2017-03-18 16:58:52,236] intxt: 有一个叫一腿有限公司的是个好公司
    INFO 2017-03-18 16:58:52,236] 1:有 /v[-1:HED] 2:一个 /m[7:SBV] 3:叫 /v[7:SBV] 4:一 /m[4:ATT] 5:腿 /n[5:ATT] 6:有限公司 /n[2:VOB] 7:的 /u[2:RAD] 8:是 /v[0:COO] 9:个 /q[10:ATT] 10:好 /a[10:ATT] 11:公司 /n[7:VOB]
    INFO 2017-03-18 16:58:52,236] A1(3, 5): 一 腿 有限公司
    INFO 2017-03-18 16:58:52,236] A0(1, 1): 一个
    INFO 2017-03-18 16:58:52,236] A0(6, 6): 的
    INFO 2017-03-18 16:58:52,236] A1(8, 10): 个 好 公司
    INFO 2017-03-18 16:58:52,236] ------------------------------------------------------------

    看到没有 一腿有限公司 成功识别 当然这个公司是不存在的 呵呵
    maiganne
        10
    maiganne  
    OP
       2017-03-18 17:26:38 +08:00
    @ijustdo 太好了,怎么实现的
    ijustdo
        11
    ijustdo  
       2017-03-18 17:32:03 +08:00
    实体识别 找这个 相关的库 我用的哈工大的库
    ijustdo
        12
    ijustdo  
       2017-03-18 17:33:23 +08:00
    百度的自然语言接口也提供 免费的文本相关的接口 每天有次数限制
    ijustdo
        13
    ijustdo  
       2017-03-18 17:38:48 +08:00
    北大的中文有个撒实验室 也出类似的 其实 就是带 词性的分词 然后再处理 python jieba 分词也带词性分词

    最简单的 你可以先用 jieba 试试 找名词 和机构名词 我要是没记错 jieba 也带新词发现 。。。
    maiganne
        14
    maiganne  
    OP
       2017-03-18 17:47:38 +08:00
    @ijustdo 非常感谢
    maiganne
        15
    maiganne  
    OP
       2017-03-18 18:14:50 +08:00
    @ijustdo 你用的哈工大的库是什么,能在 python 中使用吗?我也想试试
    bxb100
        16
    bxb100  
       2017-03-18 19:56:25 +08:00 via Android
    清华也有个分词的包
    ijustdo
        17
    ijustdo  
       2017-03-18 22:13:19 +08:00
    哈工大 ltp
    kunjinkao
        18
    kunjinkao  
       2017-09-30 23:25:14 +08:00
    找些语料训练个 crf,抽取一下就 ok 了
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     3669 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 20ms UTC 10:21 PVG 18:21 LAX 03:21 JFK 06:21
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86