LingPipe:自然语言处理工具包

本贴最后更新于 2441 天前,其中的信息可能已经事过景迁

LingPipe 是运用计算机语言学处理文本信息的工具包,可用于如下任务:

  • 在新闻中查找人名、组织或位置。
  • 自动分类 Twitter 搜索结果。
  • 提供查询的正确拼写建议。

架构

LingPipe 的架构是有效的、可扩展的、可重用的、健壮的。亮点包括:

  • Java API 源码和单元测试;
  • 多语种、多域、集成型模式;
  • 用新任务的新数据训练;
  • n 最优统计的置信度估计输出;
  • 在线训练;
  • 线程安全模型和并发读同步独占写(concurrent-read exclusive-write)解码器;
  • 字符编码敏感的 I/O。

教程列表

  • 主题分类
    通过人物语言模型分类新闻文章。
  • 命名实体识别
    介绍如何运行、训练和评估命名实体识别器。
  • 聚类
    单连接和完整连接的层次聚类器图,包括各种聚类评估技术。
  • 词性标注
    介绍如何从语料库用标签解析器和处理器训练词性标注器,如何编译模型到磁盘并读取,如何运行并评估第一次最佳、第 n 次最佳及置信得分标注器(confidence-scored taggers)。
  • 句子检测
    介绍如何使用分块接口检测语句等。
  • 拼写校正
    类似搜索引擎的拼写检查,介绍如何调整和训练模型。
  • 数据库文本挖掘
    第一部分使用 MEDLINE 引用 JDBC 填充 MySQL 数据库。第二部分运行数据库脚本创建表和实体。第三部分介绍如何通过数据库查询做数据库文本挖掘。
  • 字符串比较
    介绍如何使用距离和接近措施结束字符串,包括加权编辑距离,TF/IDF 距离等。
  • 兴趣短语检测
    从一个语料库中统计显著多字词组和相对的“热词”的提取
  • 人物语言建模
    训练和调整人物语言模型。
  • 中文分词
    介绍了如何细分中文字符成不同的话。
  • 连接符和音节
    展示了如何从训练数据字典中训练连字符和音节。例如荷兰语、英语和德语。
  • 情感分析
    使用语言模型的分类做电影评论的情感分析。
  • 语言识别
    语言识别作为分类问题
  • 奇异值分解
    使用奇异值分解因子矩阵。解释了如何处理位置值估算、正规化、调优参数设置。
  • 逻辑回归
    介绍了如何为判别标准估计正规化多项式逻辑回归模型。
  • 期望最大化
    介绍了如何为半监督学习(semi-supervised learning)各种任务使用期望最大化。
  • 词义消歧
    词义消歧是根据一个词的上下文确定一个词的含义的过程,用于分类、搜索、聚类等。
  • Eclipse
    使用 Eclipse IDE 编译和测试 LingPipe 的基本说明。

开发文档

  • 自然语言处理

    自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。

    18 引用 • 10 回帖 • 2 关注
  • 字符
    15 引用 • 89 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...