RubyGems Navigation menu

tokenizer 0.3.0

A simple multilingual tokenizer for NLP tasks. This tool provides a CLI and a library for linguistic tokenization which is an anavoidable step for many HLT (human language technology) tasks in the preprocessing phase for further syntactic, semantic and other higher level processing goals. Use it for tokenization of German, English and French texts.

バージョン履歴:

  1. 0.3.0 - January 20, 2016 (10KB)
  2. 0.2.0 - January 11, 2016 (10KB)
  3. 0.1.2 - September 03, 2015 (9.5KB)
  4. 0.1.1 - August 25, 2011 (8KB)
  5. 0.1.0 - May 19, 2011 (5.5KB)
全てのバージョンを表示 (全6項目)

オーナー:

作者:

  • Andrei Beliankou

SHA 256チェックサム:

f3fea578e7a2f9a9ae22de432ea1254e22ed1fc2e58e0ee670a0273582f51520

累計ダウンロード数 105,219

現行バージョン 16,387

Gemfile:
= クリップボードにコピー コピー完了!

インストール:
=

ライセンス:

MIT

必要Rubyバージョン: >= 1.9.3

リンク集: