RubyGems Navigation menu

tokenkit 0.1.0.pre.1

TokenKit provides lightweight, Unicode-aware word-level tokenization with pattern preservation, backed by Rust for performance.

Gemfile:
=

installieren:
=

Versionen:

  1. 0.1.0.pre.1 September 29, 2025 (38,5 KB)

Runtime Abhängigkeiten (1):

rb_sys ~> 0.9

Development Abhängigkeiten (5):

rake ~> 13.0
rake-compiler ~> 1.2
rspec ~> 3.0
simplecov ~> 0.22
standard ~> 1.3

Besitzer:

Pushed by:

Autoren:

  • Chris Petersen

SHA 256-Prüfsumme:

=

Downloads insgesamt 368

Für diese Version 368

Version veröffentlicht:

Lizenz:

MIT

Erforderliche Ruby-Version: >= 3.1.0

Links: