Package opennlp.tools.tokenize
Klasse DictionaryDetokenizer
java.lang.Object
opennlp.tools.tokenize.DictionaryDetokenizer
- Alle implementierten Schnittstellen:
Detokenizer
A rule based detokenizer. Simple rules which indicate in which direction a token should be
moved are looked up in a
dictionary
.- Siehe auch:
-
Verschachtelte Klassen - Übersicht
Von Schnittstelle geerbte verschachtelte Klassen/Schnittstellen opennlp.tools.tokenize.Detokenizer
Detokenizer.DetokenizationOperation
-
Konstruktorübersicht
Konstruktoren -
Methodenübersicht
Modifizierer und TypMethodeBeschreibungdetokenize
(String[] tokens) Detokenizes the collection of tokens.detokenize
(String[] tokens, String splitMarker) Detokenizes the inputtokens
into a String.
-
Konstruktordetails
-
DictionaryDetokenizer
Initializes aDictionaryDetokenizer
instance.- Parameter:
dict
- TheDetokenizationDictionary
to be used.
-
-
Methodendetails
-
detokenize
Beschreibung aus Schnittstelle kopiert:Detokenizer
Detokenizes the collection of tokens.- Angegeben von:
detokenize
in SchnittstelleDetokenizer
- Parameter:
tokens
- The elements which should be detokenized.- Gibt zurück:
- The
merge operations
to handle giventokens
.
-
detokenize
Beschreibung aus Schnittstelle kopiert:Detokenizer
Detokenizes the inputtokens
into a String. Tokens which are connected without awhitespace
character in between can be separated by a givensplitMarker
.- Angegeben von:
detokenize
in SchnittstelleDetokenizer
- Parameter:
tokens
- The elements which should be concatenated.splitMarker
- The split marker ornull
.- Gibt zurück:
- The concatenated tokens as a single string.
-