Package opennlp.tools.tokenize
Klasse DictionaryDetokenizer
java.lang.Object
opennlp.tools.tokenize.DictionaryDetokenizer
- Alle implementierten Schnittstellen:
Detokenizer
A rule based detokenizer. Simple rules which indicate in which direction a token should be
moved are looked up in a
dictionary.- Siehe auch:
-
Verschachtelte Klassen - Übersicht
Von Schnittstelle geerbte verschachtelte Klassen/Schnittstellen opennlp.tools.tokenize.Detokenizer
Detokenizer.DetokenizationOperation -
Konstruktorübersicht
Konstruktoren -
Methodenübersicht
Modifizierer und TypMethodeBeschreibungdetokenize(String[] tokens) Detokenizes the collection of tokens.detokenize(String[] tokens, String splitMarker) Detokenizes the inputtokensinto a String.
-
Konstruktordetails
-
DictionaryDetokenizer
Initializes aDictionaryDetokenizerinstance.- Parameter:
dict- TheDetokenizationDictionaryto be used.
-
-
Methodendetails
-
detokenize
Beschreibung aus Schnittstelle kopiert:DetokenizerDetokenizes the collection of tokens.- Angegeben von:
detokenizein SchnittstelleDetokenizer- Parameter:
tokens- The elements which should be detokenized.- Gibt zurück:
- The
merge operationsto handle giventokens.
-
detokenize
Beschreibung aus Schnittstelle kopiert:DetokenizerDetokenizes the inputtokensinto a String. Tokens which are connected without awhitespacecharacter in between can be separated by a givensplitMarker.- Angegeben von:
detokenizein SchnittstelleDetokenizer- Parameter:
tokens- The elements which should be concatenated.splitMarker- The split marker ornull.- Gibt zurück:
- The concatenated tokens as a single string.
-