← Back to branch summary

~slub.team/goobi-indexserver/3.x

« back to all changes in this revision

Viewing changes to lucene/contrib/analyzers/common/src/test/org/apache/lucene/analysis/cz/TestCzechStemmer.java

  • Committer: Sebastian Meyer
  • Date: 2012-08-03 09:12:40 UTC
  • Revision ID: sebastian.meyer@slub-dresden.de-20120803091240-x6861b0vabq1xror
https://launchpad.net/bugs/985487
Remove Lucene and Solr source code and add patches instead
Fix Bug #985487: Auto-suggestion for the search interface

Show diffs side-by-side

added added

removed removed

Lines of Context:
lucene/contrib/analyzers/common/src/test/org/apache/lucene/analysis/cz/TestCzechStemmer.java
1
 
package org.apache.lucene.analysis.cz;
2
 
 
3
 
/**
4
 
 * Licensed to the Apache Software Foundation (ASF) under one or more
5
 
 * contributor license agreements.  See the NOTICE file distributed with
6
 
 * this work for additional information regarding copyright ownership.
7
 
 * The ASF licenses this file to You under the Apache License, Version 2.0
8
 
 * (the "License"); you may not use this file except in compliance with
9
 
 * the License.  You may obtain a copy of the License at
10
 
 *
11
 
 *     http://www.apache.org/licenses/LICENSE-2.0
12
 
 *
13
 
 * Unless required by applicable law or agreed to in writing, software
14
 
 * distributed under the License is distributed on an "AS IS" BASIS,
15
 
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16
 
 * See the License for the specific language governing permissions and
17
 
 * limitations under the License.
18
 
 */
19
 
 
20
 
import java.io.IOException;
21
 
import java.io.StringReader;
22
 
 
23
 
import org.apache.lucene.analysis.BaseTokenStreamTestCase;
24
 
import org.apache.lucene.analysis.CharArraySet;
25
 
import org.apache.lucene.analysis.KeywordMarkerFilter;
26
 
import org.apache.lucene.analysis.MockTokenizer;
27
 
 
28
 
/**
29
 
 * Test the Czech Stemmer.
30
 
 * 
31
 
 * Note: its algorithmic, so some stems are nonsense
32
 
 *
33
 
 */
34
 
public class TestCzechStemmer extends BaseTokenStreamTestCase {
35
 
  
36
 
  /**
37
 
   * Test showing how masculine noun forms conflate
38
 
   */
39
 
  public void testMasculineNouns() throws IOException {
40
 
    CzechAnalyzer cz = new CzechAnalyzer(TEST_VERSION_CURRENT);
41
 
    
42
 
    /* animate ending with a hard consonant */
43
 
    assertAnalyzesTo(cz, "pán", new String[] { "pán" });
44
 
    assertAnalyzesTo(cz, "páni", new String[] { "pán" });
45
 
    assertAnalyzesTo(cz, "pánové", new String[] { "pán" });
46
 
    assertAnalyzesTo(cz, "pána", new String[] { "pán" });
47
 
    assertAnalyzesTo(cz, "pánů", new String[] { "pán" });
48
 
    assertAnalyzesTo(cz, "pánovi", new String[] { "pán" });
49
 
    assertAnalyzesTo(cz, "pánům", new String[] { "pán" });
50
 
    assertAnalyzesTo(cz, "pány", new String[] { "pán" });
51
 
    assertAnalyzesTo(cz, "páne", new String[] { "pán" });
52
 
    assertAnalyzesTo(cz, "pánech", new String[] { "pán" });
53
 
    assertAnalyzesTo(cz, "pánem", new String[] { "pán" });
54
 
    
55
 
    /* inanimate ending with hard consonant */
56
 
    assertAnalyzesTo(cz, "hrad", new String[] { "hrad" });
57
 
    assertAnalyzesTo(cz, "hradu", new String[] { "hrad" });
58
 
    assertAnalyzesTo(cz, "hrade", new String[] { "hrad" });
59
 
    assertAnalyzesTo(cz, "hradem", new String[] { "hrad" });
60
 
    assertAnalyzesTo(cz, "hrady", new String[] { "hrad" });
61
 
    assertAnalyzesTo(cz, "hradech", new String[] { "hrad" });
62
 
    assertAnalyzesTo(cz, "hradům", new String[] { "hrad" });
63
 
    assertAnalyzesTo(cz, "hradů", new String[] { "hrad" });
64
 
    
65
 
    /* animate ending with a soft consonant */
66
 
    assertAnalyzesTo(cz, "muž", new String[] { "muh" });
67
 
    assertAnalyzesTo(cz, "muži", new String[] { "muh" });
68
 
    assertAnalyzesTo(cz, "muže", new String[] { "muh" });
69
 
    assertAnalyzesTo(cz, "mužů", new String[] { "muh" });
70
 
    assertAnalyzesTo(cz, "mužům", new String[] { "muh" });
71
 
    assertAnalyzesTo(cz, "mužích", new String[] { "muh" });
72
 
    assertAnalyzesTo(cz, "mužem", new String[] { "muh" });
73
 
    
74
 
    /* inanimate ending with a soft consonant */
75
 
    assertAnalyzesTo(cz, "stroj", new String[] { "stroj" });
76
 
    assertAnalyzesTo(cz, "stroje", new String[] { "stroj" });
77
 
    assertAnalyzesTo(cz, "strojů", new String[] { "stroj" });
78
 
    assertAnalyzesTo(cz, "stroji", new String[] { "stroj" });
79
 
    assertAnalyzesTo(cz, "strojům", new String[] { "stroj" });
80
 
    assertAnalyzesTo(cz, "strojích", new String[] { "stroj" });
81
 
    assertAnalyzesTo(cz, "strojem", new String[] { "stroj" });
82
 
    
83
 
    /* ending with a */
84
 
    assertAnalyzesTo(cz, "předseda", new String[] { "předsd" });
85
 
    assertAnalyzesTo(cz, "předsedové", new String[] { "předsd" });
86
 
    assertAnalyzesTo(cz, "předsedy", new String[] { "předsd" });
87
 
    assertAnalyzesTo(cz, "předsedů", new String[] { "předsd" });
88
 
    assertAnalyzesTo(cz, "předsedovi", new String[] { "předsd" });
89
 
    assertAnalyzesTo(cz, "předsedům", new String[] { "předsd" });
90
 
    assertAnalyzesTo(cz, "předsedu", new String[] { "předsd" });
91
 
    assertAnalyzesTo(cz, "předsedo", new String[] { "předsd" });
92
 
    assertAnalyzesTo(cz, "předsedech", new String[] { "předsd" });
93
 
    assertAnalyzesTo(cz, "předsedou", new String[] { "předsd" });
94
 
    
95
 
    /* ending with e */
96
 
    assertAnalyzesTo(cz, "soudce", new String[] { "soudk" });
97
 
    assertAnalyzesTo(cz, "soudci", new String[] { "soudk" });
98
 
    assertAnalyzesTo(cz, "soudců", new String[] { "soudk" });
99
 
    assertAnalyzesTo(cz, "soudcům", new String[] { "soudk" });
100
 
    assertAnalyzesTo(cz, "soudcích", new String[] { "soudk" });
101
 
    assertAnalyzesTo(cz, "soudcem", new String[] { "soudk" });
102
 
  }
103
 
  
104
 
  /**
105
 
   * Test showing how feminine noun forms conflate
106
 
   */
107
 
  public void testFeminineNouns() throws IOException {
108
 
    CzechAnalyzer cz = new CzechAnalyzer(TEST_VERSION_CURRENT);
109
 
    
110
 
    /* ending with hard consonant */
111
 
    assertAnalyzesTo(cz, "kost", new String[] { "kost" });
112
 
    assertAnalyzesTo(cz, "kosti", new String[] { "kost" });
113
 
    assertAnalyzesTo(cz, "kostí", new String[] { "kost" });
114
 
    assertAnalyzesTo(cz, "kostem", new String[] { "kost" });
115
 
    assertAnalyzesTo(cz, "kostech", new String[] { "kost" });
116
 
    assertAnalyzesTo(cz, "kostmi", new String[] { "kost" });
117
 
    
118
 
    /* ending with a soft consonant */
119
 
    // note: in this example sing nom. and sing acc. don't conflate w/ the rest
120
 
    assertAnalyzesTo(cz, "píseň", new String[] { "písň" });
121
 
    assertAnalyzesTo(cz, "písně", new String[] { "písn" });
122
 
    assertAnalyzesTo(cz, "písni", new String[] { "písn" });
123
 
    assertAnalyzesTo(cz, "písněmi", new String[] { "písn" });
124
 
    assertAnalyzesTo(cz, "písních", new String[] { "písn" });
125
 
    assertAnalyzesTo(cz, "písním", new String[] { "písn" });
126
 
    
127
 
    /* ending with e */
128
 
    assertAnalyzesTo(cz, "růže", new String[] { "růh" });
129
 
    assertAnalyzesTo(cz, "růží", new String[] { "růh" });
130
 
    assertAnalyzesTo(cz, "růžím", new String[] { "růh" });
131
 
    assertAnalyzesTo(cz, "růžích", new String[] { "růh" });
132
 
    assertAnalyzesTo(cz, "růžemi", new String[] { "růh" });
133
 
    assertAnalyzesTo(cz, "růži", new String[] { "růh" });
134
 
    
135
 
    /* ending with a */
136
 
    assertAnalyzesTo(cz, "žena", new String[] { "žn" });
137
 
    assertAnalyzesTo(cz, "ženy", new String[] { "žn" });
138
 
    assertAnalyzesTo(cz, "žen", new String[] { "žn" });
139
 
    assertAnalyzesTo(cz, "ženě", new String[] { "žn" });
140
 
    assertAnalyzesTo(cz, "ženám", new String[] { "žn" });
141
 
    assertAnalyzesTo(cz, "ženu", new String[] { "žn" });
142
 
    assertAnalyzesTo(cz, "ženo", new String[] { "žn" });
143
 
    assertAnalyzesTo(cz, "ženách", new String[] { "žn" });
144
 
    assertAnalyzesTo(cz, "ženou", new String[] { "žn" });
145
 
    assertAnalyzesTo(cz, "ženami", new String[] { "žn" });
146
 
  }
147
 
 
148
 
  /**
149
 
   * Test showing how neuter noun forms conflate
150
 
   */
151
 
  public void testNeuterNouns() throws IOException {
152
 
    CzechAnalyzer cz = new CzechAnalyzer(TEST_VERSION_CURRENT);
153
 
    
154
 
    /* ending with o */
155
 
    assertAnalyzesTo(cz, "město", new String[] { "měst" });
156
 
    assertAnalyzesTo(cz, "města", new String[] { "měst" });
157
 
    assertAnalyzesTo(cz, "měst", new String[] { "měst" });
158
 
    assertAnalyzesTo(cz, "městu", new String[] { "měst" });
159
 
    assertAnalyzesTo(cz, "městům", new String[] { "měst" });
160
 
    assertAnalyzesTo(cz, "městě", new String[] { "měst" });
161
 
    assertAnalyzesTo(cz, "městech", new String[] { "měst" });
162
 
    assertAnalyzesTo(cz, "městem", new String[] { "měst" });
163
 
    assertAnalyzesTo(cz, "městy", new String[] { "měst" });
164
 
    
165
 
    /* ending with e */
166
 
    assertAnalyzesTo(cz, "moře", new String[] { "moř" });
167
 
    assertAnalyzesTo(cz, "moří", new String[] { "moř" });
168
 
    assertAnalyzesTo(cz, "mořím", new String[] { "moř" });
169
 
    assertAnalyzesTo(cz, "moři", new String[] { "moř" });
170
 
    assertAnalyzesTo(cz, "mořích", new String[] { "moř" });
171
 
    assertAnalyzesTo(cz, "mořem", new String[] { "moř" });
172
 
 
173
 
    /* ending with ě */
174
 
    assertAnalyzesTo(cz, "kuře", new String[] { "kuř" });
175
 
    assertAnalyzesTo(cz, "kuřata", new String[] { "kuř" });
176
 
    assertAnalyzesTo(cz, "kuřete", new String[] { "kuř" });
177
 
    assertAnalyzesTo(cz, "kuřat", new String[] { "kuř" });
178
 
    assertAnalyzesTo(cz, "kuřeti", new String[] { "kuř" });
179
 
    assertAnalyzesTo(cz, "kuřatům", new String[] { "kuř" });
180
 
    assertAnalyzesTo(cz, "kuřatech", new String[] { "kuř" });
181
 
    assertAnalyzesTo(cz, "kuřetem", new String[] { "kuř" });
182
 
    assertAnalyzesTo(cz, "kuřaty", new String[] { "kuř" });
183
 
    
184
 
    /* ending with í */
185
 
    assertAnalyzesTo(cz, "stavení", new String[] { "stavn" });
186
 
    assertAnalyzesTo(cz, "stavením", new String[] { "stavn" });
187
 
    assertAnalyzesTo(cz, "staveních", new String[] { "stavn" });
188
 
    assertAnalyzesTo(cz, "staveními", new String[] { "stavn" });    
189
 
  }
190
 
  
191
 
  /**
192
 
   * Test showing how adjectival forms conflate
193
 
   */
194
 
  public void testAdjectives() throws IOException {
195
 
    CzechAnalyzer cz = new CzechAnalyzer(TEST_VERSION_CURRENT);
196
 
    
197
 
    /* ending with ý/á/é */
198
 
    assertAnalyzesTo(cz, "mladý", new String[] { "mlad" });
199
 
    assertAnalyzesTo(cz, "mladí", new String[] { "mlad" });
200
 
    assertAnalyzesTo(cz, "mladého", new String[] { "mlad" });
201
 
    assertAnalyzesTo(cz, "mladých", new String[] { "mlad" });
202
 
    assertAnalyzesTo(cz, "mladému", new String[] { "mlad" });
203
 
    assertAnalyzesTo(cz, "mladým", new String[] { "mlad" });
204
 
    assertAnalyzesTo(cz, "mladé", new String[] { "mlad" });
205
 
    assertAnalyzesTo(cz, "mladém", new String[] { "mlad" });
206
 
    assertAnalyzesTo(cz, "mladými", new String[] { "mlad" }); 
207
 
    assertAnalyzesTo(cz, "mladá", new String[] { "mlad" });
208
 
    assertAnalyzesTo(cz, "mladou", new String[] { "mlad" });
209
 
 
210
 
    /* ending with í */
211
 
    assertAnalyzesTo(cz, "jarní", new String[] { "jarn" });
212
 
    assertAnalyzesTo(cz, "jarního", new String[] { "jarn" });
213
 
    assertAnalyzesTo(cz, "jarních", new String[] { "jarn" });
214
 
    assertAnalyzesTo(cz, "jarnímu", new String[] { "jarn" });
215
 
    assertAnalyzesTo(cz, "jarním", new String[] { "jarn" });
216
 
    assertAnalyzesTo(cz, "jarními", new String[] { "jarn" });  
217
 
  }
218
 
  
219
 
  /**
220
 
   * Test some possessive suffixes
221
 
   */
222
 
  public void testPossessive() throws IOException {
223
 
    CzechAnalyzer cz = new CzechAnalyzer(TEST_VERSION_CURRENT);
224
 
    assertAnalyzesTo(cz, "Karlův", new String[] { "karl" });
225
 
    assertAnalyzesTo(cz, "jazykový", new String[] { "jazyk" });
226
 
  }
227
 
  
228
 
  /**
229
 
   * Test some exceptional rules, implemented as rewrites.
230
 
   */
231
 
  public void testExceptions() throws IOException {
232
 
    CzechAnalyzer cz = new CzechAnalyzer(TEST_VERSION_CURRENT);
233
 
    
234
 
    /* rewrite of št -> sk */
235
 
    assertAnalyzesTo(cz, "český", new String[] { "česk" });
236
 
    assertAnalyzesTo(cz, "čeští", new String[] { "česk" });
237
 
    
238
 
    /* rewrite of čt -> ck */
239
 
    assertAnalyzesTo(cz, "anglický", new String[] { "anglick" });
240
 
    assertAnalyzesTo(cz, "angličtí", new String[] { "anglick" });
241
 
    
242
 
    /* rewrite of z -> h */
243
 
    assertAnalyzesTo(cz, "kniha", new String[] { "knih" });
244
 
    assertAnalyzesTo(cz, "knize", new String[] { "knih" });
245
 
    
246
 
    /* rewrite of ž -> h */
247
 
    assertAnalyzesTo(cz, "mazat", new String[] { "mah" });
248
 
    assertAnalyzesTo(cz, "mažu", new String[] { "mah" });
249
 
    
250
 
    /* rewrite of c -> k */
251
 
    assertAnalyzesTo(cz, "kluk", new String[] { "kluk" });
252
 
    assertAnalyzesTo(cz, "kluci", new String[] { "kluk" });
253
 
    assertAnalyzesTo(cz, "klucích", new String[] { "kluk" });
254
 
    
255
 
    /* rewrite of č -> k */
256
 
    assertAnalyzesTo(cz, "hezký", new String[] { "hezk" });
257
 
    assertAnalyzesTo(cz, "hezčí", new String[] { "hezk" });
258
 
    
259
 
    /* rewrite of *ů* -> *o* */
260
 
    assertAnalyzesTo(cz, "hůl", new String[] { "hol" });
261
 
    assertAnalyzesTo(cz, "hole", new String[] { "hol" });
262
 
    
263
 
    /* rewrite of e* -> * */
264
 
    assertAnalyzesTo(cz, "deska", new String[] { "desk" });
265
 
    assertAnalyzesTo(cz, "desek", new String[] { "desk" });
266
 
  }
267
 
  
268
 
  /**
269
 
   * Test that very short words are not stemmed.
270
 
   */
271
 
  public void testDontStem() throws IOException {
272
 
    CzechAnalyzer cz = new CzechAnalyzer(TEST_VERSION_CURRENT);
273
 
    assertAnalyzesTo(cz, "e", new String[] { "e" });
274
 
    assertAnalyzesTo(cz, "zi", new String[] { "zi" });
275
 
  }
276
 
  
277
 
  public void testWithKeywordAttribute() throws IOException {
278
 
    CharArraySet set = new CharArraySet(TEST_VERSION_CURRENT, 1, true);
279
 
    set.add("hole");
280
 
    CzechStemFilter filter = new CzechStemFilter(new KeywordMarkerFilter(
281
 
        new MockTokenizer(new StringReader("hole desek"), MockTokenizer.WHITESPACE, false), set));
282
 
    assertTokenStreamContents(filter, new String[] { "hole", "desk" });
283
 
  }
284
 
  
285
 
}