← Back to branch summary

~slub.team/goobi-indexserver/3.x

« back to all changes in this revision

Viewing changes to lucene/contrib/analyzers/common/src/java/org/apache/lucene/analysis/in/IndicTokenizer.java

  • Committer: Sebastian Meyer
  • Date: 2012-08-03 09:12:40 UTC
  • Revision ID: sebastian.meyer@slub-dresden.de-20120803091240-x6861b0vabq1xror
https://launchpad.net/bugs/985487
Remove Lucene and Solr source code and add patches instead
Fix Bug #985487: Auto-suggestion for the search interface

Show diffs side-by-side

added added

removed removed

Lines of Context:
lucene/contrib/analyzers/common/src/java/org/apache/lucene/analysis/in/IndicTokenizer.java
1
 
package org.apache.lucene.analysis.in;
2
 
 
3
 
/**
4
 
 * Licensed to the Apache Software Foundation (ASF) under one or more
5
 
 * contributor license agreements.  See the NOTICE file distributed with
6
 
 * this work for additional information regarding copyright ownership.
7
 
 * The ASF licenses this file to You under the Apache License, Version 2.0
8
 
 * (the "License"); you may not use this file except in compliance with
9
 
 * the License.  You may obtain a copy of the License at
10
 
 *
11
 
 *     http://www.apache.org/licenses/LICENSE-2.0
12
 
 *
13
 
 * Unless required by applicable law or agreed to in writing, software
14
 
 * distributed under the License is distributed on an "AS IS" BASIS,
15
 
 * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
16
 
 * See the License for the specific language governing permissions and
17
 
 * limitations under the License.
18
 
 */
19
 
 
20
 
import java.io.Reader;
21
 
 
22
 
import org.apache.lucene.analysis.CharTokenizer;
23
 
import org.apache.lucene.util.AttributeSource;
24
 
import org.apache.lucene.util.Version;
25
 
 
26
 
/**
27
 
 * Simple Tokenizer for text in Indian Languages.
28
 
 */
29
 
public final class IndicTokenizer extends CharTokenizer {
30
 
 
31
 
  public IndicTokenizer(Version matchVersion, AttributeFactory factory, Reader input) {
32
 
    super(matchVersion, factory, input);
33
 
  }
34
 
 
35
 
  public IndicTokenizer(Version matchVersion, AttributeSource source, Reader input) {
36
 
    super(matchVersion, source, input);
37
 
  }
38
 
 
39
 
  public IndicTokenizer(Version matchVersion, Reader input) {
40
 
    super(matchVersion, input);
41
 
  }
42
 
 
43
 
  @Override
44
 
  protected boolean isTokenChar(int c) {
45
 
    return Character.isLetter(c)
46
 
    || Character.getType(c) == Character.NON_SPACING_MARK
47
 
    || Character.getType(c) == Character.FORMAT
48
 
    || Character.getType(c) == Character.COMBINING_SPACING_MARK;
49
 
  }
50
 
}