web-dev-qa-db-ja.com

Hadoop Javaエラー：スレッド "main"の例外Java.lang.NoClassDefFoundError：WordCount（間違った名前：org / myorg / WordCount）

私はHadoopを初めて使用します。 maichel-nollチュートリアルに従って、単一ノードでHadoopをセットアップしました。WordCountプログラムを実行してみました。これは私が使用したコードです：

import Java.io.IOException;
import Java.util.StringTokenizer;

import org.Apache.hadoop.conf.Configuration;
import org.Apache.hadoop.fs.Path;
import org.Apache.hadoop.io.IntWritable;
import org.Apache.hadoop.io.Text;
import org.Apache.hadoop.mapreduce.Job;
import org.Apache.hadoop.mapreduce.Mapper;
import org.Apache.hadoop.mapreduce.Reducer;
import org.Apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.Apache.hadoop.mapreduce.lib.output.FileOutputFormat;

public class WordCount {

  public static class TokenizerMapper
       extends Mapper<Object, Text, Text, IntWritable>{

    private final static IntWritable one = new IntWritable(1);
    private Text Word = new Text();

    public void map(Object key, Text value, Context context
                    ) throws IOException, InterruptedException {
      StringTokenizer itr = new StringTokenizer(value.toString());
      while (itr.hasMoreTokens()) {
        Word.set(itr.nextToken());
        context.write(Word, one);
      }
    }
  }

  public static class IntSumReducer
       extends Reducer<Text,IntWritable,Text,IntWritable> {
    private IntWritable result = new IntWritable();

    public void reduce(Text key, Iterable<IntWritable> values,
                       Context context
                       ) throws IOException, InterruptedException {
      int sum = 0;
      for (IntWritable val : values) {
        sum += val.get();
      }
      result.set(sum);
      context.write(key, result);
    }
  }

  public static void main(String[] args) throws Exception {
    Configuration conf = new Configuration();
    Job job = Job.getInstance(conf, "WordCount");
    job.setJarByClass(WordCount.class);
    job.setMapperClass(TokenizerMapper.class);
    job.setCombinerClass(IntSumReducer.class);
    job.setReducerClass(IntSumReducer.class);
    job.setOutputKeyClass(Text.class);
    job.setOutputValueClass(IntWritable.class);
    FileInputFormat.addInputPath(job, new Path(args[0]));
    FileOutputFormat.setOutputPath(job, new Path(args[1]));
    System.exit(job.waitForCompletion(true) ? 0 : 1);
  }
}

これは私がそれを実行しようとすると私が得るものです。

hduser@aswin-HP-Pavilion-15-Notebook-PC:/usr/local/hadoop$ bin/hadoop jar wc.jar WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt
Exception in thread "main" Java.lang.NoClassDefFoundError: WordCount (wrong name: org/myorg/WordCount)
    at Java.lang.ClassLoader.defineClass1(Native Method)
    at Java.lang.ClassLoader.defineClass(ClassLoader.Java:788)
    at Java.security.SecureClassLoader.defineClass(SecureClassLoader.Java:142)
    at Java.net.URLClassLoader.defineClass(URLClassLoader.Java:447)
    at Java.net.URLClassLoader.access$100(URLClassLoader.Java:71)
    at Java.net.URLClassLoader$1.run(URLClassLoader.Java:361)
    at Java.net.URLClassLoader$1.run(URLClassLoader.Java:355)
    at Java.security.AccessController.doPrivileged(Native Method)
    at Java.net.URLClassLoader.findClass(URLClassLoader.Java:354)
    at Java.lang.ClassLoader.loadClass(ClassLoader.Java:424)
    at Sun.misc.Launcher$AppClassLoader.loadClass(Launcher.Java:308)
    at Java.lang.ClassLoader.loadClass(ClassLoader.Java:411)
    at Java.lang.ClassLoader.loadClass(ClassLoader.Java:357)
    at Java.lang.Class.forName0(Native Method)
    at Java.lang.Class.forName(Class.Java:270)
    at org.Apache.hadoop.util.RunJar.main(RunJar.Java:205)

誰か助けてくれませんか。私のクラスパス：

hduser@aswin-HP-Pavilion-15-Notebook-PC:/usr/local/hadoop$ hadoop classpath
/usr/local/hadoop/etc/hadoop:/usr/local/hadoop/share/hadoop/common/lib/*:/usr/local/hadoop/share/hadoop/common/*:/usr/local/hadoop/share/hadoop/hdfs:/usr/local/hadoop/share/hadoop/hdfs/lib/*:/usr/local/hadoop/share/hadoop/hdfs/*:/usr/local/hadoop/share/hadoop/yarn/lib/*:/usr/local/hadoop/share/hadoop/yarn/*:/usr/local/hadoop/share/hadoop/mapreduce/lib/*:/usr/local/hadoop/share/hadoop/mapreduce/*:/usr/lib/jvm/Java-7-openjdk-i386/lib/tools.jar:/usr/local/hadoop/contrib/capacity-scheduler/*.jar
javahadoopjarhadoop-streaming
9
Aswin Alagappan

これを試して、

import Java.io.IOException;
import Java.util.Iterator;
import Java.util.StringTokenizer;

import org.Apache.hadoop.fs.Path;
import org.Apache.hadoop.io.IntWritable;
import org.Apache.hadoop.io.LongWritable;
import org.Apache.hadoop.io.Text;
import org.Apache.hadoop.mapred.FileInputFormat;
import org.Apache.hadoop.mapred.FileOutputFormat;
import org.Apache.hadoop.mapred.JobClient;
import org.Apache.hadoop.mapred.JobConf;
import org.Apache.hadoop.mapred.MapReduceBase;
import org.Apache.hadoop.mapred.Mapper;
import org.Apache.hadoop.mapred.OutputCollector;
import org.Apache.hadoop.mapred.Reducer;
import org.Apache.hadoop.mapred.Reporter;
import org.Apache.hadoop.mapred.TextInputFormat;
import org.Apache.hadoop.mapred.TextOutputFormat;

public class WordCount {

    public static class Map extends MapReduceBase implements
            Mapper<LongWritable, Text, Text, IntWritable> {

        @Override
        public void map(LongWritable key, Text value, OutputCollector<Text, IntWritable> output, Reporter reporter)
                throws IOException {

            String line = value.toString();
            StringTokenizer tokenizer = new StringTokenizer(line);

            while (tokenizer.hasMoreTokens()) {
                value.set(tokenizer.nextToken());
                output.collect(value, new IntWritable(1));
            }

        }
    }

    public static class Reduce extends MapReduceBase implements
            Reducer<Text, IntWritable, Text, IntWritable> {

        @Override
        public void reduce(Text key, Iterator<IntWritable> values,
                OutputCollector<Text, IntWritable> output, Reporter reporter)
                throws IOException {
            int sum = 0;
            while (values.hasNext()) {
                sum += values.next().get();
            }

            output.collect(key, new IntWritable(sum));
        }
    }

    public static void main(String[] args) throws Exception {

        JobConf conf = new JobConf(WordCount.class);
        conf.setJobName("wordcount");

        conf.setOutputKeyClass(Text.class);
        conf.setOutputValueClass(IntWritable.class);

        conf.setMapperClass(Map.class);
        conf.setReducerClass(Reduce.class);

        conf.setInputFormat(TextInputFormat.class);
        conf.setOutputFormat(TextOutputFormat.class);

        FileInputFormat.setInputPaths(conf, new Path(args[0]));
        FileOutputFormat.setOutputPath(conf, new Path(args[1]));

        JobClient.runJob(conf);

    }
}

次にコマンドを実行します

bin/hadoop jar WordCount.jar WordCount /hdfs_Input_filename /output_filename

コードが特定のパッケージである場合は、パッケージ名とクラス名を記載する必要があります

bin/hadoop jar WordCount.jar PakageName.WordCount /hdfs_Input_filename /output_filename
6
Kishore

これはおかしなことに聞こえるかもしれません。コードにpackage org.myorg;を追加して、再度コンパイルしました。クラスファイルをorg/myorgフォルダーに配置し、それらを使用してjarファイルを作成しました。次に、jar wc.jar org.myorg.WordCountコマンドを使用して実行しましたが、正常に実行されました。誰かがそれが実際にどのように実行されたかを私に説明できればいいのですが：D。とにかく、みんなを助けてくれてありがとう。

1
Aswin Alagappan

Kishoreの答えは、私が正しい方向に進むことを可能にしました。可能であれば、これを確認したいので、Javaスパース行列のmoltiplicationに関するコード：

1）ソースコード（ https://github.com/marufaytekin/MatrixMultiply/tree/master/src/main/Java/com/lendap/hadoop からダウンロード）、/ home/hduserに保存/ playground/src/matrixMult

2）データセットをダウンロードし（マトリックスMおよびN https://github.com/marufaytekin/MatrixMultiply/tree/master/input ）、次のパスでHDFSに保存します：/ user/hduser/inMatrix

3）Java playground/classes5のクラス：javac -classpath $ HADOOP_HOME/share/hadoop/common/lib/Activation-1.1.jar：$ HADOOP_HOME/shareを作成して、hadoopクラスを使用してコンパイルします/hadoop/common/hadoop-common-2.7.1.jar:/usr/hadoop/hadoop-2.7.1/share/hadoop/mapreduce/* -d playground/classes5 playground/src/matrixMult/*

4）次のコマンドを使用してjarファイルMatrixMultiply.jarを作成します：jar -cvf playground/MatrixMultiply.jar -C playground/classes5 /。

5）hadoop mapReduceコマンド（$ HADOOP_HOMEパスから、私の場合は/usr/hadoop/hadoop-2.7.1$ hadoop jar /home/hduser/playground/MatrixMultiply.jar com.lendap.hadoop.MatrixMultiply/user/hduser/inMatrix/outputMatrix

6）4ノードクラスターでのmapreduceジョブの正しい実行。ここで、最終出力の一部：

0,375,890.0 0,376,1005.0 0,377,1377.0 0,378,604.0 0,379,924.0 0,38,476.0 0,380,621.0 0,381,730.0

990,225,542.0 990,226,639.0 990,227,466.0 990,228,406.0 990,229,343.0 990,23,397.0 990,230,794.0

0
Colonna Maurizio

私はあなたがここで間違いを犯したと思います：

/usr/local/hadoop$ bin/hadoop jar wc.jar WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt

次のように変更してください：

/usr/local/hadoop$ bin/hadoop jar wc.jar org.myorg.WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt

それはうまくいくはずです。

@ Aswin Alagappan：理由は jarファイルにはパスが含まれています。 "jar\org\myorg"パスにあるため、JVMはjarファイルでクラスを見つけることができません。理解する？

0
Norman Bai

クラスでパッケージを使用しています。だからあなたのコマンドは

bin/hadoop jar wc.jar org.myorg.WordCount /home/hduser/gutenberg /home/hduser/gutenberg-output/sample.txt
0
SMA

ネストされたクラス（つまり、TokenizerMapperとIntSumReducer）をjarファイルに明示的に含めてみてください。これが私がそれをした方法です：

jar cvf WordCount.jar WordCount.class WordCount\$TokenizerMapper.class WordCount\$IntSumReducer.class
0
Zahra