web-dev-qa-db-ja.com

マップのキーのタイプの不一致：予期されたorg.Apache.hadoop.io.Text、受信されたorg.Apache.hadoop.io.LongWritable

Javaでマップ/リデューサーを実行しようとしています。以下は私のファイルです

WordCount.Java

package counter;


public class WordCount extends Configured implements Tool {

public int run(String[] arg0) throws Exception {
    Configuration conf = new Configuration();

    Job job = new Job(conf, "wordcount");

    job.setOutputKeyClass(Text.class);
    job.setOutputValueClass(IntWritable.class);

    job.setMapperClass(WordCountMapper.class);
    job.setReducerClass(WordCountReducer.class);

    job.setInputFormatClass(TextInputFormat.class);
    job.setOutputFormatClass(TextOutputFormat.class);

    FileInputFormat.addInputPath(job, new Path("counterinput"));
    // Erase previous run output (if any)
    FileSystem.get(conf).delete(new Path("counteroutput"), true);
    FileOutputFormat.setOutputPath(job, new Path("counteroutput"));

    job.waitForCompletion(true);
    return 0;
}   

public static void main(String[] args) throws Exception {
    int res = ToolRunner.run(new Configuration(), new WordCount(), args);
    System.exit(res);

    }
}

WordCountMapper.Java

public class WordCountMapper extends
Mapper<LongWritable, Text, Text, IntWritable> {
    private final static IntWritable one = new IntWritable(1);
    private Text Word = new Text();

    public void map(LongWritable key, Text value, OutputCollector<Text,IntWritable> output, Reporter reporter)
    throws IOException, InterruptedException {
        System.out.println("hi");
    String line = value.toString();
    StringTokenizer tokenizer = new StringTokenizer(line);
    while (tokenizer.hasMoreTokens()) {
        Word.set(tokenizer.nextToken());
        output.collect(Word, one);
        }
    }
}

WordCountReducer.Java

public class WordCountReducer extends Reducer<Text, IntWritable, Text, IntWritable> {
    public void reduce(Text key, Iterator<IntWritable> values,
        OutputCollector<Text,IntWritable> output, Reporter reporter) throws IOException, InterruptedException {
        System.out.println("hello");
        int sum = 0;
        while (values.hasNext()) {
            sum += values.next().get();
        }
        output.collect(key, new IntWritable(sum));
    }
}

次のエラーが発生します

13/06/23 23:13:25 INFO jvm.JvmMetrics: Initializing JVM Metrics with  
processName=JobTracker, sessionId=

13/06/23 23:13:25 WARN mapred.JobClient: Use GenericOptionsParser for parsing the 
arguments. Applications should implement Tool for the same.
13/06/23 23:13:26 INFO input.FileInputFormat: Total input paths to process : 1
13/06/23 23:13:26 INFO mapred.JobClient: Running job: job_local_0001
13/06/23 23:13:26 INFO input.FileInputFormat: Total input paths to process : 1
13/06/23 23:13:26 INFO mapred.MapTask: io.sort.mb = 100
13/06/23 23:13:26 INFO mapred.MapTask: data buffer = 79691776/99614720
13/06/23 23:13:26 INFO mapred.MapTask: record buffer = 262144/327680
13/06/23 23:13:26 WARN mapred.LocalJobRunner: job_local_0001
Java.io.IOException: Type mismatch in key from map: expected org.Apache.hadoop.io.Text, 
recieved org.Apache.hadoop.io.LongWritable
at org.Apache.hadoop.mapred.MapTask$MapOutputBuffer.collect(MapTask.Java:845)
at org.Apache.hadoop.mapred.MapTask$NewOutputCollector.write(MapTask.Java:541)
at org.
Apache.hadoop.mapreduce.TaskInputOutputContext.write(TaskInputOutputContext.Java:80)
at org.Apache.hadoop.mapreduce.Mapper.map(Mapper.Java:124)
at org.Apache.hadoop.mapreduce.Mapper.run(Mapper.Java:144)
at org.Apache.hadoop.mapred.MapTask.runNewMapper(MapTask.Java:621)
at org.Apache.hadoop.mapred.MapTask.run(MapTask.Java:305)
at org.Apache.hadoop.mapred.LocalJobRunner$Job.run(LocalJobRunner.Java:177)
13/06/23 23:13:27 INFO mapred.JobClient:  map 0% reduce 0%
13/06/23 23:13:27 INFO mapred.JobClient: Job complete: job_local_0001
13/06/23 23:13:27 INFO mapred.JobClient: Counters: 0

マッパーとリデューサークラスが見つからないと思います。メインクラスでコードを記述しました。デフォルトのマッパーとリデューサークラスを取得しています。

javahadoopmapreduce
21
Neil

コードに次の2行を追加します。

job.setMapOutputKeyClass(Text.class);
job.setMapOutputValueClass(IntWritable.class);

デフォルトではLongWritableキーとText値を発行するTextOutputFormatを使用していますが、Textをキーとして、IntWritableを値として発行しています。これを名声に伝える必要があります。

HTH

41
Tariq

これはあなたの問題ではないかもしれませんが、私はこの愚かな問題を一度経験しました。古いライブラリと新しいライブラリを混ぜていないことを確認してください。つまり、mapredとmapreduceです。マップで@Overideに注釈を付け、メソッドを減らします。エラーが発生した場合は、メソッドを適切にオーバーライドしていません。

6
Jerry Ragland

コードに不適切なマッパークラスが設定されているため、同様の例外スタックトレースを取得しました（typo :)）

job.setMapperClass(Mapper.class)  // Set to org.Apache.hadoop.mapreduce.Mapper due to type

誤ってmapreduceパッケージのMapperクラスを使用していたので、それをカスタムマッパークラスに変更しました。

job.setMapperClass(LogProcMapperClass.class) // LogProcMapperClass is my custom mapper.

例外はマッパークラスを修正した後で解決されました。

5
Suresh Vadali

コードからこれを削除すると問題が解決しました

super.map(key, value, context);
0
ketankk