IntelliJ IDEA 运行 Hadoop 程序

本贴最后更新于 2712 天前,其中的信息可能已经时过境迁

安装 JDK 和 IntelliJ IDEA

下载 Hadoop

下载地址:http://mirror.metrocast.net/apache/hadoop/common/

wget http://mirror.metrocast.net/apache/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz

tar -xvf hadoop-2.7.3.tar.gz

编写 Hadoop 程序并运行

创建 Java 项目

  1. 点击 File → New → Project...
    EE75BF23-F368-4955-8997-D14F0A3A47B3.png
  2. 点击 next
  3. 点击 next
  4. 设置 Project name 和 Project location
    790D1858-011A-42B5-B4D5-9693C49ACA70.png
  5. 点击 Finish

编写程序代码

代码:单词计数

引入 Hadoop 相关的 jar

  1. 点击 File → Project Structure...
  2. 点击左侧 Modules
  3. 点击 + → 1 JARs or directories...


    506ED49C-9B5B-4F2E-8D6E-3B636332249D.png

  4. 添加 Hadoop → share → hadoop 下相应的目录
    DCACEF27-244F-4CD4-B964-2BB340AF22D4.png
  5. 点击 OK

添加 Artifacts

  1. 点击 File → Project Structure...
  2. 点击左侧 Artifacts
  3. 点击 + → JAR → Empty
    7E35FE59-345B-4149-BE0C-FF710CB44F5F.png
  4. 修改 Name 为 HadoopDemo
  5. 点击 + → Module Output 并选中 HadoopDemo 点击 OK
    D9CED12B-769B-4E33-AE56-F3E5B3BDC266.png
  6. 勾选 Build on make
    338D3082-44B9-4203-A9BC-1ADEAD0D9F2A.png
  7. 点击 OK

添加 Configurations

  1. 点击 Edit Configurations...
    DB3EB353-610A-44D7-ADC1-D4B5242F485B.png
  2. 点击 + → Application


    F280E9EE-AE64-4ED9-BEB7-8E7D857B477C.png

  3. 修改 Name 为 HadoopDemo
  4. 修改 Main Class 为 org.apache.hadoop.util.RunJar
  5. 修改 Program arguments
/Users/mubai/iKYXXS/HadoopDemo/out/artifacts/HadoopDemo/HadoopDemo.jar
com.demo.WordCount
input/
output/

FF2578CC-18EA-4C73-A0F7-4384896B8F59.png
6. 点击 OK

添加测试数据

  1. 新建目录 input
  2. 新建文件 input.txt
hello world
hello world
hello hadoop

B8D8B223-6874-4180-AEE3-9EFDD63B5D1D.png

运行

EFCD82DD-CA3D-4C3C-969D-B1D15D0EE746.png

查看运行结果

运行结果在 output 目录下
01DCA479-9F81-467F-A754-54A0A1C47274.png

  • Hadoop

    Hadoop 是由 Apache 基金会所开发的一个分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。

    82 引用 • 122 回帖 • 617 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...
  • someone

    你没写Hadoop是什么,有什么好处,上来就搭建,好直接,我欣赏你,不过我没看懂。么么哒,我爱你!