您现在的位置是:主页 > 数据库技术 > 数据库技术

怎么在windows下开发mapreduce

IDCBT2021-12-23服务器技术人已围观

简介这篇文章主要介绍“怎么在windows下开发mapreduce”,在日常操作中,相信很多人在怎么在windows下开发mapreduce问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大

这篇文章主要介绍“怎么在windows下开发mapreduce”,在日常操作中,相信很多人在怎么在windows下开发mapreduce问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”怎么在windows下开发mapreduce”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

    1、首先在map/reduce locations 中右键new一个hadoop location,如下图是创建好了的,如果是第一次,不会有myhadoop。

    2、配置

    
    这里面的location name 是随便起的名字,host 是hadoop配置文件core-site.xml中的fs.defaultFS的url的主机ip,右边的port,是fs.defaultFS的url的端口号,user name 是linux系统使用hadoop的用户名

    3、如果成功,则可以展开左边的目录,能够看到hdfs上的文件,如果看不到目录,第一时间看看你的hadoop集群启动了么,别犯这种低级的错误哦
    
 

    4、试一试能不能删除里面文件,如果不能,可能会涉及到权限的问题,修改集群配置文件hdfs-site.xml

<property>
 <name>dfs.permissions</name>
 <value>false</value>
</property>



    5、新建一个mapreduce工程,会自动把需要的jar包都引进来,然后写个wordcount小程序吧,这里就不写了,右键这个类,选择run as configration 
    

    配置好mainclass 点选项卡Arguments 
    
 

    填写好运行的参数,第一个为输入目录,第二个为输出目录,配置好后run as hadoop 就可以在左侧目录树下看到ouput文件夹

到此,关于“怎么在windows下开发mapreduce”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注网站,小编会继续努力为大家带来更多实用的文章!

标签:

很赞哦! ()

本栏推荐