如何配置Hadoop环境
NameNode的地址 通过fs.default.name属性配置NameNode的地址,Hadoop会根据该地址找到NameNode。
解压hadoop-tar.gz到本地磁盘,如下图:2 配置环境变量 3 由于Hadoop是在32位系统上编译的,并且对windows支持不好,所以需要把64的编译本地库文件(下图的两个文件),放入bin目录中。
可通过该方式将NameNode快速切换到另外一个节点上。ZooKeeper在大数据体系中非常重要,协调不同组件的工作,维护并传递数据,例如上述高可用下自动故障转移就依赖于ZooKeeper组件。
设置环境变量 sudo vim .bashrc 在最下面添加:export JAVA_HOME = usrlibjavajdk0_21 export PATH = $JAVA_HOMEbin:$PATH 修改完后,用source .bashrc让配置文件生效。
)下载并解压hadoop-0.200.修给解压文件夹名字为hadoop-0.2032)按上述所示将hadoop-0.203bin路径加到PATH环境变量中sudogeditetcprofile3)修改配置文件,配置文件都在hadoop-0.203conf目录下。
设置Hadoop 可以通过附加下面的命令到 .bashrc 文件中设置 Hadoop 环境变量。export HADOOP_HOME=usrlocalhadoop 在进一步讨论之前,需要确保Hadoop工作正常。
是否可以在Windows上运行Hadoop
【答案】: 可以,但是最好不要这么做,RedHatLinux或者是Ubuntu才是Hadoop的最佳操作系统。
好像不行,这个是针对Linux系统做的架构。想在Windows上运行,需在Windows上装Linux虚拟机,部署Hadoop。
下载安装JDK,以及Eclipse 具体看此链接:http:blog.csdn.netweixuehaoarticledetails17715793 新建JAVA Project 去cloudera网站下载hadoop的CDH3u6版本。
就会发现已经在jdk的安装目录下了。然后在hadoop-env.sh中export JAVA_HOME=usrlocaljdk0_22,这样就OK了。
执行命令:ssh localhost测试是否无需输入密码即可登入。
Windows下运行Hadoop,通常有两种方式:一种是用VM方式安活动:慈云数据爆款香港服务器,CTG+CN2高速带宽、快速稳定、平均延迟10+ms 速度快,免备案,每月仅需19元!! 点击查看装一个Linux操作系统,这样基本可以实现全Linux环境的Hadoop运行;另一种是通过Cygwin模拟Linux环境。后者的好处是使用比较方便,安装过程也简单。
hadoop及其组件安装
NameNode 和 SecondaryNameNode 不要安装在同一台服务器 ResourceManager 也很消耗内存,不要和 NameNode、SecondaryNameNode 配置在 同一台机器上。
插件安装 在$HADOOP_HOMEcontribeclipse-plugin文件夹中有个hadoop-eclipse-plugin-0.200.jar,把这个文件复制到eclipseplugins(这是eclipse的插件目录)下面即可。注意在直接复制时会出错,主要是缺少jar包。
JDK 6或更高版本; SSH(安全外壳协议),推荐安装OpenSSH。下面简述一下安装这两个程序的原因: Hadoop是用Java开发的,Hadoop的编译及MapReduce的运行都需要使用JDK。
完成Hadoop的安装以后,再安装Spark(Local模式)。使用hadoop用户名登录进入Linux系统,启动Hadoop,参照相关Hadoop书籍或网络资料,或者也可以参考本教程官网的“实验指南”栏目的“HDFS操作常用Shell命令”。
labs.xiaonei.apache-mirrorhadoopcorehadoop-0.1hadoop-0.tar.gz :labs.xiaonei.apache-mirrorhadoop 硬体环境 共有3台机器,均使用的CentOS,Java使用的是jdk0。
windows不能执行hadoop吗为什么非要用linux执行hadoop
1、linux为什么不能执行windows程式 首先系统是不一样的。windows系统是避源的,linux 系统是开源的,Linux系统一般是命令列的,而windows 系统是偏向于图形化的。就像苹果手机是不能允许安卓手机的软体的。
2、可以这么说,因为不管是在linux系统,还是在windows系统上, 搭建集群环境,都需要提供linxu系统,linux系统本省不必说了。windows下运行hadoop的话,无非两种方法,一是搭建虚拟机,然后安装linxu系统。
3、支持windows平台,但是没有在windows平台上面进行过严格测试,最好只作为开发平台。可以使用cygwin+ssh+windows+hadoop来搭建开发环境,具体请参考其他资料,百度谷歌之。
求助,在windows下安装hadoop遇到的一个问题
在win7下安装hadoop和其他windows平台有很多不同,通用的步骤就不重复了,把遇到的问题总结一下给大家参考,以免走弯路。
这一篇主要是Cygwin的安装,Cygwin是Windows平台下模拟Unix环境的工具,需要在安装Cygwin的基础上安装Hadoop。根据操作系统的需要下载32位或64的安装文件。下载请输入图片中的地址。以64位为例。下载成功后:双击运行。
Java SDK路径配置的问题——hadoop-env.sh配置 在Hadoop的配置文件,hadoop-env.sh中,需要添加Java SDK的路径。要知道,Cygwin中并没有安装Java,那么只能使用Windows下安装的JDK。
不建议先在windowcygwin上测试,直接用这个环境有很多问题,都是不好理解的。
识别不了你hadoop-env.sh里的java_home路径,你可以找个目录设置一个软链接,可以这样做 ln -s C:\Program Files\Java\jdk0_07 usrlocal。
原因:window本地无法获取hadoop的配置,报错是缺少winutils.exe程序。Hadoop都是运行在Linux系统下的,在windows下eclipse、Idea中运行mapreduce程序和操作hdfs的API等,要首先安装Windows下运行的支持插件。
还没有评论,来说两句吧...