今天有朋友在群里找hadoop最新的2.6.0的源代码,其实这个源代码在hadoop的官方网站是有下载的(应该是32位的),还有一个src,不过给的是maven版本,需要自己在机器上编译一下(我的机器用的是64位的,所以要在上面进行开发,就要自己编译成64位的).
如果你需要32位的,请直接去官方下吧:地址http://mirrors.cnnic.cn/apache/hadoop/common/stable2/
我自己编译的64位也在360网盘分享给大家:http://yunpan.cn/cKuY7JX72bCaA 提取码 e4c5
既然帮忙就是要帮到底.我直接告诉大家如何编译,以后大家再发现有新的代码发布,自己就编译获得了,岂不是更爽.
下面就告诉大家我编译源代码的步骤:
我假设大家已经安装好了mvn,并且配置好了mvn的环境变量(我使用的maven版本:3.0.5)
1,在hadoop的官方下载源代码:hadoop-2.6.0-src.tar.gz(注意,hadoop-2.6.0.tar.gz是开发包,不是源代码,看文件大小是有区别的);
2,将hadoop-2.6.0-src.tar.gz(下面简称src) (1)传到linux上面;(2)解压.
上传到linux我使用的软件是:WinSCP;
linux我使用的64位CentOS-6.5-x86_64位;
解压命令: tar -xzvf hadoop-2.6.0-src.tar.gz 解压得到hadoop-2.6.0文件夹
3,在linux下操作如下命令(注意,必须保持linux的网络是畅通的,搞不定虚拟机下linux网络连接的,单独找我,让你快速解决,或者直接去搜博文,不然下面没有办法进行):
yum install glibc-headers
yum install gcc
yum install gcc-c++
yum install make
yum install cmake
yum install openssl-devel
yum install ncurses-devel
时间可能有点久,慢慢等着吧,第一次运行就是这样
4,解压和安装protobuf-2.5.0.tar.gz
首先解压该文件,并进入到该文件下,解压命令:tar -xzvf protobuf-2.5.0
关于为什么要使用这个文件,是因为hadoop2对该文件包有依赖,所以必须先安装上它,否则后面对hadoop的编译有影响.关于protobuf的内容,另说.
解压完成之后,进入到该文件夹下,直接运行以下命令
configur&&make&&make check && make install (这串命令是连接起来在一行里面执行的)
上面的命令运行完毕之后,运行maven命令
5,开始maven指令,开始编译hadoop2
跳转到第2步解压好的hadoop文件夹里面
mvn package -DskipTests -Pdist,native
慢慢等着,这个过程会很久,..................................................................................................................................................................真的会很久
如果你看到命令行停止执行了,并且显示success,恭喜你,请打开文件夹里面的hadoop-dist/target,里面的hadoop-2.6.0就是你编译好的源代码了.
自己亲自动手操作一遍,即使是操作没有成功,但是你会把知识点记忆的特别清楚,以后你在学习相关知识的时候会有所联系,会助你更好的学习知识.
小马哥祝大家学习顺利.