PHP调用SHELL下传本地文件到Hadoop的hdfs中
日期：2014-05-17 浏览次数：20621 次
PHP调用SHELL上传本地文件到Hadoop的hdfs中
本来是用Thrift进行上传，但其上传效率之低，另人发指，只好选用其它方法。
?
环境：
php 运行环境为nginx + php-fpm
?
因为hadoop开启了权限控制，所以直接使用php调用shel进行上传时，没有权限。通过php执行命令看来，php运行的帐户和级均为nobody。因此，解决方法有两个：一，在hadoop的shell中创建目录，并把目录的所有者赋给nobody组的nobody用户。二，原来的目录权限放开，使用777。下面详讲操作步骤：
?
方法一：./hadoop fs -chown -R nobody:nobody /resources
注：/resources是用户目录，需要根据情况改变
?
方法二：./hadoop fs -chomod -R 777 /resources
注：/resources是用户目录，需要根据情况改变
?
php调用shell的方式：
public function uploadByShell($local, $hdfs) {
$shell = "sh /usr/local/hadoop/hadoop-0.20.2/bin/hadoop fs -copyFromLocal " . $local ." " . $hdfs;
$shell .= "; sh /usr/local/hadoop/hadoop-0.20.2/bin/hadoop fs -chmod 777 " . $hdfs;
$res = null;
system($shell, $res);
$flag = false;
if ($res == "0") {
$flag = true;
}
return $flag;
}
?
?
?
?
?
免责声明： 本文仅代表作者个人观点，与爱易网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。
