熟悉常用的 Linux *** 作和 Hadoop *** 作

1.切换到当前目录的上一级目录 cd .. 2.切换到当前登录 Linux 系统的用户自己的主文件夹 cd ~ 3.进入/tmp 目录，创建目录 a1/a2/a3/a4。 mkdir a1/a2/a3/a4 -p 4.删除目录 rmdir a rmdir a1/a2/a3/a4 -p 5.cp 命令：复制文件或目录 (1) 将当前用户的主文件夹下的文件.bashrc 复制到目录“/usr”下，并重命名为 bashrc1 sudo cp .bashrc /usr/bashrc1 (2) 在目录“/tmp”下新建目录 test，再把这个目录复制到“/usr”目录下 cd /tmp mkdir test sudo cp /tmp/test /usr -r 6.mv 命令：移动文件与目录，或更名 (1) 将“/usr”目录下的文件 bashrc1 移动到“/usr/test”目录下 sudo mv /usr/bashrc1 /usr/test (2) 将“/usr”目录下的 test 目录重命名为 test2 sudo mv /usr/test /usr/test2 7.rm 命令：移除文件或目录 (1) 将“/usr/test2”目录下的 bashrc1 文件删除 sudo rm /usr/test2/bashrc1 (2) 将“/usr”目录下的 test2 目录删除 sudo rm -rf /usr/test2 8.cat 命令：查看文件内容查看当前用户主文件夹下的.bashrc 文件内容 cat .bashrc 9.tac 命令：反向查看文件内容反向查看当前用户主文件夹下的.bashrc 文件的内容 tac .bashrc 10.more 命令：一页一页翻动查看翻页查看当前用户主文件夹下的.bashrc 文件的内容 more .bashrc 11.head 命令：取出前面几行 (1) 查看当前用户主文件夹下.bashrc 文件内容前 20 行 head -n20 .bashrc (2)查看当前用户主文件夹下.bashrc 文件内容，后面 50 行不显示，只显示前面几行 head -n -50 .bashrc 12.tail 命令：取出后面几行 (1)查看当前用户主文件夹下.bashrc 文件内容最后 20 行 tail -n20 .bashrc (2)查看当前用户主文件夹下.bashrc 文件内容，并且只列出 50 行以后的数据 tail -n -50 .bashrc 13.touch 命令：修改文件时间或创建新文件 (1) 在“/tmp”目录下创建一个空文件 hello，并查看文件时间 touch hello stat hello (2)修改 hello 文件，将文件时间整为 5 天前 touch -d "2019-3-26" hello stat hello 14.chown 命令：修改文件所有者权限将 hello 文件所有者改为 root 帐号，并查看属性 sudo chown root hello ls -l hello 15.find 命令：文件查找找出主文件夹下文件名为.bashrc 的文件 find .bashrc 16.tar 命令：压缩命令 (1) 在根目录“/”下新建文件夹 test，然后在根目录“/”下打包成 test.tar.gz tar -zcvf test.tar.gz test/ (2) 把上面的 test.tar.gz 压缩包，解压缩到“/tmp”目录 tar -zxvf test.tar.gz 17.grep 命令：查找字符串从“～/.bashrc”文件中查找字符串'examples' grep -rn "examples" .bashrc 18.使用 hadoop 用户登录 Linux 系统，启动 Hadoop（Hadoop 的安装目录为“/usr/local/hadoop”），为 hadoop 用户在 HDFS 中创建用户目录“/user/hadoop” ./bin/hadoop fs -mkdir -p /usr/hadoop 19.接着在 HDFS 的目录“/user/hadoop”下，创建 test 文件夹，并查看文件列表 ./bin/hdfs dfs -mkdir test ./bin/hadoop fs -ls 20.将 Linux 系统本地的“～/.bashrc”文件上传到 HDFS 的 test 文件夹中，并查看 test ./bin/hadoop fs -put ~/.bashrc test ./bin/hadoop fs -ls test 21.将 HDFS 文件夹 test 复制到 Linux 系统本地文件系统的“/usr/local/hadoop”目录下 参考： 1

主节点：master

子节点：slave0

子节点：slave1

注意：只需要在master主节点启动Hadoop服务进程，slave0/slave1不做。

master(主节点)进入sbin目录

首先，使用cd命令进入Hadoop文件中的sbin目录下（以自身安装位置）。

cd /opt/hadoop/hadoop/sbin

1

1

然后ls命令显示sbin目录下的文件

在这里插入图片描述

其中，start-all.sh就是Hadoop服务进程。

启动服务进程

start-all.sh

1

1

每个人hadoop配置不同，启动时可能提示三种情况：

（1）输入yes

（2）输入password

（3）回车

按照提示帮助Hadoop启动即可。

验证Hadoop是否启动成功

在master主节点键入命令：jps，会显示SecondaryNameNode、 ResourceManager、 Jps 和NameNode四个进程。

在这里插入图片描述

在slave0/slave1子节点键入命令：jps，会显示NodeManager、Jps 和 DataNode三个进程。

在这里插入图片描述

如果你输入了jps命令却显示 " bash: … "，则需要在此节点安装Java JDK，详细配置步骤：【linux配置Java JDK】中查看。

关闭服务进程

stop-all.sh

1

1

文章知识点与官方知识档案匹配

云原生入门技能树服务网格(istio)ServiceMesh介绍

7907 人正在系统学习中

打开CSDN，阅读体验更佳

Hadoop集群搭建(七):hadoop启动服务,开启各节点进程_我是王小贱的博客...

七:hadoop启动服务,开启各节点进程 创建tmp目录:(只需要在一台虚拟机上执行即可,我们三台虚拟机已经是一个集群,任意一台虚拟机执行即可)(切换hdfs账号创建临时文件夹) 在集群中创建tmp文件夹,并赋权限为1777 命令:[root@hadoop1~]# ...

Hadoop各进程启动命令(三种启动方式)_盖世英雄来了的博客_在...

1.直接启动或者关闭所有的进程(不推荐,由于分布式下,namenode和datanode分布在不同机器上,启动的进程不相同) 在启动hadoop进程的时候我们通常都是直接使用(默认hadoop根目录下) sbin/start-all.sh sbin/stop-all.sh 但是有时候直接启动...

最新发布 2.Linux下配置Hadoop集群之主节点（master）网络配置

（1）点击虚拟机左上角编辑选中虚拟网络编辑器 （2）网络参数配置

继续访问

hadoop集群启动及各服务启动命令

1)Hadoop的启动(先启动zookeeper) 3台都得启动 zookeeper /export/servers/zookeeper-3.4.9/bin/zkServer.sh start /export/servers/zookeeper-3.4.9/bin/zkServer.sh status 查看状态 /export/servers/zookeeper-3.4.9/bin/zkServer.sh stop 关闭 在node01执行启动hadoop *** 作: cd /export/servers/ha

继续访问

Hadoop节点的启动与作用_qq_49347275的博客_hadoop启动...

$ hadoop-deamon.sh start secondarynamenode 脚本一键启动 主节点启动HDFS $ start-dfs.sh 主节点启动YARN $ start-yarn.sh 各节点的作用 NameNode 管理文件系统的命名空间,他维护着文件系统树及整棵树上所有的文件和目录,这些信息以...

...的启动步骤(启动流程)_道法—自然的博客_启动hadoop...

(1)启动zookeeper 启动(每个节点都要执行)zkServer.sh start 验证 是否启动成功(每个节点都要执行)zkServer.sh status (2)启动journalnode服务(单个启动、多个进程启动) ./sbin/hadoop-daemon.sh start journalnode ...

Hadoop启动过程

1、hadoop四大模块： （1）hadoop common：通用模块，是hadoop其他模块的基础，对应core-site.xml文件 fs.defaultFS------hdfs://s101 ====== 指定hadoop的文件系统，hdfs文件系统 hadoop.tmp.dir------/home/centos/hadoop ====== hadoop工作目录位置 （2）hdfs...

继续访问

Hadoop最早是为了在Linux平台上使用而开发的，但是Hadoop在UNIX、Windows和Mac OS X系统上也运行良好。不过，在Windows上运行Hadoop稍显复杂，首先必须安装Cygwin以模拟Linux环境，然后才能安装Hadoop。Hadoop的安装非常简单，大家可以在官网上下载到最近的几个版本，在Unix上安装Hadoop的过程与在Linux上安装基本相同，因此下面不会对其进行详细介绍。

在Linux上安装与配置Hadoop

在Linux上安装Hadoop之前，需要先安装两个程序：

1. JDK 1.6或更高版本

2. SSH(安全外壳协议)，推荐安装OpenSSH。

下面简述一下安装这两个程序的原因：

1. Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。

2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本(因为Hadoop并没有区分集群式和伪分布式)。对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost(即为自身)，所以对于伪分布式Hadoop，SSH一样是必须的。

一、安装JDK 1.6

安装JDK的过程很简单，下面以Ubuntu为例。

(1)下载和安装JDK

确保可以连接到互联网，输入命令：

sudo apt-get install sun-java6-jdk

输入密码，确认，然后就可以安装JDK了。

这里先解释一下sudo与apt这两个命令，sudo这个命令允许普通用户执行某些或全部需要root权限命令，它提供了详尽的日志，可以记录下每个用户使用这个命令做了些什么 *** 作同时sudo也提供了灵活的管理方式，可以限制用户使用命令。sudo的配置文件为/etc/sudoers。

apt的全称为the Advanced Packaging Tool，是Debian计划的一部分，是Ubuntu的软件包管理软件，通过apt安装软件无须考虑软件的依赖关系，可以直接安装所需要的软件，apt会自动下载有依赖关系的包，并按顺序安装，在Ubuntu中安装有apt的一个图形化界面程序synaptic(中文译名为“新立得”)，大家如果有兴趣也可以使用这个程序来安装所需要的软件。(如果大家想了解更多，可以查看一下关于Debian计划的资料。)

(2)配置环境变量

输入命令：

sudo gedit /etc/profile

输入密码，打开profile文件。

在文件的最下面输入如下内容：

#set Java Environment

export JAVA_HOME= （你的JDK安装位置，一般为/usr/lib/jvm/java-6-sun）

export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"

export PATH="$JAVA_HOME/:$PATH"

这一步的意义是配置环境变量，使你的系统可以找到JDK。

(3)验证JDK是否安装成功

输入命令：

java -version

查看信息：

java version "1.6.0_14"

Java(TM) SE Runtime Environment (build 1.6.0_14-b08)

Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode)

二、配置SSH免密码登录

同样以Ubuntu为例，假设用户名为u。

1)确认已经连接上互联网，输入命令

sudo apt-get install ssh

2)配置为可以无密码登录本机。

首先查看在u用户下是否存在.ssh文件夹(注意ssh前面有“.”，这是一个隐藏文件夹)，输入命令：

ls -a /home/u

一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。

接下来，输入命令：

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa

解释一下，ssh-keygen代表生成密钥-t(注意区分大小写)表示指定生成的密钥类型dsa是dsa密钥认证的意思，即密钥类型-P用于提供密语-f指定生成的密钥文件。(关于密钥密语的相关知识这里就不详细介绍了，里面会涉及SSH的一些知识，如果读者有兴趣，可以自行查阅资料。)

在Ubuntu中，~代表当前用户文件夹，这里即/home/u。

这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是SSH的一对私钥和公钥，类似于钥匙及锁，把id_dsa.pub(公钥)追加到授权的key里面去。

输入命令：

cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys

这段话的意思是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。

至此无密码登录本机已设置完毕。

3)验证SSH是否已安装成功，以及是否可以无密码登录本机。

输入命令：

ssh -version

显示结果：

OpenSSH_5.1p1 Debian-6ubuntu2, OpenSSL 0.9.8g 19 Oct 2007

Bad escape character 'rsion'.

显示SSH已经安装成功了。

输入命令：

ssh localhost

会有如下显示：

The authenticity of host 'localhost (::1)' can't be established.

RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77.

Are you sure you want to continue connecting (yes/no)? yes

Warning: Permanently added 'localhost' (RSA) to the list of known hosts.

Linux master 2.6.31-14-generic #48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686

To access official Ubuntu documentation, please visit:

http://help.ubuntu.com/

Last login: Mon Oct 18 17:12:40 2010 from master

admin@Hadoop:~$

这说明已经安装成功，第一次登录时会询问你是否继续链接，输入yes即可进入。

实际上，在Hadoop的安装过程中，是否无密码登录是无关紧要的，但是如果不配置无密码登录，每次启动Hadoop，都需要输入密码以登录到每台机器的DataNode上，考虑到一般的Hadoop集群动辄数百台或上千台机器，因此一般来说都会配置SSH的无密码登录。

三、安装并运行Hadoop

介绍Hadoop的安装之前，先介绍一下Hadoop对各个节点的角色定义。

Hadoop分别从三个角度将主机划分为两种角色。第一，划分为master和slave，即主人与奴隶第二，从HDFS的角度，将主机划分为NameNode和DataNode(在分布式文件系统中，目录的管理很重要，管理目录的就相当于主人，而NameNode就是目录管理者)第三，从MapReduce的角度，将主机划分为JobTracker和TaskTracker(一个job经常被划分为多个task，从这个角度不难理解它们之间的关系)。

Hadoop有官方发行版与cloudera版，其中cloudera版是Hadoop的商用版本，这里先介绍Hadoop官方发行版的安装方法。

Hadoop有三种运行方式：单节点方式、单机伪分布方式与集群方式。乍看之下，前两种方式并不能体现云计算的优势，在实际应用中并没有什么意义，但是在程序的测试与调试过程中，它们还是很有意义的。

你可以通过以下地址获得Hadoop的官方发行版，下载Hadoop-0.20.2.tar.gz并将其解压，这里会解压到用户目录下，一般为：/home/[你的用户名]/。

单节点方式配置：

安装单节点的Hadoop无须配置，在这种方式下，Hadoop被认为是一个单独的Java进程，这种方式经常用来调试。

伪分布式配置：

你可以把伪分布式的Hadoop看做是只有一个节点的集群，在这个集群中，这个节点既是master，也是slave既是NameNode也是DataNode既是JobTracker，也是TaskTracker。

伪分布式的配置过程也很简单，只需要修改几个文件，如下所示。

进入conf文件夹，修改配置文件：

Hadoop-env.sh:

export JAVA_HOME=“你的JDK安装地址”

指定JDK的安装位置：

conf/core-site.xml:

<configuration>

<property>

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>

</configuration>

这是Hadoop核心的配置文件，这里配置的是HDFS的地址和端口号。

conf/hdfs-site.xml:

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

</configuration>

这是Hadoop中HDFS的配置，配置的备份方式默认为3，在单机版的Hadoop中，需要将其改为1。

conf/mapred-site.xml:

<configuration>

<property>

<name>mapred.job.tracker</name>

<value>localhost:9001</value>

</property>

</configuration>

这是Hadoop中MapReduce的配置文件，配置的是JobTracker的地址和端口。

需要注意的是，如果安装的是0.20之前的版本，那么只有一个配置文件，即为Hadoop-site.xml。

接下来，在启动Hadoop前，需格式化Hadoop的文件系统HDFS(这点与Windows是一样的，重新分区后的卷总是需要格式化的)。进入Hadoop文件夹，输入下面的命令：

bin/Hadoop NameNode -format

格式化文件系统，接下来启动Hadoop。

输入命令：

bin/start-all.sh（全部启动）

最后，验证Hadoop是否安装成功。

打开浏览器，分别输入网址：

http://localhost:50030 (MapReduce的Web页面)

http://localhost:50070 (HDFS的Web页面)

如果都能查看，说明Hadoop已经安装成功。

对于Hadoop来说，安装MapReduce及HDFS都是必须的，但是如果有必要，你依然可以只启动HDFS(start-dfs.sh)或MapReduce(start-mapred.sh)。

---