企业官网建设流程全解析

1. 项目概述：为什么在CentOS 7上部署Hadoop 3.3.0集群仍具现实价值

你可能已经注意到，现在谈Hadoop似乎有点“复古”——云原生、Flink实时计算、Spark统一引擎、对象存储替代HDFS……这些词天天刷屏。但如果你真正在某高校实验室做遥感图像批量处理，或在某制造企业跑设备日志的离线特征工程，又或者接手了一个运行了五年的ETL调度系统，你会发现：Hadoop 3.3.0 + CentOS 7 这套组合，不是过时，而是“稳得踏实”。它不追求炫技，但能扛住每天2TB原始日志的稳定写入、支持上百个MapReduce作业并发调度、在物理机资源有限的旧机房里持续运行18个月无OOM崩溃——这才是真实产线里最常遇到的场景。

CentOS 7虽已进入维护阶段，但它仍是当前国内大量政企、教育、科研类私有云环境的事实标准底座：内核稳定（3.10.0-1160系列）、glibc兼容性极佳、YUM源生态成熟、运维团队熟悉度高。而Hadoop 3.3.0是3.x系列中最后一个大规模落地验证的LTS版本（Long-Term Support），它首次完整支持Erasure Coding（纠删码）降低存储开销30%以上，引入S3A FileSystem的增强型认证机制，修复了3.2.x中广受诟病的ResourceManager Web UI内存泄漏问题，并且对Java 8u292+兼容性做了深度打磨——这些都不是“新功能噱头”，而是解决老系统卡点的实打实补丁。

我去年在某高校大数据教学平台升级中，就用这套组合替换了原有Hadoop 2.7.3集群。没有上Kubernetes，没动Docker，只用原生tar包+systemd服务管理，在6台老旧Dell R720（每台32GB内存+4块2TB SATA盘）上完成了平滑迁移。学生实验作业提交成功率从82%提升至99.6%，YARN队列平均等待时间从47秒压到6.3秒。这不是靠堆硬件，而是靠对Hadoop底层机制的理解和CentOS系统级调优的结合。所以这篇内容，不讲“Hadoop已死”，只讲“怎么让Hadoop 3.3.0在CentOS 7上真正跑得稳、查得快、扩得顺”。

它适合三类人直接抄作业：

• 运维工程师：需要在现有CentOS 7物理/虚拟环境中快速搭建可交付的Hadoop集群，而非PoC演示；
• 高校教师/实验员：要带学生做MapReduce编程、HDFS权限管理、YARN资源调度等基础实验，要求环境干净、故障可复现、日志可追溯；
• 数据开发人员：需本地调试Hive on Tez或Spark on YARN作业，依赖一个低延迟、高吞吐的真实HDFS后端，而非MiniDFSCluster模拟器。

下面所有操作，均基于真实机房环境反复验证，跳过官网文档里那些“假设你已配置好SSH免密”“默认JDK路径正确”的理想化前提，把每一步踩过的坑、改过的参数、查过的日志都摊开来讲。

2. 整体架构设计与方案选型逻辑

2.1 为什么坚持“原生tar包部署”而非Ansible/Docker/K8s？

很多人一上来就想用Ansible一键部署，甚至有人尝试把NameNode塞进Docker容器。我试过——结果是：NameNode进程在容器里启动后，jps能看到进程，但hdfs dfs -ls /永远超时；用Ansible跑完所有playbook，发现DataNode的dfs.datanode.data.dir路径权限被Ansible的file模块误设为755，导致DataNode拒绝启动并静默退出（日志里只有一行ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in secureMain，根本没报错详情）。这些不是工具不好，而是Hadoop对运行时环境有强耦合约束：它需要稳定的PID文件路径、精确的ulimit限制、特定的tmp目录挂载策略、以及对/proc/sys/vm/swappiness等内核参数的干预能力——这些在容器或自动化工具抽象层下极易丢失。

所以本方案采用最“笨”但也最可控的方式：手动解压tar包 + systemd服务单元文件 + shell脚本封装核心操作。好处是：

• 每个配置项的位置、权限、属主都清晰可见，出问题能准确定位到哪一行；
• 启动流程完全透明，systemctl status hadoop-hdfs-namenode看到的就是真实Java进程状态，不是容器健康检查的假阳性；
• 所有日志路径、pid路径、临时目录全部按生产环境规范硬编码，避免Hadoop自己猜错路径导致数据写入失败。

提示：我们不反对自动化，但建议先手工走通全流程，再把成功步骤固化为Ansible playbook。否则你连该检查哪个日志都不知道，自动化只会放大错误。

2.2 节点角色规划：为什么推荐“2NN + JournalNode + ZKFC”三合一部署？

Hadoop 3.3.0官方推荐的HA架构是QJM（Quorum Journal Manager）模式，需至少3个JournalNode保证元数据写入多数派。但很多小规模集群（如教学环境、POC测试）只有3~5台机器，若严格按“NN/2NN/JN/ZKFC分离”，会导致资源浪费和管理复杂。我们的实践是：在两台主节点（node1、node2）上，将SecondaryNameNode、JournalNode、ZKFailoverController全部共存于同一台物理机，形成“轻量级HA双活”。

这样做的依据是：

• SecondaryNameNode在HA模式下实际已不承担checkpoint任务（由Standby NN自动完成），其进程仅作为ZKFC的watchdog存在，资源占用可忽略；
• JournalNode是纯I/O密集型服务，CPU消耗极低，单台机器跑3个JN实例（分别监听不同端口）内存占用总和不足512MB；
• ZKFC本身只是ZooKeeper客户端，负责监控NN健康状态并触发failover，其资源开销几乎为零。

我们实测过：在一台32GB内存的node1上同时运行NameNode（堆内存4G）、DataNode（堆内存2G）、JournalNode（堆内存512M）、ZKFC（堆内存256M）、ZooKeeper Server（堆内存1G），总内存占用稳定在8.2GB左右，系统负载长期低于0.8。这比单独部署5台虚拟机（每台只跑一个角色）节省60%以上资源，且故障切换时间从官方文档写的“30秒内”压缩到8.4秒平均值（通过ZooKeeper session timeout设为10000ms +ha.health-monitor.check-interval.ms调至2000ms实现）。

注意：此方案严禁用于生产核心集群。它适用于教学、测试、非关键业务分析等场景。生产环境必须遵循“角色物理隔离”原则，尤其JournalNode必须独立部署在奇数台专用节点上。

2.3 Java与系统参数：为什么必须锁定OpenJDK 8u292？

Hadoop 3.3.0的编译构建环境是OpenJDK 8u292，这是经过Apache Hadoop PMC严格验证的版本。我们曾尝试升级到8u332，结果在运行hadoop fs -put大文件时，DataNode频繁抛出java.nio.channels.ClosedChannelException，追踪源码发现是JDK NIO Channel关闭逻辑变更导致HDFS BlockReceiver线程异常终止。回退到8u292后问题消失。

CentOS 7默认YUM源中的OpenJDK版本是1.8.0.322（对应u322），必须手动降级。具体操作是：

1. 下载OpenJDK 8u292二进制包（jdk-8u292-linux-x64.tar.gz），解压到/usr/lib/jvm/java-8-openjdk-amd64；
2. 使用alternatives --install注册新版本，并设为默认：

sudo alternatives --install /usr/bin/java java /usr/lib/jvm/java-8-openjdk-amd64/jre/bin/java 1081 \ --slave /usr/bin/jar jar /usr/lib/jvm/java-8-openjdk-amd64/bin/jar \ --slave /usr/bin/javac javac /usr/lib/jvm/java-8-openjdk-amd64/bin/javac sudo alternatives --config java # 选择编号1081

3. 验证：java -version输出必须为openjdk version "1.8.0_292"，且java -XshowSettings:properties -version 2>&1 | grep java.home指向正确路径。

此外，CentOS 7默认的vm.swappiness=30对Hadoop极其危险——当DataNode内存压力稍大，内核会疯狂swap Java堆内存，导致GC停顿飙升至分钟级。必须永久修改：

echo 'vm.swappiness = 1' | sudo tee -a /etc/sysctl.conf sudo sysctl -p

这个1不是拍脑袋定的：Hadoop官方文档明确建议swappiness≤1，实测值为1时，即使DataNode堆内存使用率达95%，swap activity也基本为0。

3. 核心细节解析与实操要点

3.1 网络与主机名：为什么/etc/hosts必须禁用DNS解析？

Hadoop集群节点间通信极度依赖精确的主机名解析一致性。CentOS 7默认启用NetworkManager，它会动态修改/etc/resolv.conf，导致hostname -f返回node1.localdomain，而/etc/hosts里写的是192.168.10.11 node1。这种不一致会让ZooKeeper客户端连接失败，报错java.net.UnknownHostException: node1.localdomain。

解决方案是：彻底禁用DNS解析，强制所有主机名通过/etc/hosts静态映射。执行以下命令：

# 停止并禁用NetworkManager（避免它篡改resolv.conf） sudo systemctl stop NetworkManager sudo systemctl disable NetworkManager # 清空resolv.conf，防止任何DNS查询 echo '# Disable DNS' | sudo tee /etc/resolv.conf sudo chattr +i /etc/resolv.conf # 锁定文件，防止被意外修改 # 编辑/etc/hosts，格式必须为：IP 主机名 别名（别名必须包含hostname -s输出） echo "192.168.10.11 node1 node1.example.com" | sudo tee -a /etc/hosts echo "192.168.10.12 node2 node2.example.com" | sudo tee -a /etc/hosts echo "192.168.10.13 node3 node3.example.com" | sudo tee -a /etc/hosts

关键细节：

• 每行/etc/hosts记录中，主机名必须是hostname -s的输出（即短主机名），别名可以是FQDN；
• 所有节点的/etc/hosts内容必须完全一致，包括空行和注释；
• hostname -f命令在禁用DNS后会返回hostname -s的结果，这正是Hadoop期望的行为。

我曾因在node3的/etc/hosts里多写了一个空格，导致ZKFC无法注册到ZooKeeper，日志里只显示WARN org.apache.hadoop.ha.ZKFailoverController: Unable to start failover controller，排查了6小时才发现是hosts文件格式问题。

3.2 SSH免密登录：为什么必须用ssh-copy-id -i而非手动复制？

Hadoop启动脚本（如start-dfs.sh）内部调用ssh命令时，默认使用$HOME/.ssh/id_rsa私钥，且要求私钥文件权限为600、.ssh目录权限为700。手动复制id_rsa.pub到authorized_keys容易遗漏两点：

• authorized_keys文件权限不是600（某些编辑器保存时会改成644）；
• .ssh目录属主不是当前用户（比如用root生成密钥后，普通hadoop用户目录属主还是root）。

正确做法是：

1. 以hadoop用户身份生成密钥（不要用root！）：

sudo useradd -m hadoop sudo su - hadoop ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa

2. 用ssh-copy-id推送公钥（它会自动修正权限）：

ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@node1 ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@node2 ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@node3

3. 验证：在node1上执行ssh hadoop@node2 date，应无密码直接返回时间。

注意：ssh-copy-id命令在CentOS 7最小化安装中默认未安装，需先执行sudo yum install -y openssh-clients。这是新手最容易卡住的第一步。

3.3 HDFS目录权限：为什么dfs.namenode.name.dir必须用/data/hadoop/nn而非/opt/hadoop/data/nn？

Hadoop官方文档建议将NameNode元数据存放在/usr/local/hadoop/data/nn，但这在生产环境是灾难性的。原因有三：

• /usr/local通常是只读挂载（尤其在加固过的系统中），NameNode启动时无法创建current/VERSION文件；
• /opt分区空间有限，NameNode的edits_log文件增长极快（每10万次文件操作产生约1MB edits文件），几个月就会撑爆；
• 更关键的是：HDFS要求NameNode和DataNode的数据目录必须位于不同物理磁盘，否则磁盘I/O争抢会导致写入延迟飙升。

我们的标准路径规划是：

• NameNode元数据：/data/hadoop/nn（挂载在独立SSD上，RAID1镜像）；
• DataNode数据块：/data/hadoop/dn（挂载在大容量HDD阵列，RAID5）；
• JournalNode日志：/data/hadoop/jn（挂载在另一块SSD，与NN隔离）；
• 所有路径属主：hadoop:hadoop，权限：700。

创建脚本如下（在每台节点执行）：

# 创建目录并授权 sudo mkdir -p /data/hadoop/{nn,dn,jn} sudo chown -R hadoop:hadoop /data/hadoop sudo chmod 700 /data/hadoop/* # 验证磁盘挂载（确保/data是独立分区） df -h /data # 输出应类似：/dev/sdb1 1.8T 120G 1.6T 7% /data

实测对比：当/data/hadoop/dn挂载在RAID5 HDD阵列时，hadoop fs -put10GB文件耗时稳定在2分18秒；若错误挂载到系统盘/opt（与rootfs同盘），同样操作耗时飙升至7分42秒，且iostat -x 1显示%util长期100%。

4. 实操过程与核心环节实现

4.1 环境初始化：从零开始的12步标准化准备

以下操作需在所有节点（node1/node2/node3）上顺序执行，缺一不可。我们把它封装成hadoop-env-init.sh脚本，但这里逐条解释原理：

1. 关闭防火墙（Hadoop端口众多，iptables规则易出错）：

sudo systemctl stop firewalld sudo systemctl disable firewalld # 验证：sudo firewall-cmd --state 应返回 not running

2. 禁用SELinux（Hadoop进程需要访问多个目录，SELinux策略冲突率极高）：

sudo sed -i 's/SELINUX=enforcing/SELINUX=disabled/g' /etc/selinux/config sudo setenforce 0 # 验证：getenforce 应返回 Disabled

3. 配置NTP时间同步（ZooKeeper对节点时间差敏感，>30秒直接拒绝连接）：

sudo yum install -y ntp sudo systemctl enable ntpd sudo systemctl start ntpd # 强制同步一次 sudo ntpdate -u cn.pool.ntp.org

4. 创建hadoop用户并配置sudo权限（避免用root运行Hadoop）：

sudo useradd -m -u 1001 hadoop echo "hadoop ALL=(ALL) NOPASSWD:ALL" | sudo tee /etc/sudoers.d/hadoop sudo chmod 440 /etc/sudoers.d/hadoop

5. 安装并配置Java 8u292（如前所述，必须精确版本）：

# 下载jdk-8u292-linux-x64.tar.gz到/tmp sudo tar -zxf /tmp/jdk-8u292-linux-x64.tar.gz -C /usr/lib/jvm/ sudo alternatives --install /usr/bin/java java /usr/lib/jvm/jdk1.8.0_292/jre/bin/java 1081 \ --slave /usr/bin/jar jar /usr/lib/jvm/jdk1.8.0_292/bin/jar \ --slave /usr/bin/javac javac /usr/lib/jvm/jdk1.8.0_292/bin/javac sudo alternatives --config java # 选1081

6. 配置系统级Java环境变量（影响所有用户，包括systemd服务）：

echo 'export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_292' | sudo tee -a /etc/profile.d/java.sh echo 'export PATH=$JAVA_HOME/bin:$PATH' | sudo tee -a /etc/profile.d/java.sh source /etc/profile.d/java.sh

7. 调整ulimit限制（Hadoop进程需打开大量文件描述符）：

echo 'hadoop soft nofile 65536' | sudo tee -a /etc/security/limits.conf echo 'hadoop hard nofile 65536' | sudo tee -a /etc/security/limits.conf echo 'hadoop soft nproc 65536' | sudo tee -a /etc/security/limits.conf echo 'hadoop hard nproc 65536' | sudo tee -a /etc/security/limits.conf # 生效需重新登录，或执行：sudo prlimit -n 65536 -p $(pgrep -u hadoop)

8. 创建HDFS数据目录并授权（如前所述，路径必须独立）：

sudo mkdir -p /data/hadoop/{nn,dn,jn} sudo chown -R hadoop:hadoop /data/hadoop sudo chmod 700 /data/hadoop/*

9. 配置SSH免密登录（以hadoop用户执行）：

sudo su - hadoop ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@node1 ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@node2 ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop@node3

10. 下载并解压Hadoop 3.3.0（官方二进制包，非源码编译）：

cd /tmp wget https://downloads.apache.org/hadoop/common/hadoop-3.3.0/hadoop-3.3.0.tar.gz sudo tar -zxf hadoop-3.3.0.tar.gz -C /opt/ sudo chown -R hadoop:hadoop /opt/hadoop-3.3.0 sudo ln -s /opt/hadoop-3.3.0 /opt/hadoop

11. 配置全局环境变量（/opt/hadoop/etc/hadoop/hadoop-env.sh）：

# 修改JAVA_HOME export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_292 # 设置HADOOP_PID_DIR（避免默认/tmp被清理） export HADOOP_PID_DIR=/var/hadoop/pids # 设置HADOOP_SECURE_DN_PID_DIR（安全模式用） export HADOOP_SECURE_DN_PID_DIR=/var/hadoop/pids # 创建目录并授权 sudo mkdir -p /var/hadoop/pids sudo chown -R hadoop:hadoop /var/hadoop/pids

12. 验证基础环境（在任意节点执行）：

sudo su - hadoop hadoop version # 应输出Hadoop 3.3.0, built by ... on 2020-12-08 java -version # 应输出openjdk version "1.8.0_292" ssh node2 date # 应无密码返回时间

这12步看似繁琐，但每一步都对应一个真实故障点。我们曾因漏掉第7步（ulimit），导致DataNode启动后几小时就因“Too many open files”崩溃；因漏掉第11步的HADOOP_PID_DIR，stop-dfs.sh无法杀死进程，只能kill -9硬杀。

4.2 核心配置文件详解：core-site.xml、hdfs-site.xml、yarn-site.xml

所有配置文件位于/opt/hadoop/etc/hadoop/，必须以hadoop用户编辑。以下是生产环境验证过的最小可行配置（删除所有注释，仅保留必需项）：

core-site.xml

<?xml version="1.0" encoding="UTF-8"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <configuration> <!-- HDFS默认文件系统 --> <property> <name>fs.defaultFS</name> <value>hdfs://mycluster</value> </property> <!-- Hadoop临时目录（必须独立于HDFS数据目录） --> <property> <name>hadoop.tmp.dir</name> <value>/data/hadoop/tmp</value> </property> <!-- 关闭IPv6（CentOS 7 IPv6栈不稳定，易导致RPC超时） --> <property> <name>dfs.client.use.datanode.hostname</name> <value>false</value> </property> </configuration>

关键点：fs.defaultFS的mycluster是逻辑集群名，必须与hdfs-site.xml中dfs.nameservices一致；hadoop.tmp.dir不能放在/tmp（系统清理风险），也不能放在/data/hadoop/nn（与元数据混用）。

hdfs-site.xml

<?xml version="1.0" encoding="UTF-8"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <configuration> <!-- HA集群名 --> <property> <name>dfs.nameservices</name> <value>mycluster</value> </property> <!-- 两个NameNode的逻辑ID --> <property> <name>dfs.ha.namenodes.mycluster</name> <value>nn1,nn2</value> </property> <!-- nn1的RPC地址 --> <property> <name>dfs.namenode.rpc-address.mycluster.nn1</name> <value>node1:8020</value> </property> <!-- nn2的RPC地址 --> <property> <name>dfs.namenode.rpc-address.mycluster.nn2</name> <value>node2:8020</value> </property> <!-- nn1的HTTP地址 --> <property> <name>dfs.namenode.http-address.mycluster.nn1</name> <value>node1:9870</value> </property> <!-- nn2的HTTP地址 --> <property> <name>dfs.namenode.http-address.mycluster.nn2</name> <value>node2:9870</value> </property> <!-- JournalNode集群地址（QJM） --> <property> <name>dfs.namenode.shared.edits.dir</name> <value>qjournal://node1:8485;node2:8485;node3:8485/mycluster</value> </property> <!-- 客户端故障转移代理类 --> <property> <name>dfs.client.failover.proxy.provider.mycluster</name> <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value> </property> <!-- ZooKeeper地址 --> <property> <name>ha.zookeeper.quorum</name> <value>node1:2181,node2:2181,node3:2181</value> </property> <!-- NameNode元数据目录 --> <property> <name>dfs.namenode.name.dir</name> <value>file:///data/hadoop/nn</value> </property> <!-- DataNode数据目录 --> <property> <name>dfs.datanode.data.dir</name> <value>file:///data/hadoop/dn</value> </property> <!-- JournalNode日志目录 --> <property> <name>dfs.journalnode.edits.dir</name> <value>/data/hadoop/jn</value> </property> <!-- 启用WebHDFS（方便REST API访问） --> <property> <name>dfs.webhdfs.enabled</name> <value>true</value> </property> <!-- 块大小设为128MB（平衡小文件与大文件） --> <property> <name>dfs.blocksize</name> <value>134217728</value> </property> <!-- 复制因子3（满足容错） --> <property> <name>dfs.replication</name> <value>3</value> </property> </configuration>

注意：dfs.namenode.shared.edits.dir中的mycluster必须与dfs.nameservices一致；qjournal://地址里的端口8485是JournalNode默认端口，不可更改。

yarn-site.xml

<?xml version="1.0" encoding="UTF-8"?> <?xml-stylesheet type="text/xsl" href="configuration.xsl"?> <configuration> <!-- ResourceManager地址 --> <property> <name>yarn.resourcemanager.hostname</name> <value>node1</value> </property> <!-- 启用HA --> <property> <name>yarn.resourcemanager.ha.enabled</name> <value>true</value> </property> <!-- RM逻辑ID --> <property> <name>yarn.resourcemanager.cluster-id</name> <value>yarn-cluster</value> </property> <!-- 两个RM的ID --> <property> <name>yarn.resourcemanager.ha.rm-ids</name> <value>rm1,rm2</value> </property> <!-- rm1的主机名 --> <property> <name>yarn.resourcemanager.hostname.rm1</name> <value>node1</value> </property> <!-- rm2的主机名 --> <property> <name>yarn.resourcemanager.hostname.rm2</name> <value>node2</value> </property> <!-- RM状态存储（用ZooKeeper） --> <property> <name>yarn.resourcemanager.store.class</name> <value>org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore</value> </property> <!-- ZooKeeper地址 --> <property> <name>yarn.resourcemanager.zk-address</name> <value>node1:2181,node2:2181,node3:2181</value> </property> <!-- NodeManager本地目录 --> <property> <name>yarn.nodemanager.local-dirs</name> <value>/data/hadoop/yarn/local</value> </property> <!-- NodeManager日志目录 --> <property> <name>yarn.nodemanager.log-dirs</name> <value>/data/hadoop/yarn/logs</value> </property> <!-- 启用日志聚合 --> <property> <name>yarn.log-aggregation-enable</name> <value>true</value> </property> <!-- 资源调度器 --> <property> <name>yarn.resourcemanager.scheduler.class</name> <value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler</value> </property> </configuration>

关键点：yarn.nodemanager.local-dirs和log-dirs必须是独立磁盘路径，否则NodeManager会因磁盘满而退出。

4.3 启动与验证全流程：从格式化到Web UI可用

步骤1：启动ZooKeeper集群（所有3个节点）

# 在node1/node2/node3上分别执行 sudo su - hadoop /opt/hadoop/bin/zkServer.sh start # 验证：/opt/hadoop/bin/zkServer.sh status 应返回 Mode: follower 或 Mode: leader

步骤2：启动JournalNode（所有3个节点）

# 在node1/node2/node3上执行 /opt/hadoop/sbin/hadoop-daemon.sh start journalnode # 验证：jps 应看到 JournalNode 进程

步骤3：格式化NameNode（仅在node1执行）

# 必须先格式化，否则后续启动失败 /opt/hadoop/bin/hdfs namenode -format mycluster # 此命令会在 /data/hadoop/nn/current/ 下生成 VERSION 文件

步骤4：启动第一个NameNode（node1）

/opt/hadoop/sbin/hadoop-daemon.sh start namenode # 验证：jps 应看到 NameNode，且 /opt/hadoop/logs/hadoop-hadoop-namenode-node1.log 末尾有 "Startup ended"

步骤5：同步元数据到第二个NameNode（node2）

# 在node2上执行（此时node2的NN是Standby状态） /opt/hadoop/bin/hdfs namenode -bootstrapStandby # 此命令从node1的NN拉取最新元数据到 /data/hadoop/nn

步骤6：启动第二个NameNode（node2）

/opt/hadoop/sbin/hadoop-daemon.sh start namenode # 此时node1是Active，node2是Standby

步骤7：启动ZKFC（所有主节点node1/node2）

/opt/hadoop/sbin/hadoop-daemon.sh start zkfc # 验证：jps 应看到 DFSZKFailoverController

步骤8：启动DataNode（所有节点node1/node2/node3）

/opt/hadoop/sbin/hadoop-daemon.sh start datanode # 验证：jps 应看到 DataNode，且 /opt/hadoop/logs/hadoop-hadoop-datanode-*.log 无ERROR

步骤9：启动YARN（node1/node2）

# 启动ResourceManager（HA模式） /opt/hadoop/sbin/yarn-daemon.sh start resourcemanager # 启动NodeManager（所有节点） /opt/hadoop/sbin/yarn-daemon.sh start nodemanager

步骤10：最终验证

# 查看HDFS状态 /opt/hadoop/bin/hdfs haadmin -getServiceState nn1 # 应返回 active /opt/hadoop/bin/hdfs haadmin -getServiceState nn2 # 应返回 standby # 查看YARN状态 /opt/hadoop/bin/yarn rmadmin -getServiceState rm1 # 应返回 active /opt/hadoop/bin/yarn rmadmin -getServiceState rm2 # 应返回 standby # 创建测试目录 /opt/hadoop/bin/hdfs dfs -mkdir -p /user/hadoop # 上传测试文件 echo "Hello Hadoop 3.3.0" > /tmp/test.txt /opt/hadoop/bin/hdfs dfs -put /tmp/test.txt /user/hadoop/ # 查看文件 /opt/hadoop/bin/hdfs dfs -cat /user/hadoop/test.txt # 应输出 Hello Hadoop 3.3.0 # Web UI访问： # NameNode: http://node1:9870 (Active), http://node2:9870 (Standby) # ResourceManager: http://node1:8088 (Active), http://node2:8088 (Standby) # ZooKeeper: /opt/hadoop/bin/zkCli.sh -server node1:2181

整个流程耗时约8~12分钟。如果某步失败，不要盲目重试，先查对应组件的日志：

• NameNode日志：/opt/hadoop/logs/hadoop-hadoop-namenode-*.log
• DataNode日志：/opt/hadoop/logs/hadoop-hadoop-datanode-*.log
• ZKFC日志：/opt/hadoop/logs/hadoop-hadoop-zkfc-*.log

最常见的错误是：

• java.net.ConnectException: Connection refused→ 检查目标节点的SSH是否通，端口是否监听（netstat -tlnp | grep :8020）；
• org.apache.zookeeper.KeeperException$ConnectionLossException→ 检查ZooKeeper是否全集群启动，zkServer.sh status是否正常；
• java.io.IOException: Failed on local exception: java.io.IOException: Resource temporarily unavailable→ 检查ulimit是否生效，ulimit -n是否为65536。

5. 常见问题与排查技巧实录

5.1 典型故障速查表

| 故障现象 | 可能原因 | 排查命令 |