当前位置:首页 > PS视频 > 正文内容

在FinalShell中安装Hadoop3的详细步骤是什么?

编辑3个月前 (04-28)PS视频47

# FinalShell 连接 CentOS7 安装 Hadoop3.3.6 超详细完整步骤 全程在 **FinalShell** 操作,复制命令直接运行,适配:CentOS7 + Hadoop3.3.6 + JDK8,伪分布式/完全分布式通用。 --- # 前期准备(FinalShell 内全部执行) ## 1. 关闭防火墙 & SELinux ```bash # 关闭防火墙 systemctl stop firewalld systemctl disable firewalld # 关闭SELinux setenforce 0 sed -i 's/^SELINUX=enforcing/SELINUX=disabled/' /etc/selinux/config ``` ## 2. 安装依赖 ```bash yum install -y wget net-tools vim openssh-clients ``` --- # 第一步:安装 JDK8(Hadoop 必备) ## 1. 一键安装 OpenJDK8 ```bash yum install -y java-1.8.0-openjdk-devel ``` ## 2. 查看JDK真实路径 ```bash readlink -f $(which java) ``` 示例路径: `/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.402-0.b06.el7_9.x86_64` ## 3. 配置全局环境变量 ```bash vim /etc/profile ``` 文件最底部添加: ```sh export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.402-0.b06.el7_9.x86_64 export PATH=$JAVA_HOME/bin:$PATH ``` 保存退出:`ESC` → 输入 `:wq` 回车 ## 4. 生效配置 ```bash source /etc/profile java -version ``` 显示 `1.8.0` 即为成功。 --- # 第二步:配置主机名 + hosts映射 ## 1. 设置主机名 ```bash hostnamectl set-hostname hadoop-master ``` ## 2. 配置hosts ```bash vim /etc/hosts ``` 添加一行(写你自己虚拟机IP): ``` 192.168.122.130  hadoop-master ``` --- # 第三步:配置 SSH 免密登录 ```bash # 生成密钥 全部回车 ssh-keygen -t rsa # 写入免密文件 cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys chmod 700 ~/.ssh chmod 600 ~/.ssh/authorized_keys # 测试免密 ssh hadoop-master date ``` --- # 第四步:下载 & 解压 Hadoop3.3.6 ## 1. 进入 /opt 目录 ```bash cd /opt ``` ## 2. 清华镜像下载 Hadoop ```bash wget https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz ``` ## 3. 解压 + 重命名 ```bash tar -zxvf hadoop-3.3.6.tar.gz mv hadoop-3.3.6 hadoop ``` ## 4. Hadoop 环境变量配置 ```bash vim /etc/profile ``` 追加以下内容: ```sh export HADOOP_HOME=/opt/hadoop export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop export HADOOP_PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin export PATH=$PATH:$HADOOP_PATH ``` 生效: ```bash source /etc/profile # 验证 hadoop version ``` --- # 第五步:修改 Hadoop 核心配置文件 配置目录:`/opt/hadoop/etc/hadoop` ## 1. 配置 hadoop-env.sh ```bash vim /opt/hadoop/etc/hadoop/hadoop-env.sh ``` 末尾添加: ```sh export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.402-0.b06.el7_9.x86_64 export HDFS_NAMENODE_USER=root export HDFS_DATANODE_USER=root export HDFS_SECONDARYNAMENODE_USER=root export YARN_RESOURCEMANAGER_USER=root export YARN_NODEMANAGER_USER=root ``` ## 2. 配置 core-site.xml ```bash vim /opt/hadoop/etc/hadoop/core-site.xml ``` 替换全部内容: ```xml <configuration>    <property>        <name>fs.defaultFS</name>        <value>hdfs://hadoop-master:9000</value>    </property>    <property>        <name>hadoop.tmp.dir</name>        <value>/opt/hadoop/tmp</value>    </property>    <property>        <name>hadoop.proxyuser.root.hosts</name>        <value>*</value>    </property>    <property>        <name>hadoop.proxyuser.root.groups</name>        <value>*</value>    </property> </configuration> ``` ## 3. 配置 hdfs-site.xml ```bash vim /opt/hadoop/etc/hadoop/hdfs-site.xml ``` ```xml <configuration>    <property>        <name>dfs.replication</name>        <value>1</value>    </property>    <property>        <name>dfs.permissions.enabled</name>        <value>false</value>    </property> </configuration> ``` ## 4. 配置 mapred-site.xml ```bash vim /opt/hadoop/etc/hadoop/mapred-site.xml ``` ```xml <configuration>    <property>        <name>mapreduce.framework.name</name>        <value>yarn</value>    </property>    <property>        <name>yarn.app.mapreduce.am.env</name>        <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>    </property>    <property>        <name>mapreduce.map.env</name>        <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>    </property>    <property>        <name>mapreduce.reduce.env</name>        <value>HADOOP_MAPRED_HOME=${HADOOP_HOME}</value>    </property> </configuration> ``` ## 5. 配置 yarn-site.xml ```bash vim /opt/hadoop/etc/hadoop/yarn-site.xml ``` ```xml <configuration>    <property>        <name>yarn.nodemanager.aux-services</name>        <value>mapreduce_shuffle</value>    </property>    <property>        <name>yarn.resourcemanager.hostname</name>        <value>hadoop-master</value>    </property> </configuration> ``` ## 6. 修改 workers ```bash vim /opt/hadoop/etc/hadoop/workers ``` 清空原有内容,写入: ``` hadoop-master ``` --- # 第六步:初始化 & 启动 Hadoop ## 1. 格式化 NameNode(**只执行一次**) ```bash hdfs namenode -format ``` ## 2. 启动 HDFS ```bash start-dfs.sh ``` ## 3. 启动 YARN ```bash start-yarn.sh ``` ## 4. 查看进程 ```bash jps ``` 正常进程: - NameNode - DataNode - SecondaryNameNode - ResourceManager - NodeManager --- # 第七步:访问 Web 页面 虚拟机放行端口或关闭防火墙后,浏览器打开: - HDFS:`http://虚拟机IP:9870` - YARN:`http://虚拟机IP:8088` --- # 常用停止命令 ```bash stop-dfs.sh stop-yarn.sh

扫描二维码推送至手机访问。

版权声明:本文由手机数据加工厂发布,如需转载请注明出处。

本文链接:https://cryp6.com/?id=153

“ 在FinalShell中安装Hadoop3的详细步骤是什么?” 的相关文章

微信记录彻底备份教程,换手机一键迁移

全程不用复杂操作,老人也能看懂,每一步都对应截图位置。一、手机直接互传(换手机首选,免费最快)适合:旧手机换新手机、当场迁移所有聊天1新旧手机都连上同一个 WiFi,登录同一个微信号2打开微信 → 点【我】→【设置】3找到【通用】→【聊天记录迁移与备份】4选择【迁移聊天记录到另一台设备】5旧手机勾选...

手机与电脑如何传递数据

手机+电脑 极简传文件速查表(直接照做,保存备忘录) 一、通用懒人(所有手机+电脑,小文件) 微信/QQ文件传输助手 1. 手机、电脑登录同一账号 2. 互相发送图片、文档、截图 3. 缺点:视频、图片会压缩,大文件慢 二、有线极速(原图/大视频/无压缩,推荐) 安卓 + 电...

手机和电脑的运存和储存容量是否可以扩展?

手机 vs 电脑:运存、储存 能否扩展?【极简大白话】先记住两个关键:运存(RAM)= 管流畅、后台储存(ROM / 硬盘)= 存照片、文件、软件一、手机端(iPhone + 安卓统一结论)1. 手机运存:❌完全不能扩展出厂焊死在主板上,无法更换、无法加装所谓「内存融合 / 虚拟运存」:只是拿储存空...

如何清理手机中的重复文件?

如何清理手机中的重复文件?

一、安卓(华为 / 小米 / OPPO/vivo)1. 一键清理所有重复文件(照片 + 文档 + 安装包)打开手机管家 / 安全中心 /i 管家进入清理加速 / 空间清理扫描完找到重复文件 → 去清理全选重复项 → 删除(自动保留一份)2. 相册重复照片 / 视频(最占空间)华为...

无线传文件很慢?

无线传文件很慢?原因 + 解决办法(简洁科普版)一、变慢主要原因连接的是2.4G 低频 WiFi,网速本身就慢、干扰多。手机和电脑距离太远、隔墙,信号变弱。同一网络设备太多,WiFi 拥堵卡顿。用微信、QQ 传输,系统会压缩文件,还限速。后台下载、刷视频占用网速,挤占传输速度。二、快速提速方法切换连...

如何彻底删除云端数据?

下面按 “先断同步→删云端文件→清回收站→清备份 / 版本→退出账号”,把主流云盘(OneDrive、iCloud、百度网盘、华为 / 小米等)一次性彻底删干净,防止恢复与覆盖。一、先把所有设备同步全关(必做)电脑:退出 OneDrive/iCloud/ 百度网盘,取消链接此设备,关闭自动同步。手机...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。