在centos上搭建hdfs（hadoop分布式文件系统）需要一系列步骤，包括安装java、配置hadoop环境变量、格式化namenode以及启动hdfs集群。以下是详细的步骤指南：
1. 安装Java
Hadoop需要Java运行环境，首先确保你的CentOS系统上已经安装了Java。如果没有安装，可以使用以下命令安装OpenJDK：
sudo yum update -ysudo yum install java-1.8.0-openjdk-devel -y
验证Java安装：
java -version
2. 下载并解压Hadoop
从Apache Hadoop官方网站下载最新版本的Hadoop，并将其解压到你的CentOS系统上。例如：
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gztar -xzvf hadoop-3.3.1.tar.gz -C /usr/local/
3. 配置Hadoop环境变量
编辑/etc/profile.d/hadoop.sh文件，添加以下内容：
export HADOOP_HOME=/usr/local/hadoop-3.3.1export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
使环境变量生效：
source /etc/profile.d/hadoop.sh
4. 配置Hadoop
编辑Hadoop配置文件，主要涉及core-site.xml、hdfs-site.xml和yarn-site.xml。
core-site.xml
在$HADOOP_HOME/etc/hadoop/core-site.xml中添加以下内容：
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://localhost:9000</value> </property></configuration>
hdfs-site.xml
在$HADOOP_HOME/etc/hadoop/hdfs-site.xml中添加以下内容：
<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>/usr/local/hadoop-3.3.1/data/namenode</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>/usr/local/hadoop-3.3.1/data/datanode</value> </property></configuration>
yarn-site.xml
在$HADOOP_HOME/etc/hadoop/yarn-site.xml中添加以下内容：
如知AI笔记
如知笔记——支持markdown的在线笔记，支持ai智能写作、AI搜索，支持DeepseekR1满血大模型
27 查看详情
<configuration> <property> <name>yarn.resourcemanager.hostname</name> <value>localhost</value> </property> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property></configuration>
5. 格式化NameNode
在首次启动HDFS之前，需要格式化NameNode：
hdfs namenode -format
6. 启动HDFS集群
启动HDFS集群：
start-dfs.sh
启动YARN集群：
start-yarn.sh
7. 验证HDFS集群
打开浏览器，访问http://localhost:50070，你应该能看到HDFS的Web界面，显示集群的状态。
8. 停止HDFS集群
停止HDFS集群：
stop-dfs.sh
停止YARN集群：
stop-yarn.sh
通过以上步骤，你就可以在CentOS上成功搭建一个基本的HDFS集群。根据实际需求，你可能还需要进行更多的配置和优化。
以上就是如何在CentOS上搭建HDFS的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/371074.html
微信扫一扫 
支付宝扫一扫 
