linux下安装Hadoop的方法是什么

一:安装JDK

1.执行以下命令,下载JDK1.8安装包。

wget --no-check-certificate https://repo.huaweicloud.com/java/jdk/8u151-b12/jdk-8u151-linux-x64.tar.gz

2.执行以下命令,解压下载的JDK1.8安装包。

tar -zxvf jdk-8u151-linux-x64.tar.gz

3.移动并重命名JDK包。

mv jdk1.8.0_151/ /usr/java8

4.配置Java环境变量。

echo 'export JAVA_HOME=/usr/java8' >> /etc/profileecho 'export PATH=$PATH:$JAVA_HOME/bin' >> /etc/profilesource /etc/profile

5.查看Java是否成功安装。

java -version

二:安装Hadoop

注:下载hadoop安装包可以选择华为源(速度中等,可以接受,重点是版本全)、清华源(3.0.0以上版本下载速度太慢,版本也少)、北京外国语大学源(下载速度特快,但是版本比较少)——本人亲测

1. 执行以下命令,下载Hadoop安装包。

wget --no-check-certificate https://repo.huaweicloud.com/apache/hadoop/common/hadoop-3.1.3/hadoop-3.1.3.tar.gz

2. 执行以下命令,解压Hadoop安装包至/opt/hadoop。

tar -zxvf hadoop-3.1.3.tar.gz -C /opt/mv /opt/hadoop-3.1.3 /opt/hadoop

3. 执行以下命令,配置Hadoop环境变量。

echo 'export HADOOP_HOME=/opt/hadoop/' >> /etc/profileecho 'export PATH=$PATH:$HADOOP_HOME/bin' >> /etc/profileecho 'export PATH=$PATH:$HADOOP_HOME/sbin' >> /etc/profilesource /etc/profile

4. 执行以下命令,修改配置文件yarn-env.sh和hadoop-env.sh。

echo "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/yarn-env.shecho "export JAVA_HOME=/usr/java8" >> /opt/hadoop/etc/hadoop/hadoop-env.sh

5. 执行以下命令,测试Hadoop是否安装成功。

hadoop version

如果返回版本信息,则表示安装成功。

三:配置Hadoop

1. 修改Hadoop配置文件 core-site.xml。

a. 执行以下命令开始进入编辑页面。

vim /opt/hadoop/etc/hadoop/core-site.xml

b. 输入i进入编辑模式。c. 在节点内插入如下内容。

         hadoop.tmp.dir        file:/opt/hadoop/tmp        location to store temporary files                fs.defaultFS        hdfs://localhost:9000    

d. 按Esc键退出编辑模式,输入:wq保存退出。

2. 修改Hadoop配置文件 hdfs-site.xml。

a. 执行以下命令开始进入编辑页面。

vim /opt/hadoop/etc/hadoop/hdfs-site.xml

b. 输入i进入编辑模式。c. 在节点内插入如下内容。

         dfs.replication        1                dfs.namenode.name.dir        file:/opt/hadoop/tmp/dfs/name                dfs.datanode.data.dir        file:/opt/hadoop/tmp/dfs/data    

d. 按Esc键退出编辑模式,输入:wq保存退出。

四:配置SSH免密登录

1. 执行以下命令,创建公钥和私钥。

ssh-keygen -t rsa

2. 执行以下命令,将公钥添加到authorized_keys文件中。

cd ~cd .sshcat id_rsa.pub >> authorized_keys

若报错,执行下面操作后重新执行上面两句命令;若没有报错直接进入第五步:

输入如下命令,在环境变量中添加下面的配置

vi /etc/profile

然后向里面加入如下的内容

export HDFS_NAMENODE_USER=rootexport HDFS_DATANODE_USER=rootexport HDFS_SECONDARYNAMENODE_USER=rootexport YARN_RESOURCEMANAGER_USER=rootexport YARN_NODEMANAGER_USER=root

输入如下命令使改动生效

source /etc/profile

五:启动Hadoop

1.执行以下命令,初始化namenode 。

hadoop namenode -format

2.依次执行以下命令,启动Hadoop。

start-dfs.sh

若有选择Y/N的,选择Y;其他直接回车

start-yarn.sh

3.启动成功后,执行以下命令,查看已成功启动的进程。

jps

linux下安装Hadoop的方法是什么

正常会有6个进程;

4.打开浏览器访问http://:8088和http://:50070,显示如下界面则表示Hadoop伪分布式环境搭建完成。

linux下安装Hadoop的方法是什么

linux下安装Hadoop的方法是什么

以上就是linux下安装Hadoop的方法是什么的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/126406.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
罗技MX Anywhere 3S鼠标长期使用:办公效率提升明显吗?
上一篇 2025年11月27日 11:33:19
解决Spring Boot JPA中Hostel数据抓取时的序列化问题
下一篇 2025年11月27日 11:34:23

相关推荐

  • 发布 ASP.NET Core 2.x 应用到 Ubuntu

    发布 ASP.NET Core 2.x 应用到 Ubuntu发布 ASP.NET Core 2.x 应用到 Ubuntu发布 ASP.NET Core 2.x 应用到 Ubuntu发布 ASP.NET Core 2.x 应用到 Ubuntu

    将asp.net core 2.x 应用发布到linux(ubuntu)服务器上时,通常采用kestrel作为服务器,因为它是跨平台的且高度优化。kestrel可以直接作为边缘服务器使用,但更推荐将其置于反向代理(如nginx)之后,以实现负载均衡和更好的扩展性。 在这种配置中,HTTPS请求首先到…

    2026年8月31日 用户投稿
    000
  • Windows 查找被占用端口并结束程序

    在windows系统中,经常会遇到由于某些服务占用了特定端口,导致无法启动新应用服务的情况。与在linux中通过 lsof -i:port 或 ps 结合管道符 | 进行进程查找和终止操作相比,windows也有其特定的方法来实现类似的功能。 首先,通过端口号查找进程号,可以使用以下命令: nets…

    2026年8月31日
    300
  • win10中文家庭版如何修改电脑账户名称?

    一、准备条件: 1. 一台安装了win10中文家庭版的设备 2. 足够的耐心与决心 二、操作步骤: 1. 进入系统“设置”界面,选择“账户”功能。 2. 在左侧菜单中点击“账户”进入相关页面,随后选择“你的信息”。 3. 在当前页面中找到并点击“管理我的Microsoft账户”选项。 4. 系统会跳…

    2026年8月31日
    000
  • 一键PHP环境如何部署Laravel项目_Laravel项目部署教程

    部署Laravel项目到宝塔面板需配置网站根目录指向public,上传代码后运行composer install、生成密钥、配置数据库及权限,启用伪静态规则,确保storage和cache目录可写,最后通过日志排查错误。 部署 Laravel 项目到一键 PHP 环境(如宝塔面板、phpStudy、…

    2026年8月31日
    000
  • Linux基本操作+命令介绍

    1.Linux基本操作1.1Linux的目录结构 windows的目录结构是带有盘符的。d: e: c: 在Xterm中输入ls / 查看Linux的顶级目录。 代码语言:javascript代码运行次数:0运行复制 1. root:该目录为系统管理员HOME目录2. bin:这个目录下放着经常使用…

    2026年8月31日
    100
  • 如何在Linux上启用IP转发

    为了安全起见,在现代linux操作系统中默认禁用ip转发。如果需要在系统上启用ip转发,需要执行以下步骤。在本篇文章中,将带你了解如何检查是否启用了ip转发。如果没有,如何启用它。 检查当前IP转发 按以下命令检查ip_forward in/proc文件系统的值。 $ cat /proc/sys/n…

    2026年8月31日
    600
  • Webpack打包后,低版本浏览器为何无法识别Axios?

    Webpack打包项目后,部分低版本浏览器提示无法识别Axios,导致页面显示异常,即使将Axios版本降低至1.6.0也无济于事。此问题通常源于Babel的转译配置。本文将深入分析问题成因并提供解决方案。 问题:尽管babelrc文件已配置Babel预设和插件,目标浏览器涵盖IE9及以上版本和其他…

    2026年8月31日
    200
  • Vue应用部署到测试环境后SockJS-Node跨域报错如何解决?

    Vue应用测试环境部署:SockJS-Node跨域问题详解及解决方案 在Vue项目上线过程中,测试环境部署常常会遇到棘手问题。本文将针对一个典型的案例——“Vue应用部署到测试环境后,SockJS-Node出现跨域错误”进行深入分析和解决方案探讨。 问题描述: 一个基于Vue+Webpack构建的前…

    2026年8月31日
    000
  • 如何在Gentoo Linux上设置启动和关闭脚本

    有时需要在系统启动和关闭期间运行命令或shell脚本。这有助于在系统启动时启动服务,并在系统关闭时停止服务。本篇文章将介绍关于在gentoo linux上运行系统启动和关闭脚本。 现在/etc/local.d/目录中带有后缀.start的脚本将在系统启动时执行,所有带有后缀.stop的脚本将在系统关…

    2026年8月31日
    000
  • 如何使用Apache POI在Excel单元格中创建超链接,以及如何在单个单元格内显示多个链接?

    利用Apache POI库在Excel单元格中创建超链接,以及如何在单个单元格内显示多个链接的探讨。 直接在单个Excel单元格内创建多个独立超链接是不可行的,这是Excel本身的限制,而非POI库的缺陷。 虽然一些方法尝试通过在单元格上叠加透明矩形来模拟多个链接,但这需要复杂的坐标计算、大小调整以…

    2026年8月31日
    000
  • 悟空浏览器怎么样下载电视剧视频 视频下载设置及格式选择

    悟空浏览器能否下载电视剧视频取决于视频源网站的设置,其下载功能主要针对单个视频文件而非整部剧集,当访问支持下载的页面时,浏览器会在播放区域显示下载图标或提示,点击后可选择清晰度如标清、高清、超清等进行下载,下载格式通常为源站提供的原始格式如mp4、flv或webm,不支持格式转码,若下载按钮不出现或…

    2026年8月31日
    500
  • 如何在Linux上创建,列出和删除Docker容器

    本篇文章介绍的内容是关于在linux机器上创建,列出和删除docker容器,下面我们来看具体的内容。 1、启动Docker容器 使用下面的命令启动新的Docker容器。这将启动一个新的容器,并为你提供使用/bin/bash shell访问该容器的权限。 # docker run [OPTIONS] …

    2026年8月31日
    300
  • win11便笺内容不见了怎么找回_win11便笺内容丢失恢复方法

    首先检查便笺应用内的时间轴历史记录,确认是否可手动恢复删除内容;其次查看系统回收站中是否有相关便笺文件残留并尝试还原;若开启云同步,可通过Microsoft账户在其他设备或云端获取最新数据;接着在本地AppData路径下查找StickyNotes数据库文件并用SQLite工具提取内容;最后使用专业恢…

    2026年8月31日
    700
  • Yandex俄罗斯搜索引擎免登录入口 Yandex官网地址与便捷使用指南

    Yandex俄罗斯搜索引擎的免登录官方网页入口地址是 https://www.yandex.com/。用户可直接访问该网址使用其强大的搜索功能,无需进行任何账号登录操作,同时平台还支持多语言切换与隐私浏览模式,为全球用户提供了极大的便利。 ☞☞☞☞点击俄罗斯引擎yandex免登录使用官网入口☜☜☜☜…

    2026年8月30日
    100
  • ​​系统卡顿反应慢?5个优化技巧让电脑变流畅​​

    电脑变慢通常由软件堆积、硬件瓶颈或两者共同导致,可通过以下5步优化恢复流畅:1. 用ccleaner等工具清理系统垃圾并卸载无用软件,减少资源占用;2. 在任务管理器中禁用不必要的开机启动项和后台进程,提升响应速度;3. 优先升级固态硬盘(ssd)以大幅提升读写性能,其次考虑内存扩容至8gb以上;4…

    2026年8月30日
    100
  • Linux中如何查找大文件?(代码示例)

    随着时间的推移,磁盘驱动器可能会被大量占用大量磁盘空间的不必要文件弄得乱七八糟,从而导致linux设备的磁盘空间不足。那么如何查找这些大文件?下面本篇文章就来给大家介绍在linux中使用find和du命令来查找最大文件和目录的方法,希望对大家有所帮助。 使用find命令查找大文件 find命令是Li…

    2026年8月30日
    000
  • Java中引用和实现外部.class文件定义的接口:Classpath管理详解

    本文详细阐述了如何在Java项目中使用已编译的.class文件,特别是当这些文件定义了接口时。核心在于理解和正确配置Java的classpath,它指示JVM和编译器查找类和资源文件的路径。教程将通过命令行示例,指导读者如何在编译和运行时将.class文件加入classpath,从而成功引用并实现其…

    2026年8月30日
    000
  • OneDrive文件如何离线使用_OneDrive离线文件访问方法

    通过设置OneDrive文件“始终保留在此设备上”或使用移动应用缓存,可实现离线访问;具体包括电脑端同步、网页下载及移动端预加载三种方式。 如果您需要在没有网络连接的情况下访问OneDrive中的文件,可以通过设置文件离线可用的方式确保随时查看和编辑。以下是实现OneDrive文件离线使用的具体步骤…

    2026年8月30日
    000
  • Vue项目部署到测试环境SockJS-Node跨域报错怎么办?

    Vue项目部署测试环境,SockJS-Node跨域问题及解决方案 在Vue项目开发中,本地环境运行良好,但部署到测试环境(10.181.12.125:30016)后,却出现SockJS-Node跨域报错,错误信息指向http://localhost:8080/sockjs-node/info?t=x…

    2026年8月30日
    000
  • Spring Boot项目启动失败,提示“SqlSession未注册同步”,如何解决?

    Spring Boot项目启动异常:“SqlSession未注册同步”问题排查 本文分析一个Spring Boot项目在未修改代码的情况下,启动时出现“SqlSession [org.apache.ibatis.session.defaults.DefaultSqlSession@2dbe837b]…

    2026年8月30日
    200

发表回复

登录后才能评论
关注微信