通过S3FS在AWS EC2实例间高效共享与展示文件列表

通过S3FS在AWS EC2实例间高效共享与展示文件列表

本文旨在解决在aws ec2多实例环境中,一个ec2实例如何安全、高效地访问并展示另一个ec2实例上文件列表的问题。传统的直接http路径或本地文件系统操作无法满足需求。通过引入s3fs工具,将aws s3存储桶挂载为本地文件系统,我们可以在多个ec2实例间实现文件内容的同步访问与展示,从而构建分布式且易于管理的应用程序架构。

在分布式应用架构中,尤其是在AWS EC2环境下,经常会遇到一个EC2实例(例如管理界面)需要访问并展示另一个EC2实例(例如文件存储服务器)上特定目录文件列表的需求。直接通过HTTP路径访问远程实例上的文件目录,或者尝试将远程路径视为本地文件系统路径进行操作,通常会导致失败,因为这不符合文件系统访问的机制。

挑战分析

考虑以下场景:一个管理界面EC2实例(实例A)需要显示另一个文件存储EC2实例(实例B)上 /upload_directory/ 目录中的文件列表。如果实例A尝试使用PHP的 scandir() 函数并指定一个本地路径,例如 upload_directory/,它只能访问实例A自身的文件。如果实例A尝试将路径更改为实例B的HTTP地址,例如 http://xx.xxx.xxx.xx/upload_directory/,scandir() 函数将无法解析此URL作为一个可扫描的文件系统路径,因为它是一个网络资源而非本地目录。

// 在本地测试时,此脚本可以工作$path = "upload_directory/";$files = scandir($path);foreach($files as $file) {    if ($file[0] != '.') {        $nothidden[] = $file;    }}for ($x=0;$x<count($nothidden);$x++){    // ${'file'.$x} = $nothidden[$x]; // 原始代码中的变量赋值可能不是最佳实践    echo $nothidden[$x] . "
";}// 当尝试访问远程HTTP路径时,此方法无效// $path = "http://xx.xxx.xxx.xx/upload_directory/";// $files = scandir($path); // 会失败

这种情况下,仅仅调整安全组出站规则是不足以解决文件系统层面的访问问题的。我们需要一个能够将远程存储“本地化”的解决方案。

解决方案:利用S3FS实现S3存储桶的本地挂载

最有效且推荐的方法是利用AWS S3存储桶作为共享存储介质,并结合S3FS-FUSE工具将其挂载到EC2实例的本地文件系统。这样,两个EC2实例都可以将同一个S3存储桶视为本地目录进行读写操作,从而实现文件列表的共享与展示。

1. 准备AWS S3存储桶

首先,您需要在AWS中创建一个S3存储桶。这个存储桶将用于存储您的文件,并且两个EC2实例都将访问它。

2. 配置IAM权限

为了安全地访问S3存储桶,您应该为EC2实例配置适当的IAM角色。此IAM角色应至少包含对目标S3存储桶的读写权限(例如 s3:GetObject, s3:ListBucket, s3:PutObject, s3:DeleteObject 等)。将此IAM角色附加到您的EC2实例上,这比直接在实例上配置AWS访问密钥更安全。

如果您选择不使用IAM角色,则需要配置AWS访问密钥和秘密访问密钥,但这通常不推荐用于生产环境。

3. 安装S3FS-FUSE

S3FS-FUSE是一个开源工具,允许您将S3存储桶挂载为本地文件系统。在每个需要访问S3存储桶的EC2实例(即实例A和实例B)上,都需要安装S3FS。

请参照S3FS-FUSE的官方GitHub仓库获取最新的安装指南:https://www.php.cn/link/523d6984fa5aa355c0f4b63b564ce892

通常,在Ubuntu等基于Debian的系统上,安装过程可能涉及安装依赖、编译和安装:

# 安装依赖sudo apt-get updatesudo apt-get install automake autotools-dev fuse g++ git libcurl4-gnutls-dev libfuse-dev libssl-dev libxml2-dev make pkg-config# 克隆s3fs仓库git clone https://www.php.cn/link/523d6984fa5aa355c0f4b63b564ce892.gitcd s3fs-fuse# 编译和安装./autogen.sh./configuremakesudo make install

4. 挂载S3存储桶

安装S3FS后,您可以在两个EC2实例上将S3存储桶挂载到指定的本地目录。

使用IAM角色挂载(推荐):

如果您的EC2实例已附加具有S3读写权限的IAM角色,则可以使用以下命令进行挂载:

sudo /usr/local/bin/s3fs -o allow_other -o iam_role='您的IAM角色名称' 您的S3桶名称 /mnt/s3fs/pathlocal

您的S3桶名称: 替换为您的S3存储桶的实际名称。/mnt/s3fs/pathlocal: 替换为您希望在本地挂载S3存储桶的目录。请确保此目录已存在(例如 sudo mkdir -p /mnt/s3fs/pathlocal)。-o allow_other: 允许非root用户访问挂载点。-o iam_role=’您的IAM角色名称’: 指定EC2实例的IAM角色名称。

使用AWS访问密钥挂载(不推荐用于生产环境):

如果您没有使用IAM角色,或者出于特定测试目的,您可以在 /etc/passwd-s3fs 文件中存储AWS访问密钥和秘密访问密钥,并设置文件权限为 600。

echo "您的AWS访问密钥ID:您的AWS秘密访问密钥" > /etc/passwd-s3fssudo chmod 600 /etc/passwd-s3fssudo /usr/local/bin/s3fs -o allow_other 您的S3桶名称 /mnt/s3fs/pathlocal

重要提示:上述挂载操作需要在两个EC2实例上都执行。这意味着实例A和实例B都将把同一个S3存储桶挂载到它们各自的 /mnt/s3fs/pathlocal 目录。

5. 配置开机自动挂载

为了确保EC2实例重启后S3存储桶能自动挂载,您可以将挂载命令添加到 /etc/rc.local 文件中。

编辑 /etc/rc.local 文件(如果不存在可能需要创建并赋予执行权限 sudo chmod +x /etc/rc.local):

sudo nano /etc/rc.local

在 exit 0 行之前添加您的挂载命令,例如:

#!/bin/sh -e## rc.local## This script is executed at the end of each multiuser runlevel.# Make sure that the script will "exit 0" on success or any other# value on error.## In order to enable or disable this script just change the execution# bits.## By default this script does nothing.# 确保挂载点存在mkdir -p /mnt/s3fs/pathlocal# 使用IAM角色自动挂载S3桶/usr/local/bin/s3fs -o allow_other -o iam_role='您的IAM角色名称' 您的S3桶名称 /mnt/s3fs/pathlocalexit 0

保存并退出。

6. 更新PHP脚本

一旦S3存储桶在两个EC2实例上都成功挂载到 /mnt/s3fs/pathlocal 路径,并且您将文件上传到S3存储桶(通过实例B,或者直接通过AWS控制台),实例A上的PHP脚本就可以像访问本地文件一样访问这些文件了。

如果您的文件在S3存储桶中是直接位于根目录,或者位于 /upload_directory/ 路径下,那么实例A上的PHP脚本可以修改为:

// 假设S3桶挂载在 /mnt/s3fs/pathlocal// 并且您的文件在S3桶的根目录或子目录$path = "/mnt/s3fs/pathlocal/upload_directory/"; // 确保此路径与S3桶内的实际文件路径对应$files = scandir($path);if ($files !== false) {    foreach($files as $file) {        if ($file[0] != '.') { // 排除隐藏文件            echo $file . "
"; } }} else { echo "无法读取目录或目录不存在。";}

现在,当实例A运行此PHP脚本时,它实际上是在访问通过S3FS挂载的S3存储桶中的文件,从而实现了远程文件列表的展示。

注意事项与最佳实践

数据一致性: S3FS提供了对S3的访问,S3本身是一个最终一致性存储。这意味着在某些情况下,文件操作(如上传、删除)后,立即尝试读取可能不会立即反映最新状态。对于文件列表展示,这通常不是大问题,但在高并发写入和即时读取场景下需要注意。性能: 通过S3FS访问S3的性能会受到网络延迟和S3服务本身的影响,可能不如直接访问本地SSD。对于需要极高性能文件操作的应用,可能需要考虑其他方案(如EFS)。成本: 使用S3会产生存储费用、数据传输费用和请求费用。确保了解这些成本模型。安全: 始终优先使用IAM角色来授权EC2实例访问S3,避免在实例上硬编码AWS访问密钥。确保IAM角色的权限是最小必需权限。错误处理: 在您的PHP脚本中,添加对 scandir() 返回值的检查,以优雅地处理目录不存在或无法访问的情况。文件路径: 仔细管理S3存储桶中的文件结构,并确保PHP脚本中的路径与S3FS挂载后的本地路径准确对应。

总结

通过S3FS-FUSE工具将AWS S3存储桶挂载到EC2实例的本地文件系统,我们成功地解决了在分布式EC2环境中访问和展示远程文件列表的难题。这种方法不仅提供了灵活的文件共享机制,还利用了S3的高可用性和持久性。通过合理配置IAM权限和开机自动挂载,可以构建出健壮且易于管理的文件服务架构。

以上就是通过S3FS在AWS EC2实例间高效共享与展示文件列表的详细内容,更多请关注php中文网其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1332609.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月12日 18:41:45
下一篇 2025年12月12日 18:42:03

相关推荐

  • HTML、CSS 和 JavaScript 中的简单侧边栏菜单

    构建一个简单的侧边栏菜单是一个很好的主意,它可以为您的网站添加有价值的功能和令人惊叹的外观。 侧边栏菜单对于客户找到不同项目的方式很有用,而不会让他们觉得自己有太多选择,从而创造了简单性和秩序。 今天,我将分享一个简单的 HTML、CSS 和 JavaScript 源代码来创建一个简单的侧边栏菜单。…

    2025年12月24日
    200
  • 前端代码辅助工具:如何选择最可靠的AI工具?

    前端代码辅助工具:可靠性探讨 对于前端工程师来说,在HTML、CSS和JavaScript开发中借助AI工具是司空见惯的事情。然而,并非所有工具都能提供同等的可靠性。 个性化需求 关于哪个AI工具最可靠,这个问题没有一刀切的答案。每个人的使用习惯和项目需求各不相同。以下是一些影响选择的重要因素: 立…

    2025年12月24日
    000
  • 带有 HTML、CSS 和 JavaScript 工具提示的响应式侧边导航栏

    响应式侧边导航栏不仅有助于改善网站的导航,还可以解决整齐放置链接的问题,从而增强用户体验。通过使用工具提示,可以让用户了解每个链接的功能,包括设计紧凑的情况。 在本教程中,我将解释使用 html、css、javascript 创建带有工具提示的响应式侧栏导航的完整代码。 对于那些一直想要一个干净、简…

    2025年12月24日
    000
  • 布局 – CSS 挑战

    您可以在 github 仓库中找到这篇文章中的所有代码。 您可以在这里查看视觉效果: 固定导航 – 布局 – codesandbox两列 – 布局 – codesandbox三列 – 布局 – codesandbox圣杯 &#8…

    2025年12月24日
    000
  • 隐藏元素 – CSS 挑战

    您可以在 github 仓库中找到这篇文章中的所有代码。 您可以在此处查看隐藏元素的视觉效果 – codesandbox 隐藏元素 hiding elements hiding elements hiding elements hiding elements hiding element…

    2025年12月24日
    400
  • 居中 – CSS 挑战

    您可以在 github 仓库中找到这篇文章中的所有代码。 您可以在此处查看垂直中心 – codesandbox 和水平中心的视觉效果。 通过 css 居中 垂直居中 centering centering centering centering centering centering立即…

    2025年12月24日 好文分享
    300
  • 如何在 Laravel 框架中轻松集成微信支付和支付宝支付?

    如何用 laravel 框架集成微信支付和支付宝支付 问题:如何在 laravel 框架中集成微信支付和支付宝支付? 回答: 建议使用 easywechat 的 laravel 版,easywechat 是一个由腾讯工程师开发的高质量微信开放平台 sdk,已被广泛地应用于许多 laravel 项目中…

    2025年12月24日
    000
  • 如何在移动端实现子 div 在父 div 内任意滑动查看?

    如何在移动端中实现让子 div 在父 div 内任意滑动查看 在移动端开发中,有时我们需要让子 div 在父 div 内任意滑动查看。然而,使用滚动条无法实现负值移动,因此需要采用其他方法。 解决方案: 使用绝对布局(absolute)或相对布局(relative):将子 div 设置为绝对或相对定…

    2025年12月24日
    000
  • 移动端嵌套 DIV 中子 DIV 如何水平滑动?

    移动端嵌套 DIV 中子 DIV 滑动 在移动端开发中,遇到这样的问题:当子 DIV 的高度小于父 DIV 时,无法在父 DIV 中水平滚动子 DIV。 无限画布 要实现子 DIV 在父 DIV 中任意滑动,需要创建一个无限画布。使用滚动无法达到负值,因此需要使用其他方法。 相对定位 一种方法是将子…

    2025年12月24日
    000
  • 移动端项目中,如何消除rem字体大小计算带来的CSS扭曲?

    移动端项目中消除rem字体大小计算带来的css扭曲 在移动端项目中,使用rem计算根节点字体大小可以实现自适应布局。但是,此方法可能会导致页面打开时出现css扭曲,这是因为页面内容在根节点字体大小赋值后重新渲染造成的。 解决方案: 要避免这种情况,将计算根节点字体大小的js脚本移动到页面的最前面,即…

    2025年12月24日
    000
  • Nuxt 移动端项目中 rem 计算导致 CSS 变形,如何解决?

    Nuxt 移动端项目中解决 rem 计算导致 CSS 变形 在 Nuxt 移动端项目中使用 rem 计算根节点字体大小时,可能会遇到一个问题:页面内容在字体大小发生变化时会重绘,导致 CSS 变形。 解决方案: 可将计算根节点字体大小的 JS 代码块置于页面最前端的 标签内,确保在其他资源加载之前执…

    2025年12月24日
    200
  • Nuxt 移动端项目使用 rem 计算字体大小导致页面变形,如何解决?

    rem 计算导致移动端页面变形的解决方法 在 nuxt 移动端项目中使用 rem 计算根节点字体大小时,页面会发生内容重绘,导致页面打开时出现样式变形。如何避免这种现象? 解决方案: 移动根节点字体大小计算代码到页面顶部,即 head 中。 原理: flexível.js 也遇到了类似问题,它的解决…

    2025年12月24日
    000
  • 形状 – CSS 挑战

    您可以在 github 仓库中找到这篇文章中的所有代码。 您可以在此处查看 codesandbox 的视觉效果。 通过css绘制各种形状 如何在 css 中绘制正方形、梯形、三角形、异形三角形、扇形、圆形、半圆、固定宽高比、0.5px 线? shapes 0.5px line .square { w…

    2025年12月24日
    000
  • 有哪些美观的开源数字大屏驾驶舱框架?

    开源数字大屏驾驶舱框架推荐 问题:有哪些美观的开源数字大屏驾驶舱框架? 答案: 资源包 [弗若恩智能大屏驾驶舱开发资源包](https://www.fanruan.com/resource/152) 软件 [弗若恩报表 – 数字大屏可视化组件](https://www.fanruan.c…

    2025年12月24日
    000
  • 网站底部如何实现飘彩带效果?

    网站底部飘彩带效果的 js 库实现 许多网站都会在特殊节日或活动中添加一些趣味性的视觉效果,例如点击按钮后散发的五彩缤纷的彩带。对于一个特定的网站来说,其飘彩带效果的实现方式可能有以下几个方面: 以 https://dub.sh/ 网站为例,它底部按钮点击后的彩带效果是由 javascript 库实…

    2025年12月24日
    000
  • 网站彩带效果背后是哪个JS库?

    网站彩带效果背后是哪个js库? 当你访问某些网站时,点击按钮后,屏幕上会飘出五颜六色的彩带,营造出庆祝的氛围。这些效果是通过使用javascript库实现的。 问题: 哪个javascript库能够实现网站上点击按钮散发彩带的效果? 答案: 根据给定网站的源代码分析: 可以发现,该网站使用了以下js…

    好文分享 2025年12月24日
    100
  • 产品预览卡项目

    这个项目最初是来自 Frontend Mentor 的挑战,旨在使用 HTML 和 CSS 创建响应式产品预览卡。最初的任务是设计一张具有视觉吸引力和功能性的产品卡,能够无缝适应各种屏幕尺寸。这涉及使用 CSS 媒体查询来确保布局在不同设备上保持一致且用户友好。产品卡包含产品图像、标签、标题、描述和…

    2025年12月24日
    100
  • 如何利用 echarts-gl 绘制带发光的 3D 图表?

    如何绘制带发光的 3d 图表,类似于 echarts 中的示例? 为了实现类似的 3d 图表效果,需要引入 echarts-gl 库:https://github.com/ecomfe/echarts-gl。 echarts-gl 专用于在 webgl 环境中渲染 3d 图形。它提供了各种 3d 图…

    2025年12月24日
    000
  • 如何在 Element UI 的 el-rate 组件中实现 5 颗星 5 分制与百分制之间的转换?

    如何在el-rate中将5颗星5分制的分值显示为5颗星百分制? 要实现该效果,只需使用 el-rate 组件的 allow-half 属性。在设置 allow-half 属性后,获得的结果乘以 20 即可得到0-100之间的百分制分数。如下所示: score = score * 20; 动态显示鼠标…

    2025年12月24日
    100
  • CSS 最佳实践:后端程序员重温 CSS 时常见的三个疑问?

    CSS 最佳实践:提升代码质量 作为后端程序员,在重温 CSS/HTML 时,你可能会遇到一些关于最佳实践的问题。以下将解答三个常见问题,帮助你编写更规范、清晰的 CSS 代码。 1. margin 设置策略 当相邻元素都设置了 margin 时,通常情况下应为上一个元素设置 margin-bott…

    2025年12月24日
    000

发表回复

登录后才能评论
关注微信