怎样使用Node.js操作共享内存?

Node.js通过SharedArrayBuffer实现线程间共享内存,通过N-API调用C/C++代码实现跨进程共享内存。前者适用于同一进程内worker_threads间高效通信,后者借助操作系统API实现多进程间数据共享,但需处理同步与跨平台问题。

怎样使用node.js操作共享内存?

Node.js本身并不像C/C++那样直接提供操作系统级别的共享内存API。它主要通过两种方式实现类似或真实的共享内存功能:一是利用

worker_threads

模块中的

SharedArrayBuffer

实现进程内的内存共享,这更像是线程间的共享;二是通过N-API(Native Addons)调用底层的C/C++代码来直接访问操作系统提供的共享内存机制,实现跨进程的内存共享。在JavaScript运行时直接进行原始的内存操作是不被允许的,这主要是出于安全性和内存管理(如垃圾回收)的考量。

解决方案

在Node.js中处理共享内存,我们通常会根据“共享”的范围来选择不同的策略。

对于进程内部(即同一个Node.js应用的不同工作线程之间)的数据共享,

SharedArrayBuffer

是目前最直接、也是Node.js官方推荐的方式。它允许在不同的

worker_threads

之间共享同一块内存区域,并且通过

Atomics

对象来保证操作的原子性,避免数据竞争。这在需要高性能并发计算,并且数据量较大、不适合通过消息传递的场景下非常有用。

而对于跨进程(比如一个Node.js进程与其他Node.js进程,或者Node.js进程与C/C++、Python等其他语言进程)的共享内存,情况就复杂一些了。Node.js核心库并没有直接暴露操作系统级别的共享内存接口。这时,最可靠且性能最好的方法是编写一个N-API(Native Addon)模块。通过N-API,我们可以用C/C++代码直接调用操作系统提供的共享内存API(如POSIX系统上的

shm_open

mmap

,或Windows上的

CreateFileMapping

MapViewOfFile

),然后将这些功能封装成JavaScript可调用的接口。这样,Node.js应用就能间接地实现跨进程的共享内存操作了。此外,文件映射(File-backed Memory Maps)也是一种常见的“伪共享内存”方案,Node.js可以通过N-API或一些第三方库来操作文件句柄,实现内存映射。

为什么Node.js直接操作共享内存会比较复杂?

在我看来,Node.js在设计之初就不是为了直接进行底层内存操作而生的。它的核心是基于V8引擎的JavaScript运行时,而JavaScript本身是一种高级语言,抽象掉了大部分内存管理的细节,例如垃圾回收机制就是其核心特性之一。这意味着开发者通常不需要关心内存分配和释放,这大大简化了开发。

但这种便利也带来了限制。JavaScript的内存模型是高度抽象和受保护的,它没有直接的指针概念,也不允许直接访问物理内存地址。V8引擎为了保证内存安全和垃圾回收的效率,会对JavaScript对象进行移动和压缩。如果Node.js允许直接操作共享内存,那么这种直接访问可能会与V8的垃圾回收机制产生冲突,导致内存损坏或安全漏洞。

此外,Node.js的单线程事件循环模型也是一个重要因素。虽然

worker_threads

引入了多线程,但其设计哲学依然强调通过消息传递来协调不同线程之间的工作,而不是让它们自由地共享和修改内存。

SharedArrayBuffer

是一个例外,但它也需要配合

Atomics

来确保数据一致性,这本身就说明了直接共享内存的复杂性。坦白说,这种设计理念是为了提供一个更安全、更易于理解和调试的并发模型,避免了传统多线程编程中常见的竞态条件和死锁问题。

如何在Node.js中使用SharedArrayBuffer实现进程内共享?

SharedArrayBuffer

是Node.js中实现同一个进程内不同

worker_threads

之间共享内存的关键。它不像普通的

ArrayBuffer

,在传递给Worker时会进行复制,

SharedArrayBuffer

是真正地在主线程和Worker线程之间共享同一块内存区域。

使用它的基本步骤是:

在主线程或一个Worker线程中创建一个

SharedArrayBuffer

实例。将这个

SharedArrayBuffer

实例通过

worker.postMessage()

传递给其他Worker线程。由于它是共享的,传递的是引用而非拷贝。在所有拥有该

SharedArrayBuffer

引用的线程中,都可以通过

Int32Array

Uint8Array

等类型化数组视图来读写这块共享内存。关键点: 由于多个线程可能同时读写同一块内存,为了避免数据不一致和竞态条件,必须使用

Atomics

对象提供的原子操作方法(如

Atomics.add()

,

Atomics.load()

,

Atomics.store()

,

Atomics.compareExchange()

等)来对共享内存进行操作。

下面是一个简单的例子:

// main.js (主线程)const { Worker, isMainThread, parentPort } = require('worker_threads');if (isMainThread) {  // 创建一个1KB的共享内存缓冲区  const sharedBuffer = new SharedArrayBuffer(1024);  const sharedArray = new Int32Array(sharedBuffer);  // 初始化共享内存的第一个元素  sharedArray[0] = 0;  console.log('主线程:初始值 =', sharedArray[0]);  // 启动两个Worker  const worker1 = new Worker(__filename);  const worker2 = new Worker(__filename);  // 将共享缓冲区传递给Worker  worker1.postMessage({ sharedBuffer });  worker2.postMessage({ sharedBuffer });  let completedWorkers = 0;  worker1.on('message', (msg) => {    if (msg === 'done') {      completedWorkers++;      if (completedWorkers === 2) {        console.log('主线程:所有Worker完成,最终值 =', sharedArray[0]);      }    }  });  worker2.on('message', (msg) => {    if (msg === 'done') {      completedWorkers++;      if (completedWorkers === 2) {        console.log('主线程:所有Worker完成,最终值 =', sharedArray[0]);      }    }  });} else {  // worker.js (工作线程)  parentPort.on('message', (msg) => {    const { sharedBuffer } = msg;    const sharedArray = new Int32Array(sharedBuffer);    // 每个Worker对共享内存的第一个元素进行1000次原子加操作    for (let i = 0; i < 1000; i++) {      Atomics.add(sharedArray, 0, 1); // 原子加操作    }    parentPort.postMessage('done');  });}

运行这段代码,你会看到最终

sharedArray[0]

的值是2000,这证明了两个Worker成功地共享并原子性地修改了同一块内存区域。

Node.js如何通过N-API与C/C++共享内存进行交互?

当我们需要在Node.js进程和其他独立的进程(无论是不是Node.js进程)之间共享内存时,N-API就成了我们的桥梁。N-API允许我们编写C/C++代码,并将其编译成一个Node.js可以加载的模块。在C/C++代码中,我们可以直接使用操作系统提供的低级共享内存API。

这个过程大致是这样的:

C/C++模块开发:

在C/C++中,你需要使用平台特定的API来创建或打开共享内存区域。在POSIX系统(Linux, macOS等)上,这通常涉及到

shm_open()

来创建或打开一个共享内存对象,然后使用

ftruncate()

设置其大小,最后用

mmap()

将这个共享内存对象映射到进程的地址空间。在Windows系统上,你需要使用

CreateFileMapping()

来创建一个文件映射对象,然后用

MapViewOfFile()

将它映射到进程的地址空间。C/C++代码会提供函数来读写这块共享内存。使用N-API的宏和函数,将这些C/C++函数封装成JavaScript可以调用的函数,并注册到Node.js模块中。例如,你可能会暴露一个

createSharedMemory()

函数来创建共享内存,一个

getSharedMemoryBuffer()

函数来返回一个指向共享内存的

ArrayBuffer

,以及

writeToSharedMemory()

readFromSharedMemory()

等函数。

Node.js应用调用:

在Node.js应用中,你通过

require()

加载这个编译好的N-API模块。然后,你就可以像调用普通的JavaScript函数一样,调用C/C++暴露出来的共享内存操作函数了。例如,

const mySharedMem = require('./build/Release/shared_mem_addon');

,然后调用

mySharedMem.createSharedMemory('my_shm_key', 4096);

概念性代码示例(简化版,仅展示思路):

C++部分 (

shared_mem_addon.cc

):

#include #include #include #include #ifdef _WIN32#include #else#include #include #include #include #endif// 这是一个非常简化的示例,实际生产环境需要更健壮的错误处理和资源管理void* shared_memory_ptr = nullptr;size_t shared_memory_size = 0;#ifdef _WIN32HANDLE hMapFile = NULL;#elseint shm_fd = -1;#endifNapi::Value CreateSharedMemory(const Napi::CallbackInfo& info) {    Napi::Env env = info.Env();    if (info.Length() < 2 || !info[0].IsString() || !info[1].IsNumber()) {        Napi::TypeError::New(env, "Expected shared memory key (string) and size (number)").ThrowAsJavaScriptException();        return env.Null();    }    std::string key = info[0].As().Utf8Value();    shared_memory_size = info[1].As().Uint32Value();#ifdef _WIN32    hMapFile = CreateFileMapping(        INVALID_HANDLE_VALUE,    // use paging file        NULL,                    // default security        PAGE_READWRITE,          // read/write access        0,                       // maximum object size (high-order DWORD)        shared_memory_size,      // maximum object size (low-order DWORD)        key.c_str());            // name of mapping object    if (hMapFile == NULL) {        Napi::Error::New(env, "Could not create file mapping object").ThrowAsJavaScriptException();        return env.Null();    }    shared_memory_ptr = MapViewOfFile(        hMapFile,                // handle to map object        FILE_MAP_ALL_ACCESS,     // read/write access        0,        0,        shared_memory_size);    if (shared_memory_ptr == NULL) {        CloseHandle(hMapFile);        Napi::Error::New(env, "Could not map view of file").ThrowAsJavaScriptException();        return env.Null();    }#else // POSIX    shm_fd = shm_open(key.c_str(), O_CREAT | O_RDWR, 0666);    if (shm_fd == -1) {        Napi::Error::New(env, "shm_open failed").ThrowAsJavaScriptException();        return env.Null();    }    if (ftruncate(shm_fd, shared_memory_size) == -1) {        close(shm_fd);        Napi::Error::New(env, "ftruncate failed").ThrowAsJavaScriptException();        return env.Null();    }    shared_memory_ptr = mmap(0, shared_memory_size, PROT_READ | PROT_WRITE, MAP_SHARED, shm_fd, 0);    if (shared_memory_ptr == MAP_FAILED) {        close(shm_fd);        Napi::Error::New(env, "mmap failed").ThrowAsJavaScriptException();        return env.Null();    }#endif    return Napi::Boolean::New(env, true);}Napi::Value GetSharedMemoryBuffer(const Napi::CallbackInfo& info) {    Napi::Env env = info.Env();    if (shared_memory_ptr == nullptr) {        Napi::Error::New(env, "Shared memory not initialized").ThrowAsJavaScriptException();        return env.Null();    }    // N-API允许从原生内存创建ArrayBuffer    return Napi::ArrayBuffer::New(env, shared_memory_ptr, shared_memory_size);}// 在模块卸载时清理资源Napi::Object Init(Napi::Env env, Napi::Object exports) {    exports.Set(Napi::String::New(env, "createSharedMemory"), Napi::Function::New(env, CreateSharedMemory));    exports.Set(Napi::String::New(env, "getSharedMemoryBuffer"), Napi::Function::New(env, GetSharedMemoryBuffer));    return exports;}NODE_API_MODULE(shared_mem_addon, Init)

Node.js调用部分 (

app.js

):

// app.jsconst sharedMemAddon = require('./build/Release/shared_mem_addon'); // 假设已编译好const SHM_KEY = 'my_unique_shm_key';const SHM_SIZE = 1024; // 1KBtry {  // 创建或连接共享内存  const created = sharedMemAddon.createSharedMemory(SHM_KEY, SHM_SIZE);  console.log(`共享内存 ${SHM_KEY} ${created ? '创建/连接成功' : '失败'}`);  // 获取共享内存的ArrayBuffer视图  const sharedBuffer = sharedMemAddon.getSharedMemoryBuffer();  const uint8Array = new Uint8Array(sharedBuffer);  // 写入数据  const message = "Hello from Node.js!";  for (let i = 0; i < message.length; i++) {    uint8Array[i] = message.charCodeAt(i);  }  uint8Array[message.length] = 0; // null terminator  console.log('Node.js写入数据:', message);  // 假设有另一个进程(可能是另一个Node.js进程或C++程序)  // 也能通过相同的SHM_KEY连接到这块共享内存并读取数据。  // ...  // 在真实场景中,这里还需要一个机制来同步读写,比如信号量或互斥锁,  // 同样可以在C++ addon中实现并暴露给JS。} catch (error) {  console.error('操作共享内存失败:', error.message);}// 注意:共享内存的清理(如shm_unlink或UnmapViewOfFile/CloseHandle)// 同样需要通过N-API在C++中实现并由Node.js调用,// 或者在进程退出时自动清理(依赖OS行为)。

通过N-API,Node.js获得了直接与操作系统底层交互的能力,从而能够实现真正的跨进程共享内存。但这种方法会显著增加项目的复杂性,因为它引入了C/C++开发、编译、以及跨平台兼容性等问题。此外,共享内存本身也需要细致的同步机制(如信号量、互斥锁)来避免数据损坏,这些也需要在C/C++层面实现。所以,通常只在对性能有极高要求,且其他IPC方式无法满足的特定场景下才会考虑使用N-API来实现共享内存。

以上就是怎样使用Node.js操作共享内存?的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1518410.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年12月20日 11:32:27
下一篇 2025年12月20日 11:32:38

相关推荐

  • 如何解决本地图片在使用 mask JS 库时出现的跨域错误?

    如何跨越localhost使用本地图片? 问题: 在本地使用mask js库时,引入本地图片会报跨域错误。 解决方案: 要解决此问题,需要使用本地服务器启动文件,以http或https协议访问图片,而不是使用file://协议。例如: python -m http.server 8000 然后,可以…

    2025年12月24日
    200
  • 使用 Mask 导入本地图片时,如何解决跨域问题?

    跨域疑难:如何解决 mask 引入本地图片产生的跨域问题? 在使用 mask 导入本地图片时,你可能会遇到令人沮丧的跨域错误。为什么会出现跨域问题呢?让我们深入了解一下: mask 框架假设你以 http(s) 协议加载你的 html 文件,而当使用 file:// 协议打开本地文件时,就会产生跨域…

    2025年12月24日
    200
  • 正则表达式在文本验证中的常见问题有哪些?

    正则表达式助力文本输入验证 在文本输入框的验证中,经常遇到需要限定输入内容的情况。例如,输入框只能输入整数,第一位可以为负号。对于不会使用正则表达式的人来说,这可能是个难题。下面我们将提供三种正则表达式,分别满足不同的验证要求。 1. 可选负号,任意数量数字 如果输入框中允许第一位为负号,后面可输入…

    2025年12月24日
    000
  • 如何在 VS Code 中解决折叠代码复制问题?

    解决 VS Code 折叠代码复制问题 在 VS Code 中使用折叠功能可以帮助组织长代码,但使用复制功能时,可能会遇到只复制可见部分的问题。以下是如何解决此问题: 当代码被折叠时,可以使用以下简单操作复制整个折叠代码: 按下 Ctrl + C (Windows/Linux) 或 Cmd + C …

    2025年12月24日
    000
  • 为什么多年的经验让我选择全栈而不是平均栈

    在全栈和平均栈开发方面工作了 6 年多,我可以告诉您,虽然这两种方法都是流行且有效的方法,但它们满足不同的需求,并且有自己的优点和缺点。这两个堆栈都可以帮助您创建 Web 应用程序,但它们的实现方式却截然不同。如果您在两者之间难以选择,我希望我在两者之间的经验能给您一些有用的见解。 在这篇文章中,我…

    2025年12月24日
    000
  • 姜戈顺风

    本教程演示如何在新项目中从头开始配置 django 和 tailwindcss。 django 设置 创建一个名为 .venv 的新虚拟环境。 # windows$ python -m venv .venv$ .venvscriptsactivate.ps1(.venv) $# macos/linu…

    2025年12月24日
    000
  • 花 $o 学习这些编程语言或免费

    → Python → JavaScript → Java → C# → 红宝石 → 斯威夫特 → 科特林 → C++ → PHP → 出发 → R → 打字稿 []https://x.com/e_opore/status/1811567830594388315?t=_j4nncuiy2wfbm7ic…

    2025年12月24日
    000
  • 深入理解CSS框架与JS之间的关系

    深入理解CSS框架与JS之间的关系 在现代web开发中,CSS框架和JavaScript (JS) 是两个常用的工具。CSS框架通过提供一系列样式和布局选项,可以帮助我们快速构建美观的网页。而JS则提供了一套功能强大的脚本语言,可以为网页添加交互和动态效果。本文将深入探讨CSS框架和JS之间的关系,…

    2025年12月24日
    000
  • 项目实践:如何结合CSS和JavaScript打造优秀网页的经验总结

    项目实践:如何结合CSS和JavaScript打造优秀网页的经验总结 随着互联网的快速发展,网页设计已经成为了各行各业都离不开的一项技能。优秀的网页设计可以给用户留下深刻的印象,提升用户体验,增加用户的黏性和转化率。而要做出优秀的网页设计,除了对美学的理解和创意的运用外,还需要掌握一些基本的技能,如…

    2025年12月24日
    200
  • 学完HTML和CSS之后我应该做什么?

    网页开发是一段漫长的旅程,但是掌握了HTML和CSS技能意味着你已经赢得了一半的战斗。这两种语言对于学习网页开发技能来说非常重要和基础。现在不可或缺的是下一个问题,学完HTML和CSS之后我该做什么呢? 对这些问题的答案可以分为2-3个部分,你可以继续练习你的HTML和CSS编码,然后了解在学习完H…

    2025年12月24日
    000
  • 聊聊怎么利用CSS实现波浪进度条效果

    本篇文章给大家分享css 高阶技巧,介绍一下如何使用css实现波浪进度条效果,希望对大家有所帮助! 本文是 CSS Houdini 之 CSS Painting API 系列第三篇。 现代 CSS 之高阶图片渐隐消失术现代 CSS 高阶技巧,像 Canvas 一样自由绘图构建样式! 在上两篇中,我们…

    2025年12月24日 好文分享
    200
  • 巧用距离、角度及光影制作炫酷的 3D 文字特效

    如何利用 css 实现3d立体的数字?下面本篇文章就带大家巧用视觉障眼法,构建不一样的 3d 文字特效,希望对大家有所帮助! 最近群里有这样一个有意思的问题,大家在讨论,使用 CSS 3D 能否实现如下所示的效果: 这里的核心难点在于,如何利用 CSS 实现一个立体的数字?CSS 能做到吗? 不是特…

    2025年12月24日 好文分享
    000
  • CSS高阶技巧:实现图片渐隐消的多种方法

    将专注于实现复杂布局,兼容设备差异,制作酷炫动画,制作复杂交互,提升可访问性及构建奇思妙想效果等方面的内容。 在兼顾基础概述的同时,注重对技巧的挖掘,结合实际进行运用,欢迎大家关注。 正文从这里开始。 在过往,我们想要实现一个图片的渐隐消失。最常见的莫过于整体透明度的变化,像是这样: 立即学习“前端…

    2025年12月24日 好文分享
    000
  • css实现登录按钮炫酷效果(附代码实例)

    今天在网上看到一个炫酷的登录按钮效果;初看时感觉好牛掰;但是一点一点的抛开以后发现,并没有那么难;我会将全部代码贴出来;如果有不对的地方,大家指点一哈。 分析 我们抛开before不谈的话;其实原理和就是通过背景大小以及配合位置达到颜色渐变的效果。 text-transform: uppercase…

    2025年12月24日
    000
  • CSS flex布局属性:align-items和align-content的区别

    在用flex布局时,发现有两个属性功能好像有点类似:align-items和align-content,乍看之下,它们都是用于定义flex容器中元素在交叉轴(主轴为flex-deriction定义的方向,默认为row,那么交叉轴跟主轴垂直即为column,反之它们互调,flex基本的概念如下图所示)…

    2025年12月24日 好文分享
    000
  • 手把手教你用 transition 实现短视频 APP的点赞动画

    怎么使用纯 css 实现有趣的点赞动画?下面本篇文章就带大家了解一下巧妙借助 transition实现点赞动画的方法,希望对大家有所帮助! 在各种短视频界面上,我们经常会看到类似这样的点赞动画: 非常的有意思,有意思的交互会让用户更愿意进行互动。 那么,这么有趣的点赞动画,有没有可能使用纯 CSS …

    2025年12月24日 好文分享
    000
  • 巧用CSS实现各种奇形怪状按钮(附代码)

    本篇文章带大家看看怎么使用 CSS 轻松实现高频出现的各类奇形怪状按钮,希望对大家有所帮助! 怎么样使用 CSS 实现一个内切角按钮呢、怎么样实现一个带箭头的按钮呢? 本文基于一些高频出现在设计稿中的,使用 css 实现稍微有点难度和技巧性的按钮,讲解使用 css 如何尽可能的实现它们。【推荐学习:…

    2025年12月24日 好文分享
    000
  • 原来利用纯CSS也能实现文字轮播与图片轮播!

    怎么制作文字轮播与图片轮播?大家第一想到的是不是利用js,其实利用纯css也能实现文字轮播与图片轮播,下面来看看实现方法,希望对大家有所帮助! 今天,分享一个实际业务中能够用得上的动画技巧。【推荐学习:css视频教程】 巧用逐帧动画,配合补间动画实现一个无限循环的轮播效果,像是这样: 立即学习“前端…

    2025年12月24日 好文分享
    000
  • HTML+CSS+JS实现雪花飘扬(代码分享)

    使用html+css+js如何实现下雪特效?下面本篇文章给大家分享一个html+css+js实现雪花飘扬的示例,希望对大家有所帮助。 很多南方的小伙伴可能没怎么见过或者从来没见过下雪,今天我给大家带来一个小Demo,模拟了下雪场景,首先让我们看一下运行效果 可以点击看看在线运行:http://hai…

    2025年12月24日 好文分享
    500
  • 总结整理:需要避坑的五大常见css错误(收藏)

    本篇文章给大家总结5个最常见的css错误,并介绍一下避坑方法,希望对大家有所帮助! 正如我们今天所知,CSS语言是web的一个重要组成部分。它使我们有能力绘制元素在屏幕、网页或其他媒体中的展示方式。 它简单、强大,而且是声明式的。我们可以很容易地实现复杂的事情,如暗黑/光明模式。然而,对它有很多误解…

    2025年12月24日
    000

发表回复

登录后才能评论
关注微信