Linux高性能网络编程十谈|我在大厂的架构演进

linux高性能网络编程十谈》系列博客已完成数月,回顾这几年的工作经历,我在鹅厂的两次工作加起来将近8年。虽然大部分时间都在做基础性工作,但回顾高性能架构的演进过程,从参与到优化,再到最终设计架构,我从中学到了很多。

1、提前设计还是业务演进?在项目从0到1的过程中,大家都经历过架构的选择问题:是随着业务演进还是提前设计?虽然很多架构书籍支持随着业务演进的观点,但也有许多架构师认为应提前设计架构。通过我个人的架构演进经历,我们来探讨这个问题。

2、从PHP到C++2.1 简单的PHP架构PHP作为一门简单易用的语言,在大厂各个部门都有应用。我的工作涉及两种语言:C++和PHP。使用PHP开发功能非常快捷,且有许多成熟的库,因此形成了经典的nginx + php-fpm + memcache架构。

Linux高性能网络编程十谈|我在大厂的架构演进php架构

在这种架构下,单台8c8g的机器可以轻松支持1000qps,而当时业务的需求不到1wqps,显然多加几台机器就能满足需求。对于缓存层的设计,在Redis尚未普及时,Memcache是主流选择,且与PHP对接简单。但随着业务发展,预计一年内将达到5wqps,继续使用nginx + php-fpm + memcache架构是否合理?经过讨论,我们决定追求高性能服务端,于是开始了高性能探索之旅。

立即进入“豆包AI人工智官网入口”;

立即学习“豆包AI人工智能在线问答入口”;

2.2 多进程的框架在PHP中实现高性能服务端框架有一些方案,例如通过PHP插件将Server功能嫁接到脚本语言上,从而实现高性能。比如现在的PHP的swoole就是从当时发展起来的。

Linux高性能网络编程十谈|我在大厂的架构演进php-server

然而,这也带来了几个需要解决的问题:

熟悉PHP扩展的使用场景,避免踩坑PHP本身的内存泄漏问题出现问题时的排查成本高,可能需要研究PHP源码PHP的生态系统能否适应Docker的兴起和单机时代的终结

基于这些考虑和业务发展的分析,我们决定自己实现一个或使用现有的C++框架来构建业务层的Server。最终选择了公司内部的SPP框架,其架构如下:

Linux高性能网络编程十谈|我在大厂的架构演进SPP框架架构

SPP框架采用多进程架构,类似于Nginx,分为Proxy进程和Worker进程:

Proxy进程使用handle_init进行初始化,使用handle_route将请求转发到指定的Worker进程,使用handle_input处理请求的入包Worker进程使用handle_init进行初始化,使用handle_process处理包和业务逻辑并返回结果

使用C++架构后,单机性能直接提升到6kqps,基本满足性能需求,可以在相同的机器上支持更多业务,看似可以稳定架构了。

2.3 引入协程虽然C++在性能上已满足需求,但在开发效率上存在问题。例如访问Redis,为了保持高性能,代码逻辑采用异步回调,如下所示:

...int ret = redis->GetString(k, getValueCallback)...

其中getValueCallback是回调函数,处理多个IO操作时,回调会变得非常复杂,即使封装成类似同步方式,处理起来也很麻烦。当时还没有引入std::futurestd::async。另一方面,考虑到后续QPS可能达到10~20万,协程在多IO服务处理上的性能更有优势,于是开始了协程改造,将IO操作替换为协程调用,对于业务开发,代码变成了这样:

...int ret = redis->GetString(k, value)...

其中value是可以直接使用的返回值,一旦代码中有IO操作,底层就会将IO替换为协程的API,这样阻塞的IO操作就变成了同步化原语,代码结构和开发效率都有了显著提升(具体的协程实现可以参考系列文章中的《Linux高性能网络编程十谈|协程》)。

Linux高性能网络编程十谈|我在大厂的架构演进协程

从架构上看,虽然没有太多变化,但多进程+协程的方式支持了业务发展几年时间。虽然性能没有指数增长,但在高性能探索和经验积累上有了更多收获。

3、云原生随着业务的继续发展,工程师总是在追求最前沿的理念。云原生作为近几年的热门技术点自然不会放过,但在进入云原生之前,如果团队没有DevOps开发理念,这将是一个痛苦的过程,需要对架构设计和框架选择偿还技术债。

3.1 实施DevOps理念以前做架构时主要考虑高性能,随着对架构的理解加深,发现高性能只是架构设计的一个小领域。要想做好一个架构,需要更多的敏捷流程和服务治理理念,具体考虑的点总结如下:

持续集成:开发人员一天多次将代码集成到共享存储库中,并对每个孤立更改立即进行测试,以检测并防止集成问题持续交付:确保可以在CI存储库中测试的每个版本的代码随时发布持续部署:包括灰度部署、蓝绿发布等,目的是快速迭代,通过相对完整的集成测试后进行灰度验证服务发现:将服务作为微服务化,简化服务之间的调用RPC的框架:追求高性能的Server框架,也需要考虑限流、熔断等基础组件的支持监控系统:集成Promethues、OpenTracing等功能,能在敏捷开发流程中快速发现线上问题容器化:为了环境统一,同时提前考虑云原生场景,容器化是开发过程中必不可少的

Linux高性能网络编程十谈|我在大厂的架构演进DevOps

到这里会发现,简单的高性能Server已经不再是架构追求的唯一目标,于是需要重新调研并设计架构,以顺利实施DevOps理念。

3.2 多线程基于DevOps,结合之前的C++ Server框架,发现多进程已经不能满足架构需求,原因如下:

多进程与Docker容器的单进程理念不相符工作进程负载不均,如何更好地利用多核与监控系统有效对接业务配置重复加载,需要重新适配配置中心使用多进程做有状态的服务不合理

业务也发展到百万QPS,为了更好的服务治理和服务调用成本,不得不考虑其他架构:

(1)调研gRPC

Linux高性能网络编程十谈|我在大厂的架构演进gRPC

gRPC是多线程RPC Server,具有成熟的生态,支持多语言等,对于从0到1开发的业务是一个不错的选择。但对于业务迁移却面临挑战,例如开发自己的中间件以适配服务发现、配置中心等,改造协议以实现自定义编解码,如何结合协程等。因此,gRPC对于部分业务适用,但仍需更好的结合公司内组件的RPC Server。

(2)使用tRPC

公司内部正在开发tRPC,经过调研发现基本满足需求,于是我们在tRPC的C++版本刚刚发展初期就尝试适配我们的系统。经过一系列改造,高性能的RPC框架在业务系统中迁移和使用了,其中tRPC的架构:

Linux高性能网络编程十谈|我在大厂的架构演进https://www.php.cn/link/6b42c916702e0bd86f86a3bb84fc7aa2

基于上述考虑和业务的发展,我们开始尝试以高性能为基础,将RPC Server框架统一,以适配后续RPC多样化场景,于是实现了一套适配我们业务系统的RPC Server基本框架:

Linux高性能网络编程十谈|我在大厂的架构演进新架构

3.3、走向k8s经历上述选型和改造后,我们的服务在迁移k8s过程中,按部就班对接即可,服务不需要经过太多的改造就可以在其平台上运行,对接的各个平台也能够完整支持。看似去追求更新的技术等着下一个风口就可以了?实际这个时候反而挑战更多了,由于在云上的便捷和迁移服务架构的无序扩张,导致业务服务和逻辑层次越来越多,同时一个服务依赖的下游链路越来越长。虽然我们的框架支持链路跟踪,但链路越长,对服务的可控性和稳定性就越差,反而浪费更多的人力支持日常ops。

怎么办?

是不是要合并业务逻辑,将架构简化?这里面临的问题是业务逻辑复杂情况下往往周期很长,而且从成本角度考虑比较高,收益并不会很大是不是重新开发新的架构,将腐朽的保持原样或者抛弃,使用新的架构来适配下一步的发展

以上就是Linux高性能网络编程十谈|我在大厂的架构演进的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/71549.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
怎么应对软件需求变更
上一篇 2025年11月13日 11:40:32
采购需求变更单怎么填
下一篇 2025年11月13日 11:41:56

相关推荐

  • Matplotlib 地图中多类型图例的创建与优化

    Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化Matplotlib 地图中多类型图例的创建与优化

    本教程旨在解决matplotlib地图可视化中,如何在一个图例中同时展示颜色块(如区域分类)和自定义标记(如特定兴趣点)的问题。文章详细介绍了当传统`patch`对象无法正确显示标记时,如何利用`matplotlib.lines.line2d`创建标记图例句柄,并将其与颜色块图例句柄合并,从而生成一…

    2026年5月10日 用户投稿
    100
  • 怎么在PHP代码中实现图片上传功能_PHP图片上传功能实现与安全处理教程

    首先创建含enctype的HTML表单,再用PHP接收文件,检查目录、移动临时文件,验证类型与大小,生成唯一文件名,并调整php.ini限制以确保上传成功。 如果您尝试在PHP项目中添加图片上传功能,但服务器无法正确接收或保存文件,则可能是由于表单配置、文件处理逻辑或安全限制的问题。以下是实现该功能…

    2026年5月10日
    100
  • c++中的SFINAE技术是什么_c++模板编程中的SFINAE原理与应用

    SFINAE 是“替换失败不是错误”的原则,指模板实例化时若参数替换导致错误,只要存在其他合法候选,编译器不报错而是继续重载决议。它用于条件启用模板、类型检测等场景,如通过 decltype 或 enable_if 控制函数重载,实现类型特征判断。尽管 C++20 引入 Concepts 简化了部分…

    2026年5月10日
    000
  • RichHandler与Rich Progress集成:解决显示冲突的教程

    在使用rich库的`richhandler`进行日志输出并同时使用`progress`组件时,可能会遇到显示错乱或溢出问题。这通常是由于为`richhandler`和`progress`分别创建了独立的`console`实例导致的。解决方案是确保日志处理器和进度条组件共享同一个`console`实例…

    2026年5月10日
    000
  • c#文件怎么打开

    打开 C# 文件有三种方法:Visual Studio:启动 Visual Studio,通过“文件”菜单打开 C# 文件。文本编辑器:使用文本编辑器打开 C# 文件,将其视为普通文本。.NET Core 命令行工具:使用 csc.exe 命令行工具编译 C# 文件,生成可执行文件。 如何打开 C#…

    2026年5月10日
    000
  • Python命令怎样使用profile分析脚本性能 Python命令性能分析的基础教程

    使用Python的cProfile模块分析脚本性能最直接的方式是通过命令行执行python -m cProfile your_script.py,它会输出每个函数的调用次数、总耗时、累积耗时等关键指标,帮助定位性能瓶颈;为进一步分析,可将结果保存为文件python -m cProfile -o ou…

    2026年5月10日
    000
  • 使用 WebCodecs VideoDecoder 实现精确逐帧回退

    本文档旨在解决在使用 WebCodecs VideoDecoder 进行视频解码时,实现精确逐帧回退的问题。通过比较帧的时间戳与目标帧的时间戳,可以避免渲染中间帧,从而提高用户体验。本文将提供详细的解决方案和示例代码,帮助开发者实现精确的视频帧控制。 在使用 WebCodecs VideoDecod…

    2026年5月10日
    000
  • c++如何实现UDP通信_c++基于UDP的网络通信示例

    UDP通信基于套接字实现,适用于实时性要求高的场景。1. 流程包括创建套接字、绑定地址(接收方)、发送(sendto)与接收(recvfrom)数据、关闭套接字;2. 服务端监听指定端口,接收客户端消息并回传;3. 客户端发送消息至服务端并接收响应;4. 跨平台需处理Winsock初始化与库链接,编…

    2026年5月10日
    100
  • html5怎么画实线_HTML5用CSS border-style:solid画元素实线边框【绘制】

    可通过CSS的border-style属性设为solid添加实线边框:一、内联样式用border:2px solid #000;二、内部样式表统一设置如div{border:1px solid #333};三、外部CSS文件定义.my-box{border:3px solid red}并引入;四、单…

    2026年5月10日
    200
  • 谷歌浏览器如何截图 谷歌浏览器页面截图技巧

    谷歌浏览器如何截图 谷歌浏览器页面截图技巧谷歌浏览器如何截图 谷歌浏览器页面截图技巧谷歌浏览器如何截图 谷歌浏览器页面截图技巧谷歌浏览器如何截图 谷歌浏览器页面截图技巧

    使用谷歌浏览器的开发者工具截图步骤:1. 按ctrl+shift+i(windows/linux)或cmd+option+i(mac)打开开发者工具。2. 点击右上角三个点,选择”更多工具”,再选择”截图”。3. 选择截取整个页面。推荐的谷歌浏览器扩展…

    2026年5月10日 用户投稿
    100
  • JS如何实现迭代器?迭代器协议

    JavaScript中实现迭代器需遵循可迭代协议和迭代器协议,通过定义[Symbol.iterator]方法返回具备next()方法的迭代器对象,从而支持for…of和展开运算符;该机制统一了数据结构的遍历接口,实现惰性求值,适用于自定义对象、树、图及无限序列等复杂场景,提升代码通用性与…

    2026年5月10日
    000
  • 使用 Pydantic v2 实现条件性必填字段

    本文介绍了如何在 Pydantic v2 模型中实现条件性必填字段。通过自定义验证器,可以根据模型中其他字段的值来动态地控制某些字段是否为必填项,从而满足 API 交互中数据验证的复杂需求。本文提供了一个具体的示例,展示了如何确保模型中至少有一个字段被赋值。 在 Pydantic v2 中,虽然没有…

    2026年5月10日
    000
  • React组件中动态属性值的管理与同步:利用状态实现受控组件

    本教程旨在解决react组件中动态属性值同步使用的问题。我们将探讨如何利用react的`usestate` hook来管理组件内部状态,从而实现一个属性的值动态地影响另一个属性,并构建出可预测、易于维护的受控组件。文章将通过具体代码示例,详细阐述从初始化状态到处理状态更新的完整过程,并强调受控组件在…

    2026年5月10日
    000
  • 如何讲html和css_讲解HTML与CSS结合使用基础【基础】

    需将HTML与CSS结合使用以实现网页结构与样式的分离:HTML定义标题、段落等语义结构,CSS控制颜色、字体等外观;可通过内联样式、内部样式表或外部CSS文件引入样式,并利用类选择器和ID选择器精准应用。 如果您希望网页不仅展示内容,还能具备基本的样式和结构布局,则需要将HTML与CSS结合使用。…

    2026年5月10日
    100
  • Go语言网络编程入门:构建TCP客户端/服务器

    本文旨在为Go语言初学者提供一份简洁明了的网络编程入门指南,重点介绍如何使用TCP套接字构建简单的客户端/服务器应用。通过示例代码和注意事项,帮助读者快速上手Go语言的网络编程,并了解一些最佳实践。 Go语言对网络编程提供了强大的支持,通过标准库net包,可以轻松实现各种网络应用。本文将重点介绍如何…

    2026年5月10日
    000
  • 高通预热 2023 骁龙峰会:以AI为主题,10 月 25-26 日举行

    高通预热 2023 骁龙峰会:以AI为主题,10 月 25-26 日举行高通预热 2023 骁龙峰会:以AI为主题,10 月 25-26 日举行高通预热 2023 骁龙峰会:以AI为主题,10 月 25-26 日举行高通预热 2023 骁龙峰会:以AI为主题,10 月 25-26 日举行

    【环球网科技综合报道】10月17日消息,高通今日对 2023 骁龙峰会进行了预热,本次大会将以 %ign%ignore_a_1%re_a_1% 为主题,届时骁龙 8 gen 3 处理器也很大可能在本届峰会亮相。 在临近活动召开之日,相关业内人士也透露了高通骁龙8Gen3跑分及规格。据悉,高通骁龙8 …

    2026年5月10日 用户投稿
    000
  • pycharm解析器怎么添加 解析器添加详细流程

    在pycharm中添加解析器的步骤包括:1) 打开pycharm并进入设置,2) 选择project interpreter,3) 点击齿轮图标并选择add,4) 选择解析器类型并配置路径,5) 点击ok完成添加。添加解析器后,选择合适的类型和版本,配置环境变量,并利用解析器的功能提高开发效率。 在…

    2026年5月10日
    000
  • CSS技巧:在复杂悬停效果中确保图像始终可见

    CSS技巧:在复杂悬停效果中确保图像始终可见CSS技巧:在复杂悬停效果中确保图像始终可见CSS技巧:在复杂悬停效果中确保图像始终可见CSS技巧:在复杂悬停效果中确保图像始终可见

    本教程探讨如何在包含悬停效果的CSS卡片布局中,确保图像始终显示在最顶层而不被裁剪或遮挡。通过调整HTML结构,利用CSS的position和z-index属性,以及引入pointer-events,我们将解决图像被overflow: hidden和扩展叠加层遮盖的问题,实现复杂的视觉交互效果。 在…

    2026年5月10日 用户投稿
    000
  • 从 JavaScript 获取 URL 并在 PHP DataGrid 中使用

    本文档旨在指导开发者如何从 JavaScript 函数中获取 URL,并将其动态应用于 PHP DataGrid。通过前端 JavaScript 动态生成 API 地址,并将其传递给后端的 PHP DataGrid,实现数据根据用户会话动态加载。 动态配置 DataGrid 的 URL 在构建动态 …

    2026年5月10日
    000
  • 一台服务器上如何同时运行多个UWSGI服务避免冲突?

    多UWSGI服务部署方案:利用Docker实现服务器资源隔离 本文探讨如何在单台服务器上安全运行多个UWSGI服务,避免服务冲突。 问题在于,即使端口不同,两个UWSGI服务(例如:san和san_test)也可能发生冲突,后启动的服务覆盖之前的服务。 理想情况下,san_test应该持续运行,而s…

    2026年5月10日
    000

发表回复

登录后才能评论
关注微信