Linux高性能网络编程十谈|我在大厂的架构演进

linux高性能网络编程十谈》系列博客已完成数月,回顾这几年的工作经历,我在鹅厂的两次工作加起来将近8年。虽然大部分时间都在做基础性工作,但回顾高性能架构的演进过程,从参与到优化,再到最终设计架构,我从中学到了很多。

1、提前设计还是业务演进?在项目从0到1的过程中,大家都经历过架构的选择问题:是随着业务演进还是提前设计?虽然很多架构书籍支持随着业务演进的观点,但也有许多架构师认为应提前设计架构。通过我个人的架构演进经历,我们来探讨这个问题。

2、从PHP到C++2.1 简单的PHP架构PHP作为一门简单易用的语言,在大厂各个部门都有应用。我的工作涉及两种语言:C++和PHP。使用PHP开发功能非常快捷,且有许多成熟的库,因此形成了经典的nginx + php-fpm + memcache架构。

Linux高性能网络编程十谈|我在大厂的架构演进php架构

在这种架构下,单台8c8g的机器可以轻松支持1000qps,而当时业务的需求不到1wqps,显然多加几台机器就能满足需求。对于缓存层的设计,在Redis尚未普及时,Memcache是主流选择,且与PHP对接简单。但随着业务发展,预计一年内将达到5wqps,继续使用nginx + php-fpm + memcache架构是否合理?经过讨论,我们决定追求高性能服务端,于是开始了高性能探索之旅。

立即进入“豆包AI人工智官网入口”;

立即学习“豆包AI人工智能在线问答入口”;

2.2 多进程的框架在PHP中实现高性能服务端框架有一些方案,例如通过PHP插件将Server功能嫁接到脚本语言上,从而实现高性能。比如现在的PHP的swoole就是从当时发展起来的。

Linux高性能网络编程十谈|我在大厂的架构演进php-server

然而,这也带来了几个需要解决的问题:

熟悉PHP扩展的使用场景,避免踩坑PHP本身的内存泄漏问题出现问题时的排查成本高,可能需要研究PHP源码PHP的生态系统能否适应Docker的兴起和单机时代的终结

基于这些考虑和业务发展的分析,我们决定自己实现一个或使用现有的C++框架来构建业务层的Server。最终选择了公司内部的SPP框架,其架构如下:

Linux高性能网络编程十谈|我在大厂的架构演进SPP框架架构

SPP框架采用多进程架构,类似于Nginx,分为Proxy进程和Worker进程:

Proxy进程使用handle_init进行初始化,使用handle_route将请求转发到指定的Worker进程,使用handle_input处理请求的入包Worker进程使用handle_init进行初始化,使用handle_process处理包和业务逻辑并返回结果

使用C++架构后,单机性能直接提升到6kqps,基本满足性能需求,可以在相同的机器上支持更多业务,看似可以稳定架构了。

2.3 引入协程虽然C++在性能上已满足需求,但在开发效率上存在问题。例如访问Redis,为了保持高性能,代码逻辑采用异步回调,如下所示:

...int ret = redis->GetString(k, getValueCallback)...

其中getValueCallback是回调函数,处理多个IO操作时,回调会变得非常复杂,即使封装成类似同步方式,处理起来也很麻烦。当时还没有引入std::futurestd::async。另一方面,考虑到后续QPS可能达到10~20万,协程在多IO服务处理上的性能更有优势,于是开始了协程改造,将IO操作替换为协程调用,对于业务开发,代码变成了这样:

...int ret = redis->GetString(k, value)...

其中value是可以直接使用的返回值,一旦代码中有IO操作,底层就会将IO替换为协程的API,这样阻塞的IO操作就变成了同步化原语,代码结构和开发效率都有了显著提升(具体的协程实现可以参考系列文章中的《Linux高性能网络编程十谈|协程》)。

Linux高性能网络编程十谈|我在大厂的架构演进协程

从架构上看,虽然没有太多变化,但多进程+协程的方式支持了业务发展几年时间。虽然性能没有指数增长,但在高性能探索和经验积累上有了更多收获。

3、云原生随着业务的继续发展,工程师总是在追求最前沿的理念。云原生作为近几年的热门技术点自然不会放过,但在进入云原生之前,如果团队没有DevOps开发理念,这将是一个痛苦的过程,需要对架构设计和框架选择偿还技术债。

3.1 实施DevOps理念以前做架构时主要考虑高性能,随着对架构的理解加深,发现高性能只是架构设计的一个小领域。要想做好一个架构,需要更多的敏捷流程和服务治理理念,具体考虑的点总结如下:

持续集成:开发人员一天多次将代码集成到共享存储库中,并对每个孤立更改立即进行测试,以检测并防止集成问题持续交付:确保可以在CI存储库中测试的每个版本的代码随时发布持续部署:包括灰度部署、蓝绿发布等,目的是快速迭代,通过相对完整的集成测试后进行灰度验证服务发现:将服务作为微服务化,简化服务之间的调用RPC的框架:追求高性能的Server框架,也需要考虑限流、熔断等基础组件的支持监控系统:集成Promethues、OpenTracing等功能,能在敏捷开发流程中快速发现线上问题容器化:为了环境统一,同时提前考虑云原生场景,容器化是开发过程中必不可少的

Linux高性能网络编程十谈|我在大厂的架构演进DevOps

到这里会发现,简单的高性能Server已经不再是架构追求的唯一目标,于是需要重新调研并设计架构,以顺利实施DevOps理念。

3.2 多线程基于DevOps,结合之前的C++ Server框架,发现多进程已经不能满足架构需求,原因如下:

多进程与Docker容器的单进程理念不相符工作进程负载不均,如何更好地利用多核与监控系统有效对接业务配置重复加载,需要重新适配配置中心使用多进程做有状态的服务不合理

业务也发展到百万QPS,为了更好的服务治理和服务调用成本,不得不考虑其他架构:

(1)调研gRPC

Linux高性能网络编程十谈|我在大厂的架构演进gRPC

gRPC是多线程RPC Server,具有成熟的生态,支持多语言等,对于从0到1开发的业务是一个不错的选择。但对于业务迁移却面临挑战,例如开发自己的中间件以适配服务发现、配置中心等,改造协议以实现自定义编解码,如何结合协程等。因此,gRPC对于部分业务适用,但仍需更好的结合公司内组件的RPC Server。

(2)使用tRPC

公司内部正在开发tRPC,经过调研发现基本满足需求,于是我们在tRPC的C++版本刚刚发展初期就尝试适配我们的系统。经过一系列改造,高性能的RPC框架在业务系统中迁移和使用了,其中tRPC的架构:

Linux高性能网络编程十谈|我在大厂的架构演进https://www.php.cn/link/6b42c916702e0bd86f86a3bb84fc7aa2

基于上述考虑和业务的发展,我们开始尝试以高性能为基础,将RPC Server框架统一,以适配后续RPC多样化场景,于是实现了一套适配我们业务系统的RPC Server基本框架:

Linux高性能网络编程十谈|我在大厂的架构演进新架构

3.3、走向k8s经历上述选型和改造后,我们的服务在迁移k8s过程中,按部就班对接即可,服务不需要经过太多的改造就可以在其平台上运行,对接的各个平台也能够完整支持。看似去追求更新的技术等着下一个风口就可以了?实际这个时候反而挑战更多了,由于在云上的便捷和迁移服务架构的无序扩张,导致业务服务和逻辑层次越来越多,同时一个服务依赖的下游链路越来越长。虽然我们的框架支持链路跟踪,但链路越长,对服务的可控性和稳定性就越差,反而浪费更多的人力支持日常ops。

怎么办?

是不是要合并业务逻辑,将架构简化?这里面临的问题是业务逻辑复杂情况下往往周期很长,而且从成本角度考虑比较高,收益并不会很大是不是重新开发新的架构,将腐朽的保持原样或者抛弃,使用新的架构来适配下一步的发展

以上就是Linux高性能网络编程十谈|我在大厂的架构演进的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/71549.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年11月13日 11:21:14
下一篇 2025年11月13日 11:56:51

相关推荐

  • 构建模拟:从头开始的实时交易模拟器

    简介 嘿,开发社区!我很高兴分享我的业余项目 Simul8or – 一个实时日间交易模拟器,旨在为用户提供一个无风险的环境来练习交易策略。该项目 100% 构建在 ASP.NET WebForms、C#、JavaScript、CSS 和 SQL Server 技术堆栈上,没有外部库或框架。从头开始构…

    2025年12月24日
    300
  • 如何在 VS Code 中解决折叠代码复制问题?

    解决 VS Code 折叠代码复制问题 在 VS Code 中使用折叠功能可以帮助组织长代码,但使用复制功能时,可能会遇到只复制可见部分的问题。以下是如何解决此问题: 当代码被折叠时,可以使用以下简单操作复制整个折叠代码: 按下 Ctrl + C (Windows/Linux) 或 Cmd + C …

    2025年12月24日
    000
  • 我进入网络编程世界的第一步:HTML 和 CSS

    大家好! 几天前,我决定迈出一步,开始学习编程。和许多人一样,我从基础知识开始:html 和 css。开始一个简短的 40 分钟课程(来自 deivchoi 的从头开始的基础 html5 和 css3 课程),虽然一开始一切看起来都很简单,但当我到达 css 和样式部分时,我对本地和全局的概念有点迷…

    2025年12月24日
    000
  • 为什么多年的经验让我选择全栈而不是平均栈

    在全栈和平均栈开发方面工作了 6 年多,我可以告诉您,虽然这两种方法都是流行且有效的方法,但它们满足不同的需求,并且有自己的优点和缺点。这两个堆栈都可以帮助您创建 Web 应用程序,但它们的实现方式却截然不同。如果您在两者之间难以选择,我希望我在两者之间的经验能给您一些有用的见解。 在这篇文章中,我…

    2025年12月24日
    000
  • 姜戈顺风

    本教程演示如何在新项目中从头开始配置 django 和 tailwindcss。 django 设置 创建一个名为 .venv 的新虚拟环境。 # windows$ python -m venv .venv$ .venvscriptsactivate.ps1(.venv) $# macos/linu…

    2025年12月24日
    000
  • 花 $o 学习这些编程语言或免费

    → Python → JavaScript → Java → C# → 红宝石 → 斯威夫特 → 科特林 → C++ → PHP → 出发 → R → 打字稿 []https://x.com/e_opore/status/1811567830594388315?t=_j4nncuiy2wfbm7ic…

    2025年12月24日
    000
  • css和c的区别是什么

    区别是:1、C语言是一门面向过程、抽象化的通用程序设计语言、计算机编程语言,广泛应用于底层开发;2、CSS是一种用来表现HTML或XML等文件样式的计算机语言,可以做到网页和内容进行分离的一种样式语言。 本教程操作环境:windows7系统、CSS3&&HTML5版、Dell G3电…

    2025年12月24日
    000
  • nginx的css不起作用怎么办

    nginx的css不起作用是因为误删文件导致的,其解决办法就是打开相应的文件并添加代码“include /etc/nginx/mime.types;”,然后重启Nginx守护即可。 本文操作环境:windows7系统、css3版,DELL G3电脑。 nginx的css不起作用是什么原因? 最近部署…

    2025年12月24日 好文分享
    000
  • CSS如何实现任意角度的扇形(代码示例)

    本篇文章给大家带来的内容是关于CSS如何实现任意角度的扇形(代码示例),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。 扇形制作原理,底部一个纯色原形,里面2个相同颜色的半圆,可以是白色,内部半圆按一定角度变化,就可以产生出扇形效果 扇形绘制 .shanxing{ position:…

    2025年12月24日
    000
  • Redis3.2开启远程访问详细步骤

    redis是一个开源的使用ansi c语言编写、支持网络、可基于内存亦可持久化的日志型、key-value数据库,并提供多种语言的api。redis支持远程访问,详细步骤小编已为大家整理出来了,具体步骤如下: redis默认只允许本地访问,要使redis可以远程访问可以修改redis.conf打开r…

    好文分享 2025年12月24日
    000
  • Redis配置文件redis.conf详细配置说明

    本文列出了redis的配置文件redis.conf的各配置项的详细说明,简单易懂,有需要的盆友可以参考哦。 redis.conf 配置项说明如下 redis配置文件详解 # vi redis.confdaemonize yes #是否以后台进程运行pidfile /var/run/redis/red…

    好文分享 2025年12月24日
    000
  • 如何查看编写的html_查看自己编写的HTML文件效果【效果】

    要查看HTML文件的浏览器渲染效果,需确保文件以.html为扩展名保存、用浏览器直接打开、利用开发者工具调试、必要时启用本地HTTP服务器、或使用编辑器实时预览插件。 如果您编写了HTML代码,但无法直观看到其在浏览器中的实际渲染效果,则可能是由于文件未正确保存、未使用浏览器打开或文件扩展名设置错误…

    2025年12月23日
    400
  • html5怎么设置单选_html5用input type=”radio”加name设单选按钮组【设置】

    HTML5 使用 type=”radio” 实现单选功能,需统一 name 值构成互斥组;通过 checked 设默认项;可用 CSS 隐藏原生控件并自定义样式;推荐用 fieldset/legend 增强语义;required 可实现必填验证。 如果您希望在网页中创建一组互…

    2025年12月23日
    200
  • HTML5怎么制作广告_HTML5用动画与交互制横幅或弹窗广告吸引点击【制作】

    可利用HTML5结合CSS3动画、Canvas、Web Animations API、Intersection Observer和video标签制作互动广告:一用@keyframes实现横幅入场动画;二用Canvas绘制并响应悬停;三用Web Animations API控制弹窗时序;四用Inter…

    2025年12月23日
    000
  • html5怎么设置黑体_html5用CSS font-family设黑体或font-weight加粗【设置】

    在HTML5中实现黑体及加粗需用CSS的font-family和font-weight:一、font-family按优先级列“SimHei”,“Microsoft YaHei”,“Heiti SC”,sans-serif;二、font-weight用700或bold;三、组合声明并注意继承;四、可用…

    2025年12月23日
    000
  • 如何操作html_操作HTML元素的常用方法【常用】

    必须掌握操作HTML元素的五种核心方法:一、通过ID精准获取并修改单个元素;二、通过类名批量操作多个元素;三、用querySelector系列灵活选择任意CSS匹配元素;四、动态创建并插入新元素;五、安全移除或替换现有元素。 如果您需要动态修改网页内容或响应用户交互,则必须掌握操作HTML元素的核心…

    2025年12月23日
    200
  • 怎么设置边框html5_html5用CSS border设元素边框粗细颜色样式【设置】

    可通过CSS的border属性为HTML5元素添加边框,包括简写设置、分项控制、单侧边框、圆角效果及图片边框五种方法,需注意兼容性、元素尺寸与属性完整性。 如果您希望为HTML5中的某个元素添加边框,可以通过CSS的border属性控制其粗细、颜色和样式。以下是实现该效果的具体方法: 一、使用单条b…

    2025年12月23日
    000
  • navigator怎么用html5_HTML5用navigator对象查浏览器信息如语言【对象】

    可通过navigator对象获取浏览器语言、设备类型、平台信息、地理定位和媒体设备支持:navigator.language/languages返回语言代码;userAgent判断移动设备;platform返回操作系统;geolocation检测定位支持;mediaDevices检查媒体访问能力。 …

    2025年12月23日
    000
  • html如何设置新版本_为HTML页面设置版本更新提示【提示】

    可通过meta标签检测、Service Worker监听、Last-Modified头比对、manifest.json校验四种方式提示HTML页面新版本更新。 如果您希望用户在访问HTML页面时获知存在新版本并提示更新,可以通过客户端缓存控制与版本标识机制触发提示行为。以下是实现该功能的多种方法: …

    2025年12月23日
    000
  • 带文字描边的HTML5按钮样式写法【方法】

    可通过text-shadow、-webkit-text-stroke、SVG文本或CSS自定义属性实现HTML5按钮文字描边:text-shadow兼容性好但需多向阴影;-webkit-text-stroke简洁可控但仅限WebKit浏览器;SVG提供高精度描边;CSS变量支持动态主题切换。 如果您…

    2025年12月23日
    000

发表回复

登录后才能评论
关注微信