Linux高性能网络编程十谈|我在大厂的架构演进

linux高性能网络编程十谈》系列博客已完成数月,回顾这几年的工作经历,我在鹅厂的两次工作加起来将近8年。虽然大部分时间都在做基础性工作,但回顾高性能架构的演进过程,从参与到优化,再到最终设计架构,我从中学到了很多。

1、提前设计还是业务演进?在项目从0到1的过程中,大家都经历过架构的选择问题:是随着业务演进还是提前设计?虽然很多架构书籍支持随着业务演进的观点,但也有许多架构师认为应提前设计架构。通过我个人的架构演进经历,我们来探讨这个问题。

2、从PHP到C++2.1 简单的PHP架构PHP作为一门简单易用的语言,在大厂各个部门都有应用。我的工作涉及两种语言:C++和PHP。使用PHP开发功能非常快捷,且有许多成熟的库,因此形成了经典的nginx + php-fpm + memcache架构。

Linux高性能网络编程十谈|我在大厂的架构演进php架构

在这种架构下,单台8c8g的机器可以轻松支持1000qps,而当时业务的需求不到1wqps,显然多加几台机器就能满足需求。对于缓存层的设计,在Redis尚未普及时,Memcache是主流选择,且与PHP对接简单。但随着业务发展,预计一年内将达到5wqps,继续使用nginx + php-fpm + memcache架构是否合理?经过讨论,我们决定追求高性能服务端,于是开始了高性能探索之旅。

立即进入“豆包AI人工智官网入口”;

立即学习“豆包AI人工智能在线问答入口”;

2.2 多进程的框架在PHP中实现高性能服务端框架有一些方案,例如通过PHP插件将Server功能嫁接到脚本语言上,从而实现高性能。比如现在的PHP的swoole就是从当时发展起来的。

Linux高性能网络编程十谈|我在大厂的架构演进php-server

然而,这也带来了几个需要解决的问题:

熟悉PHP扩展的使用场景,避免踩坑PHP本身的内存泄漏问题出现问题时的排查成本高,可能需要研究PHP源码PHP的生态系统能否适应Docker的兴起和单机时代的终结

基于这些考虑和业务发展的分析,我们决定自己实现一个或使用现有的C++框架来构建业务层的Server。最终选择了公司内部的SPP框架,其架构如下:

Linux高性能网络编程十谈|我在大厂的架构演进SPP框架架构

SPP框架采用多进程架构,类似于Nginx,分为Proxy进程和Worker进程:

Proxy进程使用handle_init进行初始化,使用handle_route将请求转发到指定的Worker进程,使用handle_input处理请求的入包Worker进程使用handle_init进行初始化,使用handle_process处理包和业务逻辑并返回结果

使用C++架构后,单机性能直接提升到6kqps,基本满足性能需求,可以在相同的机器上支持更多业务,看似可以稳定架构了。

2.3 引入协程虽然C++在性能上已满足需求,但在开发效率上存在问题。例如访问Redis,为了保持高性能,代码逻辑采用异步回调,如下所示:

...int ret = redis->GetString(k, getValueCallback)...

其中getValueCallback是回调函数,处理多个IO操作时,回调会变得非常复杂,即使封装成类似同步方式,处理起来也很麻烦。当时还没有引入std::futurestd::async。另一方面,考虑到后续QPS可能达到10~20万,协程在多IO服务处理上的性能更有优势,于是开始了协程改造,将IO操作替换为协程调用,对于业务开发,代码变成了这样:

...int ret = redis->GetString(k, value)...

其中value是可以直接使用的返回值,一旦代码中有IO操作,底层就会将IO替换为协程的API,这样阻塞的IO操作就变成了同步化原语,代码结构和开发效率都有了显著提升(具体的协程实现可以参考系列文章中的《Linux高性能网络编程十谈|协程》)。

Linux高性能网络编程十谈|我在大厂的架构演进协程

从架构上看,虽然没有太多变化,但多进程+协程的方式支持了业务发展几年时间。虽然性能没有指数增长,但在高性能探索和经验积累上有了更多收获。

3、云原生随着业务的继续发展,工程师总是在追求最前沿的理念。云原生作为近几年的热门技术点自然不会放过,但在进入云原生之前,如果团队没有DevOps开发理念,这将是一个痛苦的过程,需要对架构设计和框架选择偿还技术债。

3.1 实施DevOps理念以前做架构时主要考虑高性能,随着对架构的理解加深,发现高性能只是架构设计的一个小领域。要想做好一个架构,需要更多的敏捷流程和服务治理理念,具体考虑的点总结如下:

持续集成:开发人员一天多次将代码集成到共享存储库中,并对每个孤立更改立即进行测试,以检测并防止集成问题持续交付:确保可以在CI存储库中测试的每个版本的代码随时发布持续部署:包括灰度部署、蓝绿发布等,目的是快速迭代,通过相对完整的集成测试后进行灰度验证服务发现:将服务作为微服务化,简化服务之间的调用RPC的框架:追求高性能的Server框架,也需要考虑限流、熔断等基础组件的支持监控系统:集成Promethues、OpenTracing等功能,能在敏捷开发流程中快速发现线上问题容器化:为了环境统一,同时提前考虑云原生场景,容器化是开发过程中必不可少的

Linux高性能网络编程十谈|我在大厂的架构演进DevOps

到这里会发现,简单的高性能Server已经不再是架构追求的唯一目标,于是需要重新调研并设计架构,以顺利实施DevOps理念。

3.2 多线程基于DevOps,结合之前的C++ Server框架,发现多进程已经不能满足架构需求,原因如下:

多进程与Docker容器的单进程理念不相符工作进程负载不均,如何更好地利用多核与监控系统有效对接业务配置重复加载,需要重新适配配置中心使用多进程做有状态的服务不合理

业务也发展到百万QPS,为了更好的服务治理和服务调用成本,不得不考虑其他架构:

(1)调研gRPC

Linux高性能网络编程十谈|我在大厂的架构演进gRPC

gRPC是多线程RPC Server,具有成熟的生态,支持多语言等,对于从0到1开发的业务是一个不错的选择。但对于业务迁移却面临挑战,例如开发自己的中间件以适配服务发现、配置中心等,改造协议以实现自定义编解码,如何结合协程等。因此,gRPC对于部分业务适用,但仍需更好的结合公司内组件的RPC Server。

(2)使用tRPC

公司内部正在开发tRPC,经过调研发现基本满足需求,于是我们在tRPC的C++版本刚刚发展初期就尝试适配我们的系统。经过一系列改造,高性能的RPC框架在业务系统中迁移和使用了,其中tRPC的架构:

Linux高性能网络编程十谈|我在大厂的架构演进https://www.php.cn/link/6b42c916702e0bd86f86a3bb84fc7aa2

基于上述考虑和业务的发展,我们开始尝试以高性能为基础,将RPC Server框架统一,以适配后续RPC多样化场景,于是实现了一套适配我们业务系统的RPC Server基本框架:

Linux高性能网络编程十谈|我在大厂的架构演进新架构

3.3、走向k8s经历上述选型和改造后,我们的服务在迁移k8s过程中,按部就班对接即可,服务不需要经过太多的改造就可以在其平台上运行,对接的各个平台也能够完整支持。看似去追求更新的技术等着下一个风口就可以了?实际这个时候反而挑战更多了,由于在云上的便捷和迁移服务架构的无序扩张,导致业务服务和逻辑层次越来越多,同时一个服务依赖的下游链路越来越长。虽然我们的框架支持链路跟踪,但链路越长,对服务的可控性和稳定性就越差,反而浪费更多的人力支持日常ops。

怎么办?

是不是要合并业务逻辑,将架构简化?这里面临的问题是业务逻辑复杂情况下往往周期很长,而且从成本角度考虑比较高,收益并不会很大是不是重新开发新的架构,将腐朽的保持原样或者抛弃,使用新的架构来适配下一步的发展

以上就是Linux高性能网络编程十谈|我在大厂的架构演进的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/71549.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
怎么应对软件需求变更
上一篇 2025年11月13日 11:40:32
采购需求变更单怎么填
下一篇 2025年11月13日 11:41:56

相关推荐

  • Flyway多数据库与多环境配置:实现测试与生产环境的灵活迁移管理

    本文深入探讨了Flyway在多数据库和多环境场景下的灵活配置策略,旨在解决开发、开发、测试与生产环境数据库迁移的挑战。文章首先分析了测试环境数据库选择的推荐方案,包括使用与生产一致的数据库服务或Testcontainers。随后,详细阐述了Flyway如何通过分离配置文件、编程化配置以及利用占位符来…

    2026年9月24日
    000
  • Linux目录结构和文件属性管理

    一、fhs概述 文件系统层次化标准(Filesystem Hierarchy Standard,简称FHS)是Linux系统中常用的文件组织方式,类似于Windows中的C盘目录结构。FHS采用树形结构来组织文件,定义了系统中各个区域的用途、最小构成文件和目录,并提供例外处理与矛盾处理的指导。 FH…

    2026年9月24日
    000
  • laravel怎么使用Str和Arr辅助类的常用方法_laravel Str/Arr辅助类常用方法教程

    Laravel的Str和Arr类提供字符串与数组处理方法,如Str::lower、Str::contains、Arr::get、Arr::pluck等,提升代码可读性与开发效率。 Laravel 提供了两个非常实用的辅助类 Str 和 Arr,用于处理字符串和数组。它们封装了许多常用操作,让代码更简…

    2026年9月24日
    000
  • 如何在Linux中设置文件默认权限?

    umask机制用于设置Linux文件默认权限,通过八进制值从基础权限666(文件)或777(目录)中减去对应权限位,如umask 022时文件为644、目录为755;可临时执行umask命令或在~/.bashrc、/etc/profile等配置文件中永久设置,修改后需重新登录或source生效,过严…

    2026年9月24日
    200
  • VS Code微服务开发:Docker与Kubernetes集成

    VS Code通过Docker扩展实现本地容器化开发,支持自动生成Dockerfile、一键构建镜像及devcontainer环境一致性;2. Kubernetes扩展可连接集群并管理资源,结合Bridge to Kubernetes实现本地调试与集群网络集成;3. 使用Skaffold自动化构建部…

    2026年9月24日
    000
  • 如何查找Linux软件包提供文件 yum provides和apt-file使用

    如何查找Linux软件包提供文件 yum provides和apt-file使用如何查找Linux软件包提供文件 yum provides和apt-file使用如何查找Linux软件包提供文件 yum provides和apt-file使用如何查找Linux软件包提供文件 yum provides和apt-file使用

    在 linux 系统中,若需查找文件归属的软件包,可使用 yum provides(适用于 red hat 系列)或 apt-file(适用于 debian/ubuntu)。1. 在 red hat、centos 或 fedora 中,使用 yum provides 文件名 或 dnf provid…

    2026年9月24日 用户投稿
    000
  • ​​VSCode的进阶玩法!这些快捷键组合让你秒变编程大神​​

    要高效利用vscode进行代码导航,1. 使用ctrl + p / cmd + p快速打开文件;2. 使用ctrl + shift + o / cmd + shift + o定位文件中的符号;3. 使用ctrl + – / cmd + -后退,ctrl + shift + –…

    2026年9月24日
    700
  • 如何利用Swoole实现高性能RPC框架

    随着互联网行业的迅速发展,越来越多的应用变得复杂,并需要处理大量的并发请求。传统的rpc框架在处理高并发场景时表现不佳,而swoole作为一种协程网络通信引擎,可以帮助开发者实现高性能的rpc框架。那么如何利用swoole实现高性能rpc框架呢? 一、RPC原理简介 RPC(Remote Proce…

    用户投稿 2026年9月24日
    000
  • Intel OpenCAS缓存加速方案

    open cas 架构概览:数据从hdd盘读取后被复制到open cas的缓存中,后续的读取操作从内存中进行,从而提高读写效率。在write-through模式下,所有数据同步刷新到open cas的ssd和后端的hdd中。在write-back模式下,数据同步写入到open cas的ssd中,然后…

    2026年9月24日
    400
  • Java中固定长度用户ID输入验证:解决int类型长度检查问题

    本文详细介绍了在Java程序中如何实现用户输入固定长度ID的验证机制。针对常见的int cannot be dereferenced错误,我们将探讨将ID作为字符串读取并进行长度及格式校验的最佳实践,并提供处理字母数字型和纯数字型ID的示例代码,确保数据输入的准确性和程序的健壮性。 引言:用户输入验…

    2026年9月24日
    500
  • VSCode如何实现AI代码反混淆 VSCode智能分析混淆代码的技巧

    vscode没有一键ai反混淆功能,但可通过智能扩展、调试器、ast查看器、代码格式化工具及外部ai工具集成来辅助分析和逐步还原混淆代码;2. 利用eslint、prettier等扩展提升代码可读性,通过“重命名符号”“转到定义”“查找引用”等功能追踪变量和函数流向,结合多光标编辑和代码片段进行手动…

    2026年9月24日
    100
  • Laravel 表单验证失败后保留输入值:最佳实践教程

    本文旨在帮助 Laravel 开发者解决表单验证失败后,如何保留用户已输入数据的问题。我们将深入探讨 withInput() 方法的使用,并提供清晰的代码示例,确保即使在验证失败的情况下,用户体验也能保持流畅。通过本文的学习,你将掌握在 Laravel 中优雅地处理表单验证,并提升应用的可用性。 在…

    2026年9月24日
    000
  • 怎么在mysql中创建数据库表 mysql建表完整流程解析

    在 mysql 中创建数据库表的步骤包括:1) 选择合适的数据类型,如 int、varchar、timestamp;2) 设置索引,如主键和唯一索引;3) 应用约束条件,如 not null 和 unique;4) 设计表结构以满足业务需求,如使用 foreign key 和 enum;5) 优化性…

    2026年9月24日
    000
  • 如何通过日志排查权限问题

    排查权限问题需从日志入手,重点分析时间、用户、资源路径、拒绝原因及调用堆栈。首先检查应用日志中“用户无权访问”等提示,结合Web服务器日志中的403/401状态码定位请求异常;再查看操作系统日志如/var/log/secure中SSH或sudo拒绝记录,确认系统级权限问题;同时审查中间件如Sprin…

    2026年9月24日
    100
  • win10软件不兼容怎么办_win10软件兼容性处理方法

    首先使用兼容性疑难解答工具检测并修复问题,若无效则手动设置兼容模式为Windows 7或8,同时安装必要的Visual C++和.NET运行库,更新显卡等驱动程序,并尝试以管理员身份运行程序。 如果您尝试在Windows 10系统上运行某个软件,但出现“此应用无法在你的电脑上运行”或程序闪退等错误提…

    2026年9月24日
    000
  • Swoole如何支持高性能的点对点通信

    随着互联网的不断发展,人们对于实时性和高并发的需求日趋增加。在这样的环境下,swoole的出现带来了一种新的解决方案,使得程序员们能够更好地支持高性能的点对点通信。 一、 Swoole的优势和特点 Swoole是一个基于PHP语言开发的高性能网络通信框架,它的优势和特点主要有以下几点: 强大的异步I…

    用户投稿 2026年9月24日
    000
  • VSCode如何配置.NET开发环境 VSCode搭建.NET项目的完整流程

    首先安装.net sdk并验证版本;2. 安装vscode及microsoft官方c#扩展,确保智能感知和调试功能正常;3. 通过dotnet new命令创建项目,并使用code .在vscode中打开项目;4. 添加构建和调试资产以生成tasks.json和launch.json文件;5. 安装n…

    2026年9月24日
    000
  • hive安装配置实验

    一、安装前的准备工作 1. 配置并安装hadoop,请参考链接http://blog.csdn.net/wzy0623/article/details/50681554。 2. 下载以下安装包:mysql-5.7.10-linux-glibc2.5-x86_64.tar.gz、apache-hive…

    2026年9月24日
    600
  • Swoole如何支持异步AMQP操作

    随着互联网业务量的不断增长,对于高并发和高性能的需求越来越高,而swoole作为php的一款网络通信框架,也越来越受到开发者的青睐。其中,swoole支持异步amqp是比较常见的应用场景之一。那么我们来看看swoole如何支持异步amqp操作。 首先,我们需要明确什么是AMQP。AMQP(Advan…

    用户投稿 2026年9月24日
    000
  • VSCode 怎样配置终端默认路径 VSCode 终端默认路径的配置技巧​

    在 vscode 中配置终端默认启动路径需修改 terminal.integrated.cwd 设置项;2. 可通过用户设置(全局生效)或工作区设置(项目专属)进行配置,优先级为工作区设置覆盖用户设置;3. 路径可使用绝对路径或相对路径(推荐相对路径以提升协作性),windows 系统需注意反斜杠转…

    2026年9月24日
    000

发表回复

登录后才能评论
关注微信