Linux高性能网络编程十谈|我在大厂的架构演进

linux高性能网络编程十谈》系列博客已完成数月,回顾这几年的工作经历,我在鹅厂的两次工作加起来将近8年。虽然大部分时间都在做基础性工作,但回顾高性能架构的演进过程,从参与到优化,再到最终设计架构,我从中学到了很多。

1、提前设计还是业务演进?在项目从0到1的过程中,大家都经历过架构的选择问题:是随着业务演进还是提前设计?虽然很多架构书籍支持随着业务演进的观点,但也有许多架构师认为应提前设计架构。通过我个人的架构演进经历,我们来探讨这个问题。

2、从PHP到C++2.1 简单的PHP架构PHP作为一门简单易用的语言,在大厂各个部门都有应用。我的工作涉及两种语言:C++和PHP。使用PHP开发功能非常快捷,且有许多成熟的库,因此形成了经典的nginx + php-fpm + memcache架构。

Linux高性能网络编程十谈|我在大厂的架构演进php架构

在这种架构下,单台8c8g的机器可以轻松支持1000qps,而当时业务的需求不到1wqps,显然多加几台机器就能满足需求。对于缓存层的设计,在Redis尚未普及时,Memcache是主流选择,且与PHP对接简单。但随着业务发展,预计一年内将达到5wqps,继续使用nginx + php-fpm + memcache架构是否合理?经过讨论,我们决定追求高性能服务端,于是开始了高性能探索之旅。

立即进入“豆包AI人工智官网入口”;

立即学习“豆包AI人工智能在线问答入口”;

2.2 多进程的框架在PHP中实现高性能服务端框架有一些方案,例如通过PHP插件将Server功能嫁接到脚本语言上,从而实现高性能。比如现在的PHP的swoole就是从当时发展起来的。

Linux高性能网络编程十谈|我在大厂的架构演进php-server

然而,这也带来了几个需要解决的问题:

熟悉PHP扩展的使用场景,避免踩坑PHP本身的内存泄漏问题出现问题时的排查成本高,可能需要研究PHP源码PHP的生态系统能否适应Docker的兴起和单机时代的终结

基于这些考虑和业务发展的分析,我们决定自己实现一个或使用现有的C++框架来构建业务层的Server。最终选择了公司内部的SPP框架,其架构如下:

Linux高性能网络编程十谈|我在大厂的架构演进SPP框架架构

SPP框架采用多进程架构,类似于Nginx,分为Proxy进程和Worker进程:

Proxy进程使用handle_init进行初始化,使用handle_route将请求转发到指定的Worker进程,使用handle_input处理请求的入包Worker进程使用handle_init进行初始化,使用handle_process处理包和业务逻辑并返回结果

使用C++架构后,单机性能直接提升到6kqps,基本满足性能需求,可以在相同的机器上支持更多业务,看似可以稳定架构了。

2.3 引入协程虽然C++在性能上已满足需求,但在开发效率上存在问题。例如访问Redis,为了保持高性能,代码逻辑采用异步回调,如下所示:

...int ret = redis->GetString(k, getValueCallback)...

其中getValueCallback是回调函数,处理多个IO操作时,回调会变得非常复杂,即使封装成类似同步方式,处理起来也很麻烦。当时还没有引入std::futurestd::async。另一方面,考虑到后续QPS可能达到10~20万,协程在多IO服务处理上的性能更有优势,于是开始了协程改造,将IO操作替换为协程调用,对于业务开发,代码变成了这样:

...int ret = redis->GetString(k, value)...

其中value是可以直接使用的返回值,一旦代码中有IO操作,底层就会将IO替换为协程的API,这样阻塞的IO操作就变成了同步化原语,代码结构和开发效率都有了显著提升(具体的协程实现可以参考系列文章中的《Linux高性能网络编程十谈|协程》)。

Linux高性能网络编程十谈|我在大厂的架构演进协程

从架构上看,虽然没有太多变化,但多进程+协程的方式支持了业务发展几年时间。虽然性能没有指数增长,但在高性能探索和经验积累上有了更多收获。

3、云原生随着业务的继续发展,工程师总是在追求最前沿的理念。云原生作为近几年的热门技术点自然不会放过,但在进入云原生之前,如果团队没有DevOps开发理念,这将是一个痛苦的过程,需要对架构设计和框架选择偿还技术债。

3.1 实施DevOps理念以前做架构时主要考虑高性能,随着对架构的理解加深,发现高性能只是架构设计的一个小领域。要想做好一个架构,需要更多的敏捷流程和服务治理理念,具体考虑的点总结如下:

持续集成:开发人员一天多次将代码集成到共享存储库中,并对每个孤立更改立即进行测试,以检测并防止集成问题持续交付:确保可以在CI存储库中测试的每个版本的代码随时发布持续部署:包括灰度部署、蓝绿发布等,目的是快速迭代,通过相对完整的集成测试后进行灰度验证服务发现:将服务作为微服务化,简化服务之间的调用RPC的框架:追求高性能的Server框架,也需要考虑限流、熔断等基础组件的支持监控系统:集成Promethues、OpenTracing等功能,能在敏捷开发流程中快速发现线上问题容器化:为了环境统一,同时提前考虑云原生场景,容器化是开发过程中必不可少的

Linux高性能网络编程十谈|我在大厂的架构演进DevOps

到这里会发现,简单的高性能Server已经不再是架构追求的唯一目标,于是需要重新调研并设计架构,以顺利实施DevOps理念。

3.2 多线程基于DevOps,结合之前的C++ Server框架,发现多进程已经不能满足架构需求,原因如下:

多进程与Docker容器的单进程理念不相符工作进程负载不均,如何更好地利用多核与监控系统有效对接业务配置重复加载,需要重新适配配置中心使用多进程做有状态的服务不合理

业务也发展到百万QPS,为了更好的服务治理和服务调用成本,不得不考虑其他架构:

(1)调研gRPC

Linux高性能网络编程十谈|我在大厂的架构演进gRPC

gRPC是多线程RPC Server,具有成熟的生态,支持多语言等,对于从0到1开发的业务是一个不错的选择。但对于业务迁移却面临挑战,例如开发自己的中间件以适配服务发现、配置中心等,改造协议以实现自定义编解码,如何结合协程等。因此,gRPC对于部分业务适用,但仍需更好的结合公司内组件的RPC Server。

(2)使用tRPC

公司内部正在开发tRPC,经过调研发现基本满足需求,于是我们在tRPC的C++版本刚刚发展初期就尝试适配我们的系统。经过一系列改造,高性能的RPC框架在业务系统中迁移和使用了,其中tRPC的架构:

Linux高性能网络编程十谈|我在大厂的架构演进https://www.php.cn/link/6b42c916702e0bd86f86a3bb84fc7aa2

基于上述考虑和业务的发展,我们开始尝试以高性能为基础,将RPC Server框架统一,以适配后续RPC多样化场景,于是实现了一套适配我们业务系统的RPC Server基本框架:

Linux高性能网络编程十谈|我在大厂的架构演进新架构

3.3、走向k8s经历上述选型和改造后,我们的服务在迁移k8s过程中,按部就班对接即可,服务不需要经过太多的改造就可以在其平台上运行,对接的各个平台也能够完整支持。看似去追求更新的技术等着下一个风口就可以了?实际这个时候反而挑战更多了,由于在云上的便捷和迁移服务架构的无序扩张,导致业务服务和逻辑层次越来越多,同时一个服务依赖的下游链路越来越长。虽然我们的框架支持链路跟踪,但链路越长,对服务的可控性和稳定性就越差,反而浪费更多的人力支持日常ops。

怎么办?

是不是要合并业务逻辑,将架构简化?这里面临的问题是业务逻辑复杂情况下往往周期很长,而且从成本角度考虑比较高,收益并不会很大是不是重新开发新的架构,将腐朽的保持原样或者抛弃,使用新的架构来适配下一步的发展

以上就是Linux高性能网络编程十谈|我在大厂的架构演进的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/71549.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年11月13日 11:21:14
下一篇 2025年11月13日 11:56:51

相关推荐

  • 贝莱德的 IBIT:像老板一样驾驭比特币流入浪潮

    贝莱德的 ibit etf 成为比特币资金流入的主要接收者,尽管市场存在波动,但仍体现了投资者的坚定信心。意大利联合信贷银行(unicredit)推出的新型投资产品也进一步证明机构投资者正在加快对比特币的采纳。 贝莱德旗下的 IBIT ETF 在比特币市场中表现突出,吸引了大量资金流入,巩固了其领先…

    2025年12月11日
    000
  • PHP如何使用GD库创建和修改图像_PHP GD库图像处理教程

    GD库是PHP处理图像的核心扩展,支持创建、编辑和输出图片。首先创建或加载图像资源,如imagecreatetruecolor()生成画布,imagecreatefromjpeg()等加载文件;接着分配颜色并绘图,可用imagettftext()写文字、imagerectangle()画形状;缩放裁…

    2025年12月11日
    000
  • PHP怎么调试代码_PHP代码调试环境配置教程

    答案:PHP调试核心是配置Xdebug并与IDE集成,辅以日志和变量打印。需正确安装Xdebug,修改php.ini设置xdebug.mode=debug等参数,重启服务后在VS Code或PhpStorm中监听端口,配合浏览器插件实现断点调试;常见问题包括配置路径错误、版本不兼容、端口冲突等,可通…

    2025年12月11日
    000
  • PHP怎么配置缓存_PHP各种缓存配置教程

    PHP的缓存配置,本质上是为了让你的应用跑得更快,更稳定。它不是一个单一的技术,而是一套组合拳,涵盖了从PHP代码本身到数据存储的多个层面。核心观点在于,通过减少重复计算、重复查询或重复加载,来节省资源和时间。常见的手段包括利用操作码缓存(如OpCache)加速脚本执行,以及使用数据缓存(如Redi…

    2025年12月11日
    000
  • php如何对数据进行签名和验证 php数字签名生成与验证流程

    PHP对数据进行数字签名和验证,核心在于利用非对称加密(公钥/私钥对)和哈希算法,确保数据的完整性(未被篡改)和来源的真实性(确实是特定发送者发出)。简单来说,就是用私钥对数据的“指纹”进行加密,形成一个只有对应公钥才能解开的“封印”,从而验证数据。 在PHP中,实现数字签名和验证主要依赖于Open…

    2025年12月11日
    000
  • php数组如何创建和遍历_php创建数组与循环遍历教程

    PHP数组可通过array()或[]创建,推荐用foreach遍历,索引数组用for时应缓存count值以优化性能。 PHP数组的创建和遍历,是PHP开发里最基础也最常用的操作。简单来说,创建数组可以通过多种灵活的方式实现,比如直接用 array() 构造函数、现代的方括号 [] 语法,甚至隐式赋值…

    2025年12月11日
    000
  • PHP PDO预处理语句实践:用户注册功能中的常见陷阱与最佳实践

    本教程深入探讨使用PHP PDO预处理语句实现用户注册功能时常遇到的问题及解决方案。内容涵盖bindParam的正确用法与替代方案、如何优化用户名重复检查逻辑、采用安全的密码哈希机制以及启用关键的错误报告功能,旨在帮助开发者构建更健壮、安全且高效的Web应用。 使用php pdo(php data …

    2025年12月11日
    000
  • php如何执行数据库事务?PHP数据库事务处理与应用

    PHP通过PDO实现数据库事务,确保操作的原子性与数据一致性。首先创建PDO连接并开启事务,执行SQL操作后根据结果提交或回滚。示例中插入用户并更新商品库存,成功则提交,异常则回滚。常见错误包括SQL语法错误、约束违反、连接中断和死锁。应对措施有使用预处理语句、捕获异常、设置重试机制及优化查询减少锁…

    2025年12月11日
    000
  • PHP怎么安装GD库_PHP图像处理库安装方法

    GD库是PHP图像处理的核心扩展。安装需在php.ini中启用extension=gd,Linux系统通过apt或yum安装php-gd后重启服务器,macOS通常自带但需手动启用。验证方法为使用phpinfo()查看GD信息或运行图像创建脚本。常见函数包括imagecreate、imagecolo…

    2025年12月11日
    000
  • PHP怎么锁定文件_PHP文件锁定机制与使用方法

    文件锁定通过flock()函数实现,用于解决PHP并发操作文件时的数据一致性问题。首先使用fopen()打开文件,再调用flock($handle, LOCK_EX)获取独占锁以阻止其他进程读写,或用LOCK_SH加共享锁允许多进程读取但禁止写入,操作完成后需调用flock($handle, LOC…

    2025年12月11日
    000
  • Laravel 中保持下拉列表选择状态的教程

    本文旨在解决 Laravel 应用中,在表单提交后下拉列表重置的问题。通过利用 Laravel 的请求对象,我们可以轻松地在页面刷新后保持用户在下拉列表中所做的选择,提升用户体验。本文将详细介绍如何实现这一功能,并提供示例代码和注意事项。 在 Laravel 应用中,表单提交后页面刷新,下拉列表恢复…

    2025年12月11日
    000
  • CodeIgniter 3 Flashdata 始终显示问题的解决方案

    摘要:本文针对 CodeIgniter 3 中 Flashdata 始终显示的问题,提供了一种有效的解决方案。通过分析问题原因,并结合实际代码示例,详细讲解了如何避免在页面加载时错误地显示 Flashdata 消息,从而提升用户体验。核心在于判断 Flashdata 是否存在后再进行显示,避免空值的…

    2025年12月11日
    000
  • php如何遍历一个数组?php数组遍历的几种常用方法

    PHP数组遍历的核心是高效访问每个元素,最常用方法是foreach,它适用于索引和关联数组,语法简洁且性能优;for循环适合需精确控制索引的连续索引数组;while配合reset、current等指针函数可实现底层控制,但代码复杂且易出错;array_map、array_walk、array_fil…

    2025年12月11日
    000
  • php如何实现一个简单的REST API?php构建RESTful API基础教程

    核心是通过PHP处理HTTP请求并返回JSON响应。需设计URI、选择HTTP方法、实现路由与数据处理。示例中根据GET请求返回用户信息,支持单个或全部用户查询,并返回对应状态码。POST请求通过解析php://input获取JSON数据,验证后创建新用户并返回201状态码。安全方面需过滤输入防止注…

    2025年12月11日
    000
  • PHP如何使用file_put_contents函数_PHP file_put_contents函数用法与技巧

    file_put_contents()用于将字符串写入文件,支持创建、覆盖、追加(FILE_APPEND)、加锁(LOCK_EX)及序列化数组写入;通过检查返回值和error_get_last()处理错误,注意路径与内容安全以防止漏洞。 file_put_contents() 函数是 PHP 中一个…

    2025年12月11日
    000
  • Laravel 中表单提交后如何保持下拉列表的选中状态

    本文旨在解决 Laravel 应用中表单提交后下拉列表(select)重置的问题。通过利用 Laravel 提供的 request 对象和旧输入值功能,我们能够轻松地在页面刷新后保持用户在下拉列表中选择的选项,从而提升用户体验。本文将详细介绍如何在视图中正确地处理下拉列表的选中状态,并提供相应的代码…

    2025年12月11日
    000
  • PHP如何安全地执行系统命令_PHP系统命令安全执行函数

    安全执行PHP系统命令需严格验证输入、使用escapeshellarg()转义参数、优先选用proc_open实现精细控制,并结合最小权限原则与系统配置(如禁用高危函数、设置open_basedir、低权限运行服务)构建纵深防御体系。 在PHP中安全地执行系统命令,核心在于严格的输入验证、正确使用参…

    2025年12月11日
    000
  • Laravel 中下拉列表选择后重置问题的解决

    本文旨在解决 Laravel 应用中下拉列表在提交后重置的问题。通过利用 Laravel 的请求对象,我们将演示如何在页面刷新后保持用户在下拉列表中选择的选项,从而提升用户体验。文章将提供详细的代码示例和解释,帮助开发者轻松实现该功能。 在 Laravel 应用中,经常会遇到需要在表单提交后保持用户…

    2025年12月11日
    000
  • PHP如何实现依赖注入容器_PHP依赖注入(DI)容器实现原理

    实现PHP依赖注入容器的核心在于通过反射自动解析类依赖并管理实例化过程,降低耦合、提升可测试性与维护性。 实现PHP依赖注入容器的核心,在于构建一个能够自动管理类依赖关系的中央注册表。它本质上是一个高级的工厂,当你需要一个类的实例时,它能智能地为你提供,并自动解决这个类所依赖的其他类。这大大降低了代…

    2025年12月11日
    000
  • php如何将数据写入文件?php文件写入操作教程

    答案:PHP写入文件需使用fopen()、fwrite()、fclose()函数,注意权限、模式选择及错误处理。通过flock()避免并发问题,优化性能可合并写入、用缓冲、异步处理等。 PHP将数据写入文件,核心在于使用文件操作函数,例如 fopen() 、 fwrite() 、 fclose() …

    2025年12月11日
    000

发表回复

登录后才能评论
关注微信