我们在生产中的前端 java tomcat 应用程序中遇到了一个问题。此应用程序接收来自管理 ui rest 调用以及调用这些 rest 端点的其他外部客户的流量。
问题
有两种请求，即基于 GET 的调用和 POST 调用。问题在于，基于非关键 GET 的调用需要更长的时间，从而阻塞服务器并导致应用程序超时。因此，我们现在想要一种基于 URL 和请求方法来分离事务并分离执行的方法，以便慢速事务的延迟不会影响关键事务。
解决方案
我们决定首先识别并分离 nginx 中的关键事务。然后我们在 tomcat 中创建了两个独立的 Executor，它们通过 tomcat 中单独的连接器公开。这使我们能够将关键流量重定向到一个执行器，将非关键流量重定向到另一个执行器。这使我们能够为每个连接器设置不同的acceptorThreadCount值。以及通过具有不同的 minThreads 和 maxThreads 值来控制执行器线程。此更改仅是配置更改，不保证代码中的任何更改。
让我们通过一个小示例应用程序来讨论实现。
nginx.conf 更改
活动{}http{上游 front_upstream_ritic{ 服务器tomcat：8080； }上游 front_upstream_non_ritic { 服务器tomcat：8081； }映射 $request_method $upstream { 默认front_upstream_non_ritic； POST front_upstream_ritic; } 服务器 { 听9090； 位置〜^ /前端应用程序/ api / v1 / myresource /（关键路径1 |关键路径2 |关键路径3）$ { proxy_pass_request_body 开启； proxy_pass_request_headers 开启； proxy_set_header 主机 $host:8080; proxy_pass http://$upstream$uri$is_args$args; proxy_http_版本 1.1； proxy_set_header 连接“”； } 位置 ~* /.* { proxy_pass_request_body 开启； proxy_pass_request_headers 开启； proxy_set_header 主机 $host:8081; proxy_pass http://front_upstream_non_ritic; proxy_http_版本 1.1； proxy_set_header 连接“”； }}}
一旦我们完成了两种不同类型的 URL 的拆分，我们将在 tomcat server.xml 中进行更改以添加执行器和连接器。请注意，我们已经为我们要添加的新连接器的应用程序添加了端口 8081。
Tomcat服务器变更
示例 Docker 撰写文件以及上述更改
版本：'3.8'服务： 雄猫： 图片：tomcat：9.0.63 端口： - “8080:8080” - “8081:8081” 卷： - ./webapps:/usr/local/tomcat/webapps - ./conf/server.xml:/usr/local/tomcat/conf/server.xml 网络： - 应用程序网络 nginx: 图片：nginx：最新 端口： - “9090:9090” 卷： - ./nginx/nginx.conf:/etc/nginx/nginx.conf 网络： - 应用程序网络网络： 应用程序网络： 司机：桥
请注意，我们将覆盖 tomcat 容器中的 server.xml 和 nginx 容器中的 nginx.conf，并通过上述更改打开我们在 ports 下的 server.xml 中指定的额外端口。
吐槽大师
吐槽大师（Roast Master） – 终极 AI 吐槽生成器，适用于 Instagram，Facebook，Twitter，Threads 和 Linkedin
26 查看详情 
通过这个，我们现在使用相同的前端应用程序，我们能够以这样的方式隔离执行，即非关键慢速事务不会阻塞 tomcat 线程，并且不会影响关键事务流量延迟。
使用上面的 docker compose 使用测试 API 项目运行此程序会得到以下结果。
server.xml 中指定的前缀与线程号一起打印在下面。
2024-06-25 17:05:15 25-Jun-2024 11:35:15.452 INFO [main] org.apache.jasper.servlet.TldScanner.scanJars 至少扫描了一个 JAR 的 TLD，但不包含 TLD。为此记录器启用调试日志记录，以获取已扫描但未在其中找到 TLD 的 JAR 的完整列表。在扫描期间跳过不需要的 JAR 可以缩短启动时间和 JSP 编译时间。2024-06-25 17:06:08 25-Jun-2024 11:36:07.999 INFO [main] org.apache.catalina.startup.HostConfig.deployWAR Web 应用程序存档的部署 [/usr/local/tomcat/webapps/ group-2.6.4.war] 已在 [103,096] 毫秒内完成2024-06-25 17:06:08 25-Jun-2024 11:36:08.025 INFO [main] org.apache.coyote.AbstractProtocol.start 启动 ProtocolHandler ["http-nio-8080"]2024-06-25 17:06:08 25-Jun-2024 11:36:08.038 INFO [main] org.apache.coyote.AbstractProtocol.start 启动 ProtocolHandler ["http-nio-8081"]2024-06-25 17:06:08 25-Jun-2024 11:36:08.040 INFO [main] org.apache.catalina.startup.Catalina.start 服务器启动时间为 [103243] 毫秒2024-06-25 17:06:09 2024 年 6 月 25 日 11:36:09.079 信息 [nonCriticalExecGroup-1] com.tomcat.group.GroupApplication$AttachmentsNonMTController.endpoint2 AttachmentsNonMTController 控制器 - 线程：nonCriticalExecGroup-12024-06-25 17:06:09 2024 年 6 月 25 日 11:36:09.079 信息 [nonCriticalExecGroup-2] com.tomcat.group.GroupApplication$AttachmentsNonMTController.endpoint2 AttachmentsNonMTController 控制器 - 线程：nonCriticalExecGroup-2
2024-06-25 17:07:59 2024 年 6 月 25 日 11:37:59.146 信息 [riticalExecGroup-3] com.tomcat.group.GroupApplication$MessageRequestsMTController.getMT MessageRequestsMTController 控制器 - 线程：riticExecGroup-32024-06-25 17:10:17 2024 年 6 月 25 日 11:40:17.551 信息 [riticalExecGroup-4] com.tomcat.group.GroupApplication$MessageRequestsMTController.getMT MessageRequestsMTController 控制器 - 线程：riticExecGroup-42024-06-25 17:10:18 2024 年 6 月 25 日 11:40:18.801 信息 [riticalExecGroup-5] com.tomcat.group.GroupApplication$MessageRequestsMTController.getMT MessageRequestsMTController 控制器 - 线程：riticExecGroup-52024-06-25 17:10:19 2024 年 6 月 25 日 11:40:19.428 信息 [riticalExecGroup-6] com.tomcat.group.GroupApplication$MessageRequestsMTController.getMT MessageRequestsMTController 控制器 - 线程：riticExecGroup-6
这种 tomcat 的配置可以用在我们想要将执行划分到不同的线程池的地方。
以上就是创建 Tomcat 线程池以获得更好的吞吐量的详细内容，更多请关注创想鸟其它相关文章！
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 chuangxiangniao@163.com 举报，一经查实，本站将立刻删除。
发布者：程序猿，转转请注明出处：https://www.chuangxiangniao.com/p/519612.html
微信扫一扫 
支付宝扫一扫 
