使用RestTemplate获取并处理API数据:过滤、转换与定制化输出

使用resttemplate获取并处理api数据:过滤、转换与定制化输出

本文详细介绍了如何使用Spring RestTemplate从外部API获取数据,并利用Java Stream API对复杂数据结构进行高效的过滤和转换。教程涵盖了去重、属性重命名以及将原始数据映射为自定义API输出格式的完整流程,旨在帮助开发者构建更灵活、可控的数据消费与展示逻辑。

引言:API数据消费与处理的挑战

在现代应用开发中,与外部API交互是常见的需求。Spring框架的RestTemplate提供了一种便捷的方式来消费RESTful服务。然而,从外部API获取的数据往往是复杂的、嵌套的Java对象列表。在将这些数据展示给最终用户或提供给自己的API之前,我们通常需要对其进行一系列处理,例如过滤重复项、选择性地提取字段、重命名属性,甚至将数据转换成完全不同的结构。本教程将引导您完成这一过程,特别关注如何利用Java Stream API高效地实现这些数据操作。

初始API调用与数据模型

假设我们正在使用RestTemplate从一个天气API获取省份数据。初始设置包括一个RestTemplate调用和一个用于反序列化JSON响应的DTO(Data Transfer Object)结构。

1. RestTemplate 获取数据

首先,我们有一个静态方法用于通过RestTemplate调用外部API:

public static Provinces restTemplateProvince(RestTemplate restTemplate) {    String provinceCommunityURL = "https://www.el-tiempo.net/api/json/v2/provincias";    Provinces province = restTemplate.getForObject(provinceCommunityURL, Provinces.class);    return province;}

这个方法会返回一个Provinces对象,其中包含了从API获取的原始省份数据。

2. Provinces 和 ProvincesData DTOs

为了正确地将JSON响应映射到Java对象,我们定义了两个DTO类:Provinces和ProvincesData。

Provinces类:

import com.fasterxml.jackson.annotation.JsonIgnoreProperties;import com.fasterxml.jackson.annotation.JsonProperty;import java.util.List;@JsonIgnoreProperties(ignoreUnknown = true)public class Provinces {    @JsonProperty("provincias") // 注意:原始问题中是"provincial",这里修正为更常见的"provincias"    private List provinces;    public Provinces() {}    public Provinces(List provinces) {        this.provinces = provinces;    }    @JsonProperty("provincias")    public List getProvinces() { // 修正方法名,遵循Java命名规范        return provinces;    }    @JsonProperty("Test") // 原始问题中此处为"Test",可能为测试用途,实际应与JSON字段匹配或移除    public void setProvinces(List provinces) { // 修正方法名        this.provinces = provinces;    }}

ProvincesData类:

import com.fasterxml.jackson.annotation.JsonIgnoreProperties;import com.fasterxml.jackson.annotation.JsonProperty;@JsonIgnoreProperties(ignoreUnknown = true)public class ProvincesData {    @JsonProperty("CODPROV")    private String codProv;    @JsonProperty("NOMBRE_PROVINCIA")    private String nomeProvincia;    @JsonProperty("CODAUTON")    private String codAuton;    @JsonProperty("COMUNIDAD_CIUDAD_AUTONOMA")    private String comunidadeCidadeAutonoma;    public ProvincesData() {}    public ProvincesData(String codProv, String nomeProvincia, String codAuton, String comunidadeCidadeAutonoma) {        this.codProv = codProv;        this.nomeProvincia = nomeProvincia;        this.codAuton = codAuton;        this.comunidadeCidadeAutonoma = comunidadeCidadeAutonoma;    }    @JsonProperty("CODPROV")    public String getCodProv() {        return codProv;    }    @JsonProperty("Test") // 原始问题中此处为"Test",可能为测试用途,实际应与JSON字段匹配或移除    public void setCodProv(String codProv) {        this.codProv = codProv;    }    @JsonProperty("NOMBRE_PROVINCIA") // 补充JsonProperty注解以确保正确映射    public String getNomeProvincia() {        return nomeProvincia;    }    public void setNomeProvincia(String nomeProvincia) {        this.nomeProvincia = nomeProvincia;    }    @JsonProperty("CODAUTON") // 补充JsonProperty注解    public String getCodAuton() {        return codAuton;    }    public void setCodAuton(String codAuton) {        this.codAuton = codAuton;    }    @JsonProperty("COMUNIDAD_CIUDAD_AUTONOMA") // 补充JsonProperty注解    public String getComunidadeCidadeAutonoma() {        return comunidadeCidadeAutonoma;    }    public void setComunidadeCidadeAutonoma(String comunidadeCidadeAutonoma) {        this.comunidadeCidadeAutonoma = comunidadeCidadeAutonoma;    }}

注意:在上述DTO中,我修正了Provinces类中@JsonProperty的名称,以及方法命名以符合Java标准。ProvincesData中也补充了@JsonProperty注解,以确保字段的正确映射。原始问题中一些set方法上的@JsonProperty(“Test”)看起来是测试代码,在实际生产中应移除或修正。

数据过滤与转换的需求

原始问题提出,从API获取的数据是一个List,但需要对其进行以下处理:

去重:根据codAuton字段去除重复的省份数据。属性重命名与精简:构建一个只包含所需数据的新列表,并更改属性名称,以便在自己的API中以更友好的标题展示。

解决方案:结合Java Stream API进行数据处理

Java 8引入的Stream API为集合操作提供了强大且富有表现力的方式,非常适合进行数据过滤、转换和聚合。

1. 在数据获取层进行去重过滤

为了在数据返回之前就完成去重,我们可以在restTemplateProvince方法中直接应用Stream API。这里我们将根据codAuton字段进行去重。

import org.springframework.web.client.RestTemplate;import java.util.ArrayList;import java.util.List;import java.util.stream.Collectors;public class Templates { // 假设这个类名为Templates    public static Provinces restTemplateProvince(RestTemplate restTemplate) {        String provinceCommunityURL = "https://www.el-tiempo.net/api/json/v2/provincias";        Provinces province = restTemplate.getForObject(provinceCommunityURL, Provinces.class);        // 使用Stream API进行去重过滤        List includedCodAutons = new ArrayList(); // 用于跟踪已经包含的codAuton        List filteredProvinces = province.getProvinces()            .stream()            .filter(p -> {                // 如果includedCodAutons中不包含当前p.getCodAuton(),则添加并返回true(保留)                if (!includedCodAutons.contains(p.getCodAuton())) {                    includedCodAutons.add(p.getCodAuton());                    return true;                }                // 否则返回false(过滤掉)                return false;            })            .collect(Collectors.toList());        // 将过滤后的列表设置回Provinces对象        province.setProvinces(filteredProvinces);        return province;    }}

在这个修改后的restTemplateProvince方法中:

我们首先像往常一样获取Provinces对象。然后,通过province.getProvinces().stream()创建一个数据流。filter操作结合一个辅助includedCodAutons列表来判断codAuton是否已出现过。这种方法在处理少量数据时简洁易懂。collect(Collectors.toList())将过滤后的元素收集回一个新的List。最后,我们更新Provinces对象中的省份列表,并返回它。

2. 在业务逻辑层进行数据转换与重命名

尽管我们在数据获取层已经完成了去重,但如果您的API需要返回一个更精简、属性名更友好的列表,或者甚至是一个List,那么还需要进一步的转换。这通常在Service层完成。

首先,定义一个新的DTO来表示我们希望在API中展示的精简数据结构:

// CustomProvinceView.javapublic class CustomProvinceView {    private String autonomousCommunityCode; // 重命名codAuton    private String autonomousCommunityName; // 重命名comunidadeCidadeAutonoma    public CustomProvinceView(String autonomousCommunityCode, String autonomousCommunityName) {        this.autonomousCommunityCode = autonomousCommunityCode;        this.autonomousCommunityName = autonomousCommunityName;    }    // Getters    public String getAutonomousCommunityCode() {        return autonomousCommunityCode;    }    public String getAutonomousCommunityName() {        return autonomousCommunityName;    }    // Setters (可选,如果不需要修改,可以省略)    public void setAutonomousCommunityCode(String autonomousCommunityCode) {        this.autonomousCommunityCode = autonomousCommunityCode;    }    public void setAutonomousCommunityName(String autonomousCommunityName) {        this.autonomousCommunityName = autonomousCommunityName;    }}

接下来,修改ProvinceService来执行这种转换:

import org.springframework.beans.factory.annotation.Autowired;import org.springframework.stereotype.Service;import org.springframework.web.client.RestTemplate;import java.util.List;import java.util.stream.Collectors;@Servicepublic class ProvinceService {    @Autowired    RestTemplate restTemplate; // 注入RestTemplate    public List getAllProvincesFilteredAndTransformed() {        // 调用Templates类中经过去重处理的方法        Provinces listOfProvinces = Templates.restTemplateProvince(restTemplate);        // 对去重后的ProvincesData列表进行转换        return listOfProvinces.getProvinces()            .stream()            .map(p -> new CustomProvinceView(p.getCodAuton(), p.getComunidadeCidadeAutonoma()))            .collect(Collectors.toList());    }    // 如果需要返回List,例如只包含社区名称:    public List getAllAutonomousCommunityNames() {        Provinces listOfProvinces = Templates.restTemplateProvince(restTemplate);        return listOfProvinces.getProvinces()            .stream()            .map(ProvincesData::getComunidadeCidadeAutonoma)            .collect(Collectors.toList());    }}

最后,更新您的RestController以返回转换后的数据:

import org.springframework.beans.factory.annotation.Autowired;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.RestController;import java.util.List;@RestControllerpublic class ShowcaseController {    @Autowired    ProvinceService provinceService;    @GetMapping("/provinces/custom")    public List getCustomProvinces(){        return provinceService.getAllProvincesFilteredAndTransformed();    }    @GetMapping("/provinces/community-names")    public List getCommunityNames(){        return provinceService.getAllAutonomousCommunityNames();    }}

通过以上步骤,我们实现了:

使用RestTemplate获取原始数据。在数据获取阶段对数据进行去重处理。在业务逻辑层将去重后的数据转换成符合API输出需求的新DTO列表,并重命名了属性。提供了另一种将数据转换为List的示例。

注意事项与最佳实践

性能考量:在filter操作中使用List.contains()对于非常大的列表(百万级别以上)可能会有性能问题,因为它是一个O(n)操作。对于大数据集,更高效的去重方法是使用Set:

Set includedCodAutons = new HashSet();List filteredProvinces = province.getProvinces().stream()    .filter(p -> includedCodAutons.add(p.getCodAuton())) // Set.add()返回true表示添加成功(不重复),false表示已存在(重复)    .collect(Collectors.toList());

这种方式将去重操作的平均时间复杂度降低到O(1),整体过滤效率更高。

DTO设计:为外部API响应和内部API输出设计不同的DTO是良好的实践。外部API DTO(如Provinces和ProvincesData)应尽可能匹配外部API的结构,以便于反序列化。而内部API DTO(如CustomProvinceView)则应根据您的业务需求和客户端展示需求进行优化,只包含必要字段且命名清晰。职责分离:将数据获取、过滤和转换逻辑分别放置在不同的层(如Templates类、Service层)有助于保持代码的模块化和可维护性。Templates负责原始数据获取和初步的通用处理,Service层负责业务逻辑和数据转换以满足特定API需求。错误处理:在实际应用中,RestTemplate调用应该包含适当的错误处理机制,例如try-catch块来捕获RestClientException,并处理网络问题或API返回的错误状态码

总结

本教程展示了如何利用Spring RestTemplate和Java Stream API有效地处理从外部API获取的复杂数据。通过分阶段的过滤和转换,我们能够将原始、可能冗余的数据转化为精简、结构清晰且符合特定API输出要求的格式。掌握这些技术将使您在构建健壮且灵活的Spring Boot

以上就是使用RestTemplate获取并处理API数据:过滤、转换与定制化输出的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/50221.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2025年11月8日 15:44:37
下一篇 2025年11月8日 15:54:42

相关推荐

  • 如何在Golang中优化RPC性能

    提升RPC性能需从序列化、连接管理、并发控制和协议选择入手。1. 使用Protobuf替代Gob或JSON以降低开销;2. 启用长连接与连接池,利用HTTP/2多路复用和Keep-Alive减少握手开销;3. 通过goroutine池和sync.Pool限制并发、减少GC压力;4. 优选gRPC、K…

    2025年12月16日
    000
  • 如何在Golang中处理结构体指针切片

    结构体指针切片可高效操作原始数据。定义Person结构体后,使用&Person{}初始化并存入[]*Person切片;遍历时直接修改字段即可更新原数据;创建时用make需逐个初始化避免nil;传参时减少拷贝提升性能。 在Go语言中,结构体指针切片是一种常见且高效的数据组织方式,尤其适用于需要…

    2025年12月16日
    000
  • Golang测试性能如何优化

    使用 t.Parallel() 提升并行测试效率,适用于无共享状态的独立用例;2. 避免重复初始化和频繁 I/O,通过 TestMain 复用资源,采用内存模拟替代外部依赖;3. 利用基准测试(go test -bench=.)分析函数性能,关注 ns/op 和 B/op 指标以优化瓶颈。 Go语言…

    2025年12月16日
    000
  • Golang如何使用reflect调用方法

    答案:Go语言通过reflect包可动态调用结构体导出方法,使用MethodByName获取方法并用Call执行,支持参数传递与返回值处理;若方法为指针接收者,需传入指针的Value以确保正确调用。 在Go语言中,可以通过reflect包动态调用结构体的方法。这在处理未知类型或需要根据名称调用方法时…

    2025年12月16日
    000
  • Golang如何统一处理微服务调用错误

    统一错误处理需定义标准错误模型、封装调用逻辑、使用中间件捕获异常。1. 定义含错误码、消息等字段的通用Error结构并置于公共模块;2. 封装HTTP/gRPC客户端,统一处理网络错误并映射为预设错误类型;3. 在Gin或gRPC拦截器中实现panic恢复并返回标准化错误响应;4. 通过Contex…

    2025年12月16日
    000
  • 如何在Golang中配置Go Module路径

    正确配置Go Module的模块路径需在项目根目录执行go mod init 模块路径,生成go.mod文件定义模块导入路径和依赖,如module github.com/john/myweb;模块路径决定包的导入方式,如import “github.com/john/myweb/util…

    2025年12月16日
    000
  • Golang如何处理容器日志收集

    日志应输出到标准输出并采用JSON格式,Go应用通过log包或logrus等库将结构化日志写入stdout,容器运行时捕获后由Fluent Bit、Promtail等工具采集,附加Pod元数据并发送至ELK或Loki等后端,实现统一管理。 Go语言开发的应用在容器化部署时,日志收集的关键在于输出方式…

    2025年12月16日
    000
  • Golang如何处理网络请求返回错误

    首先检查请求发送阶段的错误,如连接超时、DNS解析失败等;再判断HTTP状态码是否为200或预期范围;设置客户端超时避免阻塞;最后读取响应体时处理可能的传输错误,并始终关闭Body。 在Go语言中处理网络请求返回的错误,关键在于正确使用net/http包并检查多个可能出错的环节。很多开发者只关注HT…

    2025年12月16日
    000
  • Golang如何构建简易的笔记应用

    答案是一个基于Golang的简易笔记应用,通过结构体定义笔记并以JSON格式存储;实现添加、列出和搜索笔记功能,结合标准库进行文件操作与命令行解析,支持后续扩展如删除、数据库升级等。 用Golang构建一个简易的笔记应用并不复杂,重点在于设计清晰的结构和使用标准库高效处理文件操作与命令行交互。下面是…

    2025年12月16日
    000
  • 如何在Golang中实现模块分层管理

    Golang模块分层通过项目结构与包设计分离关注点,典型分层为handler、service、repository、model,形成单向依赖链;2. 各层职责明确:handler处理请求,service封装业务逻辑,repository操作数据,model定义结构;3. main.go中通过依赖注入…

    2025年12月16日
    000
  • Golang如何实现API接口签名验证

    答案:接口签名验证通过客户端和服务端共享密钥生成HMAC-SHA256签名,结合时间戳与随机数防止重放攻击,服务端校验签名及请求时效性。1. 客户端将请求方法、路径、参数、时间戳、随机数和请求体排序拼接后使用secretKey进行HMAC-SHA256签名;2. 服务端中间件解析请求头与参数,重新计…

    2025年12月16日
    000
  • golang结构体字段使用指针还是值类型的选择

    指针适用于需修改、共享或大内存字段,如可选配置、大对象;2. 值类型适合小且不可变数据,安全性高、复制成本低;3. 避免过度使用指针,优先考虑语义清晰与简洁性,多数场景值类型更优。 在 Go 语言中,结构体字段是使用指针还是值类型,直接影响内存布局、性能和语义行为。选择的关键在于字段的用途、是否可变…

    2025年12月16日
    000
  • Golang如何实现单元测试与CI/CD集成

    Go语言通过%ignore_a_1% test命令和testing包支持简洁的单元测试,结合GitHub Actions等CI/CD工具可实现自动化测试与构建,确保代码质量。 Go语言内置了简洁高效的测试支持,结合现代CI/CD工具可以轻松实现自动化质量保障。核心在于利用go test命令编写单元测…

    2025年12月16日
    000
  • 流程控制优化有哪些语法技巧

    流程控制优化通过早期返回减少嵌套,避免箭头式代码,提升可读性与执行效率。 流程控制优化的核心在于提升代码的可读性、减少冗余判断以及提高执行效率。通过合理的语法技巧,可以让条件分支和循环结构更简洁高效。 使用早期返回减少嵌套 在函数中遇到不满足条件的情况时,尽早返回可以避免深层嵌套,使逻辑更清晰。 &…

    2025年12月16日
    000
  • Golang如何使用Prometheus监控应用

    Go应用通过prometheus/client_golang库集成Prometheus监控,首先引入包并定义Counter、Gauge、Histogram指标,如请求总数和响应延迟;接着在init函数中注册指标,使用中间件记录HTTP请求的method和endpoint维度数据;然后通过http.H…

    2025年12月16日
    000
  • Golang如何实现函数返回多个值

    Go语言支持多返回值,函数定义时在返回类型括号内列出多个类型,调用方用对应变量接收。例如calc(a,b int)(int,int)返回和与差,sum,diff:=calc(10,5)输出15 5;命名返回值可提前命名result,succ bool等,在函数内赋值并用空return返回;常用于返回…

    2025年12月16日
    000
  • 如何在Golang中解析HTTP响应Body

    答案:在Golang中解析HTTP响应Body需正确读取io.ReadCloser并关闭以避免泄漏;小响应可使用io.ReadAll读取全部内容,自Go 1.16起推荐从io包调用;若响应为JSON,可结合json.Unmarshal解析到结构体;对于大响应,应采用流式处理,如bufio.Scann…

    2025年12月16日
    000
  • Go语言程序性能优化:深度解析I/O瓶颈与bufio实践

    本文旨在探讨go程序在特定场景下性能低于预期的原因,特别是当涉及大量文件i/o操作时。通过实际案例分析,揭示了go标准库中非缓冲i/o的性能瓶颈,并详细介绍了如何利用`bufio`包实现缓冲i/o以显著提升程序效率。教程将提供示例代码和关键注意事项,帮助开发者优化go应用的i/o密集型任务。 理解G…

    2025年12月16日
    000
  • Golang如何优化并发任务调度

    合理控制并发数量,使用工作池模式和buffered channel限制goroutine数量,避免资源耗尽;通过context管理任务生命周期,结合超时与取消信号优化调度;利用channel通信替代共享内存,减少锁竞争,提升高并发场景下的程序性能。 Go语言通过goroutine和channel提供…

    2025年12月16日
    000
  • Go语言调用Windows DLL:SCard API参数传递与常见陷阱解析

    本文旨在深入探讨go语言通过`syscall`包调用windows dll(以scard api为例)时,如何正确处理参数传递、字符串编码和函数命名。文章将详细分析常见的`scard_e_invalid_parameter`错误原因,并提供一套完整的、经过优化的代码示例,帮助开发者规避陷阱,实现与w…

    2025年12月16日
    000

发表回复

登录后才能评论
关注微信