使用Gson高效解析多条NDJSON记录的Java教程

使用Gson高效解析多条NDJSON记录的Java教程

本教程详细指导如何在java中利用gson库解析包含多条记录的ndjson文件。我们将探讨传统解析方法的局限性,并提供一种健壮的解决方案,通过结合`jsonreader`的循环读取机制和`setlenient(true)`配置,将所有ndjson记录映射到dto对象列表中,确保数据完整性与解析效率。

理解NDJSON格式

NDJSON(Newline Delimited JSON),即换行符分隔的JSON,是一种用于存储或传输结构化数据的格式,其中每个JSON对象都位于单独的一行,并以换行符分隔。这种格式特别适用于日志文件、数据流或大型数据集,因为它允许逐行处理,而无需将整个文件加载到内存中。

例如,一个NDJSON文件可能包含以下内容:

{"id": 1, "name": "Alice"}{"id": 2, "name": "Bob"}{"id": 3, "name": "Charlie"}

传统Gson解析的局限性

在使用Gson库解析JSON时,常见的做法是直接将文件或字符串映射到一个Java对象:

Gson gson = new Gson();// 假设 customer.json 是一个NDJSON文件JsonReader reader = new JsonReader(new FileReader("customer.json"));CustomerFeedDTO customerFeedDTO = gson.fromJson(reader, CustomerFeedDTO.class);

然而,这种方法存在一个核心局限性:gson.fromJson()方法默认期望解析一个完整的、单一的JSON根对象(例如,一个顶级的JSON对象或数组)。当面对NDJSON文件时,该方法在读取完第一个JSON对象后,会认为文件内容已结束,从而忽略后续的所有记录。因此,上述代码只会成功解析文件中的第一条NDJSON记录。

立即学习“Java免费学习笔记(深入)”;

解决方案:循环读取NDJSON记录

要正确解析NDJSON文件中的所有记录,我们需要利用Gson的JsonReader提供的流式读取能力,并通过循环逐一处理每个JSON对象。

核心思路

创建一个JsonReader实例,指向NDJSON文件。启用JsonReader的宽松模式(lenient mode),以适应NDJSON的非标准格式(多个顶层JSON对象)。在一个循环中,判断文件是否已到达末尾。在每次循环迭代中,使用gson.fromJson()方法解析当前的JSON对象。将解析出的DTO对象添加到一个列表中。

关键步骤一:启用宽松模式 (setLenient(true))

NDJSON文件包含多个独立的JSON对象,这些对象之间没有被一个共同的JSON数组或对象包裹。标准JSON规范不允许在根级别有多个独立的JSON对象。为了让JsonReader能够处理这种非标准但常见的格式,必须调用reader.setLenient(true)方法。

reader.setLenient(true); // 允许解析非标准JSON流

关键步骤二:使用循环和 reader.peek()

为了判断何时停止读取,我们可以使用JsonReader的peek()方法。peek()方法返回下一个令牌的类型,当文件读取到末尾时,它将返回JsonToken.END_DOCUMENT。这提供了一个可靠的循环终止条件。

Weights.gg Weights.gg

多功能的AI在线创作与交流平台

Weights.gg 3352 查看详情 Weights.gg

while (reader.peek() != JsonToken.END_DOCUMENT) {    // 解析当前JSON对象    CustomerFeedDTO customerFeedDTO = gson.fromJson(reader, CustomerFeedDTO.class);    customerFeedDTOs.add(customerFeedDTO);}

值得注意的是,JsonReader也提供了一个hasNext()方法,但直接在NDJSON场景下使用它可能会在文件末尾抛出异常。peek() != JsonToken.END_DOCUMENT是更健壮且推荐的判断方式。

示例代码

假设我们有以下CustomerFeedDTO类来映射NDJSON数据结构。为了保持通用性,这里使用了Map和ArrayList来处理可能变化的字段结构:

import java.util.ArrayList;import java.util.List;import java.util.Map;// CustomerFeedDTO.javapublic class CustomerFeedDTO {    private Map profile;    private Map phone;    private ArrayList addresses;    private Map orders;    private ArrayList customs;    // 构造函数、Getter和Setter(此处省略,但实际项目中应包含)    public Map getProfile() { return profile; }    public void setProfile(Map profile) { this.profile = profile; }    public Map getPhone() { return phone; }    public void setPhone(Map phone) { this.phone = phone; }    public ArrayList getAddresses() { return addresses; }    public void setAddresses(ArrayList addresses) { this.addresses = addresses; }    public Map getOrders() { return orders; }    public void setOrders(Map orders) { this.orders = orders; }    public ArrayList getCustoms() { return customs; }    public void setCustoms(ArrayList customs) { this.customs = customs; }    @Override    public String toString() {        return "CustomerFeedDTO{" +               "profile=" + profile +               ", phone=" + phone +               ", addresses=" + addresses +               ", orders=" + orders +               ", customs=" + customs +               '}';    }}

现在,结合上述关键步骤,完整的NDJSON解析代码如下:

import com.google.gson.Gson;import com.google.gson.stream.JsonReader;import com.google.gson.stream.JsonToken;import java.io.FileReader;import java.io.IOException;import java.util.ArrayList;import java.util.List;public class NdJsonParser {    public static void main(String[] args) {        // 假设 ndjson_customer_data.json 是你的NDJSON文件        String filePath = "ndjson_customer_data.json";         List customerFeedDTOs = new ArrayList();        Gson gson = new Gson();        try (JsonReader reader = new JsonReader(new FileReader(filePath))) {            // 启用宽松模式,允许解析非标准JSON流(多个顶层JSON对象)            reader.setLenient(true);            // 循环读取直到文档结束            while (reader.peek() != JsonToken.END_DOCUMENT) {                // 将当前JSON对象映射到CustomerFeedDTO                CustomerFeedDTO customerFeedDTO = gson.fromJson(reader, CustomerFeedDTO.class);                customerFeedDTOs.add(customerFeedDTO);            }            // 打印所有解析的记录            System.out.println("成功解析 " + customerFeedDTOs.size() + " 条客户记录。");            for (int i = 0; i < customerFeedDTOs.size(); i++) {                System.out.println("记录 #" + (i + 1) + ": " + customerFeedDTOs.get(i));            }        } catch (IOException e) {            System.err.println("读取文件时发生错误: " + e.getMessage());            e.printStackTrace();        } catch (Exception e) { // 捕获其他可能的Gson解析异常            System.err.println("解析JSON时发生错误: " + e.getMessage());            e.printStackTrace();        }    }}

DTO设计考量

在上述CustomerFeedDTO中,我们使用了Map和ArrayList来处理内部结构。这种设计提供了高度的灵活性,尤其适用于JSON结构可能不完全固定或包含未知字段的情况。然而,在实际生产环境中,如果JSON结构相对稳定,通常建议创建更具体的DTO类来表示嵌套的JSON对象和数组,例如ProfileDTO、PhoneDTO等。这样可以提供更好的类型安全、代码可读性和IDE支持。

例如,对于profile字段,可以定义一个ProfileDTO类:

public class ProfileDTO {    private String salutation;    private String title;    private String company;    // ... 其他字段    // Getter和Setter}

然后在CustomerFeedDTO中使用:private ProfileDTO profile;。

注意事项与最佳实践

资源管理: 务必使用try-with-resources语句来确保JsonReader和FileReader在操作完成后能够被正确关闭,避免资源泄露。异常处理: 除了IOException,还应考虑捕获com.google.gson.JsonSyntaxException,以处理JSON格式不正确导致的解析错误。性能考量: 对于非常大的NDJSON文件(GB级别),虽然JsonReader是流式的,但将所有记录一次性加载到List中仍然可能导致内存溢出。在这种情况下,可以考虑:逐条处理: 在循环中直接处理每条记录,而不是全部收集到列表中。分批处理: 将记录分批次处理,例如每处理1000条记录就进行一次数据库写入或数据转换。数据校验: 解析完成后,可以对CustomerFeedDTO对象进行数据校验,确保数据的完整性和有效性。

总结

通过结合Gson的JsonReader、循环读取机制以及setLenient(true)宽松模式,我们可以高效且健壮地解析NDJSON文件中的多条记录。这种方法不仅解决了传统gson.fromJson()方法只能解析单个根对象的局限性,还通过流式处理适应了NDJSON的特性,使其成为处理此类数据格式的推荐方案。遵循本文提供的示例代码和最佳实践,可以确保你的Java应用程序能够可靠地处理NDJSON数据。

以上就是使用Gson高效解析多条NDJSON记录的Java教程的详细内容,更多请关注创想鸟其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 chuangxiangniao@163.com 举报,一经查实,本站将立刻删除。
发布者:程序猿,转转请注明出处:https://www.chuangxiangniao.com/p/1100051.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
mysql关闭后自动重启怎么办
上一篇 2025年12月2日 16:49:10
mysql如何查询子节点
下一篇 2025年12月2日 16:49:21

相关推荐

  • 解决泰勒公式计算cos(x)超出[-1, 1]范围的问题

    解决泰勒公式计算cos(x)超出[-1, 1]范围的问题解决泰勒公式计算cos(x)超出[-1, 1]范围的问题解决泰勒公式计算cos(x)超出[-1, 1]范围的问题解决泰勒公式计算cos(x)超出[-1, 1]范围的问题

    本文旨在解决使用泰勒公式近似计算cos(x)时,结果超出[-1, 1]范围的问题。通过分析代码中可能存在的整数溢出问题,并提供相应的修复方案,帮助读者理解泰勒公式的局限性以及数值计算中需要注意的细节。同时,文章还探讨了如何通过优化算法,例如利用cos(x)的周期性,来提高计算精度和扩大适用范围。 泰…

    2026年9月29日 • 用户投稿
    100
  • 如何实现添加收藏按钮并将卡片添加到单独的收藏页面

    如何实现添加收藏按钮并将卡片添加到单独的收藏页面如何实现添加收藏按钮并将卡片添加到单独的收藏页面如何实现添加收藏按钮并将卡片添加到单独的收藏页面如何实现添加收藏按钮并将卡片添加到单独的收藏页面

    使用 localStorage 实现收藏功能 收藏功能是许多网站和应用程序中常见的特性,允许用户保存他们感兴趣的内容以便稍后查看。本文将介绍如何使用 JavaScript 和浏览器的 localStorage API 实现一个基本的收藏功能,将卡片添加到单独的 favorites.html 页面。 …

    2026年9月29日 • 用户投稿
    100
  • 如何使用MySQL和Java实现一个简单的订阅功能

    如何使用MySQL和Java实现一个简单的订阅功能如何使用MySQL和Java实现一个简单的订阅功能如何使用MySQL和Java实现一个简单的订阅功能如何使用MySQL和Java实现一个简单的订阅功能

    如何使用MySQL和Java实现一个简单的订阅功能 随着互联网的发展,订阅功能成为了许多网站和应用程序的常见特性。订阅功能允许用户获取他们感兴趣的内容的更新和通知。在本文中,我将向您介绍如何使用MySQL和Java来实现一个简单的订阅功能。 为了实现订阅功能,我们需要考虑以下几个关键点: 数据库设计…

    2026年9月29日 • 用户投稿
    100
  • sublime怎样配置ESLint检查 sublimeJavaScript代码规范验证

    sublime怎样配置ESLint检查 sublimeJavaScript代码规范验证sublime怎样配置ESLint检查 sublimeJavaScript代码规范验证sublime怎样配置ESLint检查 sublimeJavaScript代码规范验证sublime怎样配置ESLint检查 sublimeJavaScript代码规范验证

    安装 sublimelinter 和 sublimelinter-eslint 插件;2. 全局或本地安装 eslint;3. 使用 eslint –init 创建配置文件并选择代码风格;4. 在 sublimelinter 设置中配置使用本地 eslint 路径;5. 重启 subli…

    2026年9月29日 • 用户投稿
    100
  • SQL查询中JOIN、WHERE和ORDER BY子句的正确使用与顺序

    本文详细阐述了在SQL查询中同时使用JOIN、WHERE和ORDER BY子句的正确方法。重点介绍了JOIN子句中ON条件的精确放置,强调每个JOIN操作后应立即跟上其对应的ON条件。此外,文章还明确了WHERE子句必须位于ORDER BY子句之前,以确保数据先被筛选再进行排序。通过示例代码和注意事…

    2026年9月29日
    100
  • 豆包AI沙盒环境运行 豆包AI安全隔离运行方案

    豆包AI沙盒环境运行 豆包AI安全隔离运行方案豆包AI沙盒环境运行 豆包AI安全隔离运行方案豆包AI沙盒环境运行 豆包AI安全隔离运行方案豆包AI沙盒环境运行 豆包AI安全隔离运行方案

    本文将围绕如何找回误删的微信聊天记录这一问题展开详细说明。我们将通过介绍两种不同的恢复路径,分别是利用微信自带的修复机制和从电脑备份进行恢复,并对每种路径的操作流程进行分步讲解,以帮助您清晰地了解和掌握恢复聊天记录的具体方法。 ☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 D…

    2026年9月29日 • 用户投稿
    100
  • 如何优化线程优先级提升应用程序响应?

    如何优化线程优先级提升应用程序响应?如何优化线程优先级提升应用程序响应?如何优化线程优先级提升应用程序响应?如何优化线程优先级提升应用程序响应?

    优化线程优先级可提升响应性,关键是为UI渲染、用户输入等核心任务分配高优先级,同时降低后台任务优先级以避免资源争抢。需警惕盲目设高优先级导致的调度开销与饥饿问题,防范优先级反转,并结合异步编程、算法优化、并发处理等手段协同改善性能。跨平台开发时应关注不同系统调度机制差异,确保策略一致性。 优化线程优…

    2026年9月29日 • 用户投稿
    000
  • 实现收藏功能:使用LocalStorage将卡片添加到收藏页面

    实现收藏功能:使用LocalStorage将卡片添加到收藏页面实现收藏功能:使用LocalStorage将卡片添加到收藏页面实现收藏功能:使用LocalStorage将卡片添加到收藏页面实现收藏功能:使用LocalStorage将卡片添加到收藏页面

    本文介绍了如何使用 JavaScript 和 LocalStorage 在网页上实现收藏功能。用户可以将卡片从主页面添加到单独的收藏页面,并在收藏页面查看已收藏的卡片。文章提供了详细的代码示例,演示了如何将卡片数据存储到 LocalStorage,以及如何在收藏页面读取并显示这些数据。通过本文的学习…

    2026年9月29日 • 用户投稿
    000
  • 《剑星》PC版上线功劳大!开发商业绩创新高!

    《剑星》PC版上线功劳大!开发商业绩创新高!《剑星》PC版上线功劳大!开发商业绩创新高!《剑星》PC版上线功劳大!开发商业绩创新高!《剑星》PC版上线功劳大!开发商业绩创新高!

    韩国游戏公司Shift Up近日发布了2025年第二季度财务报告,受旗下大作《剑星》(Stellar Blade)PC版本成功上线的强劲推动,公司当季业绩刷新历史纪录。 在2025年4月至6月期间,Shift Up实现总收入8100万美元(约合1124亿韩元),较去年同期增长72.4%。其中营业利润…

    2026年9月29日 • 用户投稿
    000
  • 一加15新机将在全球发布 已获海外认证 型号名确认

    一加15新机将在全球发布 已获海外认证 型号名确认一加15新机将在全球发布 已获海外认证 型号名确认一加15新机将在全球发布 已获海外认证 型号名确认一加15新机将在全球发布 已获海外认证 型号名确认

    一加15真机 据海外媒体报道,一款型号为CPH2747的一加新机出现在认证数据库中,疑似即将推出的一加15全球版本。该机型已通过马来西亚SIRIM认证,确认其为面向国际市场的一加15手机。 近期,国内科技博主分享了一加15的实际外观图。手机背部采用左上角矩阵式摄像头模组设计,整体风格与一加13T保持…

    2026年9月29日 • 用户投稿
    100
  • Sublime主题切换优化 Sublime快速换肤方案

    Sublime主题切换优化 Sublime快速换肤方案Sublime主题切换优化 Sublime快速换肤方案Sublime主题切换优化 Sublime快速换肤方案Sublime主题切换优化 Sublime快速换肤方案

    sublime text快速切换主题和配色方案的关键在于利用自定义快捷键绑定常用主题组合。首先,理解主题(theme)控制ui元素外观,如侧边栏、标签页等;配色方案(color scheme)负责代码编辑区域的语法高亮和背景颜色。其次,通过preferences.sublime-settings文件…

    2026年9月29日 • 用户投稿
    000
  • 从 Java ArrayList 中移除指定类的第一个对象实例

    从 Java ArrayList 中移除指定类的第一个对象实例从 Java ArrayList 中移除指定类的第一个对象实例从 Java ArrayList 中移除指定类的第一个对象实例从 Java ArrayList 中移除指定类的第一个对象实例

    本文介绍了如何在 Java 的 ArrayList 中,移除指定子类 T 的第一个对象实例。通过使用 instanceof 关键字,可以有效地识别并移除目标对象,避免了创建新对象进行比较的低效方法。同时,本文也讨论了直接使用 remove(Object o) 方法可能存在的问题,并提供了更安全可靠的…

    2026年9月29日 • 用户投稿
    400
  • VSCode如何管理SSH密钥 VSCode远程开发的安全连接方法

    使用ssh密钥比密码更安全高效,因其基于非对称加密且避免了暴力破解风险;2. 配置步骤包括生成密钥对、部署公钥到远程服务器、配置本地ssh config文件、启动ssh-agent并添加私钥、通过vscode remote-ssh扩展连接;3. 排查问题时需检查文件权限(如~/.ssh目录700、私…

    2026年9月29日
    100
  • 国内AI软件实力排行 最新十大人工智能工具盘点

    国内AI软件实力排行 最新十大人工智能工具盘点国内AI软件实力排行 最新十大人工智能工具盘点国内AI软件实力排行 最新十大人工智能工具盘点国内AI软件实力排行 最新十大人工智能工具盘点

    国内ai软件难排名,但可依据需求选择。1.文心一格适合对图片质量要求高且偏好中文环境的用户;2.盗梦师功能新颖,细节把控好,适合追求新体验者;3.稿定设计集成ai绘画,满足简单设计需求。写作工具方面:1.秘塔写作猫擅长语法检查与逻辑优化,适合学术类写作;2.effidit提供风格润色和素材灵感,适合…

    2026年9月29日 • 用户投稿
    200
  • JavaFX:控制形状的层叠顺序以实现视觉效果

    JavaFX:控制形状的层叠顺序以实现视觉效果JavaFX:控制形状的层叠顺序以实现视觉效果JavaFX:控制形状的层叠顺序以实现视觉效果JavaFX:控制形状的层叠顺序以实现视觉效果

    在JavaFX应用中,控制形状的层叠顺序对于实现复杂的视觉效果至关重要。当使用toFront()方法无法达到预期效果时,可以考虑使用setViewOrder()方法。setViewOrder()允许开发者显式地设置节点的绘制顺序,数值越小,节点越靠前(即越在上层显示)。 使用setViewOrder…

    2026年9月29日 • 用户投稿
    000
  • Sublime实现用户行为日志追踪系统_搭配前端埋点与后端收集方案

    Sublime实现用户行为日志追踪系统_搭配前端埋点与后端收集方案Sublime实现用户行为日志追踪系统_搭配前端埋点与后端收集方案Sublime实现用户行为日志追踪系统_搭配前端埋点与后端收集方案Sublime实现用户行为日志追踪系统_搭配前端埋点与后端收集方案

    sublime text 能通过多种方式提高用户行为分析中埋点代码的编写效率。1. 使用 snippets 快速插入埋点模板,如 trackevent 函数结构;2. 利用 emmet 缩写生成 html 事件绑定基础代码;3. 搭配 eslint 等插件确保代码符合规范;4. 编辑 json 或 …

    2026年9月29日 • 用户投稿
    100
  • 怎么用豆包AI帮我优化Webpack配置 用AI加速前端构建的完整指南

    使用豆包ai优化webpack配置可显著提升构建效率和输出质量,具体方法包括:1. 让豆包ai分析现有配置问题,识别缓存、代码拆分、压缩等方面的优化空间;2. 生成针对特定项目(如react)的最佳实践配置模板,涵盖代码分割、压缩插件、环境变量设置等;3. 针对具体问题(如提取css)获取完整解决方…

    2026年9月29日
    100
  • ​Meta 成立超级政治行动委员会,抗击 AI 监管政策

    ​Meta 成立超级政治行动委员会,抗击 AI 监管政策​Meta 成立超级政治行动委员会,抗击 AI 监管政策​Meta 成立超级政治行动委员会,抗击 AI 监管政策​Meta 成立超级政治行动委员会,抗击 AI 监管政策

    据 Axios 报道,Meta 公司正显著增加在政策游说方面的资源投入,宣布成立一个名为“美国技术卓越计划”(American Technology Excellence Project)的超级政治行动委员会(super PAC),并计划投入数千万美元,以应对各州可能推进的人工智能监管措施。该委员会…

    2026年9月29日 • 用户投稿
    200
  • iCloud官网怎么注册_iCloud官网新账号注册教程

    iCloud官网怎么注册_iCloud官网新账号注册教程iCloud官网怎么注册_iCloud官网新账号注册教程iCloud官网怎么注册_iCloud官网新账号注册教程iCloud官网怎么注册_iCloud官网新账号注册教程

    需通过Apple ID系统注册而非iCloud官网,访问appleid.apple.com或在设备上创建账号,填写信息、验证邮箱手机号后即可登录iCloud。 如果您尝试在iCloud官网创建一个全新的Apple账户,但找不到直接的注册入口,这是因为iCloud本身不提供独立的注册页面。您需要通过苹…

    2026年9月29日 • 用户投稿
    000
  • java代码怎样实现图的深度优先搜索 java代码图遍历的实用编写教程​

    java代码怎样实现图的深度优先搜索 java代码图遍历的实用编写教程​java代码怎样实现图的深度优先搜索 java代码图遍历的实用编写教程​java代码怎样实现图的深度优先搜索 java代码图遍历的实用编写教程​java代码怎样实现图的深度优先搜索 java代码图遍历的实用编写教程​

    图的深度优先搜索通过递归或栈实现,使用visited数组避免重复访问,可解决环导致的无限循环问题;DFS与BFS的区别在于搜索顺序和数据结构,DFS适用于路径查找、环检测和拓扑排序等场景。 图的深度优先搜索(DFS)在Java中可以通过递归或栈来实现,核心思想是尽可能深地搜索图的分支。简单来说,就是…

    2026年9月29日 • 用户投稿
    000

发表回复

登录后才能评论
关注微信