分享
  1. 首页
  2. 文章

从数据库导出大量数据的处理方式

wcz3043 · · 3537 次点击 · · 开始浏览
这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。

需求:将商户订单或交易记录导出到文件中,便于分析

文件格式:

  • Type 1: xlsx

office 2003: 数据行不能超过 65535行

office 2007 及以后: 数据量可以保持在 1 百万行左右

内存占用严重,效率低下

  • Type 2: csv

效率高,格式简单,对大数字需要进行特殊的处理以防止格式改变

office 软件支持csv插件

导出方式:

  • 一次性导出

内存占用严重,响应时间长

  • 分批导出

程序逻辑复杂,效率较高; 可以使用多协程的方式进行并发操作

展示方式:

  • 直接从页面下载

用户需要等待,并可能长时间得不到响应,导致浏览器取消请求

  • 通过生成url以邮件的方式进行发送,并通过短信通知用户

减少用户无意义的空等待,利于异步并发操作,同时可正常通知用户结果和错误信息提示


有疑问加站长微信联系(非本文作者)

入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889

关注微信
3537 次点击
添加一条新回复 (您需要 后才能回复 没有账号 ?)
  • 请尽量让自己的回复能够对别人有帮助
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`
  • 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
  • 图片支持拖拽、截图粘贴等方式上传

用户登录

没有账号?注册
(追記) (追記ここまで)

今日阅读排行

    加载中
(追記) (追記ここまで)

一周阅读排行

    加载中

关注我

  • 扫码关注领全套学习资料 关注微信公众号
  • 加入 QQ 群:
    • 192706294(已满)
    • 731990104(已满)
    • 798786647(已满)
    • 729884609(已满)
    • 977810755(已满)
    • 815126783(已满)
    • 812540095(已满)
    • 1006366459(已满)
    • 692541889

  • 关注微信公众号
  • 加入微信群:liuxiaoyan-s,备注入群
  • 也欢迎加入知识星球 Go粉丝们(免费)

给该专栏投稿 写篇新文章

每篇文章有总共有 5 次投稿机会

收入到我管理的专栏 新建专栏