Golang 逐行读取大文件性能对比

前 言

BUFIO 是什么?
BUFIO 是用来驱动 I/O 列内的专用时钟网络,这个专用的时钟网络独立于全局时钟资源,适合采集源同步数据。BUFIO 只能由位于同一时钟区域的 Clock-Capable I/O驱动。一个时钟区域有4个 BURIO,其中的2个可以驱动相邻区域的 I/O 时钟网络。BUFIO 不能驱动逻辑资源(CLB、BRAM等),因为 I/O 时钟网络只存在于 I/O 列中。

简单点就是:

• bufio 包实现了带缓存的 I/O 操作

• 它封装一个 io.Reader 或 io.Writer 对象

• 使其具有缓存和一些文本读写功能

本文主要来对比一下 BUFIO 中的 ReadString 和 ReadLine 函数的性能。

注:测试代码忽略读取内容和错误处理

ReadString 函数

ReadString 代码:

func ReadString(filename string) {
 f, _ := os.Open(filename)
 defer f.Close()
 r := bufio.NewReader(f)
 for {
 _, err := r.ReadString('\n') 
 if err != nil {
 break
 }
 }
}

ReadLine 函数

ReadLine 代码:

func ReadLine(filename string) {
 f, _ := os.Open(filename)
 defer f.Close()
 r := bufio.NewReader(f)
 for {
 _, err := readLine(r)
 if err != nil {
 break
 }
 }
}

此函数主要解决单行字节数大于4096的情况

func readLine(r *bufio.Reader) (string, error) {
 line, isprefix, err := r.ReadLine()
 for isprefix && err == nil {
 var bs []byte
 bs, isprefix, err = r.ReadLine()
 line = append(line, bs...)
 }
 return string(line), err
}

注: 测试文件 log 每行字节数均大于4096

性 能 对 比

以上两种方式分别读取10G/20G/30G文件的耗时如下:

读取10G文件耗时

readstring:30.717832767s
readline:27.358268244s

读取20G文件耗时

readstring:59.937901346s
readline:54.871384854s

**读取30G文件耗时******

readstring:1m21.657831495s
readline:1m13.222376352s

结 论

ReadLine 读取文件更快,原因是由于 ReadString 后端调用 ReadBytes,而 ReadBytes 多次使用 copy 方法造成大量耗时。

测试代码如下:

package main
import (
 "bufio"
 "fmt"
 "os"
 "time"
)

func main() {
 filename := "./log"
 s := time.Now()
 ReadString(filename)
 e1 := time.Now()
 fmt.Printf("readstring:%v\n", e1.Sub(s))
 ReadLine(filename)
 e2 := time.Now()
 fmt.Printf("readline:%v\n", e2.Sub(e1))
}

func ReadString(filename string) {
 f, _ := os.Open(filename)
 defer f.Close()
 r := bufio.NewReader(f)
 for {
 _, err := r.ReadString('\n') //忽略内容
 if err != nil {
 break
 }
 }
}

func ReadLine(filename string) {
 f, _ := os.Open(filename)
 defer f.Close()
 r := bufio.NewReader(f)
 for {
 _, err := readLine(r)
 if err != nil {
 break
 }
 }
}

func readLine(r *bufio.Reader) (string, error) {
 line, isprefix, err := r.ReadLine()
 for isprefix && err == nil {
 var bs []byte
 bs, isprefix, err = r.ReadLine()
 line = append(line, bs...)
 }
 return string(line), err
}

技术交流QQ群:368573673

有兴趣的可以关注我们的微信公众号:Reboot51

本文来自:简书

感谢作者:51reboot

查看原文:Golang 逐行读取大文件性能对比

• 编辑
• 预览