分享
Golang html encoding解析
vincenshen · · 4616 次点击 · · 开始浏览这是一个创建于 的文章,其中的信息可能已经有所发展或是发生改变。
自动解析html页面的编码格式:
需要依赖 golang.org/x/text 和 golang.org/x/net 这两个外部库
package main import ( "net/http" "io/ioutil" "fmt" "golang.org/x/text/transform" "io" "golang.org/x/text/encoding" "bufio" "golang.org/x/net/html/charset" ) // encoding determine for html page , eg: gbk gb2312 GB18030 func determineEncoding(r io.Reader) encoding.Encoding { bytes, err := bufio.NewReader(r).Peek(1024) if err != nil { panic(err) } e, _, _ := charset.DetermineEncoding(bytes, "") return e } func main() { resp, err := http.Get("http://www.zhenai.com/zhenghun") if err != nil { panic(err) } defer resp.Body.Close() e := determineEncoding(resp.Body) reader := transform.NewReader(resp.Body, e.NewDecoder()) if resp.StatusCode == http.StatusOK { bodyBytes, err := ioutil.ReadAll(reader) if err != nil { panic(err) } fmt.Printf("%s\n", bodyBytes) } }
有疑问加站长微信联系(非本文作者)
入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889
关注微信4616 次点击
被以下专栏收入,发现更多相似内容
上一篇:golang - gob与rpc
下一篇:golang 重构博客统计服务
添加一条新回复
(您需要 后才能回复 没有账号 ?)
- 请尽量让自己的回复能够对别人有帮助
- 支持 Markdown 格式, **粗体**、~~删除线~~、
`单行代码` - 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
- 图片支持拖拽、截图粘贴等方式上传
收入到我管理的专栏 新建专栏
自动解析html页面的编码格式:
需要依赖 golang.org/x/text 和 golang.org/x/net 这两个外部库
package main import ( "net/http" "io/ioutil" "fmt" "golang.org/x/text/transform" "io" "golang.org/x/text/encoding" "bufio" "golang.org/x/net/html/charset" ) // encoding determine for html page , eg: gbk gb2312 GB18030 func determineEncoding(r io.Reader) encoding.Encoding { bytes, err := bufio.NewReader(r).Peek(1024) if err != nil { panic(err) } e, _, _ := charset.DetermineEncoding(bytes, "") return e } func main() { resp, err := http.Get("http://www.zhenai.com/zhenghun") if err != nil { panic(err) } defer resp.Body.Close() e := determineEncoding(resp.Body) reader := transform.NewReader(resp.Body, e.NewDecoder()) if resp.StatusCode == http.StatusOK { bodyBytes, err := ioutil.ReadAll(reader) if err != nil { panic(err) } fmt.Printf("%s\n", bodyBytes) } }