分享
这是一个创建于 的主题,其中的信息可能已经有所发展或是发生改变。
package main
import (
"yangsheng/models"
//"fmt"
"runtime"
//"time"
//"os"
)
func getinfo(id int,url string,a,b chan bool) {
a<-true
isok:=false
defer func() {
b <-isok
}()
info:=models.GetInfo(url)
if len(info["Title"]) > 0 {
var inmodel models.Info
var durls models.Deurls
inmodel.Url = info["Url"]
if inmodel.Read("title") !=nil {
inmodel.Title = info["Title"]
inmodel.Content = info["Content"]
_,err :=inmodel.Insert()
if err == nil {
durls.Id = id
durls.Status = 1
durls.Update("Status")
} else {
}
}
} else {
}
isok=true
}
func main() {
NCPU := runtime.NumCPU()
runtime.GOMAXPROCS(NCPU)
models.Init()
details :=new(models.Deurls)
var list []*models.Deurls
a :=make(chan bool,10)
b :=make(chan bool,1)
for i:=0;i<10;i++ {
details.Query().OrderBy("-id").Limit(i*2000,2000).All(&list)
for _,v := range list {
go getinfo(v.Id,v.Url,a,b)
}
}
for j:=0;j<20000;j++ {
<-b
<-a
}
close(a)
close(b)
}
我这段代码,是用来采集数据的。总共有2万条数据。运行一会,他就提示以下错误。
有疑问加站长微信联系(非本文作者)
入群交流(和以上内容无关):加入Go大咖交流群,或添加微信:liuxiaoyan-s 备注:入群;或加QQ群:692541889
关注微信3464 次点击
添加一条新回复
(您需要 后才能回复 没有账号 ?)
- 请尽量让自己的回复能够对别人有帮助
- 支持 Markdown 格式, **粗体**、~~删除线~~、
`单行代码` - 支持 @ 本站用户;支持表情(输入 : 提示),见 Emoji cheat sheet
- 图片支持拖拽、截图粘贴等方式上传