栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 面试经验 > 面试问答

“围棋之旅”网络爬虫练习中的频道说明

面试问答 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

“围棋之旅”网络爬虫练习中的频道说明

第一个

for
循环调度了多个goroutine来运行,并且正在一片URL上进行迭代。

第二个循环在每个url上阻塞,等待其相应的

Crawl()
调用完成。所有用户
Crawl()
将并行运行并执行其工作,并阻止退出,直到主线程有机会在
done
通道上收到每个URL
的消息。

我认为,实现此效果的更好方法是使用

sync.WaitGroup
。此代码可能会记录错误的内容,具体取决于每次
Crawl()
调用要花费多长时间(除非
fetcher
锁定)。

如果你想确保网址的是成品

Crawl()
ING,你可以改变做过通道的类型
string
并发送
url
,而不是
true
一个后
Crawl()
完成。然后,我们可以
url
在第二个循环中接收。

例:

done := make(chan string)for _, u := range urls {    fmt.Printf("-> Crawling %sn", u)    go func(url string) {        Crawl(url, depth-1, fetcher)        done <- url    }(u)}for range urls {    fmt.Printf("<- Waiting for next childn")    u := <-done    fmt.Printf("  Done... %sn", u)}


转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/403838.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号