go
1func DisplayAction(c *gin.Context){ 2agoutiDriver := agouti.ChromeDriver( 3 agouti.ChromeOptions("args", []string{ 4 "--headless",// headlessモードの指定 サイト読み込み時の起動をなくす 5 }), 6 ) 7 8 9 agoutiDriver.Start() 10 defer agoutiDriver.Stop() 11 page, _ := agoutiDriver.NewPage() 12 13 14 // サイト1 15 page.Navigate("https://www.サイト1.co.jp/"); 16 title1, _ := page.Title() 17 info1, _ := page.FindByID("info-box").Text() 18 19 // サイト2 20 page.Navigate("https://www.サイト2.co.jp/"); 21 title2, _ := page.Title() 22 info2, _ := page.FindByID("info-box").Text() 23 24 25 c.HTML(200, "test.html", gin.H{ 26 "title1": title1, 27 "info1": info1, 28 "title2": title2, 29 "info2": info2, 30 })
現在上記のようなコードでスクレイピングを行なっているのですが、
読み込み先のサイト数が1つ増えるごとに3秒ほど読み込み時間が増えてしまいます。
スクレイピングするサイト数を増やしても読み込み時間が増えないようになる方法
などがございましたらご教授いただきたいです。何卒よろしくお願い致します。
回答1件
あなたの回答
tips
プレビュー
バッドをするには、ログインかつ
こちらの条件を満たす必要があります。
2021/01/10 03:02