Procházet zdrojové kódy

beautify fetching

package
flavis před 4 roky
rodič
revize
aac8280843
1 změnil soubory, kde provedl 6 přidání a 3 odebrání
  1. +6
    -3
      scraping/fetch.R

+ 6
- 3
scraping/fetch.R Zobrazit soubor

@@ -16,9 +16,12 @@ download_protocol <- function(path, name) {
}

fetch_batch <- function(offset) {
url <- mk_url(offset)
res <- as.character(read_html(url))
paths <- str_match_all(res, "/resource/blob/.*?/([0-9]*-data\\.xml)")[[1]]
mk_url(offset) %>%
read_html() %>%
as.character() %>%
str_match_all("/resource/blob/.*?/([0-9]*-data\\.xml)") %>%
`[[`(1) ->
paths
mapply(download_protocol, paths[,1], paths[,2])
return(length(paths) > 0)
}


Načítá se…
Zrušit
Uložit