Скребковый стол rvest

Я пытаюсь очистить таблицу с веб-сайта с помощью rvest in R, но появляется ошибка:

Ошибка в open.connection (x, rb): ошибка HTTP 404

Как решить проблему?

Я уже пробовал несколько вариантов, но ни один из них не работал. Я не знаю, что делаю не так. Я хочу знать, правильно ли я кодирую. Вроде бы что-то очень простое, но я не могу это решить.

options(stringsAsFactors = FALSE)

url<- "https://www.tutiempo.net/clima/06-2018/ws-830950.html"

tbl.names <- data.frame(
  "Temperatura Media" = character(0),
  "Temperatura Máxima" = character(0),
  "Temperatura Mínima" = character(0),
  "SLP" = character(0),
  "H" = character(0),"PP" = character(0),
  "VV" = character(0),
  "V" = character(0),"VM" = character(0),
  "VG" = character(0),
  "RA" = character(0),"SN" = character(0),
  "TS" = character(0),
  "FG" = character(0)  )

for (i in 1:31) {
  url <- paste0(url, i)
  tbl.page <- url %>%
    read_html() %>%
    html_nodes(xpath='//*[@id="ColumnaIzquierda"]/div/div[4]') %>%
    html_table()
  names(tbl.page[[1]]) <- names(tbl.names)
  tbl.names <- bind_rows(tbl.names, tbl.page[[1]])
}

Я ожидаю, что вернусь к той же таблице, что и на веб-сайте, но в файле .xls или .csv, чтобы я мог управлять ею. Эта ошибка появляется

Ошибка в open.connection (x, rb): ошибка HTTP 404.

Хотя, я не знаю, в порядке ли кодировка.


r datatable web-scraping rvest
person CarolinaSun    schedule 08.07.2019    source источник

Ответы (2)


arrow_upward
1
arrow_downward

Я думаю, вы можете сделать это с помощью rvest и tidyverse.

Прежде всего, прочтите вашу ссылку как URL с read_html()

library(tidyverse)
library(rvest)

url ="https://www.tutiempo.net/clima/06-2018/ws-830950.html" 


data = read_html(url)

Затем вы должны идентифицировать узлы с интересующей вас информацией. В вашем случае, используя html_nodes("table"), вы можете видеть, что на этом веб-сайте есть 5 таблиц HTML, а интересная информация находится в 4-м узле:

data %>%
   html_nodes("table")

{xml_nodeset (5)}
[1] <table cellpadding="0" cellspacing="0"><tbody><tr>\n<td class="home"><a href="https://www.tutiempo.net/">El tiempo</a></td>\n<td><a href=" ...
[2] <table cellpadding="0" cellspacing="0"><tr>\n<td><a href="/clima/ws-830950.html">Clima</a></td>\n\t\t\t\t\t<td><a href="/clima/2018/ws-830 ...
[3] <table cellpadding="0" cellspacing="0"><tr>\n<td><span class="social facebook iw-facebook" title="Compartir en Facebook"></span></td>\n<td ...
[4] <table cellpadding="0" class="medias mensuales numspan" style="width:100%;" cellspacing="0">\n<tr>\n<th>Día</th>\n<th><abbr class="tooltip ...
[5] <table cellpadding="0" cellspacing="0" class="info">\n<tr>\n<td>T</td>\n<td>Temperatura media (°C)</td>\n</tr>\n<tr>\n<td>TM</td>\n<td>Tem ...

После идентификации вам просто нужно получить этот узел:

tab_temp = data %>%
  html_nodes("table") %>%
  .[4] %>%
  html_table(fill = TRUE) %>%
  as.data.frame()

glimpse(tab_temp)
Observations: 32
Variables: 15
$ Día <chr> "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "11", "12", "13", "14", "15", "16", "17", "18", "19", "20", "21", "22", "23", "…
$ T   <chr> "26.1", "25.1", "26.7", "", "", "", "25.7", "24.7", "26.5", "", "", "", "27.2", "26.1", "26.6", "", "", "", "25.2", "26.6", "26.3"…
$ TM  <chr> "28", "28", "29", "", "", "", "28", "28", "29", "", "", "", "29", "27", "29", "", "", "", "29", "29", "29", "", "", "", "29", "27"…
$ Tm  <chr> "24", "23", "24", "", "", "", "23", "23", "23", "", "", "", "23", "23", "23", "", "", "", "23", "25", "23", "", "", "", "22", "20"…
$ SLP <chr> "-", "-", "-", "", "", "", "-", "-", "-", "", "", "", "-", "-", "-", "", "", "", "-", "-", "-", "", "", "", "-", "-", "-", "", "",…
$ H   <chr> "74", "89", "82", "", "", "", "85", "90", "82", "", "", "", "68", "74", "70", "", "", "", "77", "68", "70", "", "", "", "68", "83"…
$ PP  <chr> "-", "-", "-", "", "", "", "-", "-", "0", "", "", "", "0", "-", "-", "", "", "", "-", "0", "0", "", "", "", "-", "-", "-", "", "",…
$ VV  <chr> "9.7", "8.9", "10", "", "", "", "9", "8.7", "10", "", "", "", "10", "10", "9.8", "", "", "", "9.7", "10", "10", "", "", "", "9.7",…
$ V   <chr> "11.3", "9.1", "13.7", "", "", "", "8.5", "7.2", "10.6", "", "", "", "19.8", "15.9", "18.1", "", "", "", "16.7", "19.3", "18", "",…
$ VM  <chr> "18.3", "33.5", "24.1", "", "", "", "22.2", "16.5", "18.3", "", "", "", "29.4", "31.7", "29.4", "", "", "", "29.4", "24.1", "25.9"…
$ VG  <chr> "-", "-", "-", "", "", "", "-", "-", "-", "", "", "", "-", "-", "-", "", "", "", "-", "-", "-", "", "", "", "-", "-", "-", "", "",…
$ RA  <chr> "o", "o", "o", "o", "", "o", "o", "o", "", "", "", "", "", "o", "o", "o", "o", "o", "o", "", "", "o", "", "", "o", "o", "o", "", "…
$ SN  <chr> "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Medias y …
$ TS  <chr> "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Medias y …
$ FG  <chr> "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "", "Medias y …

Затем вы можете сохранить свой фрейм данных tab_temp как .csv, если хотите, с write.csv() или rio::export().

person Edu    schedule 08.07.2019
comment
+ к твоему, как и к моему, только немного отличается - person QHarr; 08.07.2019
comment
большое спасибо! Замечательно! Я пробовал использовать библиотеку CUrl, и это было проще и проще, но, как вы можете видеть в своем выводе, некоторые переменные не показывают своих значений (например, температура для 4-го, 5-го, 6-го, 10-го и т. Д.). Кажется, что некоторые данные невидимы, и я не могу их выбросить. Вы знаете, как это решить? Спасибо вам - person CarolinaSun; 09.07.2019
comment
Нет. Я не знаю, почему эта информация не отображается. - person Edu; 09.07.2019

arrow_upward
1
arrow_downward

Я бы пошел с аналогичным подходом к другому ответу, но поскольку таблица может быть однозначно идентифицирована по классу, а класс является вторым самым быстрым методом селектора css, я бы получил один узел (таблицу) и работал бы с ним, сопоставив по классу

library(rvest)

url ="https://www.tutiempo.net/clima/06-2018/ws-830950.html" 
df = read_html(url) %>% html_node(".mensuales") %>% html_table(fill = TRUE) %>% as.data.frame()
person QHarr    schedule 08.07.2019