R Language
Pozyskiwanie danych

Wprowadzenie

Wbudowane zestawy danych

R ma bogatą kolekcję wbudowanych zestawów danych. Zazwyczaj są one używane do celów dydaktycznych do tworzenia szybkich i łatwo powtarzalnych przykładów. Jest ładna strona internetowa z listą wbudowanych zestawów danych:

https://vincentarelbundock.github.io/Rdatasets/datasets.html

Przykład

Dane dotyczące szwajcarskiej płodności i wskaźników społeczno-ekonomicznych (1888). Sprawdźmy różnicę płodności opartą na wiejskości i dominacji ludności katolickiej.

library(tidyverse) 

swiss %>% 
        ggplot(aes(x = Agriculture, y = Fertility, 
                   color = Catholic > 50))+
        geom_point()+
        stat_ellipse()

Zestawy danych w pakietach

Istnieją pakiety zawierające dane lub tworzone specjalnie w celu rozpowszechniania zestawów danych. Po załadowaniu takiego pakietu ( library(pkg) ) dołączone zestawy danych stają się dostępne jako obiekty R; lub należy je wywołać za pomocą funkcji data() .

Gapminder

Fajny zestaw danych na temat rozwoju krajów.

library(tidyverse)
library(gapminder)

gapminder %>% 
        ggplot(aes(x = year, y = lifeExp, 
                   color = continent))+
        geom_jitter(size = 1, alpha = .2, width = .75)+
        stat_summary(geom = "path", fun.y = mean, size = 1)+
        theme_minimal()

World Population Prospects 2015 - Departament Ludności Narodów Zjednoczonych

Zobaczmy, jak świat zbliża się do średniej długości życia mężczyzn w chwili urodzenia w latach 1950–2015.

library(tidyverse)
library(forcats)
library(wpp2015)
library(ggjoy)
library(viridis)
library(extrafont)

data(UNlocations)

countries <- UNlocations %>% 
        filter(location_type == 4) %>% 
        transmute(name = name %>% paste()) %>% 
        as_vector()

data(e0M) 

e0M %>% 
        filter(country %in% countries) %>% 
        select(-last.observed) %>% 
        gather(period, value, 3:15) %>% 
        ggplot(aes(x = value, y = period %>% fct_rev()))+
        geom_joy(aes(fill = period))+
        scale_fill_viridis(discrete = T, option = "B", direction = -1, 
                           begin = .1, end = .9)+
        labs(x = "Male life expectancy at birth",
             y = "Period",
             title = "The world convergence in male life expectancy at birth since 1950",
             subtitle = "Data: UNPD World Population Prospects 2015 Revision",
             caption = "ikashnitsky.github.io")+
        theme_minimal(base_family =  "Roboto Condensed", base_size = 15)+
        theme(legend.position = "none")

Pakiety umożliwiające dostęp do otwartych baz danych

Liczne pakiety są tworzone specjalnie w celu uzyskania dostępu do niektórych baz danych. Korzystanie z nich pozwala zaoszczędzić sporo czasu na odczytywaniu / formatowaniu danych.

Eurostat

Mimo że pakiet eurostat ma funkcję search_eurostat() , nie znajduje dostępnych wszystkich odpowiednich zestawów danych. Wygodniej jest ręcznie przeglądać kod zestawu danych na stronie internetowej Eurostatu: Baza danych krajów lub Baza danych regionalnych . Jeśli automatyczne pobieranie nie działa, dane można pobrać ręcznie za pośrednictwem narzędzia do pobierania zbiorczego .

library(tidyverse)
library(lubridate)
library(forcats)
library(eurostat)
library(geofacet)
library(viridis)
library(ggthemes)
library(extrafont)

# download NEET data for countries
neet <- get_eurostat("edat_lfse_22")

neet %>% 
        filter(geo %>% paste %>% nchar == 2,
               sex == "T", age == "Y18-24") %>%
        group_by(geo) %>% 
        mutate(avg = values %>% mean()) %>% 
        ungroup() %>% 
        ggplot(aes(x = time %>% year(),
                   y = values))+
        geom_path(aes(group = 1))+
        geom_point(aes(fill = values), pch = 21)+
        scale_x_continuous(breaks = seq(2000, 2015, 5),
                           labels = c("2000", "'05", "'10", "'15"))+
        scale_y_continuous(expand = c(0, 0), limits = c(0, 40))+
        scale_fill_viridis("NEET, %", option = "B")+
        facet_geo(~ geo, grid = "eu_grid1")+
        labs(x = "Year",
             y = "NEET, %",
             title = "Young people neither in employment nor in education and training in Europe",
             subtitle = "Data: Eurostat Regional Database, 2000-2016",
             caption = "ikashnitsky.github.io")+
        theme_few(base_family =  "Roboto Condensed", base_size = 15)+
        theme(axis.text = element_text(size = 10),
              panel.spacing.x = unit(1, "lines"),
              legend.position = c(0, 0),
              legend.justification = c(0, 0))

Pakiety umożliwiające dostęp do zastrzeżonych danych

Baza danych śmiertelności ludzi

Baza danych śmiertelności ludzi to projekt Instytutu Badań Demograficznych Maxa Plancka, który gromadzi i wstępnie przetwarza dane dotyczące śmiertelności ludzi w tych krajach, w których dostępne są mniej lub bardziej wiarygodne statystyki.

# load required packages
library(tidyverse) 
library(extrafont)
library(HMDHFDplus)

country <- getHMDcountries()

exposures <- list()
for (i in 1: length(country)) {
        cnt <- country[i]
        exposures[[cnt]] <- readHMDweb(cnt, "Exposures_1x1", user_hmd, pass_hmd)
        # let's print the progress
        paste(i,'out of',length(country)) 
} # this will take quite a lot of time

Uwaga: argumenty user_hmd i pass_hmd to dane logowania na stronie internetowej Human Mortality Database. Aby uzyskać dostęp do danych, należy utworzyć konto na stronie http://www.mortality.org/ i podać własne dane uwierzytelniające do funkcji readHMDweb() .

sr_age <- list()

for (i in 1:length(exposures)) {
        di <- exposures[[i]]
        sr_agei <- di %>% select(Year,Age,Female,Male) %>% 
                filter(Year %in% 2012) %>%
                select(-Year) %>%
                transmute(country = names(exposures)[i],
                          age = Age, sr_age = Male / Female * 100)
        sr_age[[i]] <- sr_agei
}
sr_age <- bind_rows(sr_age)

# remove optional populations
sr_age <- sr_age %>% filter(!country %in% c("FRACNP","DEUTE","DEUTW","GBRCENW","GBR_NP"))

# summarize all ages older than 90 (too jerky)
sr_age_90 <- sr_age %>% filter(age %in% 90:110) %>% 
        group_by(country) %>% summarise(sr_age = mean(sr_age, na.rm = T)) %>%
        ungroup() %>% transmute(country, age=90, sr_age)

df_plot <- bind_rows(sr_age %>% filter(!age %in% 90:110), sr_age_90)

# finaly - plot
df_plot %>% 
        ggplot(aes(age, sr_age, color = country, group = country))+
        geom_hline(yintercept = 100, color = 'grey50', size = 1)+
        geom_line(size = 1)+
        scale_y_continuous(limits = c(0, 120), expand = c(0, 0), breaks = seq(0, 120, 20))+
        scale_x_continuous(limits = c(0, 90), expand = c(0, 0), breaks = seq(0, 80, 20))+
        xlab('Age')+
        ylab('Sex ratio, males per 100 females')+
        facet_wrap(~country, ncol=6)+
        theme_minimal(base_family = "Roboto Condensed", base_size = 15)+
        theme(legend.position='none',
              panel.border = element_rect(size = .5, fill = NA))