In this chapter, you'll be introduced to Hyper Text Markup Language (HTML), a declarative language used to structure modern websites. Using the rvest library, you'll learn how to query simple HTML elements and scrape your first table.

Introduction to HTML

Read in HTML

Beware of syntax errors!

Navigating HTML

Select all children of a list

Parse hyperlinks into a data frame

Scrape your first table

The right order of table elements

Turn a table into a data frame with html_table()

Introduction to HTML and Web Scraping

Cascading Style Sheets (CSS) describe how HTML elements are displayed on a web page, including colors, fonts, and general layout. In this chapter, you'll learn why CSS selectors and combinators are a crucial ingredient for web scraping.

Introduction to CSS

Select multiple HTML types

Order CSS selectors by the number of results

CSS classes and IDs

Identify the correct selector types

Leverage the uniqueness of IDs

Select the last child with a pseudo-class

CSS combinators

Select direct descendants with the child combinator

How many elements get returned?

Simply the best!

Not every sibling is the same

Navigation and Selection with CSS

The CSS selectors you got to know in the last chapter are powerful but have their limitations. For example, if you want to select nodes based on the properties of their descendants. XPath to the rescue! Using this query language, you can navigate and scrape even the most hideous HTML.

XPATH’e Giriş

Seçenekler

type.class

type > type

type type.class

Doğru CSS karşılığını bul

XPATH ile sınıf ve ID'ye göre seç

Alt öğelerine göre düğüm seçmek için önermeler (predicate) kullan

XPATH fonksiyonları ve gelişmiş öznitelikler

Daha şık bir XPATH alternatifi bul

position() fonksiyonunu tanı

Çocuk sayısına göre düğümleri çıkar

XPATH `text()` fonksiyonu

Kötü yapılandırılmış tablolarda html_table()'ın eksikleri

XPATH'in text() fonksiyonuyla doğrudan ebeveynden seç

Çıkarılan verileri bir veri çerçevesinde birleştir

Metnine göre bir öğeyi kazı

Advanced Selection with XPATH

Now that you know how to extract content from web pages, it's time to look behind the curtains. In this final chapter, you’ll learn why HTTP requests are the foundation of every scraping action and how they can be customized to comply with best practices in web scraping.

The nature of HTTP requests

Which of these statements about HTTP is false?

Do it the httr way

Houston, we got a 404!

Telling who you are with custom user agents

Check out your user agent

Add a custom user agent

How to be gentle and slow down your requests

Custom arguments for throttled functions

Apply throttling to a multi-page crawler

Recap: Web Scraping in R

Scraping Best Practices

İstatistikler, ürün yorumları veya fiyatlar gibi pek çok veriyi, veri analizi için hazır olmayan bir formatta sunan bir web sitesiyle hiç karşılaştın mı? Çoğu zaman, resmi kurumlar ve diğer veri sağlayıcılar verilerini düzenli tablolar halinde yayınlar. Ancak bu sitelerin hepsinde indirme düğmesi bulunmaz; yine de üzülme. Bu kursta, R kullanarak herhangi bir siteden veriyi verimli şekilde toplayıp indireceksin. rvest ve httr paketleriyle Wikipedia’yı kazıma ve ayrıştırma işlemlerini nasıl otomatikleştireceğini öğreneceksin. Uygulamalı egzersizlerle, web sayfalarının yapı taşları olan HTML ve CSS hakkındaki anlayışını derinleştirirken, veri toplama iş akışlarını daha az hataya açık ve daha verimli hale getireceksin.

Intermediate R

Introduction to the Tidyverse

R ile rvest ve httr paketlerini kullanarak veri toplayın ve Wikipedia'dan veri çekmeyi otomatikleştirin.

R ile Web Kazıma

R kullanarak herhangi bir web sitesinden verileri verimli bir şekilde toplama ve indirmeyi öğrenin.

Daha şık bir XPATH alternatifi bul

R ile Web Kazıma

Uygulamalı interaktif egzersiz