README.md

metadata

language: pl
license: other
size_categories: 1K<n<10K
tags:
  - polish
  - github
  - readme
  - code
  - open-source
  - developers

Polish GitHub README Corpus — Polskie README z repozytoriów GitHub

Korpus polskojęzycznych plików README z repozytoriów GitHub, wygenerowany z GitHub API na podstawie klasyfikacji językowych datasetu github/multilingual-repositories (CC0-1.0).

Statystyki

Metryka	Wartość
Repozytoria (klasyfikacja PL)	209,519
Pobrane README (90 min scrape)	2,313
Po deduplikacji i filtrowaniu	2,203
Znaki	54,412,484
Słowa	6,605,910
Tokeny (szac.)	~8,917,978 (8.92M)
Średnia długość README	3,105 znaków

Pola

Pole	Typ	Opis
repository_id	int	ID repozytorium na GitHubie
full_name	string	Pełna nazwa (owner/repo)
description	string	Opis repozytorium
stars	int	Liczba gwiazdek
language	string	Główny język programowania
license	string	Licencja (SPDX)
readme	string	Pełny tekst README
readme_length	int	Liczba znaków README
fetched_at	string	Data pobrania (ISO 8601)

Przetwarzanie

1. Pobranie datasetu github/multilingual-repositories (sparse checkout, ~1.3 GB Parquet).
2. Filtrowanie po lang_code='PL', konsensus ≥2 klasyfikatorów, confidence >0.5.
3. Sortowanie po liczbie gwiazdek (najlepsze repozytoria pierwsze).
4. Pobieranie metadanych i README przez GitHub API (token PAT, 5000 req/h).
5. Deduplikacja po repository_id.
6. Filtrowanie README < 100 znaków.
7. Redakcja PII (numery telefonów → [PHONE], emaile → [EMAIL], numery PESEL → [PESEL]).
8. Zapis processed JSONL + quality report.

Audyt jakości

• PII (przed redakcją): 610 telefonów, 422 emaile, 32 PESEL → zredagowane
• Duplikaty: 44 usunięte
• Odfiltrowane (<100 chars): 66
• Werdykt: Obiecujący, gotowy do dalszej ewaluacji

Licencje repozytoriów (top 10)

Licencja	Liczba
None	13,311
MIT	2,257
GPL-3.0	693
NOASSERTION	385
Apache-2.0	330
GPL-2.0	116
AGPL-3.0	109
Unlicense	62
BSD-3-Clause	51
CC0-1.0	50

Główne języki programowania (top 10)

Język	Liczba
Python	2,942
JavaScript	2,138
None	1,804
Java	1,607
C#	1,095
TypeScript	1,086
C++	1,086
HTML	1,085
Jupyter Notebook	750
PHP	725

Licencja

Pliki README w repozytoriach GitHub podlegają licencjom poszczególnych repozytoriów (patrz pole license). Dataset klasyfikacyjny github/multilingual-repositories jest na licencji CC0-1.0 (domena publiczna).

Pipeline

Kod pipeline: C:/Users/Hipek/CascadeProjects/multilingual-repositories/

• filter_pl.py — filtrowanie polskich repozytoriów z datasetu Parquet (DuckDB).
• scrape_gh.py — pobieranie README przez GitHub API z retry logic, rate limiting, time limit, auto-processing.