В презентации показываются инструкции по скрепингу сайтов с помощью сервиса Import IO и предварительной очистке данных с помощью OpenRefine

1. OPEN DATA WORKSHOP
Скрепинг данных с сайтов гос. органов с помощью import.io
и обработка в Open Refine для активистов и журналистов
Виталий Власов
Ольга Пархимович

2. ПРОБЛЕМЫ ПРИ РАБОТЕ С
ДАННЫМИ
• Не в машиночитаемом формате (html, doc, pdf)
• «Грязные» данные: не нормализированные данные (одни и те же данные
записаны в разной форме) и пр.
• Отсутствие геокоординат (или разные системы) в датасетах с адресами
• Отсутствие технической поддержки
• Несвоевременное обновление данных
• Недостаточный уровень детализации данных
• Отсутствие актуальных наборов данных
• Использование латиницы вместо кириллицы

3. IMPORT.IO
• http://import.io - сервис для скрепинга данных
• http://zakupki.okmot.kg/pub/PublicOrder.action

25. ФУНКЦИИ OPEN REFINE
- Преобразование данных к нужному формату
- Предварительная обработка. Нахождение ошибок и опечаток
- Получение представления о массиве данных
Установка:
1. Скачать OpenRefine: http://openrefine.org/
2. Запустить установщик
3. Открыть браузер и перейти по ссылке: http://127.0.0.1:3333

26. ЗАГРУЗКА МАССИВА
ДАННЫХ

27. Создаем новый проект

28. Загрузка исходного массива

29. Настройка импорта файла. Выбор типа файла

30. Изменение имени проекта
Настройка кодировки

31. Настройка кодировки

32. Настройка дополнительных параметров

33. ПРЕДВАРИТЕЛЬНАЯ
ОЧИСТКА ДАННЫХ

34. количество
строк в файле
количество
отображаемых
строк
название
столбца
Основные элементы страницы

35. Изменение наименований столбцов
- закупающая
организация
- наименование
закупки
- планируемая сумма
- количество лотов
- метод закупки
- дата публикации
- срок подачи заявок
- статус

36. Удаление столбцов

37. Преобразование в числовой формат
Удаление пробелов: value.replace(" ", "")

38. Разделение колонок на две

39. Преобразование в формат дат

40. Фасеты

41. ИЗУЧЕНИЕ ДАННЫХ

42. Использование фасетов для изучения встречающихся значений
Текстовые фасеты

43. Использование фасетов для изучения встречающихся значений
Временные фасеты

44. Использование фасетов для изучения встречающихся значений
Числовые фасеты

45. Использование кластеризации

46. Виталий Власов
inxaoc@gmail.com
@myOpenCity
Ольга Пархимович
olya.parkhimovich@gmail.com
@OpenDataRu