Detailed instruction (screen by screen) about using ope refine for data investigating, cleaning, processing. How to visualize data in Google Fusion. How to map data without latitude and longitude (just with address). Geocoding in Google Fusion. Heat maps. Embed in web sites.

1. OPEN DATA WORKSHOP
Обработка в Open Refine и визуализация в Google Fusion
для активистов и журналистов
Виталий Власов
Urban Data Hackathon, Bishkek, 2016

2. ПРОБЛЕМЫ ПРИ РАБОТЕ С
ДАННЫМИ
• Не в машиночитаемом формате (html, doc, pdf)
• «Грязные» данные: не нормализированные данные (одни и те же данные
записаны в разной форме) и пр.
• Отсутствие геокоординат (или разные системы) в датасетах с адресами
• Отсутствие технической поддержки
• Несвоевременное обновление данных
• Недостаточный уровень детализации данных
• Отсутствие актуальных наборов данных
• Использование латиницы вместо кириллицы

3. ФУНКЦИИ OPEN REFINE
- Преобразование данных к нужному формату
- Предварительная обработка. Нахождение ошибок и опечаток
- Получение представления о массиве данных
Установка:
1. Скачать OpenRefine: http://openrefine.org/
2. Запустить установщик
3. Открыть браузер и перейти по ссылке: http://127.0.0.1:3333
http://data.gov.spb.ru/datasets/69/

4. ЗАГРУЗКА МАССИВА
ДАННЫХ

5. Создаем новый проект

6. Загрузка исходного массива

7. Настройка импорта файла. Выбор типа файла

8. Изменение имени проекта
Настройка кодировки

9. Настройка кодировки

10. Настройка дополнительных параметров

11. ПРЕДВАРИТЕЛЬНАЯ
ОЧИСТКА ДАННЫХ

12. количество
строк в файле
количество
отображаемых
строк
название
столбца
Основные элементы страницы

13. Изменение наименований столбцов

14. Удаление столбцов

15. Преобразование в числовой формат
Удаление пробелов: value.replace(" ", "")

16. Разделение колонок на две

17. Преобразование в формат дат

18. Фасеты

19. ИЗУЧЕНИЕ ДАННЫХ

20. Использование фасетов для изучения встречающихся значений
Текстовые фасеты

21. Использование фасетов для изучения встречающихся значений
Временные фасеты

22. Использование фасетов для изучения встречающихся значений
Числовые фасеты

23. Использование кластеризации

24. GOOGLE FUSION

25. • https://www.google.com/fusiontables/data?
dsrcid=implicit&pli=1
• Интерактивные диаграммы
• Визуализация данных на карте
• Встраивание на сайте (iframe)

33. http://data.un.org/Data.aspx?d=UNAIDS&f=inID%3a7

37. Виталий Власов
inxaoc@gmail.com
Open City Foundation
@OpenCityRu