Presentation by Peter Vagi at the Seminar on Monitoring and Evaluation for representatives of the Turkish Prime Ministry, taking place in Kizilcahamam, Republic of Turkey, 4-5 May 2017 [Turkish version]
3. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Kamu Yönetimi İlkeleri nedir?
• İlkeler, reform sürecindeki ülkelere rehberlik sağlar ve
zaman içinde değişimin izlenmesi için analitik bir
çerçevedir.
• AB ve OECD gereklikleri, uluslararası standartlar ve
AB/OECD ülkelerindeki iyi uygulamalara dayanır
• İlkeler, iyi yönetişimin yatay unsurları için kilit
gerekliklerden ibarettir
• İlkeler hükümetin yürüttüğü tüm çalışmalara uygulanabilir.
• Bütün alanlar ve politikalar için geçerlidir (sağlık, eğitim, güvenlik,
istihdam…)
• Politikaların uygulanması için gerekenleri tanımlar
• İyi kamu yönetiminin yapı taşlarını oluşturur
2
4. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
İlkeler ışığında politika izleme ve
değerlendirme
3
Beşinci İlke: Hükümetin performansının düzenli olarak izlenmesi, kamu
denetimini olanaklı kılar ve Hükümetin hedeflerine ulaşabilmesini sağlar.
1. Hükümetin merkezi kurumları düzenli ve koordineli bir süreç ışığında ilerlemeyi gözden
geçirir.
2. Süreçler, hükümet çalışmalarının sonuçları başta olmak üzere beyan edilen politika
hedeflerini gerçekleştirmede Hükümetin ne kadar ilerleme kaydettiğini ölçer.
3. Hükümet Çalışma Planı’nın ve varsa diğer merkezi planlama belgelerinin uygulanmasına
ilişkin düzenli raporlama yapılır; raporlama süreci uyumludur ve çıktılara ilişkin kurumsal
sorumluluklar açısından yapılan atıflar nettir.
4. Hükümetin performansına ilişkin yıllık raporlar herkesin erişimine ve Parlamento’nun
denetimine açıktır.
5. Avrupa ile bütünleşme taahhütlerinin uygulanmasının izlenmesi, hükümetin taahhütlerini ve
yükümlülüklerini (örneğin, Hükümetin çalışma programı, mevzuat programı) izleme
mekanizmasına entegre edilmiştir.
6. İzleme sistemi, sektör stratejilerinin uygulanmasının hükümete raporlanmasını içerir ve bu
stratejilerin tasarlanmasının, uygulanmasının ve sonuçlarının tarafsız bir şekilde
değerlendirilmesini sağlar.
5. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Politika geliştirme döngüsünde izleme ve
raporlamanın oynadığı başlıca rol
• Politika koordinasyonundan sorumlu
olanlara ilgili verilerin toplanması ve bilgi
alma araçları sağlar
• Karar vericilere uygulamayı temin edici
(bilgilere dayalı karar vermelerini
sağlayan) araçlar sağlar
• Dış paydaşlar için şeffaflık sağlar
• Müdahale gereken zamanlarda uyarı
verir, düzeltme ve uyarlama yapma
becerisi sağlar
• Uygulama sürecinde disiplin sağlar
4
POLİTİKA ANALİZİ:
İç ortam
Dış ortam
Sorunlar
POLİTİKA TASARIMI:
Vizyon, Seçenekler
Hedefler ve eylemler
Performans göstergeleri
POLİTİKA UYGULAMA:
İletişim
Koordinasyon
İZLEME & DEĞERLENDİRME:
Sonuçların analizi
Politika uygulama ve
iyileştirme
Genel olarak: Politika planları ve kilit hedefler tarafından
çerçevelenmiş bir politika diyaloğu için başlıca araçtır
6. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Etkili izleme ve değerlendirme neyi gerektirir?
• Politika yönünün net olarak belirlenmesi
(SMART hedeflerle, ilgili göstergeler ve
hedeflerle ve net eylem adımlarıyla)
• Kullanıma hazır ve ilgili veri
• Net izleme ve değerlendirme sorumlulukları
ve sürece dahil herkes tarafından bunların
anlaşılması
• Ölçme ve değerlendirme için yardımcı
araçlar (bilgilerin toplanması, analizi ve
sunumu için)
5
POLICY ANALYSIS:
Internal environment
External environment
Problems
POLICY DESIGN:
Vision, Options
Objectives and action
Performance indicato
POLICY IMPLEMENTATION:
Communication
Co-ordination
MONITORING &
EVALUATION:
Analysis of results
Policy implementation and
improvement
• İşler bir yönetim yapısı (sadece raporları okuyan değil, onları
anlayıp, raporlardaki bilgiler ışığında harekete geçen bir yönetim)
• Politika döngüsünün tamamında, dahil olan herkesin sahip olduğu
kapasite (uygulayıcılar, analistler-izleme/değerlendirme görevlileri,
karar vericiler)
7. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
İzleme ve raporlama için kurumsal düzenlemeler
• KYR yönetiminin görevleri nelerdir?
KYR koordinasyonu ve yönetimi hakkında genel organizasyonel sorumluluk
(bakan/bakan + KYR kurulu veya benzeri oluşum)
Genel KYR koordinasyonu ve yönetimi için bireysel/yönetsel sorumluluk
(KYR birimi veya benzeri oluşum + idari düzeyde KYR koordinasyon
komitesi – karar verme yetkisi olabilir veya olmayabilir)
Her bir KYR faaliyeti için bireysel/yönetsel sorumluluk
• Belirli izleme ve raporlama görevleri
Veri sağlama
Faaliyetlerin uygulanışı hakkında bilgi
Koordinasyon ve analiz
+ sivil toplum, iş dünyası, sendikalar, vb.
• Bazı odak noktaları:
Bilgi taleplerinde örtüşme / tekrar
Karar verme adımlarında örtüşme / çakışma
Aşırı karmaşık yapı (etkin işleyişi sınırlandırıcı şekilde)
Net olarak belirlenmemiş görev ve beklentiler
6
8. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
İzleme ve raporlama çerçevesinin başlıca unsurları
• Koordinasyon ve uygulamadan sorumlu olanların görev tanımı
• İzleme kavramının tanımı (izlemenin ilkeleri, mantığı –
sonuçlar/çıktılar/vb.)
• İzleme sürecinin tanımı (bir süreç haritasıyla birlikte):
Kim? (izleme sürecindeki görevler)
Ne? (rapor türlerin, bilgi seviyesi/türü)
Ne zaman? (sıklık)
• Başlıca araçların tanımlanması/getirilmesi
İzleme için gereken bilgilerin temini, veri yönetimi ve raporlama için
şablonlar
İzleme ve raporlama araçları (excel tabloları veya benzeri araçlar, gösterge
pasaportu (kitabı), veri yönetimi sistemi, vb.)
7
12. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Bazı tipolojiler
• Yapı (sonucu tanımlayan kavram), amaç, gösterge, ölçüt, hedef
Maksat, amaçlardan yola çıkan ölçülebilir göstergelere
sahip olmaktır
• Mevcut durum, kilometre taşları, hedef
• Münferit mi bileşim mi?
• Yerine kullanılabilecek modeller?
• Mevcut mu yeni mi?
• Sonuçların seviyesi
• Ayrıştırma düzeyi
• Veri türü / ölçüm birimi
• Amaç? İzleme ve/veya değerlendirme? Karşılaştırmalı, boylamsal
veya tek bir seferlik?
11
13. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
İyi bir gösterge nasıl olmalıdır?
CREAM (gösterge geliştirilirken)
Clear (Net): göstergeler net ve
anlaşılır olmalıdır
Relevant (İlgili): konuya ve
değerlendirmeye uygun olmalıdır
Economic (ekonomik): makul bir
maliyetle edinilebilir olmalıdır
Adequate (yeterli): performansa
dair yeterli bilgi verebilmelidir
Monitorable (izlenebilir): kolay
izlenebilir ve bağımsız doğrulamaya
uygun olmalıdır 12
SPICED (gösterge kullanırken)
Participatory (katılımcı): göstergeler son
kullanıcılarla (vatandaşlarla) birlikte
geliştirilmeli ve kullanılmalıdır
Interpreted and communicable
(yorumlanmış ve aktarılabilir):
göstergelerin farklı paydaşlar için
yorumlanması veya onlara açıklanabilir
olması gerekir)
Cross-checked and compared (çapraz
kontrolü yapılmış ve karşılaştırılış):
göstergelerin geçerliliğini arttırmak
Empowering (güçlendirici): süreç,
paydaşların değişen durumu eleştirel
biçimde ele almalarını sağlar
Disaggregated (bölümlendirilebilir):
Göstergeler (cinsiyete, gelir seviyesine, vb.
göre ayrılmış) farklı gruplara göre
bölümlendirilebilir
15. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Uygulama adımları
• Göstergelerin tanımlanması, doğrulanması ve
kullanılması
14
• Sonuç zincirinin
ince ayarının
yapılması
Müdahale
mantığının
belirlenmesi
• Değişimin
yakalanması
Göstergeleri
n
hazırlanması
• Güvenilir veri
kaynaklarının
temin edilmesi
Veri
kaynaklarının
tespiti
• Değişimin
başlangıç noktası
Temel
değerlerin
belirlenmesi
• Değişimin
sınırlarının
belirlenmesi
Hedef
koyma
• Teori ve
uygulamanın
katılımcı biçimde
kıyaslanması
Göstergeler
in teyidi • Sağlam izleme ve
değerlendirme
düzenlemelerinin
oluşturulması
Veri toplama
sistemlerinin
tasarımı
19. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Göstergeler iyi analizi teşvik eder
• Karma yöntemler
Mülakat
Örneklerin/numunelerin/durumların
incelenmesi
Uygulamaların/davranışların test
edilmesi
Anketler
Resmi istatistikler
• Verilerin sistemli biçimde çapraz
kontrolü
Her gösterge için olası değişkenler
İdari kayıtlar, mülakatlar, algılar,
istatistikler, gözlemler
18
?
27. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
İyi bir raporun özellikleri
• Açık, net ve kolay anlaşılır
• İyi yapılandırılmış
• Sonuç odaklı
• Gerçeklere dayalı: Raporlar, doğrulara ve
doğrulanmış bilgilere dayalı olmalı ve
doğrulukları kontrol edilmelidir
• Etik raporlama biçimine sahip
• Karar vericilerin karar verme işini kolaylaştırıcı
27
29. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Sonuç odaklı rapor
• Raporlarla ilgili başlıca sıkıntı – süreç odaklı
olmaları
• Oysa tüm kullanıcılar sonuçları görmek ister
• Sonuçlar derken:
Hedeflerin yerine getirilip getirilmediğine dair bilgi
Faaliyetlerin ve harcanılan kaynakların etkisi,
sonuçları ve çıktıları
• Sonuçları ifade etmek için gerekenler:
Kullanılabilir veri
Analiz becerisi!
29
30. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Örnek:
30
Süreç odaklı Sonuç odaklı
Kamu sektöründe optimizasyon
üzerine faaliyet yürüten çalışma
grubu 2015 yılında 4 kere
toplandı. Kamuda Optimizasyon
Yol Haritasını hazırladılar. Eylem
planı hazırlanırken bütün
bakanlıklar, başlıca devlet
kurumları ve sivil toplum örgütleri
ile istişare yapıldı. Yol Haritası
hükümet tarafından Eylül 2015’te
onaylandı. Üç yıllık dönemi
kapsayan yol haritası, bazı
işlevlerin birleştirilmesi veya
yeniden gözden geçirilmesini
öngören bir dizi faaliyet içeriyor.
Kamuda Optimizasyon Yol
Haritası, uygulandığı dönemin ilk
iki yılında, kamu sektöründe taşra
teşkilatı olan kurumlarda destek
hizmetlerinin %25 oranında
azaltılmasını sağladı. 2019’un
sonuna kadar bu oranın %50’yi
bulması bekleniyor. İlk iki yıl
içinde destek hizmetleri için
kullanılan bütçede 2.5 milyon avro
tasarruf edildi. 2018 sonuna kadar
tasarrufun 5 milyon avroya
ulaşması bekleniyor. .
33. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Raporun zamanlaması
• Genellikle raporun yayınlanma sıklığına bağlıdır:
Aylık, üç aylık, yıllık
• Sorun – bazı hususlar üzerinde anında harekete
geçmek gerekir; bu durumda raporda yer alan
bilgiler zamanlama açısından geçerliliğini yitirir
• Raporun faydaları:
«Geçmişe ve ileriye» bakma fırsatı
Ders çıkarma
Bekleyen faaliyetler hakkında hatırlatma
Riskler
• Annual and quarterly report:
Yıllık bütçe hazırlık sürecinde faydalı olabilir –
performans bilgilerinin elde bulunmasını sağlar
33
36. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Raporlar için asgari koşullar
36
• Odaklanmış analitik bulgular (uzun metinler
halinde değil)
• Yalnızca önemli başarılar / sonuçlar
• Vuruş/karakter sayısı en fazla 1500 - 1700
Odak/
bulgular
• Sadece analitik, açıklayıcı bilgi (neden
sorusunun cevabı?)
• İdari işlere, elde edilen rutin sonuçlara
değinmeye gerek yok
Analiz
• Nicel bilgi (göstergeler, diğer istatistiksel
bilgiler)
• Uzman iç görüleriKanıtlar
50. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Rapor hazırlamanın zorlukları
• Düşük kalite / mevcut olmayan veriler / bilgiler
• Veri toplama / temini için sorumlulukların net
bir şekilde belirlenmemiş olması
• Raporlama için net usullerin ve koşulların
(standartlar) olmaması
• Çok uzun ve birçok formalite içeren raporlar
• Zamanında hazırlama (veri toplamadan
kaynaklanabilecek bir sorun)
• İyi planlama yapılamaması!
50
51. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
İzlemeden değerlendirmeye
• İzleme ve raporlama:
Elde edilenler ve gecikmeler hakkında veri sağlar
Eğilimleri gösterir
Performans ve bütçe arasında bağ kurulmasını
sağlar
• Politikada analiz edilip değerlendirilmesi
gereken eksikliklere ışık tutar
• Sorun yaşanan yerleri ve ilave
değerlendirmelerin/araştırmaların yapılması
gereken yerleri gösterir
51
58. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU Overview of types of evaluations
Etki
değerlendirmeleri
Program
değerlendirmeleri
Süreç
değerlendirmeleri
Odak: neden-sonuç,
özellik, etki
Yöntemler:
karşıolgusal,
karşılaştırma grupları,
istatistiksel analiz,
rastgeleleştirme
Cevap verilen soru:
Politika olmasaydı ne
olurdu?
Odak: etkinlik, katkı,
sonuçlar
Yöntemler:
karşılaştırmalı analiz,
maliyet etkinlik/fayda
analizleri,
karşılaştırmalı
değerlendirme
Cevap verilen soru:
Politika, belirtilen
amaçlara ulaşmada
etkin oldu mu?
Odak: verimlilik,
uygulama, iç
mekanizmalar, çıktılar
Yöntemler: iş akışı
analizi, planlanan ve
gerçekleştirilen
faaliyetlerin ve
çıktıların kıyaslanması.
Cevap verilen soru:
Uygulama plana göre
gerçekleşti mi ve
sonuçlar ulaşılabilir
gibi görünüyor mu?
Açık ve net
amaçlar
Göstergeler
Karma
yöntemler
Çapraz kontrol
Kontroller
Rastgeleleşti
rme
Kıyaslamalar
Temel değerler
Eğilimler
63. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Kurum içi mi dışarıdan temin mi?
• What is the objective?
Organisational self-reflection and learning
Proving which policy option is the most cost-
effective
Controlling that activities and outputs have been
delivered
Make the fire or fight the fire?
• Consider costs, capacity and time
63
65. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Kilit hususlar
Değerlendirme…
… kanıta dayalı politika yapma sürecinin
merkezindedir
… politika döngüsünün farklı noktalarında,
farklı şekillerde gerçekleşebilir
… tasarımı ihtiyaçlara, kaynaklara,
zamanlamaya ve politikanın doğasına bağlıdır
… öğrenme veya hesap verebilirlik amacıyla
kullanılabilir, yangınla mücadele için veya ateşi
yakmak için
… politikalarda yapılacak iyileştirmelere katkı
sağlamalıdır
65
73. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU Değerlendirme soruları
• Değerlendirmeyi kim istiyor?
Başbakan? Bakan? Program çalışanları? Meclis? Diğer?
• Neden? Politikayla ilgili temel hususlar ne?
İlgililik
Verimlilik
Etkinlik
Etki
Sürdürülebilirlik
• Sonuçlarla / programın mantığı ile paralel olmalı
• Bir programa veya program bileşenine
odaklanmalı
73
79. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Eğitim teknolojileri
79
Boyut Sorular
İLGİLİLİK Program amaçları hala geçerli mi?
Program ihtiyaçlara cevap veriyor mu?
İhtiyaçların ne olduğunu biliyor muyuz?
Program faaliyetleri/çıktıları hedeflenen
soruna/amaçlara ne derece cevap veriyor?
ETKİNLİK Amaçlara ne derece ulaşılmış / ulaşılabilecek?
Amaçlara ulaşamamanın başlıca sebepleri ne?
Başarı neye dayanıyor?
VERİMLİLİK Yapılan müdahale / program / faaliyet maliyet
etkin mi?
Amaçlara zamanında ulaşıldı mı / ulaşılacak mı?
Süreç ne kadar verimli?
92. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU Değerlendirme için gereken
beceriler
• Analiz becerisi (istatistikleri, verileri analiz)
• Teknik bilgileri uygulamaya dönük önerilere
çevirebilme
• Ağ oluşturma becerileri
• Sunum ve iletişim becerileri
Teknik ve karmaşık konuları sade bir dille
anlatabilme
Sadece konu
uzmanlarının
bildiği terimlerden
kaçınma
92
93. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU Zamanlama ve sahiplenmenin
önemi
93
• Değerlendirme uzun zaman alabilir
• Değerlendirmenin zamanlaması:
Karar verme zamanlaması ile paralel: reformlar,
bütçe planlaması
• Değerlendirmenin sahiplenilmesi:
Kamu çalışanı – çalışma grubu - bakan
• Değerlendirmenin yönetimi:
Değerlendirme için bir yol haritası
Değerlendirme sonuçları için uygulama planı
95. AjointinitiativeoftheOECDandtheEuropeanUnion,
principallyfinancedbytheEU
Uygulama ve takip
• Geniş kapsamlı değerlendirmelerde
uygulama için bir çalışma grubu oluşturun
Grupta kimler yer alacak
Görev alanı
• Tek bir kurum/alanla ilgili daha küçük çaplı
değerlendirmeler için bir proje grubu
oluşturun
• Veya – mevcut yönetim yapılarını kullanın
• Bulguların uygulanmasını kurumsallaştırın:
Uygulama planı hazırlayın
Bulguları politika planlama ve karar verme
süreçlerine yerleştirin
• Kararların uygulanışını takip edin 95