EVALUASI PKP

1. EVALUASI PKP DR. ROBIANA MODJO, MKES

2. EVALUASI PROGRAM • Tujuan: memperbaiki program • Evaluasi: “pemeriksaansistematik dan penilaian tentang keutamaan suatu inisiatif dan pengaruhnya, agar menghasilkan informasi yang dapat digunakan oleh mereka yang berminat dalam hal perbaikan atau efektivitasnya”

3. Manfaat • mempengaruhi pembuat keputusan dan penyumbang dana, agar program dapat berlanjut (sustainable) • membangun kapasitas kelompok masyarakat dan melibatkannya • memberitahu apa yang dapat bekerja dan yang tak dapat bekerja, dibanding dengan kelompok-kelompok masyarakat yang lain

4. Enam langkah evaluasi program • Melibatkan stakeholders • Menggambarkan atau merencanakan program (3 komponen gambaran program: stadium program, pernyataan masalah, model logic). Stadium program minimal 3 langkah : memahami masalah dan kebutuhan promosi kesehatan (melalui penilaian risiko kesehatan atau survai lain), perencanaan dan implementasi • Fokus pada evaluasi • Kumpulkan bukti yang dapat dipercaya (credible evidence) • Memberikan alasan bagi kesimpulan-kesimpulan • Memastikan bahwa pelajaran yang dipelajari digunakan dan dibagi (share lessonslearned)

5. Evaluasi program Evaluasi dikendalikan oleh stakeholders Standar termasuk kegunaan, feasibilitas,akurasi, kewajaran (fairness) Menilai kegunaan dan kepentingan Holistik dan fleksibel, dapat dirubah Evaluasi tentang apa yang sedang berjalan Jangkauan (scope) luas agar integratif Pertimbangan tergantung nilai –nilai yang dinyatakan oleh stakeholders Penggunaan data wajib untuk perbaikan program Evaluasi riset dasar Evaluasi lebih oleh peneliti sesuasi design Lebih menekankan validitas external dan internal Lebih menekankan asosiasi Lebih terkendali ketat Dibatasi oleh timeframe yang spesifikLebih sempit Lebih bebas nilai Lebih untuk penambahan pengetahuan Perbedaan evaluasi program dari evaluasi riset dasar

6. EVALUASI DALAM PROMOSI KESEHATAN DI TEMPAT KERJA • MENILAI “OBJECT INTEREST” (PROGRAM) terhadap PENCAPAIAN NILAI STANDAR • Object Interest misalnya : • Meningkatakan PENGETAHUAN • Perubahan perilaku • Penurunan risiko • Nilai Standar misalnya • 25% pekerja stop rokok • 80% penderita taat program penurunan tensi • 10% tiap bulan peserta fitnes • Isu penting • PKP meningkatkan kesehatan pekerja • Cost efektif

7. TUJUAN EVALUASI • Bisnis: Dana Program PKP efisien & Efektif? • Accountability: Tujuan PKP tercapai? • Ilmu & Aplikasi: • Informasi bagi pengusaha & pekerja dalam menentukan kebijakan (mis perubahan gaya hidup & pemeliharaan kesehatan)

8. METODA EVALUASI • Variasi: • Sederhana & murah • kompleks & Mahal, tergampang • Tujuan Program, Mis : • Meningkatkan Kesadaran • Perubahan Perilaku • Penurunan risiko

9. METODA EVALUASI...lanjut • Dasar perbandingan, Mis : • Perubahan dalam jangka waktu tertentu. • Perubahan antar kelompok • Perubahan berdasarkan STD/target • Sumber Daya yang ada, Mis : • Pencatatan Sederhana • Statistik • Epidemiologi

10. TINGKAT EVALUASI Berdasarkan level/tingkat (tradisional) • Evaluasi Proses/formatif • Fokus :- cara melaksanakan program • cara menilai kualitas & kelayakan praktis, Mis: • Jumlah brosur yang didistribusi • Kualitas informasi mis. Tentang program fitness • Level instruktur dan atau cara mengajar

11. TINGKAT EVALUASI • EVALUASI PENCAPAIAN/OUTPUT Fokus : menilai efek kegiatan program, Mis • Perubahan pengetahuan, sikap, perilaku • Profil faktor risiko • penurunan morbiditas & mortalitas muda

12. TINGKAT EVALUASI…lanjut • Berdasarkan basis pengukuran • Efek jangka pendek • Jumlah kursus yang diminta • Jumlah sesi yang diikuti • Peningkatan pengetahuan factor risiko PJK • Peningkatan keyakinan atas pencegahan penyakit kronik • Peningkatan disiplin pengendalian tensi • Peningkatan peserta senam aerobik • Penurunan pencegahan rokok • Penurunan konsumsi lemak

13. TINGKAT EVALUASI…lanjut Efek jangka panjang (tidak langsung) • Produktifitas • Absenteisme (Absence Rate) • Claim biaya asuransi • Incidence Rate & Severity Rate • Morbiditas & Mortalitas PJK

14. Contoh Standar Pengukuran dari Bureau of Labor Statistics (BLS) • Incidence Rate Measures the number of absences per 100 employees during a given time period • Absence Rate Measures the percent of time lost due to absenteisme per 100 employees • Severity Rate Measures of the average time that an absent employee loses during a given periode

15. Incidence Rate Number of workers absent ----------------------------------- X 100 Total employees • Hitunglah, suatu perusahaan mempunyai jumlah karyawan 250 orang, jika dalam satu minggu ada 15 karyawan yg tidak masuk (absent) berapakah Incidence rate-nya?

16. Incidence rate: 15 x 100 = 6% 250 Intepretasi: Setiap 100 karyawan pada perusahaan ini, dalam seminggu ada 6 orang yang absent

17. Absence Rate: Number of hours absent --------------------------------------------- X 100 Number of hours usually worked Jika ke 250 karyawan pada perusahaan tsb. Bekerja selama 40 jam setiap minggunya, sementara ke15 karyawan masing2 tidak masuk selama 3 hari, hitunglah berapa absence rate perusahaan tsb!

18. 15 (3 x 8 jam) Absence rate = ----------------------- X 100 240 x 40 jam = 3,6% INTEPRETASI Menjelaskan; ada sekitar 3,6% dari jam kerja hilang karena karyawan absen/tdk masuk

19. Severity rate: Average number of hours lost by absent employee -------------------------------------------------------------------- X 100 Average number of hours usually worked Jika 3 karyawan di atas sakit selama 8 jam, maka berapa severity rate-nya?

20. Severity rate: 3 x 8 24 ----------- X 100 = -------- X 100 = 20% 3 x 40 120 INTEPRETASI 20% of the scheduled time was lost!

21. STANDAR OF ACCEPTABILITY Standar Normatif • Pencapaian pengalaman industri lain. • Misalnya : tiap 6 bulan peserta fitness meningkat 10% (setelah program PKP) Standar Historical • Pencapaian intern periode lalu • Misalnya : Tahun lalu perokok menurun 10% • Standar tahun ini/nilai standar: 10%

22. STANDAR OF ACCEPTABILITYlanjutan… Standar teoritis • Pencapaian penelitian dengan intrervensi di lab/klinis • Misalnya : di UI di LKKK strategi pendidikan untuk meningkatkan program fitness partisipasi fitness mahasiswa 40 % Standar pembanding : 40 % • Peningkatan perbedaan setting, mahasiswa tidak sama pekerja

23. STANDAR OF ACCEPTABILITYlanjutan… Standar Absolut • Level tertinggi yang dapat dicapai • Tidak realistis. Misalnya perokok menurun 100% Standar Kompromi • Pertimbangan atas kombinasi nilai standar lain • Misalnya : standar kompromi penurunan jumlah perokok : 35% • Atas dasar : - Standar normative 30% - Standar historical 20% - Standar teoritis 40% - Standar absolut 100%

24. DISAIN EVALUASI • Keterbatasan disain PKP yang ada : • Disain penelitian: logis /akurat (kerangka konsep) • Populasi kontrol / pembanding sulit didapat • Gagal menilai perubahan perilaku (hanya pengetahuan/sikap) • Jangka pendek  sulit mendapatkan jawaban pasti • Lain-lain : praktis/aplikasi,etika, dana • Misalnya : • sulit mendapatkan populasi secara random/acak karena isu informed consent & atas dasar sukarela • hampir tidak ada kelompok kontrol yang ideal

25. DISAIN EVALUASI lanjutan… Kompromi pemilihan disain: • Pertimbangkan keterbatasan disain • Pertimbangkan keterbatasan organisasi (ekonomis) • Sesuaikan level penilaian dengan tujuan program, S.D yang ada • Memilih dari bab contoh disain • Relasi perusahaan & pekerja • Benefit pekerja • Pajak (potongan) • Investasi kesehatan Pekerja

26. DISAIN EVALUASI lanjutan… • THE HISTORICAL, RECORD KEEPING APPROACH • THE INVENTORY APPROACH • COMPARATIVE APPROACH • THE CONTROLLED COMPARISON (QUASI-EXPERIMENTAL APPROACH) • THE CONTROLLED EXPERIMENTAL APPROACH • THE FULL BLOWN EVALUATIVE RESEARCH PROJECT

27. Types of Evaluation Design in Workers’ Health Promotion Program v V . v

28. The Historical, Record Keeping Approach • Membuat prosedur pencatatan data akumulatif • Data dalam tabel / grafik kumulatif • Memperlihatkan program pelaksanaan program

31. THE INVENTORY APPROACH • Tentukan : - Waktu penilaian berkala • - Target pencapaian • - Cara survai / Observasi • Contoh 1 • Program Kontrol Hipertensi di Gimbels & Bloomingdale, tahun 1973 3000 pekerja hipertensi , 2220 diikutkan dalam program • Tim a perawat • protocol penanganan • biaya konsultasi, lab, obat  beban perusahaan •  data ekonomis : Biaya pengobatan & perawatan, absenteisme menurun tiap tahun • data medis : - status tensi menurun tiap bulan - kasus rawat inap menurun tiap trahun - mortalitas 5 tahun menurun tiap 5 tahun

32. THE INVENTORY APPROACH • Contoh 2 • Program penurunan BB di perusahaan minyak Texas • Pendidikan 8 sesi @ 1 jam/mg oleh ahli gizi yang ahli prilaku •  kuesioner data awal • - Diet & prilaku • BB, TB, trisep skin fold • Contoh 3 • Program stop rokok the Campbell soup company • Klas stop rokok oleh P.T. •  Data periodic 1.5, 3, 6,12 bulan • dicatat oleh S.D.M internal • - evaluasi oleh Perusahaan • F.U. 6 bulan  25% masih patuh

33. COMPARATIVE APPROACH • Menggunakan data & format eks sebagai pembanding/standar evaluasi. • Dari perusahaan lain. • Misalnya : Bell System menggunakan AT & T program stop rokok • Evaluasi - pada bulan ke 3-6. 12. • - 70& perokok akan kambuh • Standar Nasional • Standar Regional • Standar Internasional

34. THE CONTROLLED COMPARISON (QUASI-EXPERIMENTAL APPROACH) • Membandingkan kelompok intervensi dengan kelompok pembanding • K. pembanding dari perusahaan lain yang mirip settingnya • Kelompok 1. diberi pendidikan elemen PKP yang intensif, all out 2. Tidak diberi pendidikan ttg PKP • masing-masing kelompok dibagi subkelompok berdasarkan karakteristik tertentu : • umur • sex • pendidikan • dll • Contoh. Untuk hipertensi Kelompok 1. Deteksi & dirujuk untuk terapi di luar 2. penanganan di tempat kerja dengan obat 3. tidak di intervensi

35. STRUCTURAL MODEL LDL Cholesterol & Triglyceride reduction ; HDL Cholesterol increase High nutrients balanced calories Cardiovascular events reduction (and other chronic degenerative diseases) - Atherosclerosis reduction Hypertension reduction Dynamic Physical Move Diabetes Mellitus reduction Obesity reduction Fresh air without smoke 1.Combined risk reduction 2. Work Capacity increase 3. Health status increase Other risk factors (minor) reduction, except age,sex, genetic

36. INPUT OUTPUT1 OUTPUT2 ACTIVITY EDUCATION • Curriculum development • Group training • Questionnaire with feedback • Appreciative consultation • Social marketing Contest Curriculum Increase proportion available of workers who believe that the threat of CVD is Number of serious; that it can workers who happen to them attend the with probability Resources: group training depends on their (% total) Staffs position in Money combined risk Materials category; that the Time recommended Policy & actions are regulation effective available ORGANIZATION ENVIRONMENT to avert the danger, • Advisory Committee for • Leadership & partnership • since planning stage • Local policy & regulation • Social supportStandards • selection that they are • Smoke free zone/segregated • ventilation planning • Supply of heart healthy • nutrition (high nutrition). • New catering contract & • caterer • Exercise facilities &access Exercise capable to perform facilities’ the recommended adding and action s including the access to overcoming barriers those facilities (e.g time, cost, etc) is easier than before INFLUENTIAL FACTORS Management commitment, funding, socioeconomic factors, government support, community facilities, mass media & advertisement Logical Model for Evaluation of Implementation Stage of Workplace Health Promotion

37. Increase proportion of workers who - Reduce Increase p roportion of practice recommen ded actions as workers whose biological morbidity & routine life style: indices (indirect indicators) mortality due Eat high nutrient 1. are normal: to CVD and pyramid other chronic 1.1. Vegetables 4 - 5 X/d 1. Body Mass Index: 1.2. Fruits 4 - 5 X/d diseases 18.5 – 22.9 1.3. Whole grains 3 - 4 X/d - Reduce 2. Physical Work Capacity: 1.4. Beans, tahu, tempe 1 - 3 X/d Male > 9.75 METs 1.5. Fish, poultry,eggs, 1 - 2 X/d sickness 1.6. Red meat sparingly (1 - 2 X/w) Female > 8.63 METs absenteeism 1.7. Plant oils, e.g. canola, soy corn, 3. LDL Chol. <130 mg/dl (LWDC) olive, sunflower (1 - 2 X/d HDL Chol. >45 mg/dl 1.8 Calories according to body weight in - Reduce Triglyceride < 200 BMI 18.5 – 22.9 medical cost mg/dl 1.9. Drink water/liquid approx. 8 glasses /d 4. Blood pressure < 120/80 mg/dl GOAL 2. Relax by Dynamic Body 5. Blood glucose 70 - 110 Move mg/dl 2.1. Cardio - fitness move: at least 30 min 6. Waist circumference: Healthy workers ea.( 3000 steps) ; 3 X/w Male < 90 cm; female <80 2.2. Muscular streng th move: 20 - 30 min cm in healthy ea; 2X/w *Increase proportion of green 2. 3. Flexibility move (warm up & cool company . card holders (low combined down): 10 min before and after 2.1. and 2.2. risk category) among Increase dynamism, workers innovation, 3. Breathe in fresh air creativity, *Increase proportion of without smoke togetherness, workers with adequate PWC accomplishment, (Increase proportion of workers who do work performance, not smoke) productivity, competitiveness, Advisory Co mmittee leads implementation of local policy and survival , regulations, social support, and acceptable standards well fare Supply of high nutrient pyramid is implemented. Exercise facilities and accessibility are available. Reduction of morbidity and Segregated ventilation for smokers and smoke free zone for all are mortality implemented. of CVD and other chronic diseases INFLUENTIAL FACTO R: management commitment, funding, socioeconomic Reduction of sickness absenteeism factors, community facilities, government support, mass media & advertisement (LWDC) 1. Reduction of medical cost INPUT ACTIVITY OUTPUT INITIAL OUTCOME

38. Evaluation design of Quasi-experimental approach

39. THE CONTROLLED EXPERIMENTAL APPROACH • Prosedur seperti uji klinik • Seleksi acak : kelompok intervensi/tidak • Masing-masing ada subkelompok • Contoh : 4 Sub kelompok diberi pendidikan anti ca. payudara dengan metoda pendidikan yang berbeda • 2 sub kelompok tanpa intervensi (pendidikan setelah program selesai)

40. THE FULL BLOWN EVALUATIVE RESEARCH PROJECT • Kelompok tidak layak pada kebanyakan program PKP • Model Evaluasi dikombinasi elemen program campuran • Misalnya Kelompok 1 : rokok 2 : rokok & fitnes 3 : fitnes 4 : intervensi / program - 5 : rokok, fitness, cholesterol, tensiMasing-masing kelompok ada sub kelompok berdasarkan umur, sex, etnis dll.