Forum OSKKO - wątek

TEMAT: ewaluacja
strony: [ 1 ]
Konto zapomniane04-12-2004 18:51:05   [#01]
Mam dokonać ewaluacji programu szkoły(gimnazjum) za okres ostatnich 5 lat. Nie wiem jak się do tego zabrać i co powinno  się mieścić w tej ewaluacji, jeśli ktoś ma pomysł proszę o pomoc. Będe wdzięczna za każdą informację.
Marek Pleśniar04-12-2004 20:35:37   [#02]

no tak;-)

trzeba nowej tabliczki z napisem:

 nie ewaluowałbym programu 

 

Dla wspomożenia własnego rozwoju profesjonalnego oraz poprawy jakości działania placówki użytecznym narzędziem staje się ewaluacja. W ostatnim 50-leciu podejmowano liczne próby szerszego potraktowania ewaluacji, wskazania, jakie jest jej miejsce w edukacji, oraz wyłożenia różnic między takimi zbliżonymi pojęciami jak pomiar lub badanie. Ewaluacją nazywano14:

  1. proces zmierzający do stwierdzenia, w jakim stopniu założone cele edukacyjne są rzeczywiście realizowane (Tyler; 1950),
  2. dostarczanie informacji potrzebnych do podjęcia decyzji (Cronbach; 1963),
  3. szacowanie zalet lub wartości (m.in. House; 1980),
  4. systematyczne badanie wartości lub zalet jakiegoś obiektu (Joint Comitee; 1981),
  5. systematyczne badanie zdarzeń, które mają miejsce w ramach aktualnie realizowanego programu bądź stanowią jego konsekwencję – badania te mają przyczynić się do usprawnienia zarówno tego programu, jak i innych, stawiających te same cele (Cronbach i współautorzy; 1980).

      Społeczny aspekt ewaluacji dostrzegł między innymi Collin Robson15, twierdząc, że „rozliczanie (ewaluacja) jest obecnie kluczowym pojęciem całego spektrum oferowanych usług publicznych, takich jak edukacja, zdrowie i opieka społeczna, a bierze się to częściowo z przyczyn politycznych i ideologicznych”.
Taksonomię głównych modeli ewaluacji prezentuje Ernest R. House16, który wyróżnia i krótko prezentuje osiem podejść:

  1. Analiza systemowa. Wyznacza się kilka punktów badanego procesu, które sprawdzone zostają metodami testowymi, a następnie obserwuje się zależności wskaźników. Uzyskane dane mają głównie charakter ilościowy i uzyskane są metodami pomiarowymi. Za analizą systemową przemawia to, iż dostarcza ona przekonywujących i rzetelnych dowodów, które mogą być uzyskane także przez innych badaczy stosujących to samo narzędzie.
  2. Podejście zoperacjonalizowanych zadań. Badamy cele ewaluowanego programu, stopień ich zgodności z założeniami. Uznaje się, że program odniósł sukces, jeśli stopień zgodności między założonymi celami a rezultatami jest wystarczająco wysoki.
  3. Podejście zorientowane na podjęcie decyzji. Najważniejszy jest decydent, jego zainteresowania i kryteria. Ewaluator głównie skupia się na śledzeniu naturalnych zmian zachodzących w ewaluowanym zjawisku. Trafne ich dostrzeżenie zwiększy efektywność działań decydentów.
  4. Podejście Foal-Free. Jest ono przeciwne ewaluacji nastawionej na cel. Zakłada się, iż znajomość celów źle wpływa na bezstronność ewaluatora. Nie znając zaś celów, ewaluator wnikliwiej docieka wszelkich możliwych rezultatów badanych programów.
  5. Podejście typu „krytyka artystyczna”. Ewaluator-krytyk, doskonale obeznany w temacie, mający doświadczenie i odpowiednie wykształcenie, adresuje swoją wypowiedź do grupy konsumentów lub ekspertów. Jego działanie podnosi poziom świadomości, doskonali standardy i poprawia realizację założeń.
  6. Podejście typu „inspekcja kwalifikacji”. Profesjonaliści, specjaliści oceniają swoich kolegów w tej samej dziedzinie. Ewaluatorzy i ewaluowani reprezentują ten sam poziom przygotowania zawodowego. Istotą metody jest holistyczne podejście do badanego zagadnienia.
  7. Podejście guasi-sądowe (konfrontacyjne). Ewaluacja prowadzona jest na wzór rozprawy sądowej. Sprawa staje przed trybunałem. „Świadkowie” składają „zeznania”, przedstawiają „dowody”. Precyzuje się zasady i procedury zmierzające do systematycznych rozważań alternatywnych argumentów i wniosków. Ewaluacja staje się bardzo rzetelna.
  8. Studium przypadku. Zainteresowanie ewaluatorów skupia się na procesie realizacji programu oraz na tym, jak odbierają go ludzie. Dopuszcza się do głosu wszystkie liczące się stanowiska i reprezentowane wartości. Główny cel to przyjście z pomocą adresatom ewaluacji, aby lepiej zrozumieli ewaluowany program.

      Nie podlega dyskusji twierdzenie, że obecnie jedną z ważniejszych (oferowanych w nowym kształcie) usług publicznych jest reformowany system szkolny. W okresie wdrażania kolejnych etapów reformy ważne będzie zbadanie całego spektrum spraw związanych z jej funkcjonowaniem, takich jak programy nauczania i standardy wymagań, metody nauczania stosowane na poszczególnych poziomach edukacji, kompetencje uczniów czy warunki pracy szkoły.
      Na znaczenie ewaluacji w edukacji zwraca uwagę profesor Leszek Korporowicz17. Wskazuje on trzy poziomy społecznego bytu ewaluacji: poziom operacyjno-przedmiotowy (kto i co?), metodologiczny (jak?, w jaki sposób?) i aksjologiczny (w jakim celu?). Każdemu z wymienionych poziomów przypisane zostały pytania, które porządkują wymiary funkcjonowania procedur ewaluacyjnych.
      Najłatwiejszym do określenia wymiarem funkcjonowania procedur ewaluacyjnych, który wiąże się z pytaniami ,,co?” i ,,kto?”, jest obiekt, czyli inaczej – przedmiot ewaluacji. Profesor Korporowicz jako przykład obiektu badania w szkolnictwie zawodowym wskazuje „konkretne kompetencje osiągane w procesie kształcenia, ich powiązanie ze standardami obowiązującymi i koniecznymi dla wykonywania zawodu, ich relacje do zmieniających się potrzeb rynku pracy, efektywność programów szkoleniowych lub ich zgodność z dotychczasowym poziomem przygotowania szkolonych”.
      Wybór badanego obiektu musi być poprzedzony starannymi studiami nad jego charakterem. Zawartość merytoryczna, warunki funkcjonowania, sposób funkcjonowania w kontekście społecznym, przydatność i efektywność, wzajemne relacje między obiektem badania a badanym to istotne informacje, które należy rozważyć. Wiedza na ten temat posłuży do wyboru najlepszych metod badawczych, wypracowania lub przynajmniej użycia istniejących już w arsenale nauk społecznych technik i metod.

14 David Nevo, Konceptualizacja ewaluacji edukacyjnej. Analityczny przegląd literatury [w:] Ewaluacja w edukacji, red. nauk. L. Korporowicz, Warszawa 1997, s. 52.
15 Collin Robson, Projektowanie ewaluacji, tamże, s. 147.
16 Ernest R. House, Ewaluacja i jej uprawomocnienie. Główne podejścia, tamże, s. 97.
17 Leszek Korporowicz, Ewaluacja w reformie systemu edukacji, [w:] Pomiar, ewaluacja, technologia dydaktyczna oraz terminologia angielska, red. B. Niemierko, Gdańsk 1998, s. 39.

===================

 http://www.vulcan.edu.pl/eid/archiwum/2000/06/po_co.html

Po raz pierwszy z ewaluacją zetknąłem się sześć lat temu, gdy jako socjolog zostałem zaproszony do uczestnictwa w zespole badawczym, którego zadaniem była ewaluacja jednego z ogólnopolskich programów wdrażania reformy edukacji. Od tego czasu uczestniczyłem w różnorodnych programach badawczych, zajmując się przede wszystkim konstruowaniem narzędzi badawczych oraz analizą danych.

Michał W. Kowalski
Po co ewaluacja?

Choć coraz rzadziej stykam się z pytaniem, co to jest ewaluacja, nadal, gdy mówię, że zajmuję się ewaluacją, powszechnie słyszę stwierdzenia w rodzaju: "My też ostatnio zrobiliśmy ocenę naszych zajęć". Przyznam się, że mam wątpliwości, do jakiego stopnia ewaluację można utożsamiać z oceną. Tym bardziej, gdy dowiaduję się, że ta ocena polega najczęściej na przeprowadzeniu badań ankietowych, w których prosi się zainteresowanych o wybranie odpowiedzi "tak", "nie", "nie mam zdania", ewentualnie: "czy pana(i) zdaniem...". Spróbujmy więc najpierw się zastanowić, komu jest potrzebne gromadzenie ocen i opinii, po co mierzyć jakość szkoły, co we współczesnych badaniach edukacyjnych określa się jako ewaluacja?

Proces badań ewaluacyjnych można przedstawić jako ciąg pytań, na które musi odpowiedzieć ewaluator. Treść pytań zależy od fazy procesu badawczego; można tu wyróżnić cztery zasadnicze grupy pytań odpowiadające kolejnym etapom pracy badawczej: a) pytania związane z fazą projektowania ewaluacji, b) pytania dotyczące realizacji badań, czyli gromadzenia danych, c) pytania związane z  analizą i interpretacją danych, d) pytania dotyczące sporządzenia raportu i prezentacji wyników badań. Znajdowanie odpowiedzi jest celem ewaluacji, postawienie pytania - to jedynie środek do tego celu.

A więc pierwsze pytanie brzmi: dlaczego chcę przeprowadzić ewaluację? Odpowiedzi mogą być różne: od banalnego zaspokojenia ciekawości, jak jest oceniana czyjaś praca, przez ocenianie działalności immanentnie wkomponowanej w całość procesu dydaktycznego, a dotyczącej nie tylko uczniów, ale i ich nauczycieli, dyrektorów szkół i placówek oświatowych czy pracowników nadzoru pedagogicznego aż po szukanie praktycznych korzyści, jakie daje wiedza wynikająca z ewaluacji działań, programów, instytucji edukacyjnych.

Wyróżnikami tak pojętej ewaluacji są: adekwatność, przydatność, przyzwoitość i wykonalność. Ponadto: demokratyczność, interaktywność, zorientowanie na analizę ludzkich doświadczeń, metodologiczną integralność, dynamiczność. Charakterystyka ewaluacji - nawet gdy nie do końca jest utożsamiana z oceną i pomiarem - musi zmierzać do całościowej charakterystyki badanych działań, instytucji czy programów. Całościowej w tym sensie, iż ewaluator, chcąc coś oceniać, mierzyć, a przede wszystkim ewaluować, musi znać cel takich badań; kryteria, na których podstawie w sposób uprawniony będzie orzekać o badanym obiekcie ewaluacji, kontekst, w którym mają miejsce podejmowane działania, w którym funkcjonuje dany program czy instytucja. Zdając sobie sprawę, że rzeczywistość społeczna jest zróżnicowana, że w różny sposób jawi się różnym aktorom czy podmiotom w niej funkcjonujących, ewaluator dążący do sporządzenia charakterystyki badanego przez niego wycinka rzeczywistości musi uwzględniać złożoność świata, z którego wycinek ten pochodzi.

Ta cecha to użyteczność

Kolejne pytania, na które ewaluator musi odpowiedzieć to: Dla kogo chcesz prowadzić badania? Jak będą wykorzystane wyniki twoich badań? Jak przeprowadzać badania, aby uchwycić złożoność badanej sytuacji?
I wreszcie: Po co i dlaczego? Myślę, że odpowiedź kryje się w terminie użyteczność. Ewaluacja tylko wtedy ma sens, jeśli czemuś lub komuś służy. Jeśli wnioski płynące z badania można wykorzystać w praktyce, gdy można je przełożyć na zmianę zachowań konkretnych osób, funkcjonowania konkretnych instytucji i programów.

No, dobrze - powie ktoś - ale jak sprawić, żeby zróżnicowani uczestnicy działań społecznych dostrzegli użyteczność ewaluacji? Przede wszystkim, jest ważne wyraźne oddzielenie oceny od ewaluacji. Ewaluacja ma służyć pomocą różnym aktorom działań, aby doskonalili swoją pracę, traktowali ją jako środek prowadzący do celu, jakim zazwyczaj jest doskonalenie, poprawa, usprawnienie, polepszenie czy zmiana lub reforma. Z pewnością nie należy jej traktować jako przypisanie pewnej wartości (oceny) konkretnym osobom, programom, czy instytucjom. Co prawda, takie przypisanie wartości może stanowić część diagnozy charakteryzującej działania, instytucje i przedsięwzięcia, lecz z pewnością na tym nie poprzestaje, gdyż uwzględnia kontekst, w którym funkcjonuje interesujący nas obiekt.

Musimy poznać charakterystykę badanego obiektu, uwzględniającą jego wewnętrzne zróżnicowanie, musimy poznać cele i motywy, interesy i wartości, jakimi kierują się ludzie w podejmowanych przez siebie działaniach, czyli musimy być zorientowani na analizę ludzkich doświadczeń, a te z kolei, można analizować, uwzględniając kontekst, w którym wystąpiły. Musimy mieć także świadomość ograniczeń stosowanych przez nas metod badawczych, czyli troszczyć się o to, by metody i techniki gromadzenia informacji były adekwatne do pytań badawczych, na które poszukujemy odpowiedzi.

Tak więc poszukując odpowiedzi na pytanie: po co przeprowadzać ewaluację, musimy zdawać sobie sprawę, jaką pociąga to za sobą lawinę kolejnych pytań wymagających odpowiedzi. Jednakże jestem mocno przekonany, że klucz do zrozumienia istoty ewaluacji wiedzie przez dostrzeżenie jej praktycznej funkcji dla każdego uczestnika przedsięwzięciach edukacyjnych.

Projektowanie ewaluacji

Przechodząc do spraw bardziej konkretnych, chciałbym wskazać schemat, którym posługujemy się, prowadząc badania ewaluacyjne. Przedstawię go w formie tabeli uwzględniającej zasadnicze punkty projektu ewaluacji oraz zasadnicze pytania, które systematyzują i porządkują procedury badawcze zarówno w fazie projektowania ewaluacji, jak i w kolejnych fazach procesu badawczego, to jest na etapie realizacji badań, analizy danych i prezentacji wyników. Poniższa tabela to swoisty przewodnik po pytaniach, na które musi odpowiedzieć ewaluator.

Z tego, co dotychczas powiedziano, widać, że ewaluacji mogą podlegać ludzie i ich działania, instytucje, programy, ich komponenty, szkoły, lekcje, sposoby administrowania, mechanizmy funkcjonowania, jakość nadzoru, obieg informacji etc. Ewaluacja może więc dotyczyć bardzo zróżnicowanych obiektów, w których będzie mieć swoją własną specyfikę, jak i swój specyficzny kontekst, w którym funkcjonuje. W określeniu obiektu ewaluacji trzeba być maksymalnie precyzyjnym.  Jeśli chcemy badać szkołę, to musimy wiedzieć, czy badamy ludzi i ich działania, czy też przebieg jakiegoś procesu (edukacyjnego, wychowawczego, dydaktycznego). A może "szkoła" to instytucja lub placówka oświatowa, lub element systemu edukacyjnego, lub podmiot działań samorządu lokalnego.

Zależnie od tego, jak odpowiemy na pytanie, po co przeprowadzać ewaluację - pośrednio odpowiadając również na pytanie dla kogo - jesteśmy w stanie maksymalnie precyzyjnie określić przedmiot naszych badań. Czym innym będą badania dotyczące np. reformy oświaty od badań nad sposobem wdrażania tej reformy. Idąc dalej tym tropem, możemy sformułować przedmiot naszego zainteresowania jako np. sposób wdrażania reformy edukacji na przykładzie funkcjonowania gimnazjum. Konkretyzacja określenia obiektu badań pozwala nam na takie rozłożenie akcentów, które spotka się z oczekiwaniami osób zainteresowanych przeprowadzeniem ewaluacji. Tak więc określenie przedmiotu badań powinny poprzedzać swoiste negocjacje  z tymi, którzy badań tych potrzebują.

W precyzyjnym określeniu "części składowych" obiektu ewaluacji pomogą nam ustalenia poczynione z tymi osobami, które oczekują danej ewaluacji. Posługując się uprzednio określonym obiektem ewaluacji, można wyróżnić w nim przykładowe problemy badawcze, choćby - sposób wdrażania reformy edukacji na przykładzie funkcjonowania samorządu szkolnego w gimnazjum. Podobnie możemy wyróżnić problem badawczy w odniesieniu do rady pedagogicznej, relacji nauczyciel - rodzice, kulturotwórczych aspektów wpływu funkcjonowania gimnazjum na działalność społeczności lokalnej itp.

Istota formułowania problemów badawczych polega na tym, że wyróżniając pewne, interesujące nas aspekty badanego obiektu (tzn. wyróżniając problemy badawcze), możemy orzekać o całości. Aby dokonać takiej syntezy, musimy określić relacje istniejące między wyróżnionymi aspektami funkcjonowania przykładowego gimnazjum. Działanie takie opiera się na założeniu, że sposób wdrażania reformy może przejawiać się w różnych miejscach funkcjonowania szkoły: w pracach samorządu, rady pedagogicznej, zebrania rodziców, na lekcji matematyki i zajęć pozalekcyjnych. Jeszcze raz należy podkreślić, że to, które aspekty obiektu ewaluacji zostaną określone jako problemy badawcze, powinno być przedmiotem ustaleń między badaczem a odbiorcami i zleceniodawcami ewaluacji.

Kolejnym wielkim wyzwaniem, z którym musi się zmierzyć badacz przeprowadzający ewaluację, jest ustalenie kryteriów, na których podstawie będzie orzekać o badanym obiekcie. Zawsze wiele emocji wzbudza pytanie: kto formułuje kryteria ewaluacji? Analizując dotychczasowe rozważania, można wykazać, że ustalenie kryteriów ewaluacji jest również przedmiotem negocjacji różnych podmiotów zainteresowanych w jej przeprowadzeniu. Ponieważ celem ewaluacji jest wspomaganie działań podejmowanych w ramach pewnej całości, a o sensowności tej pomocy decydować będzie użyteczność wniosków z tej ewaluacji płynących, można wykazać, że pytanie, kto formułuje kryteria ewaluacji, jest w ogóle nieistotne!

Komponenty projektu ewaluacji

Pytania pomocne przy projektowaniu

obiekt ewaluacji

  • Co jest przedmiotem ewaluacji (ludzie? proces? zjawisko?)

zadania ewaluacji

  • Dlaczego chcesz to badać?
  • Dla kogo chcesz to badać?
  • Jak zostaną wykorzystane wyniki twoich badań?

zasadnicze problemy

badawcze

  • Jakie problemy badawcze można wyróżnić
    w ramach danego obiektu ewaluacji?
  • Jak sformułować problemy badawcze?

kryteria ewaluacji

  • Na podstawie, jakich kryteriów będziesz wnioskować o obiekcie ewaluacji oraz orzekać o problemach badawczych?
  • Kto formułuje kryteria ewaluacji?

pytania kluczowe

  • Jakie zasadnicze pytania można postawić w odniesieniu do wyróżnionych problemów badawczych?

metodologia i metody

  • Jakie metody badacze pozwolą na orzekanie o przedmiocie ewaluacji?
  • Jak zoperacjonalizować pytania badawcze?
  • Na jakie pytania można uzyskać odpowiedzi, stosując konkretne metody badawcze?
  • Jak zintegrować wykorzystane metody badawcze?

próba badawcza

  • Kto może dostarczyć istotnych informacji (danych)?
  • Do kogo i do czego możesz mieć dostęp?
  • Jak liczne przypadki pozwolą ci orzekać o przedmiocie badań?

monitorowanie

  • Jak będziesz kontrolować przebieg swoich badań?
  • Jak będziesz kontrolować przestrzeganie standardów etycznych, merytorycznych i profesjonalnych?

organizacja

  • Jak będzie przeprowadzona ewaluacja?
  • Jak będą prezentowane wyniki ewaluacji?
  • Ile masz czasu na przeprowadzenie ewaluacji?

Badanie charakteru relacji

Kluczową staje się odpowiedź na pytanie, jakie to będą kryteria ewaluacji? Przykładami często stosowanych kryteriów są: efektywność, adekwatność, zgodność, aplikowalność. Są to pojęcia, za pomocą których będziemy ustalać relacje i charakter tych relacji między różnymi klasami obiektów. Trzeba również podkreślić, iż kryteria ewaluacji niejako wynikają z założeń leżących u podstaw działań podejmowanych w ramach ewaluowanego obiektu oraz iż kryteria ewaluacji niejako przenikają wszystkie wyróżnione aspekty ewaluowanego obiektu. Na przykład: czy działania podejmowane w ramach pracy samorządu szkolnego są zgodne z założeniami reformy; czy program samorządu lokalnego przeciwdziałania narkomanii jest adekwatny potrzeb danej szkoły; czy dana szkoła realizuje program sformułowany przez radę szkoły.

Z praktyki wynika, że ustalenie kryteriów ewaluacji jest zadaniem trudnym. Ale staje się tym łatwiejsze, im więcej osób uczestniczy w tym procesie; istnieje prawdopodobieństwo, że pojedyncza osoba nie ma wystarczających kompetencji do określenia, jakiego typu relacji można oczekiwać między wszystkimi komponentami ewaluowanego obiektu. Kolejne niebezpieczeństwo kryje się w możliwości ustalenia takich kryteriów ewaluacji, które nie uwzględniają specyfiki badanego obiektu, np., gdy przyjmuje się jakieś zewnętrzne kryteria w stosunku do obiektu badań. Wśród osób, które podlegają ewaluacji, rodzi to poczucie, że są oceniani według niezrozumiałych lub nieakceptowanych zasad, nie mających związku z ich motywami, wartościami, przekonaniami i interesami działania. Z drugiej jednak strony, przyjęcie tylko takich kryteriów, na które wskażą uczestnicy procesu ewaluacji, może prowadzić do sytuacji, w której uczestnicy jakiś działań staną się de facto sędziami we własnej sprawie, a specyfika badanego obiektu przesłoni rzeczywiste działania poszczególnych osób. Po trzecie, sformułowanie kryteriów ewaluacji przez różne podmioty zainteresowane jej przeprowadzeniem przybliża nas do sytuacji, w której ewaluacja staje się użyteczna dlatego, że różne osoby mogą korzystać z jej wyników, mając przekonanie o własnej podmiotowości.

Kolejne wyzwanie, przed którym stoi ewaluator, to określenie, jak przełożyć liczne i różnorodne założenia teoretyczne zawarte w projekcie ewaluacji na konkretne działanie badawcze? Innymi słowy, ewaluator przystępujący do badań musi również zaprojektować narzędzia i metody, którymi będzie się posługiwał podczas gromadzenia informacji służących mu do orzekania o badanym obiekcie. Użyteczna procedura operacjonalizowania założeń badawczych na konkretne metody i techniki badań wiedzie przez sformułowanie tak zwanych pytań kluczowych.

Pytania kluczowe

Istota pytań kluczowych polega na takim sformułowaniu, które uwzględnia kryteria ewaluacji w odniesieniu do wyróżnionych problemów badawczych. Przykładem może być pytanie, jak władze gminy wspierają inicjatywy wychowawcze podejmowane na terenie szkoły, odwołujące się do kryterium zgodności działań podejmowanych przez samorząd lokalny wobecszkoły. Pytanie, oczywiście, koresponduje z jednym z założeń reformy mówiącym o współdziałaniu gminy i szkoły. Albo pytanie, jak jest realizowany system doskonalenia nauczycieli w danej placówce, odwołujące się do kryterium aplikowalności systemu doskonalenia nauczycieli dowarunków, w jakich funkcjonuje konkretna szkoła.

W wielkim skrócie można powiedzieć, że wychodząc od ogólnego stwierdzenia, iż obiektem ewaluacji ma być, na przykład, funkcjonowanie systemu wychowawczego w danej szkole, określamy obszary jego funkcjonowania w działalności np. samorządu szkolnego czy rady pedagogicznej lub w relacji gmina - szkoła. Następnie określamy kryteria na których podstawie będziemy orzekać o wdrażaniu, charakterystyce relacji oraz działaniu i formułujemy pytania w odniesieniu do konkretnych problemów badawczych.

Następny krok w pracy ewaluatora polega na przełożeniu pytań kluczowych na pytania odpowiadające charakterystyce poszczególnych technik i metod badawczych. Powszechnie praktykowane badania kwestionariuszowe służą przede wszystkim określeniu rozkładu pewnych cech i właściwości charakterystycznych dla badanej przez nas zbiorowości, nie nadają zaś się do badań,  których celem jest opisanie przebiegu jakiegoś zjawiska czy procesu. Aby uzyskać wiedzę o rzeczywistych zachowaniach uczestników jakichś wydarzeń, najbardziej efektywną metodą będzie bezpośrednia obserwacja tych wydarzeń, w sytuacji zaś, w której badacza interesują motywy i cele działań podejmowanych przez uczestników wydarzeń, najbardziej użyteczną metodą ich ujawnienia są wywiady z uczestnikami.

 Chcąc stwierdzić, jak często nauczyciele rzeczywiście korzystają z danych technik dydaktycznych, można przeprowadzić obserwację różnych zajęć organizowanych w szkole, lub też poddać analizie np. dzienniki zajęć, rozkład zajęć w pracowni komputerowej lub też wpisy nauczycieli potwierdzających wypożyczenie sprzętu audiowizualnego z sekretariatu szkoły. Co więcej, chcąc poznać to, co poszczególne grupy uznają za normę korzystania z omawianych technik, a więc to, względem czego deklarują częstotliwość określonych działań możemy się posłużyć techniką wywiadu. Podobnie, gdy chcemy dowiedzieć się, dlaczego korzystają lub nie z tych metod, co sprawia, że chcą z nich korzystać, lub co sprawia, że korzystać z nich nie mogą, technika wywiadu będzie do tego typu pytań najbardziej  efektywna i użyteczna.

Gdy chcemy badać rzeczywiste zachowania i rzeczywiste procesy, motywację i cele, interesy i opinie rządzące zachowaniem konkretnych ludzi w konkretnym środowisku, tak złożonym i zmieniającym się w czasie, jakim jest społeczność szkolna, musimy korzystać z różnorodnych metod badawczych pozwalających na formułowanie kompleksowych i prawomocnych wniosków. Tylko takie badania, które pozwalają sięgnąć złożoności badanego obiektu i wyjaśnić dynamikę zachodzących w nim procesów społecznych, można uznać za użyteczne, adekwatne i sensowne dla jego funkcjonowania oraz jakości działań podejmowanych przez tworzące go osoby.

Jeszcze raz należy podkreślić, że procedura projektowania ewaluacji przebiega od  określenia spraw bardzo ogólnych do coraz bardziej szczegółowego określenia tego, co i jak będzie badane na poziomie pytań zadawanych za pomocą konkretnych metod i technik badawczych adresowanych do precyzyjnie zdefiniowanych osób oraz wobec bardzo konkretnie określonych zjawisk, działań czy też zachowań. Przedmiotem analizy dokonywanej przez ewaluatora są teraz poszczególne fakty, empirycznie potwierdzone informacje, z których konstruuje coraz bardziej ogólny obraz badanego przez niego obiektu. Jest to przechodzenie od spraw bardzo konkretnych do coraz bardziej ogólnych wniosków, które o tyle są uprawnione, o ile znajdują potwierdzenie w prezentowanym przez badacza materiale empirycznym, którego zakres wyznacza projekt ewaluacji wynegocjowany, zatwierdzony i de facto realizowany przez różne podmioty zainteresowane w doskonaleniu swojej pracy. 

Jak ugotować dobrą zupę?

Przeprowadzenie ewaluacji wydaje sie sensowne i użyteczne jedynie w sytuacji, w której potrafimy odpowiedzieć na pytanie: "Dlaczego i po co powinniśmy ją przeprowadzić"? Ewaluacja nie jest alternatywą wobec mierzenia jakości, gdyż jakość i mierzenie jest przedmiotem zainteresowania badacza i może być jednym z aspektów przeprowadzanej przez niego ewaluacji.

Aby lepiej wyjaśnić zależności między nimi, posłużę się kulinarną analogią. Chcąc zmierzyć na przykład jakość zupy, możemy określić wszelkie istotne parametry, które stanowić będą o jej jakości. Wymiernymi parametrami może tu być kaloryczność, ilość soli i innych przypraw, zawartość witamin i mikroelementów, jej temperatura, a może nawet i określone cechy jej wyglądu. Wydaje się, że posiadając taką wiedzę, jesteśmy w stanie ugotować zupę idealną. Ale czy rzeczywiście można przygotować taki przepis, który zadowoli różne gusta, smaki, przyzwyczajenia i tradycje kulinarne? Być może, zamiast określać, jaki ma to być produkt, lepiej jest określić, jakie są reguły postępowania, gdy chce się ugotować dobrą zupę. Innymi słowy, zamiast mówić, jaka ma być dobra zupa, można powiedzieć, jak można zostać dobrym kucharzem.

Interesując się działaniami ludzi, chcąc wspierać ich różnorodne inicjatywy i przedsięwzięcia ulokowane w zawsze specyficznym środowisku, chcąc pomagać im dostrzegać własną podmiotowość, zapraszając wszystkich zainteresowanych do współtworzenia  projektu, problemów, pytań, a nawet kryteriów badawczych i wniosków z tych badań płynących, ewaluacja staje się narzędziem wspierania procesów demokratyzacji i narzędziem wspierania tych ludzi i ich działań. Co więcej, przy takich założeniach ewaluacja staje się sposobem realizowania jakości ich pracy, a nie tylko sposobem mierzenia jakości produktów ich pracy.

Michał W. Kowalski
Agencja Badawcza "Ewaluator", Warszawa

ola 1304-12-2004 21:20:41   [#03]

Marku

No to zadałeś lekturę na długie zimowe wieczory. A tabliczka powinna brzemieć

  STOP BEZSENSOWNYM EWALUACJOM

Marek Pleśniar04-12-2004 21:41:53   [#04]
zacytuję za Stefanem Wlazłą. "Ewaluację tak naprawdę może przeprowadzić osoba, która ukończyła studia ewaluacji"
Botka04-12-2004 21:47:32   [#05]

wobec tego

to wszystko co my tworzymy to tylko tworzenie dla samego tworzenia. Wobec tego ile osób ukończyło takowe studia, a czy wiedza zdobyta jest trwała?
Marek Pleśniar04-12-2004 21:54:43   [#06]

tak trwałą jak wiedza po każdych innych studiach - np. polonistyce, matematyce, nauczaniu początkowym;-)

W związku z tym tak uczymy, ewaluujemy ...

;-)

Botka04-12-2004 22:05:19   [#07]
wobec tego rozumiem Marku, że nie jesteśmy gotowi do badania, mierzenia, ewaluowania jeśli nie skończyliśmy stosownych studiów. Zadaję sobie pytanie: dokąd zmierzamy z tą naszą oświatą?, jeżeli na dzień dzisiejszy nie jesteśmy wystarczająco przygotowani aby określić "miejsce " w jakim znajduje się nasza szkoła. Czy stać nas na to, aby kształcić kolejną grupę ludzi? Może to jest bezsensowne, ale te pytania same się nasuwają.
Marek Pleśniar04-12-2004 22:37:40   [#08]

jesteśmy gotowi do badania, mierzenia i nie do końca do ewaluowania 

po prostu zwróciłem uwagę na to, że warto "nazywać rzeczy po imieniu"

badamy, mierzymy (tu się odezwą specjaliści od mierzenia jakości i spytają jak mierzymy, jakimi narzędziami i gdzie standaryzowanymi ;-)

no więc odpada też mierzenie

i tak dalej

to wszystko wiedzie chyba tylko do zdrowego rozsądku

By określić - zacytuję Ciebie - "miejsce  w jakim znajduje się nasza szkoła"

nie trzeba tego tak naprawdę niepotrzebnego bełkotu ewaluatorsko mierzatorskiego

;-)

a zarazem mieć elementy ewaluacji. Z powodzeniem. Tylko nie mówmy "zewaluowaliśmy".

Tak jak mówimy prozą - a przecież nie nazwiemy się prozaikami;-)

Marek Pleśniar04-12-2004 22:46:47   [#09]

a teraz - skoro już ponarzekałem a nie pomogłem, pomogę;-)

mówilismy o tym dawno temu tu:

http://www.oskko.edu.pl/forum/thread.php?t=1408&st=3

Marek z Olsztyna 08.10.2002 10:28 [#04]
forma?

nie ma obowiązku jak sie ewaluuje toto - byle to robić
natomiast chętnie tu namieszam - że nie jest ta ewaluacja tylko paroma zdaniami na końcu dokumentacji:-)

Ewaluacja jest systematycznym i jawnym procesem gromadzenia i analizowania informacji na temat istoty, charakteru i wartości interesujących praktyka zjawisk. Ma ona dostarczyć danych ułatwiających podejmowanie decyzji na podstawie jawnych precyzyjnie sformułowanych kryteriów i wartości.

W toku ewaluacji potrzebne są następujące umiejętności:

  1. pisanie projektu, (b. ważne - nie jest to ewaluacja jak nie ma projektu)
  2. precyzyjne określanie celów ewaluacji, (czasem np badający piszą jak coś zrozumieły dziewczynki a jak chłopcy - ale nie wiadomo po cholere to wiedzieć:-) - nie jest to istotne
  3. dobór, organizowanie i współpraca w zespole badawczym,
  4. wybór projektu i technik zbierania danych,
  5. przeprowadzenie wywiadów,
  6. konstruowanie kwestionariusza i posługiwanie się nim,
  7. obserwacja,
  8. posługiwanie się złożonymi systemami informacji,
  9. analiza danych,
  10. pisanie raportów, formułowanie rekomendacji,
  11. zapewnienie spożytkowania wyników,

Ewaluator w edukacji koncentruje się nie tylko na rezultatach, ale i na samym procesie dydaktycznym. Stara się definiować i badać efektywność nauczania, co służy procesowi wspierania jakości edukacji nauczycieli. Ewaluator nie jest ani decydentem, ani ekspertem, ma przestawić jedynie dobrze udokumentowane dane umożliwiające podjęcie decyzji. Tak więc np. zespół ewaluacyjny bada przebieg ścieżek, dostarcza informacji radzie a rada pedagogiczna uchwala postępowanie w tej sprawie - nie zespół ewaluacyjny!

 

W fazie planowania ewaluacji pojawiają się pytania:

  1. Uzasadnienie ewaluacji
    1. Kto chce przeprowadzić ewaluację? (np powiedzmy że RP:-)
    2. Komu ma służyć ewaluacja?
    3. Kto powinien otrzymać informację? jw.
  2. Strategia ewaluacji
    1. Jaki rodzaj ewaluacji jest możliwy z uwagi na towarzyszące jej okoliczności?
    2. Jaka forma ewaluacji będzie najlepsza z uwagi na rodzaj ewaluowanego przedsięwzięcia?
  3. Przedmiot ewaluacji
    1. Co będzie ewaluowane?
    2. Jakiego rodzaju informacji potrzebujesz?
  4. Ewaluator (ewaluatorzy)
    1. Kto zbiera informacje?
    2. Kto koordynuje proces ewaluacji?
    3. Kto pisze raporty?
  5. Metody ewaluacji
    1. Jakie metody należy zastosować dla uzyskania danych informacji?
    2. Czy mogą być one opracowane i zastosowane w czasie, jakim dysponujesz?
    3. Czy metody zostaną zaakceptowane przez osoby, których dotyczy ewaluacja?
  6. Czas
    1. Ile czasu można zarezerwować na ewaluację?
    2. Czy wystarcza czasu na zebranie i analizę danych?
  7. Pozwolenia
    1. Czy uzyskane zostały wszelkie pozwolenia konieczne do przeprowadzenia ewaluacji?
    2. Czy udział w badaniach jest dobrowolny?
    3. Kto decyduje o tym, co ma się znaleźć w raporcie?
  8. Wykorzystanie ewaluacji
    1. Kto decyduje o sposobie wykorzystania ewaluacji?
    2. W jakiej formie zostanie złożony raport?
    3. Czy uczestnikom ewaluacji przedstawiona zostanie robocza wersja raportu?
    4. Do jakiego audytorium będzie adresowany raport?
    5. Czy forma raportu dostosowana jest do jego odbiorców (styl, objętość)? (dla rodziców mozna inaczej - skrócić a dla rady pedag w wersji pełnej)

Etapy procesu projektowania ewaluacji:

  1. Definiowanie przedmiotu ewaluacji.
  2. Sformułowanie pytań kluczowych.
  3. Określenie kryteriów ewaluacji.
  4. Dobór metod badawczych.
  5. Określenie próby badawczej.
  6. Monitorowanie danych.
  7. Określenie formy prezentacji danych (raportu).

Projektowanie ewaluacji to proces, którego etapy wzajemnie się przenikają i dopełniają. Jest on instrukcja i drogowskazem wskazującym właściwy kierunek i kolejność postępowania
Pytania kluczowe to takie, które sami sobie zadajemy i na które będziemy poszukiwać odpowiedzi w trakcie przeprowadzanej ewaluacji
Kryteria ewaluacji to standardy, wg których ewaluujemy dane przedsięwzięcie. Muszą wynikać z pytań kluczowych, być jasno i precyzyjnie sformułowane. Wśród metod badawczych na uwagę zasługują: studium przypadku, wywiad, analiza dokumentów, obserwacja, badania kwestionariuszowe. W próbie badawczej powinny brać udział osoby, które w najpełniejszy sposób udzielą informacji na interesujący nas temat. Monitorowanie danych określa sposób, w jaki będziemy prowadzić ewidencję zgromadzonych danych. Forma raportu oraz liczba przewidywanych adresatów powinny być na wstępie ustalone z osobą zamawiającą ewaluację. Zgromadzone w raporcie dane powinny być trafne i użyteczne. Nie ma nic gorszego od nadmiernego i niepotrzebnego gromadzenia danych.

Marek Pleśniar04-12-2004 22:47:49   [#10]

i tu:

asia 25.03.2003 10:15 [#10]
Ewaluacja

jest do pobrania tu:

Ewaluacja prof. Mizerka

Powodzenia :-)))

bogda305-12-2004 09:57:33   [#11]

Mierzenie jakości....

 Dziękuję za pomoc - jasno przedstawione zasady pozwalają na zrozumienie celowości prowadzonych przez nas badań, właściwgo doboru narzędzi, spożytkowania uzyskanych informacji.

Ps 1. W ubiegłym roku szkolnym "przydzielono" naszym nauczycielom obszary do raportowania, nie mówiąc o zasadach ewaluacji,  planowaniu pracy, sposobach gromadzenia i wykorzystywania danych. Ludzie sie urobili, namarnowali czasu, zostali skrytykowani przez niezadowoloną dyrekcję, która uważa że wszyscy wszystko muszą umieć i wiedzieć. Nasza praca w dużej części poszła na marne.Jeśli jednak podszkoliła by nas choć trochę - tak jak to zrobił dzisiaj Marek, efekty naszej pracy byłyby znacznie lepsze.

Pozdrawiam Cię Marku w ten miły niedzielny poranek.

Botka05-12-2004 10:40:31   [#12]

ewaluacja

według tego co napisałeś Marku powinna dawać rzeczową wiedzę o przedmiocie ewaluacji. Jednak wymaga to od grupy ludzi, która będzie się tym zajmować wiedzy i rzetelności, a przede wszystkim chęci i celowości w działaniu. Z tym niestety...

Serdeczne dzięki za wszelką pomoc i wskazówki, reszta należy już do nas. Pozdrawiam.

beera05-12-2004 10:58:58   [#13]

konkretnie

ewaluacja jest tu:

05.01.2004 asia Materialy prof. Mizerka dotyczące ewaluacji, z marca
poprawiam wersję ZIPa
Pobierz: posag.zip (143 KB)

Marek Pleśniar05-12-2004 11:10:19   [#14]
no właśnie nie miałem linku do tego asi:-)

UWAGA!
Nie jesteś zalogowany!
Zanim napiszesz odpowiedź w tym wątku, zaloguj się!
Dopiero wtedy będziesz mógł/mogła wysłać wprowadzony komentarz na forum.
Jeśli nie masz jeszcze założonego konta na forum, załóż je.
Logowanie i/lub zakładanie konta.

strony: [ 1 ]