„Lernerfolg und -transfer: Wie messen?“ von Gastautor Kuno Roth

Mathematische Werkzeuge, Messgeräte

Die B’VM freut sich mit Kuno Roth einen ersten Gastblogger begrüssen zu dürfen, der in Zukunft seine Erfahrungen im Bereich des organisationalen Lernens mit Ihnen teilen wird. Dieser Artikel knüpft an sein letzten Blogbeitrag „Lernen von Seinesgleichen“ an.

Kuno Roth arbeitete zuletzt als Leiter des globalen Mentoring- und Coaching-Programms bei Greenpeace International. Zuvor war er 25 Jahre lang Bildungsverantwortlicher von Greenpeace Schweiz. Frisch pensioniert, ist er weiterhin als Berater tätig und amtet zudem als Co-Präsident von Solafrica. Jahrgang 57, Dr. rer. nat., ehemaliger Chemiker, nunmehr Humanökologe, Lernspezialist sowie Schriftsteller. Neben Kolumnen schreibt er in seiner Freizeit vor allem Gedichte und Aphorismen. Seine letzten Veröffentlichungen sind «Im Rosten viel Neues» (Gedichte, 2016), «Aussicht von der Einsicht» (Aphorismen, 2018) sowie ‹KL!MA VISTA – Die Schneefallgrenze steigt› (2. Aufl. 2022, bei Pro Lyrica).


Wie war er? Was war gut, was weniger? Wie war die Kursleitung auf einer Skala von 1 bis 10? – und so weiter: Am Schluss eines Kurses folgt dessen Auswertung stets auf dem Fuss.

Solche Output-Messungen gehen von der Annahme aus, kommt ein Kurs gut an, dass er die gewünschte Wirkung in der Praxis entfalten wird. Ein Trugschluss. Meistens. Denn die Forschung (1) zeigt, dass es praktisch keine Korrelation gibt zwischen der unmittelbaren Beurteilung eines Kurses und seiner langfristigen Wirkung, also dem Transfer des Gelernten in die Praxis. Und forscht man in seinen eigenen Erfahrungen, weiss man: Was du nicht anwendest, vergisst du wieder – man hätte sich also den Kurs ersparen können. Denn auf die Wirkung danach in der Praxis kommt es an: In meiner letzten Kolumne «Lernen von Seinesgleichen» versuchte ich zu zeigen, dass diese Wirkung erheblich verstärkt werden kann. Indem sich zwei Abgänger:innen als Peer-Learning-Paar zusammentun, stützen sie sich gegenseitig und erhöhen so den Transfer in die Praxis. 

In dieser Kolumne folgt nun die Frage, wie man denn messen kann, ob und wie viel Transfer stattfindet. Unter Lerntransfer versteht man dabei, inwieweit neu Gelerntes wie eine Fähigkeit, ein Tool oder eine Technik in den beruflichen Alltag übertragen und angewendet werden kann. Doch wie misst man Lerneffekte und Wirkungen? Diese können ja nicht wie ein Gewicht oder eine Temperatur direkt und absolut gemessen werden; sondern sie drücken sich in nicht direkt messbarer Veränderung von Verhalten aus. 

Davon später; zuerst ein paar Worte zur Theorie: Die Forschung zur Wirkung betrieblicher Weiterbildung wurde wegweisend von Donald Kirkpatrick begründet (Wikipedia), der 1959 das nach ihm benannte Modell zur Wirkungsmessung von Ausbildungen und Kursen publizierte. Es ist vierstufig (visualisiert z.B. in dieser Grafik):

  • Auf Stufe 1 wird von den Teilnehmer:innen ein Feedback eingeholt: Die unmittelbare «Reaktion».
  • Auf Stufe 2 erfolgt eine Wissensabfrage nach dem Kurs z.B. als Test oder Quiz zu den «Lerninhalten». 
  • Stufe 3 beinhaltet besagten Lerntransfer in die Praxis: Gibt es Änderungen im «Verhalten»? 
  • Auf Stufe 4 geht es um die langfristigen «Resultate», also die Wirkungen in der Aussenwelt, wie z.B. mehr Umsatz für eine Firma oder gesellschaftliche Wirkung einer NGO. 

Unklare Zuständigkeit auf Stufe 3 ist Teil des Problems

Kirkpatrick’s Lehre gemäss sollten auf jeder Stufe Wirkungsmessungen erfolgen, doch in der Praxis geschieht dies meistens nur auf den Stufen 1 und 2 – also unmittelbar am Kursende. Das ist am einfachsten zu haben, nur sagt es eben nicht viel aus. Der Grund, warum auf der eigentlich relevanten Stufe 3 kaum gemessen wird, ist der höhere Aufwand und die Frage der Zuständigkeit, die von der Ausbildnerin zum Betrieb wechselt, wo oft nicht klar ist, wer zuständig ist. Dabei ist es eben dieser Transfer, woran sich letztlich die Wirksamkeit der Investitionen in Weiterbildung misst. Dieser ist Voraussetzung dafür, damit das eigentlich Gewünschte auf Stufe 4 geschehen kann: Eine Verbesserung des Ergebnisses einer Firma, eines Projektes oder einer Kampagne. Der «Return on Learning Investment», sozusagen.

Kirkpatrick’s Modell ist ein lineares Modell, das suggeriert, wenn Stufe 1 und 2 gute Ergebnisse bringen, ebensolches auf den weiteren Stufen geschehen werde, was aber wie gesagt nicht automatisch der Fall ist. Trotzdem ist es nützlich, um sich des ganzen Lernprozesses bewusst zu werden. Ausserdem haben es seine Kinder durch verstärkte Prozessorientierung verbessert. Es heisst nun New Kirkpatrick – mit u.a. folgenden Mehrwerten (siehe Graphik unten): 

  • Fragt man auf Stufe 2 nicht nur das gelernte Wissen ab, sondern auch, ob die Kursabgänger:innen zuversichtlich sind, das Gelernte übertragen zu können (‘Confidence’) und ob sie bereit sind, das Gelernte anzuwenden (‚Commitment‘), kann die Wahrscheinlichkeit eines Transfers eingeschätzt werden: «Je höher Zuversicht und Bereitschaft desto Transfer».
  • New Kirkpatrick nimmt die Stufe 4 zum Ausgangspunkt, Weiterbildungsmassnahmen festzulegen. Man zäumt also das Pferd von hinten auf und fragt sich, welche Kapazitäten, Fähigkeiten, Teamgeist oder welches Knowhow es braucht, um die gewünschten Betriebsresultate zu erreichen. Oder im Fall der NGOs: Welche gesellschaftliche Änderung wird angestrebt? Und was braucht es innerbetrieblich für Voraussetzungen dafür? Und folglich: Wie können Campaigner, Projektleiterinnen oder Teams die nötigen Kompetenzen erlangen und in der Praxis anwenden? 
  • Diese Lern- und Transferprozesse werden begleitet und überprüft; aber nicht als Kontrolle, sondern zusammen mit den Beteiligten, damit sie wahrscheinlicher erreichen, was sie selber wollen. 
  • Unterstützungen wie Ermutigung (encourage, z.B. Zeit zum Ausprobieren), Belohnung (reward; z.B. Anerkennung im Team) und Verstärkung (reinforcement; z.B. Peer-Support oder Mentoring) verstärken den Lerntransfer erheblich. Und werden Weiterbildungsmassnahmen zusammen abgemacht, können solche Transferangebote von Anfang an in den Prozess miteinbezogen werden (siehe «Toolkit for Learning Transfer»). 

Und wie misst man nun? 

Normalerweise mit einem Fragebogen, mit dem man nach verschiedenen Zeiten – 3, 6, 9, und/oder 12 Monate – erhebt, wie die Kursabgänger:innen in der Selbstbeurteilung und im Urteil ihres Umfeldes, welche Teile des Gelernten umsetzen und wo sie scheitern. Das ist sehr aufwändig (siehe Fussnote (1B)). Weniger aufwändig sind Fokusgruppen oder Interviews, also die Erhebung qualitativer Daten, mit welchen man zwar nicht misst, aber ein gutes Gefühl und ein Bild davon bekommt, was funktioniert und was nicht. Fragebögen und Ratings gibt es sowieso eher zu viele.

Fazit: Ein Bewusstsein für Lernmethoden zu entwickeln, ist für Kampagnenarbeit von grosser Relevanz. Zumal ja Kampagnen gesellschaftliche Lerninterventionen sind, denn jeder (gewünschten) Änderung unterliegt ein Lernprozess. Doch auch bei Kampagnen erfolgt die Messung von ihren Wirkungen oft nur bis Stufe 2, indem man z.B. unmittelbar nach einer Aktivität oder Publikation die Medienresonanz auswertet oder Rückmeldungen einholt. Das ist gut, genügt aber nicht. Für den eigentlichen Transfer und die Wirkungsmessung sind oft die Ressourcen nicht eingeplant.


PS: Im Zuge der Digitalisierung findet betriebliche Weiterbildung zunehmend online statt, wofür sogenannte Learning Management Systems (LMS) eingesetzt werden. Dies birgt zwei Gefahren: 

  • Dass man sich nun durch viele, viele Lerninhalte klickt. In der Meinung, das sei effizient, gibt man so der Quantität gegenüber der Qualität Vorrang. Aber «zeitsparend-effizient» lernen geht nicht. Lernen verkommt zum Surfen; doch haften bleibt nur, was man anwendet.
  • Auf Stufe 3 verstärkt sich online die Problematik des mangelnden Transfers, namentlich beim interpersonalen Lernen wie Teambildung, Feedbackgeben, Projektleitung oder Leadership. Solche Lerninhalte brauchen Hybrid-Angebote, on- und offline. Denn Knowhow und Kompetenz können nicht theoretisch erworben werden.

Und die Chancen sind: LMS haben unschlagbare Vorteile, wie etwa die Individualisierung von Inhalten und Lerntempi, videobasierte Tutorials oder die einfache Erfassung des Lernerfolgs auf Kirkpatrick Stufe 1 und 2.  Und wird Lernen als Lernreise (learning journey) konzipiert und der Praxistransfer im LMS eingefädelt, kann der Trend zum selbstorganisierten Lernen genutzt werden.

(1) z.B.: A) «Der Mythos Wirkungskette in der Weiterbildung – empirische Prüfung der Wirkungsannahmen im Four Levels Evaluation Model von Donald Kirkpatrick»;  Zeitschrift für Berufs- und Wirtschaftspädagogik (2011) B) «Wie Weiterbildung messbar wird», Gesellschaft für angewandte Berufsbildungsforschung (2018)


Weitere Beiträge

Titelseite VM Magazin 1/23
Auf dem Weg zur nachhaltigen NPO

Dr. Michael Zurkinden hat sich für das VM Magazin 1/23 des Verbandsmanagement Institut (VMI) mit dem Thema Nachhaltigkeit und dessen Relevanz für NPO auseinandergesetzt. Welche Chancen diese Thematik für NPO bereit hält und bei welchen Aufgaben die Führungskräfte in der Verantwortung sind, lesen Sie in unserem Blogbeitrag.

Job
Team Hände
Mitarbeiter:in Verbandsadministration (60-80 %)

Die B’VM erbringt Beratungs- und Service-Leistungen für Verbände und andere Nonprofit-Organisationen (NPO). Zur Unterstützung unseres Teams am Standort Bern suchen wir per sofort oder nach Vereinbarung eine:n Mitarbeiter:in Verbandsadministration 60-80 %.

B’VMessage Nr. 80 – Jubiläumsausgabe

Lesen Sie die aktuelle B'VMessage mit Fachartikel unserer Beratenden jetzt. Finden Sie heraus, welche Aktivitäten die B'VM umsetzt und/oder plant und holen sich Informationen zu Events und zu B'VM Mitarbeitenden. Viel Spass bei der Lektüre!

«Die Qualität des Prozesses und die Partizipation der Beteiligten bleibt ein strategisches Erfolgskriterium.»

40 Jahre arbeiten in und leben für die NPO-Welt – Charles Giroud hat 1983 als erster Geschäftsführer der B’VM und heutiger Verwaltungsratspräsident massgeblich dazu beigetragen, die Beratungsfirma zu dem zu machen, was sie heute ist: die erste Adresse für NPOs im deutschen Sprachraum, wenn es um Expertise in Management, Service und Bildung geht. Lesen Sie Rück- und Ausblicke im Interview.

Reto Blum
Eine Einführung in die Verhaltensökonomie

«Keine Minute ist besser investiert als die Minute, die wir unserer Entscheidungskompetenz widmen. Denn unser Erfolg, egal ob geschäftlich oder privat, ist nichts Anderes als die Summe aller guten Entscheidungen, abzüglich aller Schlechten!» Dieses Zitat stammt vom Entscheidungsarchitekt Reto Blum. Er wird uns am B’VM-Fachgespräch vom 24. August 2023 in Bern mit seinem Fachinput und anschliessendem Workshop in die Mechanismen unserer Entscheidungsfindung entführen.

Job
Team Hände
Mitarbeiter:in Verbandsadministration (80 %)

Die B’VM erbringt Beratungs- und Service-Leistungen für Verbände und andere Nonprofit-Organisationen (NPO). Zur Unterstützung unseres Teams am Standort Bern suchen wir per sofort oder nach Vereinbarung eine:n Mitarbeiter:in Verbandsadministration 80 %.

Rubiks Cube
Vereinsmanagement als Dienstleistung – eine gute Alternative zum eigenen Hauptamt ?

Der Beitrag von Stephan Mellinghoff, erschienen im Verbändereport 02 / Mai 2023, gibt eine Übersicht über mögliche Vor- und Nachteile, Gestaltungsmöglichkeiten und Herausforderungen, die mit dem Outsourcing von Vereinsmanagement typischerweise verbunden sind.

Neue Gesichter bei der B’VM

Wir haben das Vergnügen, neue Mitarbeitende bei der B'VM zu begrüssen. Wer sie sind und was sie tun - hier stellen wir Ihnen unsere Kolleginnen und Kollegen gerne vor.

Strassenschild mit Beschriftung "Turning Point"
„Der VSS hat ein tragfähiges System für die Herausforderungen der Zukunft erarbeitet“

Unser Berater Lars Funk nimmt im Interview mit dem Verband für Strassensicherheit (VSS) Stellung zum Struktur- und Governanceprozess. Er gibt Auskunft, wie er den Verband beriet, wie er die Herausforderungen anging und wie auch interne Widerstände überwunden wurden.

Agilität – etwas für Ihre Organisation?

Digitalisierung, Fachkräftemangel, Mitarbeitende, welche ihr Potential nicht einbringen können, Kosten- und Innovationsdruck oder lange Entscheidungswege sind nur einige der Faktoren, mit welchen die Organisationen konfrontiert sind. Agilität kann eine Antwort sein. Sie erlaubt, das Wissen und Können aller Beteiligten besser zu nutzen.

Wir sind gerne für Sie da

Nutzen Sie das Kontaktformular, schreiben Sie uns eine E-Mail oder rufen Sie einfach kurz an.

Schweiz

Deutschland

Österreich

Kontaktformular