So ruinierst Du einen Fragebogen!

Eventuell denkst Du jetzt noch:
“Vermutlich kein Titel, den ein hilfreicher Artikel tragen sollte.”

Denn Du möchtest vermutlich eher wissen, wie ein guter Fragebogen aussieht.

Wie es der Zufall will, haben wir vor ein paar Wochen >>einen Artikel darüber geschrieben, wie ein solcher Fragebogen aussehen kann.

In diesem Artikel hatten wir allerdings ebenfalls das Thema Verzerrungseffekte angerissen und gefragt, ob ihr dazu einen eigenen Beitrag sehen wollen würdet.

Denn diese Phänomene bieten tatsächlich genügend Material und hätten an der Stelle einfach zu weit geführt.

Nachdem wir von Euch die entsprechende Resonanz bekommen haben, kommt hier nun also der zweite Teil, bei dem sich alles darum dreht, wie man gute Fragen aus Versehen ruinieren kann:

Das Hauptproblem: Voreingenommenheit

Ergebnisverfälschungen passieren bei Umfragen und empirischen Erhebungen sehr häufig.

Die Ursache lässt sich in den allermeisten Fällen auf einen gemeinsamen Nenner zurückführen: Den Menschen!

Um genauer zu sein, auf die Voreingenommenheit des Menschen. Denn wir sind oftmals nicht so gut in Sachen Objektivität, wie wir annehmen.

Das gilt im Übrigen auch für die Befragten. Auch sie sind zu einem gewissen Grad von ihrer Voreingenommenheit belastet und können durch ihr Antwortverhalten die Ergebnisse verfälschen.

Kleine Fehler schleichen sich schnell ein und sind in den meisten Situationen sogar vollkommen unbeabsichtigt. Sie resultieren einfach aus der Tatsache, dass uns totale Objektivität schwer fällt.

Denn schließlich führen wir Befragungen meistens zu Themen durch, über die wir eine Menge wissen oder die uns persönlich angehen. Beide Faktoren können dazu führen, dass wir die Fragen unbewusst suggestiv stellen.

Wir haben Hypothesen, Antworten, die uns wahrscheinlich erscheinen oder Antworten, die wir uns wünschen würden. Von all diesen müssen wir uns so weit wie möglich lösen und die Fragen neutral und wertungsfrei formulieren.

Diese 5 Fehler bei der Frageformulierung oder dem Design führen dabei besonders häufig zu Messfehlern:

Die Tendenz zum “Ja-Sagen”

Wenn unsere Feedback-Ergebnisse insgesamt sehr einstimmig positiv ausfallen, können wir uns erst einmal freuen.

Im nächsten Schritt sollten wir uns aber auch fragen, ob bei unserem Fragebogen-Design eventuell die Nuancen gefehlt haben.

Die Zustimmungstendenz kann von einigen Faktoren ausgelöst werden.

Einerseits ist es der urmenschliche Drang nach Konformität. Wir sind gerne höflich und geben freundliches Feedback – vor allem, wenn uns im Grunde nicht viel gestört hat oder wir etwa mit der Lehrperson sehr vertraut sind.

Trotzdem hätten wir vielleicht einige, kleinere Verbesserungsvorschläge gehabt, die durch mangelnde Nuancierung verloren gehen.

Ermutige die Teilnehmenden immer zu Ehrlichkeit und konstruktiver Kritik und beeinflusse durch die Fragestellung ihre Meinung nicht in eine bestimmte Richtung.

Deshalb ist es auch grundsätzlich immer wichtig, dass wir Antworten auf einer breiteren Skala als nur Ja/Nein erheben. Auch einige offene Fragen können das Bild abrunden.

Die Tendenz zur Mitte

Da wir gerade von Skalen sprechen: Eine der häufigsten Antwortverzerrungen entsteht durch die Tendenz zur Mitte.

Wenn Du also neben den zwei Extrema noch eine mittlere Option hinzufügst, werden sich wahrscheinlich viele Befragte aus Prinzip hier einpendeln.

Denn tatsächlich “fürchten” sich viele Menschen vor den Antwortoptionen an beiden Enden. Um diesen Effekt abzuschwächen, sollten wir dafür sorgen, dass es bei einer Skala keine Mitte gibt.

Die Anzahl der möglichen Antworten sollte also immer gerade sein. Denn so müssen Befragte eine tatsächliche Tendenz zu einer Meinung entwickeln und können nicht prinzipiell die vermeintlich sicherste Antwort geben.

Denn diese wählen sie im Übrigen oft auch, wenn sie eigentlich gar keine wirkliche Meinung haben. Aus diesem Grund solltest Du darüber hinaus auch grundsätzlich keine Antworten erzwingen.

Erzwungene Antworten sind meistens ohnehin von einem oder sogar mehreren Verzerrungseffekten belegt und daher als Ergebnis wenig wertvoll. Sorge lieber durch ein durchdachtes Fragebogen-Design dafür, dass sich Teilnehmende natürlich zum Antworten ermutigt fühlen.

Primacy/Recency Bias

Diese Verzerrungseffekte werden vor allem durch die Reihenfolge der Antwortmöglichkeiten hervorgerufen.

Primacy Bias bedeutet, dass die ersten Optionen mit höherer Wahrscheinlichkeit gewählt werden – vor allem, wenn die Frage sehr umfangreich ist und es viele Möglichkeiten gibt. Denn dann ermüden Teilnehmende schnell und befassen sich eventuell nicht ausreichend mit allen.

Recency Bias entsteht dadurch, dass die zuletzt gelesenen Antworten am stärksten im Gedächtnis bleiben und damit einprägsamer sind.

Beide Effekte lassen sich teilweise dadurch einschränken, dass die Antwort-Reihenfolge automatisch variiert wird. Über moderne Online-Tools ist das normalerweise problemlos möglich, denn es handelt sich hier um ein sehr bekanntes Phänomen.

Diese Rotation kann ausgleichend wirken. Gleichzeitig sollten wir aber auch das eigentliche Auftreten dieser Verzerrungen dadurch minimieren, dass wir Antwort-Optionen in vernünftigen Grenzen halten.

Füge lieber noch eine offene Option hinzu, bei der Befragte eine eigene Antwort geben können. Über das “Sonstige: ____” Feld deckst Du tatsächlich häufig Antworten auf, die Du nicht bedacht hattest.

Wenn dieses Feld bei einer Frage besonders häufig ausgefüllt wird, solltest Du sehr genau hinschauen. Denn hier haben Deine Befragten offenbar Redebedarf oder Bedürfnisse, die noch nicht ausreichend berücksichtigt werden!

Soziale Erwünschtheit

Dieser Verzerrungseffekt ist vor allem für Dich relevant, wenn Du mit sensibleren oder persönlichen Themen umgehst.

Wir haben bereits die Tendenz des Menschen zur Konformität erwähnt. Soziale Erwünschtheit geht noch einen Schritt weiter.

Hier geht es nicht mehr nur um Höflichkeit, sondern auch um die eigene Selbstdarstellung. Das führt dazu, dass Menschen Fragen so beantworten, wie sie es für erwartet halten – unabhängig davon, ob das ihrer eigenen Meinung oder Realität entspricht.

Schritt 1 für möglichst unverzerrte Antworten sollte natürlich ohnehin immer die Zusicherung der Anonymität sein.

Doch auch die Frageformulierung ist hierfür besonders wichtig. Versuche wirklich, keine Antwort zu suggerieren oder erwünschtes Verhalten nahezulegen.

“Faking” und/oder Unseriosität

Der Vollständigkeit halber müssen wir noch erwähnen, dass Antwortverfälschungen auch einfach durch die Befragten entstehen können.

Sie können sich als Menschen natürlich bewusst dazu entscheiden, ihre Antworten auf ein bestimmtes Ziel hin zu verändern. Vielleicht fürchten sie unterbewusst auch negative Konsequenzen, da sie nicht genügend auf die Anonymität vertrauen.

Es kann auch sein, dass sie einfach “keinen Sinn” in der Befragung sehen oder in diesem speziellen Moment keine Lust haben. Dann kreuzen sie wahllos an, um einfach fertig zu werden. Solche Ergebnisse sind für die eigentliche Auswertung selbstverständlich wertlos.

Der Tipp zum Abschluss

In den meisten Fällen, wie bei einem Feedback-Bogen, wirst Du es vermutlich nicht mit riesigen Datensätzen zu tun haben.

Deshalb kannst Du es Dir vermutlich leisten, das Antwortverhalten der Einzelnen genauer zu analysieren. So kannst Du oftmals erkennen, ob sich Verzerrungen oder Tendenzen eingeschlichen haben könnten.

Denn ähnlich wie die Tendenz zur Mitte gibt es im Übrigen auch sogenannte Härte-oder Milde-Fehler. Denn auch wenn die Mehrheit der Menschen eher zur Mitte tendiert, gibt es genauso einzelne Menschen, die zu den Extrema tendieren.

Wenn Du Dir daher individuelle Verhaltenstrukturen anschaust, kannst Du solche Muster schnell aufdecken. Du kannst auch sehen, ob das Antwortverhalten konsistent ist.

Auf dieser Basis kannst Du besser bewerten, welche Ergebnisse wirklich aussagekräftig sind und welche unter Umständen verzerrt/verfälscht worden sind. Hoffentlich hast Du aber durch ein durchdachtes Design bereits dafür gesorgt, dass die Verzerrungen auf ein Minimum reduziert wurden!

So geht ein guter Fragebogen!

Fragebögen sind ein Klassiker unter den methodischen Tools.

Und das wohl aus gutem Grund. Denn wie sollen wir sonst Antworten finden, wenn wir nichts fragen?

Vor allem beim Feedback und der Evaluation haben Fragebögen schon immer einen Platz.

Dabei lassen viele Fragebögen einige Dinge zu wünschen übrig und sind leider als Konsequenz nicht so effektiv wie sie sein könnten. Was schade ist, denn oftmals gehen interessante Antworten durch eine schlechte Fragestellung verloren.

Schließlich wusste schon Nietzsche: “Dem guten Frager ist schon halb geantwortet”.

Was es also bei einem zielführenden Fragebogen zu beachten gibt, fassen wir jetzt zusammen:

Schritt 1: Konzept und Umfang

Bevor es an die eigentlichen Fragen geht, müssen wir eine klare Zielsetzung formulieren.

Was wollen wir genau erfahren? Welchem Zweck dient unser Fragebogen?

Bereits bei diesem Schritt sollten wir darauf achten, so neutral wie möglich zu formulieren. Also ohne Wertung oder zu viel Voreingenommenheit im Bezug auf die Ergebnisse.

Wir sagen zum Beispiel einmal, dass wir einen Fragebogen erstellen wollen, der die Erwartungen und den Wissensstand vor einer Führungskräfte-Schulung abfragt.

Ein solcher Fragebogen könnte etwa auf diese zwei konkret formulierten Ziele heruntergebrochen werden:

  1. Den Kenntnis- und Erfahrungsstand zum Thema “Führung im Team” erfahren
  2. Erwartungen und Motivation der Teilnehmenden aufdecken

Aufbauend auf diesen Zielen werden letztendlich die Fragen gestellt. In diesem Schritt kannst Du auch zunächst allgemeinere Fragen notieren, die Du später als Ausgangspunkt nutzen kannst.

Bei unserem obigen Beispiel könnten das etwa verschiedene Wissensfragen zu Führungsrollen oder die Frage nach noch zu erlernenden Fähigkeiten sein, die sich Teilnehmende erhoffen.

Deine formulierten Ziele können übrigens auch noch andere Zwecke erfüllen. So können sie sich zum Beispiel als Richtlinie für spätere Methoden oder Maßnahmen eignen – die Ergebnisse natürlich ebenfalls!

Thema Umfang?

Es gibt eine einfache Grundregel, die sich auch auf Fragebögen anwenden lässt:

So umfangreich wie nötig, so kurz wie möglich!

Denn auch bei einem Fragebogen arbeitet die innere Aufmerksamkeits-Uhr gegen uns. Je länger Befragungen dauern, desto ungenauer werden die Antworten.

Aus diesem Grund gibt es auch zwei weitere Regeln für den Aufbau:

  1. Leite mit ein paar einfachen und/oder allgemeinen Fragen ein, um die Motivation aufzubauen
  2. Stelle dann die Fragen, auf die Du am meisten Antworten benötigst, so früh wie möglich

Die ersten Fragen dienen auch hauptsächlich dazu, in das Thema einzuleiten und ein paar kleine “Erfolgserlebnisse” zu schaffen. Dann solltest Du eben direkt die wichtigsten Fragen stellen, denn hier ist die Motivation an ihrem Höhepunkt.

Andere, weniger wichtige Fragen, die später aufkommen, haben eine höhere Wahrscheinlichkeit durch verschiedene Verzerrungseffekte beeinflusst zu werden.

Halte außerdem den Aufwand bei der Bearbeitung immer so gering wie möglich. Stelle nur Fragen, die auch relevant sind. Ob sie das sind, kannst Du über diese Leitfragen herausfinden:

  • Können alle Teilnehmer:innen die Frage beantworten? Oder ist sie nur für eine Teilgruppe relevant?
  • Können die Teilnehmer:innen sich gut an das Erfragte erinnern? Beziehen sich die Fragen auf realistische Zeiträume?
  • Sind die Fragen einfach genug gestellt oder bilden sie eventuell zusätzliche Hürden bei der Beantwortung?

3 Tipps für gute Fragen!

Gut gefragt ist also halb gewonnen.

Dabei ist “schlecht” zu fragen leider wesentlich einfacher. Und hat auch noch Konsequenzen.

So können zu komplexe oder aufwändige Fragen schnell demotivieren und die Antworten werden ungenau, unvollständig oder einfach nicht hilfreich.

Diese drei Tipps helfen dabei, Fragen teilnehmerfreundlich zu stellen und gutes Feedback zu erhalten:

Wortwahl und Stil

Wir haben bereits angerissen, dass einfache Sprache für einen Fragebogen immer am besten ist.

Orientiere Dich immer an Deiner Zielgruppe. Fremdwörter oder technische Fachbegriffe können für eine Zielgruppe angemessen, für die andere aber nur verwirrend sein und die Ergebnisse damit erheblich verfälschen.

Wenn Du, etwa bei einer Erwartungsabfrage vor der Veranstaltung, wenig über die Zielgruppe weißt, formuliere die Fragen immer so einfach wie möglich. Ähnliches gilt für heterogene Gruppen.

Struktur

Lege den Teilnehmenden keine unnötigen Steine in den Weg.

Formuliere keine in sich geschachtelten Fragen. Diese führen oftmals lediglich dazu, dass die Befragten nur Teilantworten geben oder die Frage im schlimmsten Fall überspringen.

Teile komplexere Fragen lieber auf mehrere Einzelfragen auf. So kannst Du gezielter fragen und Teilnehmende werden weniger überfordert.

So wenig wie möglich verfälschen!

Diese Aufgabe ist bei der Frageformulierung wohl am schwierigsten zu bewältigen.

Wir haben das Stichwort Verzerrungseffekt schon einmal kurz genannt – tatsächlich gibt es eine ganze Menge dieser unbeabsichtigten Verfälschungen, die durch die Formulierung oder die Struktur hervorgerufen werden.

Wir können hier nicht auf alle diese Phänomene eingehen, aber wenn Du in Zukunft dazu einen eigenen Artikel möchtest, sage uns gerne Bescheid!

Versuche die Fragen immer ohne Wertung zu stellen, oder ohne eine eigene Meinung oder Erwartung durchscheinen zu lassen. Komplett neutral zu formulieren ist nicht immer einfach, aber für hilfreiche Ergebnisse unverzichtbar.

Versuche in der Formulierung nichts zu suggerieren oder eine erwünschte Antwort nahezulegen. Vollständige Objektivität gibt es bei solchen Fragebögen und der Arbeit mit Menschen ohnehin nicht, aber versuche so nah wie möglich heranzukommen.

Also nicht:

“Ich bin mir sicher, Sie haben in meinem Seminar sehr viel gelernt. Wie würden Sie Ihren Lernerfolg einschätzen?”

Eine solche Formulierung ist beinahe schon ein wenig manipulativ, wenn wir ehrlich sind. Die besseren Alternativen könnten beispielsweise auf einer Skala Vorher und Nachher bewerten lassen, oder nach ganz konkreten Lernerlebnissen oder Kompetenzbereichen fragen.

Denn wenn wir nach ganz konkreten Dingen fragen, erinnern sich Lernende besser und können auch zielführendere Antworten geben!

Du brauchst eine Übersicht und ein paar Tipps zu verschiedenen Fragetypen?

In >>unserem Artikel zum Thema Quizzes findest Du hierzu einige hilfreiche Tipps!

So erstellst Du ein gutes Quiz

Falls das Wort Quiz bei Dir direkt die Assoziation „Prüfung“ hervorruft – keine Sorge!

Ein Quiz legt viel größeren Wert auf eine spielerische Wissensabfrage, die vor allem auch zur Selbsteinschätzung und Wiederholung dient.

Daher kannst Du Quizze auch in jedem Format einsetzen, selbst wenn Dein Seminar überhaupt keine Unterscheidung zwischen bestanden/nicht bestanden umfasst.

Denn das ist der feine Unterschied zwischen einem Quiz und einer Prüfung. Eine Prüfung kann nicht bestanden werden und hat dadurch eine ganz andere Wirkung.

Falls Dein Seminar mit einer verbindlichen Prüfung abschließt, kannst Du mit Hilfe regelmäßiger Quizze sogar die Angst vor der finalen Prüfung abbauen!

Durch die periodische Wissensüberprüfung festigt sich gleichzeitig auch noch das neue Wissen, da ein gutes Quiz immer auch auf Anwendungswissen abzielt. Dazu gleich etwas mehr.

Ein Quiz kann ebenfalls effektiv als Gamification-Einheit eingebunden werden und bei Bedarf auch in Teams gespielt werden.

Die Basics: Fragetypen

Falls Du Dich bereits mal mit Quizzen oder Umfragen beschäftigt hast, kennst Du sicherlich die verschiedenen Fragetypen. Wir zeigen hier kurz die 4 wichtigsten und klären, wie Du die einzelnen Fragetypen am besten einsetzt:

1. Freitext-Fragen

Diese Frageform ist für offene Fragen geeignet. Hier können die Teilnehmer*innen ihre Antworten selbst formulieren und auch mehr ins Detail gehen. Freitext-Fragen bieten sich also vor allem auch für Transferfragen an, da sie frei gestellt sind.

Mit diesem Fragetyp können auch die Lernenden am besten ihren eigenen Wissensstand überprüfen, da sie hier wirklich übertragen müssen.

Freie Fragen eignen sich auch besonders für Umfragen oder eine Feedback-Abfrage.

Für die Lernbegleiter*innen hat diese Frageform allerdings den Nachteil, dass solche Antworten einen größeren Aufwand bei der Auswertung erfordern – vor allem in großen Gruppen!

2. Multiple-Choice Fragen

Der Klassiker unter den Fragetypen. Hier werden Antwortmöglichkeiten vorgegeben und es kann eine oder mehrere richtige Optionen geben.

Dieser Fragetyp ist wesentlich geschlossener und gibt Lernenden auch die Möglichkeit, eher zu „raten“ als wirklich etwas zu wissen.

Multiple-Choice-Fragen sind in der Datenauswertung wesentlich einfacher und eignen sich gut auch für eine prozentuale Darstellung etc.

3. Skalen-Fragen

Dieser Fragetyp fragt Tendenzen ab. Dabei ist zu bedenken, dass der Mensch eine natürliche Tendenz zur Mitte hat. Du musst also gut überlegen, ob Du einen Mittelpunkt anbietest, oder lieber eine gerade Anzahl an Skalenpunkten anbietest – je nachdem ob für Deine Auswertung eine deutliche Tendenz wichtig ist.

4. Zuordnungs-Fragen

Dieser Fragetyp erfordert die Zuordnung von zusammengehörigen Aussagen oder Kategorien. Das lässt sich in Online-Quizzen besonders intuitiv umsetzen mit Hilfe von Drag&Drop Funktionen. Wenn Du diese Fragen anspruchsvoller gestalten möchtest, kannst Du auch überschüssige Antworten einbauen.

Fragen 1-3 erstellt mit Google Forms, Zuordnungsfrage über blink.it

Das macht ein gutes Quiz aus

Jetzt wo die Basics geklärt sind: Wie ordne ich diese Fragen in ein effektives Quiz ein?

  • Der richtige Schwierigkeitsgrad

Stelle durchaus anspruchsvolle Fragen, die aber trotzdem mit Hilfe des bis jetzt behandelten Wissens gut beantwortbar sind. Also am besten ein gesundes Mittelmaß, um Deine Lernenden nicht zu unterfordern, aber auch nicht zu demotivieren.

  • Ausblick geben

Mit den richtigen Fragestellungen kannst Du Deinen Teilnehmer*innen auch einen Ausblick auf die spannenden Anwendungsgebiete geben, die Dein Thema bietet.

Durch Transferfragen müssen sie außerdem wirklich ihre eigenen Überlegungen in die Beantwortung einbeziehen und ihr Wissen anwenden.

  • Variation

Seitenweise Multiple-Choice-Fragen sind eher stumpf und fördern nicht unbedingt eine aktive Auseinandersetzung mit der Thematik.

Also mache auf jeden Fall Gebrauch von verschiedenen Fragetypen und schaue auch welche Möglichkeiten Dein Quiz-Tool vielleicht noch bietet.

  • Auf das Wesentliche konzentrieren

Sorge dafür, dass Du Dich pro Frage auf einen begrenzten inhaltlichen Bereich beziehst. Teile gegebenenfalls komplexere Bereiche lieber auf mehrere Fragen auf. Durch abgeschlossene Teilbereiche können sich Deine Lernenden besser konzentrieren und die Informationen auch abspeichern.

  • Nicht im Dunkeln lassen

Wenn es auf Deine Fragen richtige oder falsche Antworten gibt, solltest Du auf jeden Fall immer die korrekte Antwort direkt auflösen. Ansonsten verfestigt sich schließlich nur das falsch abgespeicherte Wissen.

Quizze als Gruppenarbeit

1.

Zamyat Klein beschreibt beispielsweise eine Quiz-Methode, die Fragen unterschiedlicher Schwierigkeit zu verschiedenen Oberthemen abfragen kann. Sie empfiehlt die Umsetzung über geteilte PowerPoint-Folien, aber Du kannst diese Methode auch über ein Tool wie das Jamboard umsetzen:

Wie die Methode im Detail funktioniert, kannst Du hier in ihrem Artikel lesen.

2.

Ein weiteres Gruppenquiz umfasst gleich zwei Stufen, in denen sich die Teilnehmer*innen mit den Inhalten auseinandersetzen müssen:

Du bildest Kleingruppen und lässt die Gruppen in Breakout Rooms zu vorgegebenen Kategorien Fragen für die anderen formulieren – eine pro Gruppenmitglied.  Auch für diese Methode lassen sich Whiteboards wie das Jamboard sehr gut verwenden.

Du erstellst eine Punktetabelle und dann geht es los: Aus der ersten Gruppe stellt ein Mitglied eine Frage und die anderen Gruppen haben maximal eine Minute Zeit um eine Antwort zu geben.

Das erste Gruppenmitglied, das „buzzert“ (über Online-Plattformen wie Zoom kannst Du statt einem „Hier“-Ruf oder einem vorher gewählten Gruppennamen auch etwa die Hand-Heben Funktion nutzen), darf eine Antwort für seine Gruppe geben.

Befindet die fragegebende Gruppe die Antwort für richtig, bekommt die entsprechende Gruppe einen Punkt. Ist sie falsch, wird die Frage an die anderen Gruppen weitergegeben. Pro Runde darf natürlich nur ein*e Vertreter*in aus jeder Gruppe eine Antwort geben.

Let’s Quiz

Wenn Du Quizzes lieber als Wissensabfrage in Einzelarbeit verwenden möchtest, lässt sich das für jeden methodischen Zweck umsetzen.

Es gibt eine große Fülle an Online-Tools für verschiedene Quiz-Bedürfnisse. Daher wollen wir hier keine generische Empfehlung geben, aber ein paar Tools nennen, bei denen Du mit der Recherche anfangen kannst:

  • Mentimeter
  • Google Forms
  • Kahoot
  • Learning Snacks

Du kannst auch regelmäßige Umfragen als Unterform eines Quiz einsetzen, um Stimmungen und Feedback einzuholen. Umfragen befassen sich nicht unbedingt mit inhaltlichen Dingen, sondern eher mit dem Seminarablauf. So bleibst Du in Kontakt mit Deiner Lerngruppe!