490 likes | 636 Views
Dominique Portmann, Leiter Testengineering. Wie entscheiden Sie ?. NoGo. Go. Das kennen Sie sicher:. …und das ?. Und Sie leiten Projekte ?. Und, wie entscheiden Sie , was brauchen Sie zum Entscheiden ?. Was brauchen Sie zum entscheiden?. Wie ist das Testen organisiert.
E N D
Dominique Portmann, LeiterTestengineering WieentscheidenSie? NoGo Go
Und Sie leiten Projekte ? Und, wieentscheidenSie,was brauchenSiezumEntscheiden?
Die 3 Schlüssel zum Erfolg Testmanager Prozess Test-Tool(s)
Situation heute (erlebte Praxis) Tools gibt es wie Sand am Meer… Prozesse sind (meist) vorhanden, Doch die Schlüsselrolle des Testmanagers wir verkannt.Testen kann jede und jeder.Wenig definierte Rollen, Testen ist oft ein „Anhängsel“
Wo investieren Manager Ideal, da Preisschild und einmalige Investitionen, keine Belastung für Personalbudget. Tool-Hersteller versprechen Nutzen, alle haben Tools. Tools sind Sache der IT und sind geeignete „Sündenböcke“. Prozesswissen vorhanden, teilweise als „Methode“ verstanden.Geschäftsprozesse belasten nicht das Projektbudget. Hype ist ein muss: ITIL, CMMI, RUP, SCRUM, Agile, V-Modell, W-Modell. Personen kosten, nur Entwickler sind wichtig, sie setzen die versprochenen Anforderungen in Code um.Testen können am Schluss die künftigen Anwenderinnen und Anwender.
Wie wird investiert ? Tools kosten wenig und versprechen einen grossen Nutzen. Hier argumentieren die Hersteller - managementtauglich. Es wird gerne und viel investiert. Investitionen erübrigen sich, da Prozesse ja nur „gemalt“ werden müssen. Firmenweite Prozessdokumentationen übersteigen ein Projektbudget. Es wird weder aktiv investiert, noch aktiv gespart. Personalkosten sind ungern gesehene Budgetposten. Was geschieht nach dem Projekt- und damit Budget- Ende ? Personalbeschaffung übersteigt oft die Budgetkompetenz von Projektleiter. Hier wird selten investiert, aber sehr schnell gespart.
Was geht beim Sparen schief? Nicht optimal konfiguriert, nicht an Unternehmung (Prozess, Kultur) angepasst.nicht gepflegt, nicht gewartet und dafür den Projektfortschritt verpasst Viele Leichen Passen nicht auf aktuelle Abläufe, sind zu starr. Werden nicht verbessert und nicht gepflegt. Prozesse unterstützen nicht, sondern „behindern zügiges Arbeiten“. unbenutze Ordner es fehlt: - das Aktive- die Verantwortlichkeit- die Führung
Doch zurück zu Ihrem Entscheid: SiebrauchenEntscheidungskriterien:Kennzahlen, basierend auf einemProzess
Der Prozess für Manager Analysieren Vorbereiten Durchführen Auswerten Schnell eine Übersicht schaffen,wichtiges zuerst Mit Kennzahlennachweisbarbelegen „Definition ofdone“,Überprüfbarkeit,Abläufe definieren, Übersicht schaffenErfassen der Komplexität sowie des Umfangs Um wasgeht es GenügendAbdeckung, relevanteTests, Fortschritt Wertfrei,faktenbasiert,reproduzierbar,Nachweis (Haftung) Schnell sog. Blockeridentifizieren,Abdeckung sicherstellen,Testfortschritt Risiko, Kosten,Umfang Attention Frage Wagen wir es ? Kosten / Nutzen Sind wir bereit ? Ist es reif ?
Analysieren Schritt I: Kosten Nutzen • Was kann passieren im Fehlerfall • Frage der Haftung • Wie lange „lebt“ das Produkt • In welchem Umfeld wird es eingesetzt • Wie „komplex“ ist das Produkt • Was kostet das Produkt • Gibt es Gesetze, Normen, Vorschriften
Das Risiko Welche Folgen sind möglich - Menschenleben- Gesundheit- Finanzielle Auswirkungen- Reputation Komplexität- Vernetzte Systeme- neue (unbekannte) Technologie- Vairanten und Kombinationen Auffindbarkeit- wie lange bleibt ein Fehler / Fehlverhalten unerkannt
Testen vers. Experimentieren Testen unterscheidet sich von Experimentieren dadurch, dass es beim Testen eine Erwartung gibt die belegt werden soll,während das Ergebnis beim Experimentieren offen istoder nur vermutet werden kann.
Analysieren Cockpit für Schritt I • Strategie • Risikoanalyse • Testorganisation • Testinfrastruktur ErwarteteTestCases AnzahlUseCases Faktor 3 20 60
Wie bestimme ich den „Faktor“ Faktor 3
Vorbereiten Einleitung Schritt II „Tester“ und „Q-Menschen“ sind nie bereit, sie können die Testvorbereitungsowie die Testinfrastrukturproblemlos vergolden.
Wann sind wir bereit ? Fortschritt: - Wieviele Testszenarien und Testfälle fälle sind zu erwarten - Wieviele Testszenarien und Testfälle sind bereits erstellt - Wie lange dauert die Vorbereitung nochAbdeckung: - Welche UseCases sind bereits mit Tests abgedeckt, Traceability Schlüsselfragen für die Führung:einfach: - entspricht der Fortschritt dem Zeitverlauf, der Restzeitgenau: - entspricht die Reihenfolge des Erstellens dem RPI
Die Abdeckung 1/2 Anforderungen Es existieren Tests für: • Sind die weissen Flecken unkritisch • Entspricht der Fortschritt dem Risiko • Ist der gelbe Teil der kritischste ? • Ist der rosa Teil unkritisch ?
Die Abdeckung 2/2 100 % 100% des Funktionsumfang 10 % 10 % 10 % 30% erste Testiteration 10 % 10 % 15 % 10 % 45%: 15% Neu, 30% Retest 10 % 10 % 15 % 35%: 25% Neu, 10% Retest 50 % 10 % 60%: 10% Neu, 50% Retest 90 % 10 % 90% getestet, 10% ungetestet
Vorbereiten Cockpit für Schritt II
Durchführen Schritt III: „Testen“ Die Praxis zeigt immer wieder,dass „von Hand gepflegte“ Systemein kritischen Momenten nicht mehr gepflegt werden,denn Testen geht immer vor. Doch genau dann sind Kennzahlen als Entscheidungsbasis besonders wichtig!
Wann ist es reif ? Fortschritt: - Wieviele Tests / Testszenarien stehen zur Verfügung - Wieviele Tests / Testszenarien konnten getestet werden - Wieviel konnte erfolgreich getestet werden - Wieviele Testfälle sind noch zu testen - Wie lange dauern die Tests noch
Wann ist es reif ? Reifegrad: - Summe aller Fehler (pro Fehlerklasse) - Summe der offenen Fehler (pro Fehlerklasse) - Anzahl der erfolgreich getesteten UseCases
Durchführen Cockpit für Schritt III
Details zu Cockpit Werden Fehler gefunden,flacht die Kurve ab?
Details zu Cockpit Hat es noch offene Fehler?(Pro Klasse)
Beobachtungshilfe für Fehler Fehlerauswirkung, Schweregrad (Severity) -1- Low: leichter Fehler, betrifft einzelnen Testschritt, Funktion bleibt im Wesentlichen gewährleistet -2- Medium: Betriebsstörender Fehler, Systemfunktion nicht beeinträchtigt Wesentliches funktioniert, wenn auch eingeschränkt -3- High: Schwerer Fehler, Auswirkungen auf Funktion, keine Auswirkung auf andere Funktionen / Systeme -4- Urgent: Fataler Fehler, Auswirkung auf ganzes System, Testabbruch Beobachtungsgüte / Reproduzierbarkeit -A- Eindeutig festgestellter, belegbarer und reproduzierbarer Fehler -B- Nicht ohne weiteres reproduzierbar, aber wiederholt aufgetreten -C- Nicht reproduzierbar 39/
Auswerten Schritt IV: die Auswertung WieentscheidenSie,oder: Was beeinflusst den Entscheid?
Auswerten Schritt IV: die Auswertung „Gutes Testen“ unterscheidet sich von„schlechtem Testen“ dadurch, dass bei „gutem Testen“ nocheine Aussage möglich ist,wie gut das Objekt die Anforderungen erfüllt.
Auswerten Schritt IV, die Auswertung • Testdokumentation nach Normen, z.B. ANSI/IEEE 829 • Kennzahlen • Protokolle • Empfehlung (Auf Basis der Vorgaben / Erwartung)
Geeignete Darstellungen Abdeckung: offene Fehler: RISIKO 1 0 2 0 3 Max 1 low 4 Max 1 low plus 3 Medium 5 Max 3 low plus 10 Medium
Auswerten Schritt IV, die Auswertung Ehrlich: Können Siejetzt, d.h. in Schritt 4noch überrascht sein ?
Überraschungen unmöglich! Jederzeit aktuelleInformationensowie die Übersicht dank Cockpit Erwartetes Resultatgemäss Anforderung
Zusammenfassung • Welches Risiko will ich tragen -> Strategie, Tiefe, Umfang, Kosten • Ist das Testen bereit -> Wird das Richtige vorbereitet • Wie reif ist es -> Abdeckung, Anzahl Fehler • Go oder NoGo -> faktenbasiert, reproduzierbar