De resultaten en lessen van acht jaar ketentesten voor NS

7 oktober 2020

Fouten eerder opsporen door al in de development fase te testen in de keten

In 2012 schreef NS een minicompetitie uit voor een ketenteststraat. InTraffic won de opdracht en schakelde ACC ICT in als partner op het gebied van infrastructuur. Acht jaar later komt aan deze samenwerking een eind omdat ketentesten ondergebracht worden in een NS-brede cloud platform aanbesteding. NS, InTraffic en ACC kijken terug op een succesvolle samenwerking. “We kunnen door de ketenteststraten al in de development fase testen op een infrastructuur die hetzelfde reageert als onze productieomgeving, zodat we fouten veel eerder vinden en kunnen oplossen. Dit heeft onze ontwikkelcyclus verkort, de time-to-market verbeterd en de kosten verlaagd”, zegt Onno Wierbos, non-functional test lead in het NS Test Competence Center.

In 2012 kende de NS een versnipperde IT-organisatie, een versnipperd applicatielandschap, en ook een versnipperd datacenterlandschap. Er waren wel twintig datacenterlocaties en sommige applicaties draaiden bij een leverancier. Daardoor was het vrijwel onmogelijk om ketens van applicaties te testen, terwijl het aantal interfaces tussen applicaties alleen maar toenam. NS had daarom behoefte aan gevirtualiseerde testomgevingen waarin ze geautomatiseerde ketentesten konden uitvoeren. In eerste instantie ging het primair om de reisinformatie via NS.nl, de NS Reisplanner-app en OBIS, het On Board Information System in treinen waarop reizigers kunnen zien of een trein volgens planning rijdt, en zo niet, hoe groot de vertraging is.

Voor dit project schreef NS een minicompetitie uit, die werd gewonnen door InTraffic in nauwe samenwerking met ACC ICT. Waar InTraffic de softwarematige kant voor zijn rekening nam, waaronder de testautomatisering, was ACC ICT verantwoordelijk voor de infrastructuur en hosting. NS noemde de nieuwe ketenteststraat KWARTS, wat staat voor Ketens Waarborgen als Reguliere Test Service.

“KWARTS heeft NS de mogelijkheid gegeven om al tijdens de development fase te testen op een omgeving die een uitstekende representatie is van de productieomgeving. Dit zorgt voor veel flexibiliteit en snelheid in het OTAP-proces.”

Onno Wierbos NS Onno Wierbos, non-functional test lead in het NS Test Competence Center

Kennis van organisatie en applicaties

KWARTS is een pre-acceptatie omgeving waar je ad hoc het effect op de keten kunt testen. Wierbos: “Als je voorheen een acceptatieomgeving wilde reserveren dan duurde het lang voordat je een tijdslot kreeg toegewezen en het was bovendien duur. Die beperkingen zijn met KWARTS weggenomen. Iedere ontwikkelaar kan op ieder moment een ketentest doen en de gewenste situatie simuleren, van latency tot performance.”

De omgeving is destijds gebouwd en is acht jaar lang nagenoeg 100% (99,9995%) beschikbaar geweest. Een prestatie van formaat, erkent Wierbos. “Het functioneerde altijd goed omdat InTraffic onze organisatie goed kent. Ze kennen de applicaties waar we mee werken, de interfacing tussen deze applicaties en de eisen aan de hardware die de applicaties stellen. Ze begrijpen ook hoe onze businessprocessen in elkaar steken en welke rol de applicaties spelen. Daardoor weten ze heel goed wat wij nodig hebben om ketentesten goed uit te voeren.”

Twee expertisegebieden die functioneren als één geheel

De samenwerking met ACC ICT verliep daarbij al die jaren naadloos. “NS had een contract met InTraffic, niet met ACC ICT, maar wij hebben ook altijd rechtstreeks met ACC ICT gecommuniceerd. We opereerden als drie-eenheid”, stelt Wierbos. Wat hij bijzonder vindt, was dat problemen altijd eerst werden opgelost voordat InTraffic en ACC ICT onderzochten wie er verantwoordelijk was. “Voor NS is dat heel fijn, want we kochten twee verschillende expertisegebieden in, maar het functioneerde als één geheel.” Wat een belangrijke bijdrage leverde aan het succes, was de stabiele bezetting van het team, zowel aan de kant van InTraffic als bij ACC ICT. Wierbos: “Er vond niet ieder jaar een stoelendans plaats. En als er eens een wisseling in het team was, dan bleef de dienstverlening gewoon op peil omdat er genoeg ervaren mensen aan het project werkten.”

Flexibiliteit en snelheid in OTAP-proces

KWARTS heeft NS de mogelijkheid gegeven om al tijdens de development fase te testen op een omgeving die een uitstekende representatie is van de productieomgeving. Dit zorgt voor veel flexibiliteit en snelheid in het OTAP-proces. “We kunnen fouten eerder opsporen en herstellen, waardoor we de ontwikkelcyclus kunnen versnellen en kosten verlagen, binnen het LTSO-domein hebben we de cyclus van één à twee weken naar twee uur kunnen terugbrengen”, zegt Wierbos. Een andere as waarover NS kosten bespaart, is de snelheid van schakelen in ontwerp en realisatie van de doorontwikkeling van de omgeving. “In de loop der jaren is de omgeving behoorlijk gegroeid, hij is groter en breder geworden. Doordat InTraffic en ACC ICT zo goed wisten wat er nodig was, heeft NS dit steeds zeer kostenefficiënt kunnen realiseren”, meent Wierbos.

"De manier waarop InTraffic en ACC ICT acht jaar lang in de wedstrijd hebben gezeten, is voor mij een voorbeeld hoe je de samenwerking tussen klant en leverancier zou moeten inrichten. Het laat zien dat het contract ondergeschikt is aan de mindset waarmee leveranciers werken.”

Onno Wierbos NS Onno Wierbos, non-functional test lead in het NS Test Competence Center

Klantbelang staat altijd voorop

Sinds 2012 is er veel veranderd bij NS. De ICT is gecentraliseerd, wat in 2015 leidde tot een grote aanbesteding van datacenterfaciliteiten. Daarmee komt ook de samenwerking voor het project ketentesten met InTraffic en ACC ICT ten einde. De volledige NS-omgeving moest worden ondergebracht in de NS Private Cloud, waarvoor InTraffic en ACC ICT de migratie verzorgden. Ondanks het feit dat daardoor een mooi project afloopt voor InTraffic en ACC ICT, werkten ze beide goed mee aan de migratie. Het is tekenend voor de professionele manier van werken, vindt Wierbos. Ook de laatste fase is er nog constructief meegedacht en een pragmatische oplossing gevonden bij een compliance uitdaging van de NS. “InTraffic en ACC ICT stellen altijd het belang van de klant voorop, ook als daar weinig eigenbelang aan zit.” Sterker, het contract is in al die jaren nooit uit de la gehaald, zegt Arjen Bakker, operationeel directeur bij InTraffic. “En dat is maar goed ook, want in onze opinie zijn we te laat als het contract erbij moet worden gehaald.”

Succesvolle samenwerking

Hoewel ACC ICT in de praktijk min of meer fungeerde als de afdeling Hosting & Connectiviteit van de het NS Test Competence Center, was dit bedrijf formeel ‘slechts’ onderaannemer. “Maar zo hebben wij nooit in de wedstrijd gezeten en NS en InTraffic ook niet”, zegt Paul Bijleveld, directeur van ACC ICT. “In de operatie hebben wij rechtstreeks contact met NS. Bij uitbreidingen of in geval van escalaties wordt altijd alles open besproken met z’n drieën. We stellen daarbij altijd de klantbehoefte centraal. Ik denk dat dit dé belangrijkste succesfactor is.” Wierbos besluit: “Wat mij vooral bijblijft is de manier waarop we samenwerken. De manier waarop InTraffic en ACC ICT acht jaar lang in de wedstrijd hebben gezeten, is voor mij een voorbeeld hoe je de samenwerking tussen klant en leverancier zou moeten inrichten. Het laat zien dat het contract ondergeschikt is aan de mindset waarmee leveranciers werken.”

 

Download het artikel hier