Model Checking en Betrouwbaarheid van Software Frits Vaandrager Institute for Computing and Information Sciences Radboud Universiteit Nijmegen

1964 Socialistisch Kamerlid stelt Minister van Economische Zaken voor één computer aan te schaffen voor heel Nederland en het apparaat een voor iedereen toegankelijke plaats te geven op het Binnenhof.

2008 Iedereen heeft toch al een PC, Internet, een mobieltje, een Xbox en een TomTom. De Informatica is toch al af?

Informatica staat pas aan het begin! Wetenschappers van het MIT hebben in 2008 hun selectie van 10 meest belangrijke opkomende technologieën gepresenteerd: 7 hiervan zijn ICT gerelateerd.

Bionische Ogen?

Klimaatverandering “ICT is a key sector in the fight against climate change” SMART 2020 Report. The Climate Group, McKinsey & Co, June 2008.

Gedachten lezen?! Brein-computer interfaces voor patiënten, piloten, games, ...

Robots Tegen Dementie?

Zijn er nog wel echte wetenschappelijke uitdagingen? Informatica dat is toch vooral technologie. Zijn er nog wel echte wetenschappelijke uitdagingen?

“In their capacity as intellectual challenge, [computers] are without precedent in the cultural history of mankind.” Edsger Dijkstra

Hoe maken we software parallel? Jouw nieuwe PC: de Multicore Processor Alles op dezelfde chip Sun T2000 Niagara cache cache cache Bus Bus shared memory The revolution we are going through is that the desktop is now becoming a multiprocessor also. We call this type of processor a system-on-a-chip or a multicore machine or a chip multiprocessor (CMP). The chip you see here is the Sun T2000 Niagara CMP that has 8 cores and shared cache and memory. We will learn about the Niagara in more detail later. It is the machine you will be using for your homework assignments. 11 11

Hoe beveiligen we informatie op computers?

Mifare pasjes gekraakt

Hoe maken we computers intelligent? Vierkleurenstelling gecheckt met een computer Werner en Gonthier, 2004

Kan een computer zichzelf repareren?

Informatici zitten toch de hele dag naar een schermpje te turen. Wat is daar nou leuk aan?

Als Informaticus Maak Je Wat Samen met Anderen

Voorbeeld: Permasense Project

Beauty is our Business Edsger Dijkstra

Informatica is voor creatievelingen

Hoe Maak Je Computers Betrouwbaar? Onze samenleving is totaal afhankelijk van computers Is ons vertrouwen in computers gegrond? Kunnen we betrouwbare systemen bouwen?

Sint Servaasbrug Maastricht “Uptime”: ruim 700 jaar

Ariane 5 Raket “Uptime”: 40 sec

Aandeel ICT in productiekosten auto’s 2000: 26% 2010: 48%

Software is absoluut het meest complexe artefact dat de mens routinematig bouwt… Tussen 1069 en 1081 atomen in het universum 10 MB geheugen > 1020.000.000 toestanden Software is niet continu: wijziging van 1 bit in een programma kan leiden tot volstrekt ander gedrag!

Geen verrassing dus dat het vrijwel nooit foutloos werkt! 2004: Mars Rover bevriest 2005: Computer “kaapt” vliegtuig 2007: Computer crashes bij ProRail 2009: Volvo roept 26.000 auto’s terug

In het Nieuws het Afgelopen Jaar OV kaart gekraakt C2000 Problemen Roertunnel A73 730.000 belastingaangiften zoek Storing internetbankieren Rabobank

Onderzoek Radboud Universiteit Het bouwen van modellen Beschrijf relevante aspecten van systeem formeel (in wiskundige taal) Model checking Gebruik computer om alle toestanden van model te doorzoeken Doel Fouten (“bugs”) opsporen

Voorbeeld: Überlingen, 1 Juli 2002 Boeing & Tupolew kruisen 21:33:03 Alarm door het Collision Avoidance System (TCAS) B757-200 TU154M !

Voorbeeld: Überlingen, 1 Juli 2002 Boeing & Tupolew kruisen 21:33:03 Alarm door het Collision Avoidance System (TCAS) 21:34:49 Opdracht verkeersleider B757-200 TU154M !

Voorbeeld: Überlingen, 1 Juli 2002 Boeing & Tupolew kruisen 21:33:03 Alarm door het Collision Avoidance System (TCAS) 21:34:49 Opdracht verkeersleider 21:34:56 TCAS aanbeveling B757-200 TU154M !

Voorbeeld: Überlingen, 1 Juli 2002 Boeing & Tupolew kruisen 21:33:03 Alarm door het Collision Avoidance System (TCAS) 21:34:49 Opdracht verkeersleider 21:34:56 TCAS aanbeveling 21:35:32 Botsing B757-200 TU154M !

Voorbeeld: Überlingen, 1 Juli 2002 Boeing & Tupolew kruisen 21:33:03 Alarm door het Collision Avoidance System (TCAS) 21:34:49 Opdracht verkeersleider 21:34:56 TCAS aanbeveling 21:35:32 Botsing B757-200 TU154M Officiële aanbeveling: “piloten dienen adviezen van TCAS op te volgen, onafhankelijk van eventuele strijdige adviezen door de verkeersleiding” Een computer vertrouwen!? !

Formele Verificatie Kenmerken Hybride Systeem Gebruik taal van de wiskunde Computerondersteuning Hybride Systeem continue omgeving discrete software Model van Omgeving Software Nauwkeurige Specificatie

Formele Verificatie Kenmerken Hybride Systeem Problemen Oplossingen Gebruik taal van de wiskunde Computerondersteuning Hybride Systeem continue omgeving discrete software Problemen Lukt alleen voor eenvoudige modellen Alle mogelijkheden moeten doorlopen worden toestandsexplosie Oplossingen abstractie compositionaliteit Model van Omgeving Software Nauwkeurige Specificatie Bewijs (met hulp van computer)

Formele Verificatie Kenmerken Hybride Systeem Problemen Oplossingen Gebruik taal van de wiskunde Computerondersteuning Hybride Systeem continue omgeving discrete software Problemen Lukt alleen voor eenvoudige modellen Alle mogelijkheden moeten doorlopen worden toestandsexplosie Oplossingen abstractie compositionaliteit Model van Omgeving Software Nauwkeurige Specificatie Bewijs (met hulp van computer) TCAS deels correct bewezen Nancy Lynch et al, 2000 Garantie Correctheid

Turing Award voor Model Checking

Wat is Model Checking?

Demonstratie Model Checker Zes vriendinnen hebben ieder een roddel. Ze bellen elkaar op. Wanneer twee vriendinnen elkaar spreken wisselen ze alle roddels uit die ze op dat moment weten. Hoeveel gesprekken zijn nodig voordat iedereen alle roddels kent?

Toestandsdiagram

Temporele Logica

Oplossing Model Checker

Toepassingen van Model Checking Draadloze sensornetwerken NASA DEEP SPACE 1 missie Stormvloedkering bij Rotterdam Copieermachines Radarsysteem voor auto’s ….

Doelen Cursus Zelf leren werken met model checker Leren over gedistribueerde algoritmen en protocollen 12 lessen + afsluitende toets