Internettechnologie 1 Rik Van de WalleGent, februari 2008 Operationele aspecten van netwerkgebaseerde computersystemen Internettechnologie (ITech) Rik.

Presentatie over: "Internettechnologie 1 Rik Van de WalleGent, februari 2008 Operationele aspecten van netwerkgebaseerde computersystemen Internettechnologie (ITech) Rik."— Transcript van de presentatie:

1 Internettechnologie 1 Rik Van de WalleGent, februari 2008 Operationele aspecten van netwerkgebaseerde computersystemen Internettechnologie (ITech) Rik Van de Walle academiejaar 2007-2008

2 Multimediatechnieken 2 Rik Van de WalleGent, april 2007 Welke topics komen aan bod? Performantie van webgebaseerde toepassingen o Diverse componenten o Bottlenecks / invloed deelsystemen o Perceptie Capaciteitsplanning o Adequate capaciteit o Karakterisering van de werklast o Performantiemodellen Modellering Simulatie

3 Multimediatechnieken 3 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Basisprincipes o Componenten van webtoepassingen & verloop van een typische webtransactie Client (browser) –Eindgebruiker klikt op link –Client zoekt gevraagde informatie in lokale cache »indien aanwezig: antwoordtijd R C »indien niet aanwezig: connectie met server –Client vraagt IP-adres aan DNS-server –Client opent TCP-connectie met server –Client stuurt HTTP-vraag naar server –Na ontvangst van gevraagde data: presentatie aan eindgebruiker Netwerk –Transport HTTP-vraag van client naar server –Transport HTTP-antwoord van server naar client

4 Multimediatechnieken 4 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Basisprincipes o Componenten van webtoepassingen & verloop van een typische webtransactie Server (webserver) –Server ontvangt HTTP-vraag en interpreteert ze –Uitvoering HTTP-commando –Server verstuurt data naar zijn netwerkpoort –Na versturen van alle data: opgeven connectie client/server (indien niet persistent) Relevante uitvoerings- en wachttijden: R r totale antwoordtijd R N1 transfer HTTP-vraag (client naar server) R N2 transfer HTTP-antwoord (server naar client) R S serverresidentietijd R C totale clientresidentietijd = totale antwoordtijd indien data in lokale cache te vinden is

5 Typische webtransactie gebruiker client browser netwerk server webserver klik presentatie data R N1 R N2 RSRS cache RCRC RrRr R C2 HTTP-vraag R C1

6 Multimediatechnieken 6 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Basisprincipes o Componenten van webtoepassingen & verloop van een typische webtransactie Relevante uitvoerings- en wachttijden R r = R C + R N + R S R N = R N1 + R N2 (typisch geldt: R C << R N + R S ) Indien caching: = p C R C + (1-p C )R r p C = N C /N P p C = success rate N P = aantal vragen aan cache N C = aantal "cache hits" Gevolg: belang cache-grootte !

7 Invloed cache-grootte 15% NCNC 85% NPNP R C 300 ms R r 4 s 3.445 s 40% NCNC 60% NPNP 2.52 s Stel: cache x 3 -27% Werd hier voorgesteld voor lokale browsercache, maar zelfde redenering geldt uiteraard ook voor bv. lokale proxyserver

8 Multimediatechnieken 8 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Bottlenecks o Succesvolle webtoepassing Sterke verhoging aantal clients & servers Schaalbaarheid van groot belang (zeker voor publieke toepassingen) Globale performantie wordt vaak beperkt door slechts een klein aantal deelsystemen bv. server(s), netwerkverbindingen, routers, clients,... o Bottleneck Deelsysteem dat globale performantie beperkt Identificatie zeer belangrijk Moeten eerst aangepast worden indien verhoging van de globale performantie gewenst is o Basis voor analyse bottlenecks Werking van globaal systeem is gelimiteerd door de verwerkingssnelheid van het meest restrictieve deelsysteem

9 Bottlenecks (I) R N = 7.5 sR S = 3.2 s R N = 7.5 sR S = 3.2 s Client: processorsnelheid x2 Stel: R C enkel afh. van processorsnelheid R r -1.6% R C = 350 ms R C = 175 ms processor client is geen bottleneck

10 R N = 7.5 sR S = 3.2 s R N = 7.5 sR S = 1.6 s Server: processorsnelheid x2 Stel: R S enkel afh. van processorsnelheid R r -14% processor server is wel bottleneck R C = 350 ms Bottlenecks (II)

11 Multimediatechnieken 11 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Bottlenecks o Data opgeslagen in servers Schatting aantal objecten Schatting omvang object –bv. multimediale objecten vs. platte ASCII-tekst o Omvang doelgroep Interne applicaties: doelgroep meestal gekend Publieke applicaties: omvang doelgroep soms niet goed gekend o Voorbeeld (interne applicatie gebruikt op verschillende locaties) Doelgroep: 150 personen; op ieder ogenblik 75% actief Per persoon: 80 operaties/uur Per operatie: 5 objecten afhalen met gemiddelde omvang 30 KB (bv. een webgebaseerde CRM applicatie) Resulterende vereiste netwerkbandbreedte: 3.072 Mbps Gevolg: bepaalde transmissiecapaciteiten niet mogelijk (bv. E1-connectie ontoereikend)

12 Multimediatechnieken 12 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen PERCEPTIE van performantie o Algemeen Standpunt gebruiker –Beschikbaarheid –Antwoordtijden, snelheid –Correcte beantwoording van vragen –... Standpunt systeemadministrator –Vereiste netwerkbandbreedte –Garantie van de beschikbaarheid van toepassing/systeem (uptime, …) –... Nuttig: kwantitatieve performantiematen

13 Multimediatechnieken 13 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Perceptie van performantie o Specifiek voor (publieke) webgebaseerde toepassingen Potentiële doelgroep enorm groot (en stijgt nog steeds) Moeilijk te voorspellen (bv. flash crowds) –Aantal effectieve gebruikers –Mate waarin gebruikers de applicaties gebruiken Schatten werklast / capaciteitsplanning zeer moeilijk Grote diversiteit qua componenten –Server hosts (webservers) –Client hosts (browsers) –Besturingssystemen –Netwerken Performantie hangt af van "externe" factoren –Beschikbare netwerkbandbreedte –Netwerkcongestie –Mogelijk resultaat: onaanvaardbare (niet voorspelbare) antwoordtijden

14 Multimediatechnieken 14 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Enkele belangrijke performantiematen o Verwerkingssnelheid connectie client/server Snelheid waarmee HTTP-vragen vanwege client beantwoord worden Uitgedrukt in aantal HTTP-vragen/s of bps o Latentie (Eng. latency) server Tijd die server nodig heeft om antwoord te formuleren o Totale antwoordtijd hangt af van verscheidene componenten Latentie server(s) Tijd nodig om data te transfereren over “netwerk” Verwerkingstijd in client(s) o Afgeleide performantiematen Aantal fouten per s (t.g.v. vermindering globale performantie) of pakketverlies (%) Populariteit toepassing: aantal gevraagde connecties met de server(s)

15 Multimediatechnieken 15 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Belangrijke performantiematen o Voorbeeld Server ontvangt 12000 HTTP-aanvragen per uur Drie mogelijke antwoorden –Eenvoudige tekstpagina »Gemiddelde omvang: 6 KB; 20% van aanvragen »Verwerkingscapaciteit = 33 kbps –Stilstaande beelden »Gemiddelde omvang: 30 KB; 55% van aanvragen »Verwerkingscapaciteit = 451 kbps –Video »Gemiddelde omvang: 700 KB; 25% van aanvragen »Verwerkingscapaciteit = 4.779 Mbps Performantie –3.5 aanvragen/s; dit zegt niets over de vereiste netwerkbandbreedte ! –Totale verwerkingscapaciteit = 5.3 Mbps

16 Multimediatechnieken 16 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Invloed van deelsystemen o Algemene functionaliteit proxyservers, caches, mirrors (spiegelversies) Verkorting latentie bij raadpleging webobjecten Minder netwerkbandbreedte vereist (minder datatransfer over netwerk) o Proxyserver In deze context op te vatten als speciaal type webserver Treedt op als server en als client Handelt als agent –Vertegenwoordigt servers t.a.v. clients –Vertegenwoordigt clients t.a.v. servers Uitgerust met een lokale cache

17 Multimediatechnieken 17 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Invloed van deelsystemen o Proxyserver Performantiematen –Succesverhouding p C = N C / N P »Houdt geen rekening met omvang objecten »Beperkte relevantie wegens variabiliteit objectomvang –Byte-succesverhouding »Succesverhouding gewogen met objectomvang »Vaak relevanter dan "naakte" succesverhouding –Hoeveelheid getransfereerde data »Totaal aantal bytes verstuurd van cache naar alle clients samen Vermindering vereiste netwerkbandbreedte Voorbeeld: server ontvangt 25000 aanvragen/uur vanwege clients »proxy1: kleine documenten (4 KB); stel p C = 0.60 besparing bandbreedte: 137 kbps »proxy2: grotere documenten (30 KB); stel p C = 0.20 besparing bandbreedte: 341 kbps

18 Multimediatechnieken 18 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Invloed van deelsystemen o Mirrors en Content Networks Replica's van webobjecten op verschillende servers Cruciaal: dataconsistentie (niet evident !) Verwerkingssnelheid van webservers o Algemene aspecten i.v.m. scripts Toevoeging interactiviteit / functionaliteit t.o.v. statische toepassingen Keuze clientzijde vs. serverzijde –Functioneel complementair –Potentieel belangrijke impact op globale performantie

19 Multimediatechnieken 19 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Verwerkingssnelheid van webservers o Scripts aan serverzijde Voorbeeld1: CGI-scripts (traditionele versie, dus geen FastCGI) –Website ontvangt 30 bezoekers per s –5% bezoekers start CGI-script –Vereiste CPU-tijd per script: D CPU = 150 ms/CGI –U CGI = X CGI D CPU »U CGI = benuttiging CPU t.g.v. scripts »X CGI serververwerkingscap. (aantal CGI/s) – CGI = snelheid waarmee scripts opgestart worden = (Aantal bezoekers/s) x (% dat bestelling plaatst) Dus CGI = 30 x 0.05 = 1.5 per s –Bij evenwicht : X CGI = CGI = 1.5 per s –Hieruit volgt: U CGI = 22.5%

20 Multimediatechnieken 20 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Verwerkingssnelheid van webservers o Scripts aan serverzijde Voorbeeld 2: Java Servlets –Java servlets draaien binnen hetzelfde proces als de webserver –Gevolg: Vereiste CPU-tijd per script (D CPU ) vermindert –Stel bv. dat servlets 30% minder CPU-tijd gebruiken »(D CPU ) servlets = (D CPU ) cgi x 0.7 »(D CPU ) servlets = 105 ms (cfr. vorige slide) –Aangezien D CPU vermindert, dus ook U CGI (we nemen X servlets = X cgi voor correcte vgl) »U servlets = X servlets D CPU »U servlets = 15.8%

21 Multimediatechnieken 21 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Verwerkingssnelheid van webservers o Wordt eveneens beïnvloed door de distributie van de bestandsgrootte Niet te verwaarlozen staart (betekent kans op zeer grote bestanden is niet te verwaarlozen) Afgeleide grootheden (bv. gemiddelde) vertonen grote variabiliteit Betekenis van individuele performantiemetingen op basis van bestandsgrootte moet gerelativeerd worden Voorbeeld: Pareto distributie

22 Multimediatechnieken 22 Rik Van de WalleGent, april 2007 Illustratie distributie bestandsgrootte Stel: 10 HTTP-aanvragen in korte tijdspanne met elk de volgende CPU-belasting (in seconden) 0.4 / 0.6 / 1.5 / 0.7 / 1.5 / 1.7 / 18.1 / 0.3 / 0.9 / 1.4 0.3 / 0.4 / 0.6 / 0.7 / 0.9 / 1.4 / 1.5 / 1.5 / 1.7 / 18.1 t = 6s Gemiddelde CPU-tijd per klasse 0.58s 1.53s 18.1s Algemeen gemiddelde CPU-tijd over de klassen = 6.7s Algemeen gewogen gemiddelde CPU-tijd = (0.58*5+1.53*4+18)/10 = 2.71s Groot verschil: 2.71s is evenwel de meest relevante waarde

23 Multimediatechnieken 23 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Verwerkingssnelheid van webservers o De distributie van de bestandsgrootte hebben we bestudeerd o Maar uiteraard is ook de populariteit van webobjecten van belang Goed gedocumenteerd fenomeen Wet van Zipf –Is een experimentele wet, geen theoretische (zoals bv. ook de wet van Moore) –Oorsprong: frequentieanalyse voor optreden van woorden in tekst –Ook geldig voor webobjecten –f ~ 1/pf = frequentie van optreden p = populariteitsrang (hoe groter de rang hoe minder populair)

24 Multimediatechnieken 24 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Verwerkingssnelheid van webservers o Populariteit van webobjecten Voorbeeld –Aantal bezoekers website = 300000 / dag –Site bestaat uit 4 documenten »Home page: wordt door alle bezoekers bezocht »3 andere documenten (A, B en C) documentrangnr. populariteit f = 1/pbezoekers per dag home page11300 000 doc. A40.2575 000 doc. B20.5150 000 doc. C30.33100 000

25 Multimediatechnieken 25 Rik Van de WalleGent, april 2007 Performantie van webgebaseerde systemen Netwerkkarakteristieken o Latentie of vertraging Tijd nodig om 1 bit (of pakket) te transfereren van client naar server (of omgekeerd) Pas op met “round trip time”: is ook een maat om de latentie uit te drukken maar telt tijd (client -> server) + (server -> client) Eenheid: s o Bandbreedte Maat voor snelheid waarmee data kunnen verzonden worden via netwerk eenheid: bps o Bandbreedte-latentieproduct Capaciteit voor datatransfer van de client naar de server (of omgekeerd) Eenheid: bit of byte

26 Multimediatechnieken 26 Rik Van de WalleGent, april 2007 Theoretische bandbreedte courante netwerken NetwerkBandbreedte (kbps) 56K modem56 ISDN 164 ISDN 2128 E12048 E334000 T345000 Ethernet10000 Fast Ethernet100000 STM-1 (OC-3)155000 STM-4 (OC-12)622000

27 Internettechnologie 27 Rik Van de WalleGent, februari 2008 Capaciteitsplanning

28 Multimediatechnieken 28 Rik Van de WalleGent, april 2007 Capaciteitsplanning Basisprincipes o Belangrijk begrip: “adequate capaciteit” o Nodig: methodologie voor capaciteitsplanning Efficiënte (deel)systeemconfiguratie Geschikte netwerktopologie Kostefficiëntie, met inbegrip van –Personeelskosten –Investeringskosten

29 Multimediatechnieken 29 Rik Van de WalleGent, april 2007 Definitie adequate capaciteit 1. Service Level Agreements (SLAs) o Realisatie gewenste of acceptabele waarden voor performantiematen bv. antwoordtijden, verwerkingscapaciteit, latentie,... o Contractueel vastleggen van performantievereisten “de NFS-server moet 10000 bewerkingen/s uitvoeren met elk een antwoordtijd < 0.1 s aankunnen” “antwoordtijden voor eenvoudige zoekopdrachten in het DBMS moeten < 2 s zijn” “beschikbaarheid van de server moet > 99.99% zijn” o Waarden voor SLAs variëren als functie van Applicatie (bv. kritische applicaties vs. ontspanning) Gebruikers o Indien geen formele SLAs: “niveau van acceptabele dienstverlening” bv. Vanaf moment dat gebruikers beginnen te klagen over de performantie, een soort minimum dienstverlening die men wenst na te streven

30 Multimediatechnieken 30 Rik Van de WalleGent, april 2007 Definitie adequate capaciteit 2. Gespecificeerde technologieën/standaarden o Veel implementaties (met diverse OS) mogelijk die dezelfde performantie bieden bv. (Windows server op PC) vs. (Unix op RISC-machine) o Keuze voor implementatie kan ook afhangen van bepaalde criteria die niet performantie-gebonden zijn, bv. Voorkennis Bevoorrechte relatie met leveranciers Eenvoud (lage kostprijs) systeemadministratie o Voordelen van gebruik standaardtechnologie Basiskennis aanwezig bij veel gebruikers Compatibiliteit met bestaande topologieën o Deze voordelen zijn soms belangrijker dan louter performantieoverwegingen o Voorbeeld: TCP/IP als netwerkprotocol; MPEG voor multimediaformaten

31 Multimediatechnieken 31 Rik Van de WalleGent, april 2007 Definitie adequate capaciteit 3. Kosten o Kostenbeperking bemoeilijkt vaak de realisatie van scherpe/strenge SLAs o Dialoog noodzakelijk, typisch scenario: Kostenbeperking wordt opgelegd door management Systeembeheerder moet wel SLAs implementeren o Diverse types van kosten Opstartkosten, investeringen (CAPEX) bv. aanschaf soft- en hardware, installatie, personeel, training Operationele kosten (OPEX), bv. –Algemene systeemadministratie –Onderhoud soft- en hardware –Telecommunicatiekosten o Schaalbaarheid (ook van de kosten) is van belang, maar niet altijd eenvoudig realiseerbaar

32 Definitie adequate capaciteit Eigenlijke definitie o SLAs worden continu gerealiseerd o Gebruikmakend van vooraf gedefinieerde technologieën/standaarden o Realisatie gebeurt binnen de beperkingen m.b.t. kosten gebruikers service level agreements beperking kosten gespecificeerde technologieën en standaarden adequate capaciteit management

33 Multimediatechnieken 33 Rik Van de WalleGent, april 2007 Methodologie bij C/S-gebaseerde systemen Drie modellen o Werklast o Performantie o Kosten Capaciteitsplanning vereist strikte methodologie Heterogeniteit aan diverse deelsystemen bemoeilijkt implementatie bv. besturingssystemen, hard- en software, netwerkkarakteristieken,... 1. Werklastmodel o Beschrijft de vraag naar middelen binnen een representatieve tijdsspanne

34 Multimediatechnieken 34 Rik Van de WalleGent, april 2007 Methodologie bij C/S-gebaseerde systemen 2. Performantiemodel o Voorspelt performantie van systeem als functie van Systeembeschrijving Werklastparameters o Output van het model zijn o.a. –Antwoordtijden –Verwerkingssnelheid die dan worden vergeleken met waarden vastgelegd in de SLAs 3. Kostenmodel o Kosten voor soft- en hardware o Telecommunicatie o Administratie (beheer) van het globale systeem

35 Methodologie capaciteitsplanning definitie werkomgeving werklast- model werklast- model performantie- model performantie- model karakterisering werklast validatie/calibratie werklastmodel voorspelling werklast ontwikkeling performantiemodel validatie/calibratie performantiemodel voorspelling performantie kosten/performantieanalyse configuratieplan investeringsplan personeelsplan kosten- model kosten- model ontwikkeling kostenmodel ontwikkeling kostenmodel voorspelling kosten voorspelling kosten

36 Multimediatechnieken 36 Rik Van de WalleGent, april 2007 Karakterisering van de werklast Beschrijving werklast door opsplitsing in deelsystemen o Zie deel i.v.m. architectuur netwerkgebaseerde computersystemen o Voorbeeld Verkoopstransactie Webgebaseerde training Verwerking elektronische post o Werklast trachten karakteriseren m.b.v. kwantitatieve parameters o 2 basistypes voor werklastparameters “Workload Intensity“ (WI) - maat voor de globale load op het systeem (bv. hits/dag webserver) “Service Demand“ (SD) - maat voor tijd nodig voor elke resource component (bv. CPU-benuttiging) o Parameters kunnen vaak niet rechtstreeks gemeten worden Afleiding uit andere performantiegegevens Schatting / benadering

37 Multimediatechnieken 37 Rik Van de WalleGent, april 2007 Parameters karakterisering werklast basiscomponent + parametersparametertype Verkoopstransactie aantal transacties per klantWI aantal klantenWI totaal aantal I/Os naar databankSD CPU-benuttiging databankserverSD gemiddelde berichtomvangSD Webgebaseerde training aantal sessies/dagWI omvang ontvangen beeldmateriaalSD omvang HTTP-documentenSD Verwerking e-mail aantal berichten per dag/klantWI aantal klantenWI gemiddelde berichtomvangSD CPU-benuttiging van de maildaemonSD

38 Multimediatechnieken 38 Rik Van de WalleGent, april 2007 Karakterisering van de werklast Probleem o Bij hoge werklast Veel gebeurtenissen ("events") Veel individuele waarden voor werklastparameters o Analyse van individuele gebeurtenissen niet relevant Oplossing o Gebruik van een compacte representatie: 1 parameter per basiscomponent Voorbeeld o Databankapplicatie o Metingen gedurende 1 uur: voor elk van de 20000 transacties meten van de CPU-tijd Aantal I/Os o Clustering van de resultaten resulteert in de identificatie van 3 soorten transacties

39 1. Opsplitsing werklast – clustering Opslag individuele metingen: teveel waarden Opslag van 1 globaal gemiddelde over alle punten: weinig informatie (komt overeen met geen “realistische” gebeurtenis) Oplossing: opslag clustergemiddelden cluster 1 cluster 2 cluster 3 globaal gemiddelde

40 Multimediatechnieken 40 Rik Van de WalleGent, april 2007 1. Opsplitsing werklast – clustering Enkele belangrijke opmerkingen o Het aantal clusters beïnvloedt de nauwkeurigheid van het werklastmodel o Clusteringsalgoritmen Berekenen van “optimaal aantal clusters” Het geven van karakteristieke parameterwaarden (en betekenis) voor elk van de clusters ! o In de syllabus worden 2 basisclusteringsalgoritmen beschreven Minimal Spanning Tree (MST) k-gemiddelden algoritme

41 Multimediatechnieken 41 Rik Van de WalleGent, april 2007 2. Aspecten i.v.m. datacollectie In een ideale situatie o performantiemonitors geven waarde voor elke werklastparameter Realiteit o Vaak geen geschikte performantiemonitors beschikbaar o Systeemadministrators besteden (noodgedwongen) te weinig tijd aan performantiemonitoring o Sommige performantiemonitors geven globale parameterwaarden bv. totaal aantal getransfereerde pakketten in LAN; totale CPU-benuttiging o Nodig: opsplitsing in individuele basiscomponenten o "vuistregels" geven vaak al goede schatting voor individuele parameterwaarden

42 Multimediatechnieken 42 Rik Van de WalleGent, april 2007 Collectie van performantiedata client host applicatie A specifieke server host performantiemonitor specifiek LAN performantiemonitor

43 Multimediatechnieken 43 Rik Van de WalleGent, april 2007 2. Aspecten i.v.m. datacollectie Metingen in gecontroleerde omstandigheden o Vaak correspondeert een groot deel van de werklast met relatief weinig basiscomponenten o Meting van performantieparameters van bottlenecks is dan ook vaak voldoende (cfr. begin van de les) CPU-benuttiging en opslagvereisten voor client + server distributie netwerkpakketgrootte o Vertaling (extrapolatie) van metingen naar andere omstandigheden / toepassingen andere types clients / servers Voorbeeld –CPU-tijd server = 10 ms (gecontr. omstandigheden; SPECint = 3.11) –Vraag: CPU-tijd voor snellere server (SPECint rating = 10.4) ? Antwoord: 3.0 ms o Opmerkingen: Kies maatstaf (Eng. benchmark) ~ applicatie bv. SPECint vs. SPECfp

44 3. Validatie/calibratie van werklastmodellen synthetische werklast synthetische werklast werkelijke werklast werkelijke werklast C/S-systeem performantiemeting accepteerbaar ? calibratie werklastmodel calibratie werklastmodel JA NEEN

45 Multimediatechnieken 45 Rik Van de WalleGent, april 2007 4. Voorspelling van de werklast Probleemstelling o Beschikbare informatie: huidige toestand + historiek o Gewenste informatie Toekomstige werklast Analyse van trends (bv. detectie piekmomenten) Analyse van strategie ("business plans") o Voorbeelden Hoe zal het aantal e-mails variëren in de komende 6 maanden ? Wat is het te verwachten aantal website bezoekers tijdens het komende jaar ? Aanpassing van deelsystemen moet mogelijk zijn o Opsplitsing applicatie in basiscomponenten (zie vroeger) o Schaalbaarheid Opmerking: belang van een correcte trendanalyse !

46 Trendanalyse (I) 0 20 40 60 80 100 120 140 160 180 200 024681012 maand bezoekersaantal (1000) y = 11.333x - 5.25 schatting maand 12: 131

47 Trendanalyse (II) 0 20 40 60 80 100 120 140 160 180 200 024681012 maand bezoekersaantal (1000) y = 1.0476x 2 + 1.9048x + 10.464 schatting maand 12: 184

48 Multimediatechnieken 48 Rik Van de WalleGent, april 2007 Performantiemodellen Basisprincipes o Systeem = “black box” Interne details worden niet gemodelleerd Alleen verwerkingscapaciteit modelleren Verwerkingsfunctie (throughput function) Toestandstransitiediagram (TTD, Eng. State Transition Diagram, STD) –Mogelijke toestanden van (deel)systeem –Transities tussen verschillende toestanden waarin systeem zich kan bevinden o Opmerking Alternatief: modellering individuele componenten / deelsystemen

49 Multimediatechnieken 49 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Karakteristieken (voorbeeld: databankserver) Aantal gebruikers is zeer groot –Aankomstsnelheid aanvragen niet afhankelijk van »Aantal reeds aangekomen aanvragen »Aantal reeds verwerkte aanvragen –Model: oneindige populatie (van gebruikers) Aankomstsnelheid aanvragen

50 Multimediatechnieken 50 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Karakteristieken Homogene werklast –Alle aanvragen zijn statistisch gelijk –Aard aanvragen heeft geen belang –Alleen het aantal aanvragen beïnvloedt performantie Veronderstel constante verwerkingsfunctie

51 Multimediatechnieken 51 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Karakteristieken Alle aanvragen worden behandeld (geen aanvragen gaan verloren) –Inkomende aanvragen worden in wachtlijn geplaatst –Wachtlijn is oneindig lang Beschouwen een operationeel evenwicht –Aantal aanwezige aanvragen bij begin observatie = aantal aanwezige aanvragen aan einde observatie –Aantal aanwezige aanvragen kan wel variëren tijdens de observatie

52 Multimediatechnieken 52 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Verwerking van aanvragen Aankomst aanvraag bij server Aanvraag wordt toegevoegd aan wachtlijn Aanvraag wordt behandeld

53 Multimediatechnieken 53 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Te berekenen: Fractie van de tijd dat er k aanvragen in de server aanwezig zijn Gemiddeld aantal aanwezige aanvragen in server De gemiddelde antwoordtijd in de server Benuttiging van de server Verwerkingssnelheid van de server

54 Multimediatechnieken 54 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Toestand server wordt gekarakteriseerd door 1 parameter: aantal aanvragen aanwezig in de server –Gevolg 1 : gedrag onafhankelijk van manier waarop toestand bereikt werd (onafhankelijkheid t.o.v. vorige toestanden) –Gevolg 2 : gedrag onafhankelijk van duur huidige toestand –Men spreekt van een “geheugenloos systeem” of Markov-systeem Mogelijke toestanden –k = 0, 1, 2,... –Oneindig, aftelbaar –Voorstelling m.b.v. een toestandstransitie- diagram (TTD)

55 Multimediatechnieken 55 Rik Van de WalleGent, april 2007 Toestandstransitiediagram 0 0 1 1 2 2 3 3... k k aankomst aanvraag bij server afhandeling aanvraag door server

56 Toestandstransitiediagram – Evenwicht aan de grenzen 0 0 1 1 2 2 3 3... k k Door onze veronderstelling: Operationeel evenwicht => flow aan toestanden die in toestand k komen = flow aan toestanden die uit toestand k gaan

57 Multimediatechnieken 57 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Evenwichtsvoorwaarde aan grenzen o Gevolg

58 Multimediatechnieken 58 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Systeem bevindt zich steeds in “een” toestand o Voorwaarde voor convergentie snelheid aankomst aanvragen < snelheid verwerking aanvragen

59 p k als functie van k – geometrische distributie  = 50 aanvr./s

60 Multimediatechnieken 60 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Benuttiging van de server (U) o Gevolg Toestandsdistributie alleen afhankelijk van benuttiging Toestandsdistributie niet afhankelijk van individuele waarden –Aankomstsnelheid aanvragen –Verwerkingssnelheid aanvragen Gemiddeld aantal aanvragen in de server ?

61 Multimediatechnieken 61 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Gemiddeld aantal aanvragen in de server o Gemiddelde verwerkingssnelheid van de server Gemiddelde verwerkingssnelheid = gemiddelde aankomstsnelheid Logisch: er gaan geen aanvragen verloren

62 Multimediatechnieken 62 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel I: oneindige populatie; oneindige wachtlijn o Gemiddelde antwoordtijd S = gemiddelde verwerkingstijd per aanvraag Interpretatie –U laag »Gemiddelde antwoordtijd = gemiddelde verwerkingstijd per aanvraag »Geen tijdverlies t.g.v. wachten –U hoog »Antwoordtijd wordt oneindig lang ! »Tijdverlies t.g.v. wachten in wachtlijn

63 Gemiddelde antwoordtijd R ~ benuttiging U is variabel  = 50 aanvr./s (s)

64 Multimediatechnieken 64 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel II: oneindige populatie; eindige wachtlijn o Karakteristieken (voorbeeld: databankserver) Aantal gebruikers zeer groot Verschillen met servermodel I –Beperkte middelen server »Beperking aantal aanvragen dat kan behandeld worden »Beperking intern geheugen of schijfopslag (wachtlijnen) –Niet alle inkomende aanvragen kunnen in wachtlijn geplaatst worden Te berekenen: zelfde grootheden als hierboven

65 Toestandstransitiediagram Toestand server o 1 parameter: aantal aanvragen aanwezig in de server o Bijkomende voorwaarde: eindig aantal toestanden 0 0 1 1 2 2 3 3... k k aankomst aanvraag bij server afhandeling aanvraag door server W W

66 Multimediatechnieken 66 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel II: oneindige populatie; eindige wachtlijn o Evenwichtsvoorwaarde aan de grenzen o Systeem bevindt zich in "een" toestand met

67 Multimediatechnieken 67 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel II: oneindige populatie; eindige wachtlijn o Benuttiging van de server o Fractie verloren aanvragen

68 Fractie verloren aanvragen ~ lengte wachtlijn (W) p_W  0 W 1 1 p 1      = W  ( / )

69 Multimediatechnieken 69 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel II: oneindige populatie; eindige wachtlijn o Gemiddeld aantal aanvragen in server

70 Gemiddeld aantal aanvragen in server ~ lengte wachtlijn (W) 

71 Multimediatechnieken 71 Rik Van de WalleGent, april 2007 Performantiemodellen Servermodel II: oneindige populatie; eindige wachtlijn o Gemiddelde verwerkingssnelheid van de server Gemiddelde verwerkingssnelheid < gemiddelde aankomstsnelheid Verklaring: er gaan aanvragen verloren ! o Gemiddelde antwoordtijd

72 Gemiddelde verwerkingssnelheid ~ lengte wachtlijn (W) (per s)

73 Gemiddelde antwoordtijd ~ lengte wachtlijn (W)  (s)

74 Performantiemodellen Veralgemeend servermodel o Karakteristieken Oneindige populatie Aankomstsnelheid aanvragen afh. toestand Behandelingssnelheid aanvragen afh. toestand Algemeen geval: eindige lengte wachtlijn 0 0 1 1 2 2 3 3... k k W W

75 Multimediatechnieken 75 Rik Van de WalleGent, april 2007 Performantiemodellen Veralgemeend servermodel Bewijs formules: oef. Opm: eindige populatie eveneens mogelijk