De Amsterdam Internet Exchange Henk Steenman Technisch Directeur

Agenda De rol van een Internet Exchange in het Internet De AMS-IX organisatie Technisch overzicht AMS-IX platform Klant aansluitingen Ontwikkelingen Amsterdam, 9 Maart, 2006

Agenda De rol van een Internet Exchange in het Internet De AMS-IX organisatie Technisch overzicht AMS-IX platform Klant aansluitingen Ontwikkelingen Amsterdam, 9 Maart, 2006

De rol van een IX Interconnectiviteits modellen Transit Peering Korte Geschiedenis van Internet Exchanges Internet Exchanges in de Wereld Euro-IX Van belang om te begrijpen hoe partijen “interconnecten” Amsterdam, 9 Maart, 2006

De rol van een IX Internet Exchange: Infrastructuur waar aangesloten partijen (ISPs, content providers, Carriers etc) IP verkeer met elkaar uitwisselen Onderscheiden twee typen bilaterale relaties Peering Men annonceert aan elkaar alleen de eigen netwerken/klanten. Transit Men annonceert (en geeft toegang tot) derden. Een speciale vorm van een transit relatie is toegang geven tot het hele Internet. Dit noemt men ook wel “usptream” connectiviteit Meestal wordt deze service geboden over een dedicated verbinding in plaats van een exchange Amsterdam, 9 Maart, 2006

De rol van een IX Typisch stuurt men elkaars bestemmingen (routes) met behulp van het BGP4 protocol Doel: Bespaar kosten aan “upstream” connectiviteit. Verkeer dat lokaal op een exchange wordt uitgewisseld hoeft niet via een dure upstream provider Houd lokaal verkeer lokaal Geen reden om b.v. verkeer tussen Nederlandse providers via de US te routeren Doel van Peering ! Amsterdam, 9 Maart, 2006

Verschillende Netwerken Elk netwerk autonoom in: Organisatie Doelstellingen Opzet Technologie Symbool: wolkje Amsterdam, 9 Maart, 2006

Transit en Upstream Praktisch onmogelijk om elk netwerk met elk ander netwerk te verbinden Transit netwerken kunnen verkeer van en voor andere netwerken afhandelen Grotere netwerken bieden upstream aan kleinere netwerken Tier 3, Locale partijen, met een beperkt eigen netwerk Tier 2, Regionale (landen , groepen van landen, europa, US only) Tier 1, Internationale netwerken Amsterdam, 9 Maart, 2006

Upstream Upstream verkeer kost ISPs veel geld Amsterdam, 9 Maart, 2006

Peering Upstream verkeer kost kleine ISPs veel geld Logische gedachte is lokaal verkeer lokaal af te handelen Peering Uitwisseling van verkeer tussen ‘gelijke’ partijen Upstream blijft nodig voor verkeer dat niet via peering kan Amsterdam, 9 Maart, 2006

Internet Exchange Point (IXP) Een faciliteit voor uitwisseling van verkeer tussen meer dan twee partijen Veelal peering Technologie Ethernet FDDI en ATM komen nauwelijks meer voor Amsterdam, 9 Maart, 2006

Private Peering Rond IXPs clusteren veel ISPs samen in dezelfde gebouwen Onderlinge verbindingen zijn gemakkelijk te maken Amsterdam, 9 Maart, 2006

Internet Exchange Grote IXPs trekken ook grotere netwerken Peering is geen verplichting Grote netwerken willen niet altijd (gratis) peeren. Amsterdam, 9 Maart, 2006

De rol van een IX Interconnectiviteits modellen Transit Peering Korte Geschiedenis van Internet Exchanges Internet Exchanges in de Wereld Euro-IX Amsterdam, 9 Maart, 2006

Eerste echte Exchange Metropolitan Access Experiment Metropolitan Area Ethernet Metropolitan Area Exchange WorldCom MAE-East™ Washington, D.C. Eind 1992 10mb/s ethernet Initieel 4 lokaties MFS fiber hub Gedeelde administratie door deelnemers Sprint/ICM, Alternet, PSI, SURAnet, NSFnet Amsterdam, 9 Maart, 2006

En Daarna - MAE-West / Federal Internet Exchange San Jose / Mountain View (1994) FDDI ring Bridged tot 10mb Ethernet in verschillende lokaties Commercial Internet Exchange Palo Alto (1994) Layer-3 MMLPA DS1 (T1) lines naar een Cisco 7010 1991 Not-for-profit industry association Alternet, PSI, Cerfnet Amsterdam, 9 Maart, 2006

Europa LINX London AMS-IX Hong Kong Internet Exchange 1994 Opgezet als een vereniging Ethernet AMS-IX Zie later Hong Kong Internet Exchange Chinese University of Hong Kong Ethernet switch First major free exchange (1995) Amsterdam, 9 Maart, 2006

Technologische veranderingen Shared 10Base-T Switched 10mb Ethernet Shared FDDI Switched FDDI 100Base-T / 100Base-FX Gigabit Ethernet 10Gigabit Ethernet Amsterdam, 9 Maart, 2006

Andere technologien Layer-3 route-servers Frame Relay ATM Wireless Ethernet Crossconnect mesh Amsterdam, 9 Maart, 2006

Typische additionele services Route-server Looking-glass Measurement and instrumentation Network Time Protocol Web cache parent News server Root server mirror Amsterdam, 9 Maart, 2006

Verschillende business modellen Beheerd door Universiteit of Overheid Vereniging van deelnemers Neutral for-profit onderneming Informeel Men zet ergens een switch neer en een ieder prikt zijn router er in. Vaak onbeheerd/un-managed Amsterdam, 9 Maart, 2006

Verschillende afmetingen Gemeente Grotere metro-area National “Regional” Amsterdam, 9 Maart, 2006

De rol van een Exchange in het globale Internet Interconnectiviteits modellen Transit Peering Korte Geschiedenis van Internet Exchanges Internet Exchanges in de Wereld Euro-IX Amsterdam, 9 Maart, 2006

Europe Amsterdam, 9 Maart, 2006

Europe Amsterdam, 9 Maart, 2006

US Amsterdam, 9 Maart, 2006

Asia Amsterdam, 9 Maart, 2006

Africa Amsterdam, 9 Maart, 2006

South America Amsterdam, 9 Maart, 2006

De rol van een Exchange in het globale Internet Interconnectiviteits modellen Transit Peering Korte Geschiedenis van Internet Exchanges Internet Exchanges in de Wereld Euro-IX Amsterdam, 9 Maart, 2006

Euro-IX Vereniging van Internet Exchanges in Europa Sinds kort echter ook “associated” leden uit Japan en US Overleg orgaan voor Exchanges Deel ervaringen en discussier over verschillende oplossingen voor typische Exchange problemen. Zie www.euro-ix.net voor heel veel informatie over de verschillende exchanges in Europa Voor geschiedenis en overzichten zie ook http://www.pch.net/resources/ Amsterdam, 9 Maart, 2006

Agenda De rol van een Internet Exchange in het Internet De AMS-IX organisatie Technisch overzicht AMS-IX platform Klant aansluitingen Ontwikkelingen Amsterdam, 9 Maart, 2006

De Amsterdam Internet Exchange organisatie struktuur

De AMS-IX organisatie Vereniging Amsterdam Internet Exchange Ieder die een aansluiting wil op AMS-IX dient lid te worden van de vereniging. Vereiste is het zijn van een Internet gerelateerd bedrijf. AS nummer Vereniging formeel opgericht in 1997 Daarvoor al een informele Exchange (sinds 1994) met aangesloten partijen bij SARA en NIKHEF (Watergraafsmeer Science Park) Amsterdam, 9 Maart, 2006

De AMS-IX organisatie Doel van de vereniging AMS-IX Het faciliteren van de uitwisseling van Internet verkeer tussen aangesloten leden. De vereniging is: Not for profit Neutraal ten opzichte van de belangen van de leden. Raad van bestuur van 5 personen gekozen uit de leden Twee jaarlijkse leden vergadering om rekenschap af te leggen. Het aantal leden van de AMS-IX vereniging is op het moment 239. Amsterdam, 9 Maart, 2006

De AMS-IX organisatie Initieel beheer en organisatie uitbesteed aan SURFnet bv. Technisch beheer door SURFnet uitbesteed aan SARA In 2000 AMS-IX BV opgericht om beheer en organisatie van SURFnet over te nemen Technisch beheer blijft nog in handen van SURFnet Not for profit BV. AMS-IX BV Amsterdam, 9 Maart, 2006

De AMS-IX organisatie Begin 2002 wordt technisch beheer overgenomen van SURFnet BV Oprichting AMS-IX NOC. AMS-IX BV betrekt pand op Westeinde 12, Amsterdam Centrum. Begin 2006, AMS-IX BV bestaat uit 16 FTE Amsterdam, 9 Maart, 2006

De AMS-IX organisatie De AMS-IX vereniging is enige aandeelhouder van de AMS-IX BV Het bestuur van de AMS-IX vereniging is tevens raad van bestuur van de AMS-IX BV Sinds 2002 wordt het secretariaat voor EURO-IX door AMS-IX uitgevoerd Amsterdam, 9 Maart, 2006

Agenda De rol van een Internet Exchange in het Internet De AMS-IX organisatie Technisch overzicht AMS-IX platform Klant aansluitingen Ontwikkelingen Amsterdam, 9 Maart, 2006

De Amsterdam Internet Exchange Technical oveview Henk Steenman Technisch Directeur

Overzicht AMS-IX platform Ethernet based platform 4 lokaties voor klant aansluitingen Watergraafsmeer Science Park SARA NIKHEF Telecity 2, Amsterdam Zuidoost Global Switch, Amsterdam West Kantoor en NOC in centrum Amsterdam Westeinde 12. Amsterdam, 9 Maart, 2006

Technisch overzicht AMS-IX platform Hub/Spoke topologie Edge Switches Foundry Networks BigIron 15000 JetCore 10GE access switches: GGN system 300 photonic switches Foundry networks MG8,RX16 Core switches FoundryNetworks RX16 Amsterdam, 9 Maart, 2006

Technisch overzicht AMS-IX platform Amsterdam, 9 Maart, 2006

Technisch overzicht AMS-IX platform Waarom hub/spoke topologie ? In hub/spoke model een betere verdeling van de bandbreedte over de inter-switch links Alleen verkeer op een link voor de switch die daaraan verbonden is. Voorheen een cirkel topologie Alle interswitch links moeten dezelfde capaciteit hebben Amsterdam, 9 Maart, 2006

Technisch overzicht AMS-IX platform In hub/spoke topologie verschillende single points of failure Core switch Dark fiber verbindingen tussen edge en core switch. Opgelost door implementatie van dubbele hub/spoke topologie Twee core switches Altijd een actief en een standby Vanaf elke edge switch twee verbindingen naar core switches Edge switches zijn niet redundant Klanten sluiten aan op meerdere edge switches. Amsterdam, 9 Maart, 2006

Technisch overzicht AMS-IX platform Amsterdam, 9 Maart, 2006

Technisch overzicht AMS-IX platform Protocol nodig voor failover en om loops in de Ethernet infrastructuur te voorkomen VSRP Altijd één core switch operationeel en één standby Geeft de mogelijkheid om te werken aan core switch (upgrade, aanpassingen etc) zonder de productie te verstoren Geeft de mogelijkheid te werken aan een of meerdere interconnectie links van de standby infrastruktuur. Amsterdam, 9 Maart, 2006

VSRP virtual switch redundancy protocol Foundry propriety Master/Slave selection Een van beide core switches is geconfigureerd als master. De andere als slave Keuze voor master of slave gebaseerd op prioriteit. Prioriteit wordt geadverteerd in HELLO messages Na de initiële master keuze, stuurt alleen deze nog HELLO messages uit om te laten weten dat hij nog bestaat. De slave switch blokkeert zijn interfaces ! Amsterdam, 9 Maart, 2006

VSRP virtual switch redundancy protocol VSRP configuratie bestaat uit verschillende onderdelen Voor welk VLAN Prioriteit bepaalt of switch initieel master of slave word Interfaces welke van belang zijn voor VSRP Welke interfaces zin van belang voor een master/slave failover ? Timers Bepaald de uiteindelijke convergentie tijd in geval van een “failover” Amsterdam, 9 Maart, 2006

VSRP virtual switch redundancy protocol Prioriteits bepaling. Geconfigureerde prioriteit maal de verhouding tussen operationele en niet operationele links Bijvoorbeeld 4 links Geadverteerde prioriteit is = geconfigureerde prioriteit * (aantal operationele links)/4 Als alle links werken is de geconfigureerde prioriteit doorslaggevend voor master keuze Als één link breekt dan wordt de door de master geadverteerde prioriteit geconfigureerde prioriteit * 3/4 De geconfigureerde prioriteit van de slave is zo dat deze dan hoger wordt dan die van de master en failover plaatsvind. Amsterdam, 9 Maart, 2006

VSRP virtual switch redundancy protocol Foundry edge switches zijn VSRP aware Luisteren naar HELLOs van de master Onthouden op welke poort deze binnen komen Op het moment dat de HELLOs over een andere poort binnenkomen passen ze de MAC tabel aan. Heeft als voordeel dat niet opnieuw MAC adressen geleerd hoeven te worden. Typische failover tijd voor de AMS-IX configuratie is < 100 ms. Amsterdam, 9 Maart, 2006

Topology group VSRP werkt per VLAN Ter vereenvoudiging gebruiken we zogenaamde Topology group Master VLAN draait VSRP Member VLANs (ISP, GRX, MDX) volgen topologie veranderingen master VLAN Amsterdam, 9 Maart, 2006

Technisch overzicht AMS-IX platform Foundry Networks BigIron Ethernet switches Type Use Capacity 15000 10, 100 base TX GE: SX, LX, LH 10GE for ISL 120 GE ports max. Limitation in ISL, max 2 * 10GE Aggregates = 14Gbit/s MG8 10GE customers 32 10GE ports max RX16 Core 64 10GE ports max Amsterdam, 9 Maart, 2006

Klant aansluitingen Co-Lo site Huren of plaatsen van racks met routers, switches, servers en dergelijke. Typisch verbinding van klant router op co-lo site naar lokale AMS-IX switch. AMS-IX beheer beperkt tot de switches. Co-locatie ruimte en verbindingen tussen klant apperatuur en AMS-IX verantwoording co-locatie. Amsterdam, 9 Maart, 2006

Klant aansluitingen Elke co-locatie site heeft AMS-IX ethernet switch Interconnectie tussen switches (X * 10GE ) Klant poorten 10 of 100 Mbit/s over koper (UTP5/RJ45) 1GE SX over fiber (850 nm over MM fiber) 1GE Mbit/s LX of LH (1310 of 1550 nm over SM fiber) Geaggregeerde GE aansluitingen ( 2 of 4 GE) 10 GE (1550|1310 nm over SM fiber) Geaggregeerde 10GE aansluiting (2 * 10GE) Amsterdam, 9 Maart, 2006

Klant aansluitingen 10GE Realiseren door aansluiting op Photonic switch Photonic switch zorgt voor aansluiting op actieve 10GE edge switch Aansturing photonic switches Webinterface TL1 Management station laten luisteren naar SNMP traps voor VSRP Op grond van VSRP prioriteit verandering worden de photonic switches aangestuurd. Software hiervoor is door AMS-IX ontwikkeld Amsterdam, 9 Maart, 2006

Klant aansluitingen Verschillende VLANs ISP VLAN GRX VLAN MDX VLAN Dit is het meest gebruikte en op het moment belangrijkste VLAN. Hierop vind de peerings plaats voor Internet connectiviteit tussen de aangesloten partijen GRX VLAN Aangesloten partijen zijn zogenaamde GRX providers. Verzorgen roaming verkeer tussen GPRS operators MDX VLAN Aangesloten partijen zijn de Nederlandse mobiele operators Interconnectie voor de uitwisseling van MMS verkeer. Amsterdam, 9 Maart, 2006

De optische infrastruktuur De optische infrastruktuur bij AMS-IX bestaat uit twee componenten GE en 10GE interfaces worden optisch gekoppeld De gebruikt optische form factoren zijn: SFP XENPAK or XFP 850, 1310 en 1550 nm De laatste twee gebruiken MM fiber Amsterdam, 9 Maart, 2006

De optische infrastruktuur De optische infrastruktuur bij AMS-IX bestaat uit twee componenten Photonic switches Glimmerglass networks Layer 1 switches 64 or 144 port switch Map any fiber on any other fiber Amsterdam, 9 Maart, 2006

Optical infrastructure Amsterdam, 9 Maart, 2006

Photonic Switching Glimmerglass networks System 300 switch 64 port MEMS based switch Connect any port to any other port Fiber Array Reflecting Mirror Micro lens Array Micro Mirror Array Amsterdam, 9 Maart, 2006

Glimmerglass networks photonic switch Glimmerglass Networks optical cross connects MEMS (micro-electromechanical switch) based 64 bij 64 mirror array MEMS array bestaat uit silicium spiegels (1mm diameter) die met behulp van een electrostatisch veld gericht worden. Maakt het mogelijk willekeurige inkomende fiber te mappen op een willekeurige uitgaande fiber. Typische switch tijd is in de orde van 15 ms. Amsterdam, 9 Maart, 2006

Optische infrastructuur Gebruik op twee manieren Alle interswitch links worden via photonic switches gerouteerd Schept de mogelijkheid van het verplaatsen van links of het in of uitschakelen van nieuwe links Het schakelen van 10GE klanten tussen de twee infrastrukturen. Amsterdam, 9 Maart, 2006

Bescherming van het platform Groot gevaar voor Ethernet platform: LOOPs Controleerbaar op eigen platform Moeilijk als klanten L2 infrastructuren koppelen Amsterdam, 9 Maart, 2006

Bescherming van het platform Maatregelen Scheiden van VLANs. Klant L2 apparatuur zit niet in zelfde controle VLAN als AMS-IX Port security Sta slechts 1 MAC address toe achter een klant poort. Dit is per definitie de router anders geen functionaliteit. Luister niet naar STP of andere protocollen op klant poort AMS-IX VLANs volgen master VLAN in topology changes Amsterdam, 9 Maart, 2006

Bescherming van het platform Maatregelen Limiteer de hoeveel broadcasts, unknown unicasts en multicasts welke uitgestuurd worden op een poort. Breekt het ongebreideld groeien van broadcast verkeer in een loop Broadcast, multicast en unknown unicast worden door CPU adfgehandeld Een nieuwe poort wordt opgebracht in een zogenaamd Quarantaine VLAN Alleen die poort en monitor apparatuur. Controle dat alleen juiste MAC adres zichtbaar is en er geen L2 protocollen worden gestuurd. Amsterdam, 9 Maart, 2006

Agenda De rol van een Internet Exchange in het Internet De AMS-IX organisatie Technisch overzicht AMS-IX platform Klant aansluitingen Ontwikkelingen Amsterdam, 9 Maart, 2006

Groei zal dus voorlopig nog wel doorzetten. AMS-IX heeft alleen maar groei gekend! Zowel in aantal klanten, poorten als verkeer. Gezien de ontwikkelingen zal dat nog wel een tijdje doorgaan: Meer en snellere breedbandverbindingen naar de eindgebruikers ADSL2+, FTTH etc Toename gebruik video Groei zal dus voorlopig nog wel doorzetten. Amsterdam, 9 Maart, 2006

Groei Amsterdam, 9 Maart, 2006

Amsterdam, 9 Maart, 2006

Groei Amsterdam, 9 Maart, 2006

Groei Amsterdam, 9 Maart, 2006

Groei Amsterdam, 9 Maart, 2006

Klant aansluitingen Klanten sluiten aan met BGP capabele router. Cisco, Juniper, Foundry, Extreme, FreeBSD, Linux Cisco 65% Juniper 26% Foundry 3% Intel 2% Extreme 2% Diversen 2% Amsterdam, 9 Maart, 2006

Klant aansluitingen Klanten aansluitingen met 1GE of groter Cisco 58% Juniper 46% Foundry 4% Intel 1% Extreme 2% Riverstone 1% Verhouding Nederlands klanten ten opzichte van internationale partijen ongeveer 40% Amsterdam, 9 Maart, 2006