Hoofdstuk 5 Het belang van geheugens Prof. dr. ir. Dirk Stroobandt Academiejaar 2004-2005.

Presentatie over: "Hoofdstuk 5 Het belang van geheugens Prof. dr. ir. Dirk Stroobandt Academiejaar 2004-2005."— Transcript van de presentatie:

1 Hoofdstuk 5 Het belang van geheugens Prof. dr. ir. Dirk Stroobandt Academiejaar 2004-2005

2 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -2- Inhoud (deel 2) Het belang van interconnecties Het belang van ingebed geheugen Het voorspellen van prestaties Architecturen voor complexe systemen –Processorarchitecturen –Herconfigureerbare hardware –Hergebruik van IP-kernen Interfaces en interface-ontwerp

3 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -3- Geheugengrootte Data, programmas en FPGA-configuraties moeten opgeslagen worden Efficientie in –Looptijd –Codegrootte –Energie

4 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -4- Geheugengrootte Snelheidsverschil geheugens en processoren groeit: caches nodig

5 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -5- Geheugengrootte Verminder overhead van adresberekening door scratchpadgeheugen

6 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -6- Geheugentypes SRAM –Zeer snel, laag vermogenverbruik, caches in PCs, telecom, multimedia-computers, netwerkingtoepassingen, GSM, supercomputers, ingebedde systeemgeheugens DRAM –Middelmatige tot hoge snelheid, grote computersystemen, lage kost, grote volumes, PC, hard disk, grafische borden, printers, PDAs, camcorders, ingebedde systeemgeheugens, ingebedde logica

7 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -7- Geheugentypes FRAM –Laag vermogen, niet-volatiel, smart cards, RF- identificatie, vervanging van niet-volatiele RAM en hoogdensiteits SRAM ROM –Grote volumes, videospelletjes, karaktergeneratoren, laser printer fonts, ingebedde geheugens EPROM –CD-rom, modems, ingebedde systemen

8 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -8- Geheugentypes EEPROM –Militair, vliegtuigcontrole, gebruiksvoorwerpen, draagbare apparaten, modems, draadlowe telefoons, disk drives, printers, air bags, abs, autoradio’s, smart card, set-top boxes, ingebedde geheugens FLASH –Draagbare systemen, communicatiesystemen, code- opslag, geheugenkaarten, BIOS, digitale camera’s, flash-kaarten, palm tops, batterijgevoede apparaten, ingebedde geheugens, MP3-spelers NVRAM, BRAM –Als vermogendips niet mogen, medisch, ruimteschip

9 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -9- Caches and CPUs CPU cache controller cache main memory data address data address

10 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -10- Cache operation Many main memory locations are mapped onto one cache entry. May have caches for: –instructions; –data; –data + instructions (unified). Memory access time is no longer deterministic.

11 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -11- Terms Cache hit: required location is in cache. Cache miss: required location is not in cache. Working set: set of locations used by program in a time interval.

12 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -12- Types of misses Compulsory (cold): location has never been accessed. Capacity: working set is too large. Conflict: multiple locations in working set map to same cache entry.

13 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -13- Memory system performance h = cache hit rate. t cache = cache access time, t main = main memory access time. Average memory access time: –t av = ht cache + (1-h)t main

14 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -14- Multiple levels of cache CPU L1 cache L2 cache

15 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -15- Multi-level cache access time h 1 = cache hit rate. h 2 = rate for miss on L1, hit on L2. Average memory access time: –t av = h 1 t L1 + (h 2 -h 1 )t L2 + (1- h 2 -h 1 )t main

16 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -16- Replacement policies Replacement policy: strategy for choosing which cache entry to throw out to make room for a new memory location. Two popular strategies: –Random. –Least-recently used (LRU).

17 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -17- Cache organizations Fully-associative: any memory location can be stored anywhere in the cache (almost never implemented). Direct-mapped: each memory location maps onto exactly one cache entry. N-way set-associative: each memory location can go into one of n sets.

18 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -18- Cache performance benefits Keep frequently-accessed locations in fast cache. Cache retrieves more than one word at a time. –Sequential accesses are faster after first access.

19 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -19- Ingebedde geheugens In SoC: logica + geheugen op 1 chip –Hogere bandbreedte –Kleiner aantal pinnen –Kleiner systeem –Betrouwbaarder systeem –Lager vermogenverbruik Kan gebruik maken van ongebruikte transistoren door de ontwerpskloof Door samenbouw op chip: dikwijls geen caches maar onmiddellijk (klein) hoofdgeheugen

20 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -20- Ingebedde geheugens Drie manieren om ingebedde geheugens te integreren –Geheugens in technologie voor logica SRAM, DRAM en zelfs EEPROM Voor SRAM geen bijkomende ontwerpstappen nodig –Logica in technologie voor geheugens (meestal DRAM) Hoogste densiteit voor geheugens Gebruiken minder interconnectielagen –Gemengde technologie Meer interconnectielagen voor de logica

21 Dirk Stroobandt: Ontwerpmethodologie van Complexe Systemen 2004-2005 -21- Ingebedde geheugens Vooral aandacht voor –Op tijd opvullen van het geheugen op chip met de nodige data (streaming-toepassingen) Is mogelijk doordat de toepassing gekend is –Goede datalayout om efficiënt geheugengebruik te bevorderen –Gepaste lustransformaties e.d.