Reducing memory penalty by a programmable prefetch engine for on-chip caches Presentatie voor het vak computerarchitectuur door Armin van der Togt.

Presentatie over: "Reducing memory penalty by a programmable prefetch engine for on-chip caches Presentatie voor het vak computerarchitectuur door Armin van der Togt."— Transcript van de presentatie:

1 Reducing memory penalty by a programmable prefetch engine for on-chip caches Presentatie voor het vak computerarchitectuur door Armin van der Togt

2 Indeling: Probleemstelling De prefetch architectuur Resultaten Conclusies Gerelateerd werk

3 Probleemstelling Verschil tussen snelheid van geheugen en CPU wordt steeds groter dus: cache en prefetching Hardware prefetching duur en complexe geheugen structuren moeilijk Software prefetching veel executie overhead

4 Original code Generated code (inner loop only) Software prefetching

5 De prefetch architectuur PC ALU Hare Prefetch Engine on-chip cache addressbasestridecountstart I4 I5 Run-Ahead Table Memory system Firing ORQ Processor chip

6 iaddr: PC om prefetch te starten : prefetch adres en stapgrootte : prefetch condities count: eens in de count keer dat PC= iaddr wordt een prefetch gestart start: pas na start keer dat aan de bovenstaande conditie is voldaan mag begonnen worden met prefetchen Nieuwe instructie voor de prefetch engine: fill_run_ahead iaddr,,

7 Voorbeeld

8 memory latency = 5 cycles Code met prefetch instructies

9 Resultaten

10

11 Conclusies Prefetching kan geheugen penalty tot 80% verlagen Een programeerbare prefetch engine verlaagt de penalty ten opzichte van software prefetching Bij kleine caches (1-2k) is de programmerbare prefetch engine relatief duur de compiler moet prefetching ondersteunen

12 Gerelateerd werk Fu and Patel: stride directed prefetching in scalar processors (hardware) Mowry and Gupta: software controlled prefetching Chiueh: A programmable hardware prefetch architecture for numerical loops (lijkt hier op)

13 Literatuur Tien-Fu Chen, Reducing memory penalty by a programmable prefetch engine for on- chip caches, Microprocessors and Microsystems, 21 (1997) 121-130