• # benchmarks latence et bande passante CPU en 2020

    Posté par (Mastodon) . En réponse au journal Exercices de programmation et benchmarks. Évalué à 2.

    Un autre benchmark qui fait suite à un article de 2012 souvent donné comme référence (Numbers Every Programmer Should Know) permet de voir comment la latence et la bande passante des processeurs a progressé en 8 ans.

    https://www.forrestthewoods.com/blog/memory-bandwidth-napkin-math/

    l'auteur note que l'article original donnait des chiffres qui était (au moins pour le premier d'entre eux) un peu sujets à caution :

    L1 cache reference 0.5 ns
    Branch mispredict 5 ns
    L2 cache reference 7 ns 14x L1 cache
    Mutex lock/unlock 25 ns
    Main memory reference 100 ns 20x L2 cache, 200x L1 cache
    Compress 1K bytes with Zippy 3,000 ns 3 us
    Send 1K bytes over 1 Gbps network 10,000 ns 10 us
    Read 4K randomly from SSD* 150,000 ns 150 us ~1GB/sec SSD
    Read 1 MB sequentially from memory 250,000 ns 250 us
    Round trip within same datacenter 500,000 ns 500 us
    Read 1 MB sequentially from SSD* 1,000,000 ns 1,000 us 1 ms ~1GB/sec SSD, 4X memory
    Disk seek 10,000,000 ns 10,000 us 10 ms 20x datacenter roundtrip
    Read 1 MB sequentially from disk 20,000,000 ns 20,000 us 20 ms 80x memory, 20X SSD
    Send packet CA->Netherlands->CA 150,000,000 ns 150,000 us 150 ms
    

    Et que maintenant, sur un i7 il a pu en gros calculer la latence suivante

    L1 CACHE hit, ~4 cycles(2.1 - 1.2 ns)
    L2 CACHE hit, ~10 cycles(5.3 - 3.0 ns)
    L3 CACHE hit, line unshared ~40 cycles(21.4 - 12.0 ns)
    L3 CACHE hit, shared line in another core ~65 cycles(34.8 - 19.5 ns)
    L3 CACHE hit, modified in another core ~75 cycles(40.2 - 22.5 ns)
    local RAM ~60 ns
    

    et pour la bande passante :

    Memory Bandwidth: 39.74 gigabytes per second
    L1 cache: 192 kilobytes (32 KB per core)
    L2 cache: 1.5 megabytes (256 KB per core)
    L3 cache: 12 megabytes (shared; 2 MB per core)