सैंडी ब्रिज + पर यूओपी कैश का उपयोग करके प्रदर्शन में सुधार

लेख की सामग्री

• वातावरण
• फ्रंट एंडा इंटेल प्रोसेसर का अवलोकन
• पीक बैंडविड्थ विश्लेषण cacheop कैश -> IDQ
• उदाहरण

वातावरण

फ्रंट एंडा इंटेल प्रोसेसर का अवलोकन

1. निर्देश फ़ेच यूनिट - IFU
   
   • प्रथम स्तर के निर्देश कैश - L1i
   • निर्देश लॉग अनुवाद पता कैश - ITLB
   • प्रशिक्षक प्रान्त
   • पूर्व डिकोडर निर्देश
2. पूर्व-डिकोड किए गए निर्देशों की कतार
3. माइक्रो-ऑपरेशन प्री-डिकोडेड निर्देश डिकोडर्स

सॉफ़्टवेयर-नियंत्रित प्रीफ़ैच प्रीफ़ैचिंग डेटा के लिए अभिप्रेत है, लेकिन प्रीफ़ेटिंग कोड के लिए नहीं।

1. एल 1 डीसीयू - उपसर्ग सीरियल कैश लाइनें। केवल आगे पढ़ें
2. L1 IP — (. 0x5555555545a0, 0x5555555545b0, 0x5555555545c0, ...), , ,
3. L2 Spatial — L2 -, 128-. LLC
4. L2 Streamer — . L1 DCU «». LLC

स्ट्रीमर : यह प्रीफ़ैचर मॉनिटर के पते के आरोही और अवरोही क्रम के लिए L1 कैश से अनुरोध पढ़ता है। मॉनिटर किए गए रीड रिक्वेस्ट में लोड और स्टोर ऑपरेशंस द्वारा और हार्डवेयर प्रीफ़ैचर्स द्वारा शुरू किए गए L1 DCache अनुरोध और कोड लाने के लिए L1 ICache अनुरोध शामिल हैं।

स्थानिक प्रीफ़ेचर: यह प्रीफ़ैचर एल 2 कैश के लिए लाई गई प्रत्येक कैश लाइन को पूरा करने का प्रयास करता है जो इसे 128-बाइट के साथ संयुक्त बंक को पूरा करता है।

The predecode unit accepts the sixteen bytes from the instruction cache or prefetch buffers and carries out the following tasks:

• Determine the length of the instructions
• Decode all prefixes associated with instructions
• Mark various properties of instructions for the decoders (for example, “is branch.”)

• 16 बाइट्स की 4 लाइनों से मिलकर बनता है
• प्रति चक्र कोड के 32 बाइट तक पीक थ्रूपुट

There are four decoding units that decode instruction into micro-ops. The first can decode all IA-32 and Intel 64 instructions up to four micro-ops in size. The remaining three decoding units handle single-micro-op instructions. All four decoding units support the common cases of single micro-op flows including micro-fusion and macro-fusion.

µop cache --> IDQ

void test_decoded_icache(size_t iteration_count);

align 32
test_decoded_icache:
    ;nop',  0  23 
    dec rdi
    ja test_decoded_icache
    ret

रिज़र्वेशन स्टेशन (RS) के लिए संसाधन आवंटन तालिका (RAT) के लिए यूओपी की संख्या गिना जाता है।

उदाहरण

static unsigned arr1[] = { ... };

static unsigned arr2[] = { ... };

static void arithmetic_mean(unsigned *arr1, unsigned *arr2, unsigned *out, size_t sz){
    unsigned sum = 0;
    size_t idx = 0;
    while(idx < sz){
        sum += (arr1[idx] + arr2[idx]) >> 1;
        out[idx] = sum;
        idx++;
    }
    __asm__ __volatile__("" ::: "memory");
}

int main(void){
    unsigned out[sizeof arr1 / sizeof(unsigned)];
    for(size_t i = 0; i < 4096 * 4096; i++){
        arithmetic_mean(arr1, arr2, out, sizeof arr1 / sizeof(unsigned));
    }
}

-Werror
-Wextra
-Wall
-pedantic
-Wno-stack-protector
-g3
-O3
-Wno-unused-result
-Wno-unused-parameter

(gdb) disas main
Dump of assembler code for function main:
   #...
   0x00000000000005dc <+60>:    nop    DWORD PTR [rax+0x0]
   0x00000000000005e0 <+64>:    mov    edx,DWORD PTR [rdi+rax*4]
   0x00000000000005e3 <+67>:    add    edx,DWORD PTR [r8+rax*4]
   0x00000000000005e7 <+71>:    shr    edx,1
   0x00000000000005e9 <+73>:    add    ecx,edx
   0x00000000000005eb <+75>:    mov    DWORD PTR [rsi+rax*4],ecx
   0x00000000000005ee <+78>:    add    rax,0x1
   0x00000000000005f2 <+82>:    cmp    rax,0x80
   0x00000000000005f8 <+88>:    jne    0x5e0 <main+64>
   0x00000000000005fa <+90>:    sub    r9,0x1
   0x00000000000005fe <+94>:    jne    0x5d8 <main+56>
   #...

 Performance counter stats for './test_decoded_icache':

     2 273 343 251      idq.all_dsb_cycles_4_uops                                     (15,94%)
     4 458 322 025      idq.all_dsb_cycles_any_uops                                     (16,26%)
    15 473 065 238      idq.dsb_uops                                                  (16,59%)
     4 358 690 532      idq.dsb_cycles                                                (16,91%)
     2 528 373 243      idq_uops_not_delivered.core                                     (16,93%)
        73 728 040      idq_uops_not_delivered.cycles_0_uops_deliv.core                                     (16,93%)
       107 262 304      idq_uops_not_delivered.cycles_le_1_uop_deliv.core                                     (16,93%)
       108 454 043      idq_uops_not_delivered.cycles_le_2_uop_deliv.core                                     (16,65%)
     2 248 557 762      idq_uops_not_delivered.cycles_le_3_uop_deliv.core                                     (16,32%)
     2 385 493 805      idq_uops_not_delivered.cycles_fe_was_ok                                     (16,00%)
    15 147 004 678     uops_retired.retire_slots
    4 724 790 623      uops_retired.total_cycles
       
     1,228684264 seconds time elapsed

static void arithmetic_mean(unsigned *arr1, unsigned *arr2, unsigned *out, size_t sz){
    unsigned sum = 0;
    size_t idx = 0;
    if(sz & 2){
        sum += (arr1[idx] + arr2[idx]) >> 1;
        out[idx] = sum;
        idx++;
    }
    while(idx < sz){
        sum += (arr1[idx] + arr2[idx]) >> 1;
        out[idx] = sum;
        idx++;
        sum += (arr1[idx] + arr2[idx]) >> 1;
        out[idx] = sum;
        idx++;  //   idx++     idx+=2
    }
    __asm__ __volatile__("" ::: "memory");
}

Performance counter stats for './test_decoded_icache':

     2 152 818 549      idq.all_dsb_cycles_4_uops                                     (14,79%)
     3 207 203 856      idq.all_dsb_cycles_any_uops                                     (15,25%)
    12 855 932 240      idq.dsb_uops                                                  (15,70%)
     3 184 814 613      idq.dsb_cycles                                                (16,15%)
        24 946 367      idq_uops_not_delivered.core                                     (16,24%)
         3 011 119      idq_uops_not_delivered.cycles_0_uops_deliv.core                                     (16,24%)
         5 239 222      idq_uops_not_delivered.cycles_le_1_uop_deliv.core                                     (16,24%)
         7 373 563      idq_uops_not_delivered.cycles_le_2_uop_deliv.core                                     (16,24%)
         7 837 764      idq_uops_not_delivered.cycles_le_3_uop_deliv.core                                     (16,24%)
     3 418 529 799      idq_uops_not_delivered.cycles_fe_was_ok                                     (16,24%)
     3 444 833 440      uops_retired.total_cycles                                     (18,18%)
    13 037 919 196      uops_retired.retire_slots                                     (18,17%)

    0,871040207 seconds time elapsed

छोटी टिप्पणी