Как понять хитрость ускорения

Извините за, может быть, слишком абстрактный вопрос, но для меня это довольно практично +, может быть, некоторые эксперты имели подобный опыт и могут его объяснить.

У меня большой код размером около 10000 строк.

Я замечаю, что если в определенном месте я ставлю

if ( expression ) continue;

где выражение всегда ложь (дважды проверено логикой кода и cout), но зависит от неизвестных параметров (поэтому компилятор не может просто избавиться от этой строки во время компиляции) скорость программы увеличился на 25% (результат расчета одинаковый). Если я измеряю скорость самого цикла, коэффициент ускорения больше 3.

Почему это может произойти и каковы возможные способы использования этой возможности ускорения без таких уловок?

Постскриптум Я использую gcc 4.7.3, оптимизацию -O3.

Больше информации:

1. Я пробовал два разных выражения, оба работают.

2. Если я изменю строку на:

   if ( expression ) { cout << " HELLO " << endl; continue; };
   

   ускорение прошло.

3. Если я изменю строку на:

   expression;
   

   ускорение прошло.

4. Код, который окружает строку, выглядит так:

   for ( int i = a; ;  ) {
   do {
   i += d;
   if ( d*i > d*ilast ) break;
   
   // small amount of calculations, and conditional calls of continue;
   
   } while ( expression0 );
   if ( d*i > dir*ilast ) break;
   
   if ( expression ) continue;
   
   // very big amount calculations, and conditional calls of continue;
   
   }
   

   цикл for выглядит странно. Это потому, что я изменил петли, чтобы поймать эту горлышко бутылки. Первоначально выражение было равно expression0 и вместо do-loop у меня было только это продолжение.

5. Я попытался использовать __builtin_expect для того, чтобы понять прогноз ветвления. С

     // the expression (= false) is supposed to be true by branch prediction.
   if ( __builtin_expect( !!(expression), 1) ) continue;
   

   ускорение составляет 25%.

     // the expression (= false) is supposed to be false by branch prediction.
   if ( __builtin_expect( !!(expression), 0) ) continue;
   

   ускорение прошло.

6. Если я использую -O2 вместо -O3, эффект исчезнет. Код немного (~ 3%) медленнее, чем быстрая версия O3 с ложным условием.

7. То же самое для «-O2 -finline-functions -funswitch-loops -fpredictive-commoning -fgcse-after-reload -ftree-vectorize». С еще одной опцией: «-O2 -finline-functions -funswitch-loop -fpredictive-commoning -fgcse-after-reload -ftree-vectorize -fipa-cp-clone» эффект усиливается. С «линией» скорость такая же, без «линии» код на 75% медленнее.

8. Причина только в следующем условном операторе. Итак, код выглядит так:

   for ( int i = a; ;  ) {
   
   // small amount of calculations, and conditional calls of continue;
   
   if ( expression ) continue;
   
   // calculations1
   
   if ( expression2 ) {
   // calculations2
   }
   
   // very big amount calculations, and conditional calls of continue;
   
   }
   

   Значение expression2 почти всегда ложно. Поэтому я изменил это так:

   for ( int i = a; ;  ) {
   
   // small amount of calculations, and conditional calls of continue;
   
   // if ( expression ) continue; // don't need this anymore
   
   // calculations1
   
   if ( __builtin_expect( !!(expression2), 0 ) ) { // suppose expression2 == false
   // calculations2
   }
   
   // very big amount calculations, and conditional calls of continue;
   
   }
   

   И получили желаемое ускорение на 25%. Даже немного больше. И поведение больше не зависит от критической линии.

Если кто-то знает материалы, которые могут объяснить это поведение без догадок, я буду очень рад прочитать и принять их ответ.