Доступ к ОЗУ замедляет процессор?

В большинстве процессоров небольшой объем быстрой кэш-памяти находится между процессором и основной памятью, храня код и данные, над которыми в данный момент работает процессор, а также пытается активно считывать данные из гораздо более медленной основной памяти (или из следующего уровня кэша).).

"... скажем, мы хотим написать... ЦП должен ждать дополнительное время для памяти, или есть какой-нибудь быстрый контроллер ЦП, который обрабатывает это время ожидания, а ЦП может выполнять еще некоторые операции?"

Да, высокопроизводительные процессоры имеют кэш-память, блок интерфейса шины и буфер записи, так что после того, как ЦП выполняет STORE, остальная часть ЦП может - в большинстве случаев - немедленно продолжить обработку инструкций, пока кеш и шина блок интерфейса и дескриптор буфера записи, отправляющий эти данные в основную память.

Некоторые процессоры отдают приоритет командам LOAD, поэтому, когда за этой инструкцией STORE сразу же следует инструкция LOAD, CPU загружает запрошенные данные из ОЗУ перед сохранением данных в ОЗУ.

процессор должен ждать дополнительное время для памяти

Да, это так. Фактически, проблема, которую вы описываете, является одной из самых больших проблем, с которыми сталкиваются разработчики ЦП и системы при проектировании текущего оборудования: доступ к ОЗУ, как правило, как минимум на порядок медленнее, чем операции внутри ЦП, поэтому доступ к ОЗУ необходимо свести к минимуму,

Это причина того, что все современные процессоры имеют кэш- память процессора, но даже они могут только смягчить проблему.

или есть какой-нибудь быстрый контроллер ЦП, который обрабатывает это время ожидания, а ЦП может сделать еще несколько операций

В общем случае это невозможно, поскольку, когда процессор ожидает данные из ОЗУ, он обычно не может работать без данных. При использовании таких технологий, как гиперпоточность, ЦП может переключаться на выполнение другого программного потока во время ожидания, но для этого требуется поддержка работающего программного обеспечения (оно должно использовать потоки).

В некоторых случаях ЦП может сделать что-то полезное во время ожидания памяти, используя "хитрости", такие как неупорядоченное выполнение и спекулятивное выполнение, но это не всегда возможно. Ответы Энди и Харримка также объясняют это.

Для широкого обсуждения этих проблем есть отличная статья:

Что каждый программист должен знать о памяти Ульриха Дреппера

Если ЦП должен ждать ОЗУ (и на сегодняшних скоростях ЦП это включает в себя кэш L2/L3 на кристалле ЦП), ЦП будет ждать. Это замедляет обработку (поток, работающий на 100% ЦП, может тратить большую часть своих циклов в режиме ожидания на ОЗУ).

Вот почему рассмотрение размещения данных в памяти (при пересечении строк кэша) может оказать большое влияние на производительность жесткого кода обработки данных).

(Исправление к вопросу: последняя оперативная память DDR3 выходит за рамки 1333, 1600 - обычное явление и доступно быстрее без учета разгона.)

есть ли в качестве процессора быстрый контроллер, который обрабатывает это время ожидания и процессор может делать еще несколько операций

Да, но для этого вам понадобится многоядерный компьютер с более чем одним потоком, активно использующим процессор.

По этой причине планировщик операционной системы пытается распределить потоки между ядрами как можно более равномерно и почему каждое ядро ​​обычно имеет собственную кэш-память, чтобы избежать ожидания между ядрами.

Фактически, при покупке многоядерного компьютера следует обратить внимание на размер кеша памяти и, в частности, является ли заявленная для модели компьютера сумма кешем всех ядер, так что в действительности каждое ядро ​​использует только доля от общего