Pamięć i pamięć podręczna
Podsumowanie: zasady dla programisty
- Pamięć to najwolniejszy element. Liczy się nie liczba instrukcji, lecz liczba chybień w pamięci podręcznej.
- Przeglądaj dane sekwencyjnie i po kolei, a nie losowo i z dużymi skokami.
- Układaj dane zwarcie (tablica struktur lub struktura tablic,
std::vector zamiast std::list), tak aby użyteczne dane mieściły się w jak najmniejszej liczbie wierszy 64 B.
- Zadbaj o wyrównanie, a dane modyfikowane przez różne wątki trzymaj w osobnych wierszach.
- Pracuj na fragmentach mieszczących się w L1/L2 (blocking, tiling), np. mnożenie macierzy blokami.
- Duże zbiory danych: strony duże, NUMA (alokuj i przetwarzaj dane w tym samym węźle), unikaj kopiowania.
- Mierz (
perf, valgrind --tool=cachegrind), zamiast zgadywać.
Tomasz Kapela, Kraków 2011-2020