Prefetching (или как сократить количество кэш-мисов)

@Kastaneda · Регистрация: 12.12.2009

Студворк — интернет-сервис помощи студентам

Привет!
Работаю с большим объемом данных, доступ к которым осуществляется непоследовательно. Думаю как сократить время работы алгоритма, замерил количество кэш-мисов - очень высокое. Чтоб сократить его решил сделать префетчинг данных, т.е. пока считаются некоторые данные, в это время данные, которые скоро понадобятся, подкачиваются в кэш.
В сишном коде сделал такую вставку:

Assembler
1
2
prefetcht0 BYTE PTR [eax] ; эта строка в цикле, для префетча нужного кол-ва байт
                          ; в eax адрес нужых данных

Но количество кэш-мисов не сократилось. Для эксперемента сделал тупо массив из миллиона байт, обхожу массив последовательно суммируя каждый элемент массива в переменную. Делаю так - префетчу 100 байт, потом считаю эти 100 байт, потом префетчу следующие 100 байт, потом считаю их и т.д. Т.е. понятно, что время уходит больше, просто хотел посмотреть на кол-во кэш-мисов. Так вот с префетчем кол-во кэш-мисов больше, чем без префетча.
Скажите, что я делаю не так?

murderer · 24.02.2012, 19:01

Попробуй prefetchnta

На таком простеньком цикле даёт выигрыш 5%

Assembler
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
mov ecx,-SIZE
@@:prefetchnta byte[a+ecx+SIZE+128]
   add eax,dword[a+ecx+SIZE]
   add eax,dword[a+ecx+SIZE+4]
   add eax,dword[a+ecx+SIZE+8]
   add eax,dword[a+ecx+SIZE+12]
   add eax,dword[a+ecx+SIZE+16]
   add eax,dword[a+ecx+SIZE+20]
   add eax,dword[a+ecx+SIZE+24]
   add eax,dword[a+ecx+SIZE+28]
   add eax,dword[a+ecx+SIZE+32]
   add eax,dword[a+ecx+SIZE+36]
   add eax,dword[a+ecx+SIZE+40]
   add eax,dword[a+ecx+SIZE+44]
   add eax,dword[a+ecx+SIZE+48]
   add eax,dword[a+ecx+SIZE+52]
   add eax,dword[a+ecx+SIZE+56]
   add eax,dword[a+ecx+SIZE+60]
   add ecx,64
jnz @b

Но похоже, что дистанцию предвыборки нужно подбирать под конкретный процессор. Я взял 128 байт из AMD`шной доки.

Там же предлагается формула

дистанция выборки = 200*(DS/C)

Округляйте в большую сторону к ближайшей кеш-линейке
DS – шаг данных в итерации.
C – количество тактов в итерации (при условии выполнения в кеше первого уровня).

@Kastaneda · 25.02.2012, 08:48 **[ТС]**

murderer, спасибо! Попробую к сожалению уже только завтра, обязательно отпишусь.

Добавлено через 13 часов 14 минут
Не, кэш-мисов меньше не стало, при чем порой наоборот даже больше. Попробовал разные дистанции и команды для префетча (prefetchnta, prefetcht0 - prefetcht2).
У меня уже складывается ощущение, что префетч и кэш-мисы вообще ни как не связаны, судя по тому, что я вижу.

Новые блоги и статьи Все статьи Все блоги /
Access VikBal 11.12.2025 Помогите пожалуйста !! Как объединить 2 одинаковые БД Access с разными данными.	Новый ноутбук volvo 07.12.2025 Всем привет. По скидке в "черную пятницу" взял себе новый ноутбук Lenovo ThinkBook 16 G7 на Амазоне: Ryzen 5 7533HS 64 Gb DDR5 1Tb NVMe 16" Full HD Display Win11 Pro	Музыка, написанная Искусственным Интеллектом volvo 04.12.2025 Всем привет. Некоторое время назад меня заинтересовало, что уже умеет ИИ в плане написания музыки для песен, и, собственно, исполнения этих самых песен. Стихов у нас много, уже вышли 4 книги, еще 3. . .	От async/await к виртуальным потокам в Python IndentationError 23.11.2025 Армин Ронахер поставил под сомнение async/ await. Создатель Flask заявляет: цветные функции - провал, виртуальные потоки - решение. Не threading-динозавры, а новое поколение лёгких потоков. Откат?. . .	Поиск "дружественных имён" СОМ портов Argus19 22.11.2025 Поиск "дружественных имён" СОМ портов На странице: https:/ / norseev. ru/ 2018/ 01/ 04/ comportlist_windows/ нашёл схожую тему. Там приведён код на С++, который показывает только имена СОМ портов, типа,. . .
Сколько Государство потратило денег на меня, обеспечивая инсулином. Programma_Boinc 20.11.2025 Сколько Государство потратило денег на меня, обеспечивая инсулином. Вот решила сделать интересный приблизительный подсчет, сколько государство потратило на меня денег на покупку инсулинов. . . .	Ломающие изменения в C#.NStar Alpha Etyuhibosecyu 20.11.2025 Уже можно не только тестировать, но и пользоваться C#. NStar - писать оконные приложения, содержащие надписи, кнопки, текстовые поля и даже изображения, например, моя игра "Три в ряд" написана на этом. . .	Мысли в слух kumehtar 18.11.2025 Кстати, совсем недавно имел разговор на тему медитаций с людьми. И обнаружил, что они вообще не понимают что такое медитация и зачем она нужна. Самые базовые вещи. Для них это - когда просто люди. . .	Создание Single Page Application на фреймах krapotkin 16.11.2025 Статья исключительно для начинающих. Подходы оригинальностью не блещут. В век Веб все очень привыкли к дизайну Single-Page-Application . Быстренько разберем подход "на фреймах". Мы делаем одну. . .	Фото: Daniel Greenwood kumehtar 13.11.2025

@Kastaneda 5232 / 3205 / 362 Регистрация: 12.12.2009 Сообщений: 8,143 Записей в блоге: 2
	25.02.2012, 08:48 [ТС]
	murderer, спасибо! Попробую к сожалению уже только завтра, обязательно отпишусь. Добавлено через 13 часов 14 минут Не, кэш-мисов меньше не стало, при чем порой наоборот даже больше. Попробовал разные дистанции и команды для префетча (prefetchnta, prefetcht0 - prefetcht2). У меня уже складывается ощущение, что префетч и кэш-мисы вообще ни как не связаны, судя по тому, что я вижу. 0