С высокой периодичностью подвисает система

процессом system

какой именно модуль вешает проц. можно посмотреть тулзой ProcessExplorer

Virtual Size - сумма всех зарезервированных регионов виртуальной памяти (неважно с переданной или не переданной памятью) процесса, в таких регионах располагаются все объекты - кучи, проекции файлов и разделяемая память (может подкачиваться как из файла на диске, так и из страничного файла). Показатель большой потому что включает в себя в том числе зарезервированную, но пока неиспользуемую память. Например для стека любого потока сразу резервируется 1 Мб (если в образе не указан другой размер), есть к тому же проблема гранулярности регионов. Но в случае баз данных скорее всего происходит проецирование больших файлов на адресное пространство (такая память не относится к Private).
Working Set - это так называемый рабочий набор процесса - сумма всех страниц памяти процесса, которые находятся в ОП, а не на диске в данный момент. Размер этого набора непостоянен, если в системе достаточно много свободных физических страниц, то набор может расти вплоть до максимального и выше, если наблюдается нехватка свободных страниц, то рабочие наборы процессов начинают усекаться - у процессов отбираются странички, содержимое которых, если нужно, сбрасывается в страничный файл или файл на диске.
Peak Working Set - соответственно показывает до кого максимального размера разрастался рабочий набор процесса за время его работы. Бестолковый показатель.
Private Bytes - память формально недоступная другим процессам (хотя ReadProcessMemory/WriteProcessMemory легко до неё дотянутся). По сути это любая память, кроме проекций файлов (PE образов, файлов данных, разделяемых областей с подкачкой из страничного файла), в подавляющем большинстве приложений это куча/кучи процесса. Поэтому этот показатель важен для мониторинга утечек.
Peak Private Bytes - ну думаю понятно.