> Очень сильно вырос объем файла подкачки vswp, как уменьшить?
Разбираться с количеством памяти на хосте и в виртуалке, в частности посмотрите в документации на reservation memory и на влияние ее на vswp size
> И что за виртуальные диски создались sql-000001.vmdk и sql-000002.vmdk?
Похоже на снапшоты. Что говорит snapshot manager?
А вообще если это MS SQL оставлять его без выставленного ограничния памяти в настройках не правильно. Память ему идет в прок только до каких то разумных пределов