А в логах самого ESX ваша попытка логина зафиксирована? На что он сам в логах жалуется?
Ну и не смотря на ваше "настройки ip в порядке" - если хосты в одной сети, имеют сходное HW то вам придется искать (по убыванию достоверности)
- разницу в настройках tcpip.
- разницу в настройках FW по доступу к ESX-ам по дороге.
- проконтроллировать что пакеты длинной 1500 до обоих хостов доходят