Приложение запущено в виртуальной машине.
Каким образом можно "достучаться" из него до другого приложения, запущенного на основном компе (на котором, собственно, и запущена виртуалка)?
Хотя бы определить - работает ли оно в данный момент времени.

По сети, вестимо. Если хочется извращений, то можно в настройках машины подмонтировать пайп к последовательному порту, например, и работать как бы с последовательным портом.

можно через "расшаренную" папку

Наверное, я неправильно описал проблему. Попробую еще раз.
На компе запущена виртуалка. В этой виртуалке запущено приложение "А". Во время его работы возникает подозрение, что на основной машине запустилось запрещенное для него приложение "B". Где оно запущено (из какой папки, под каким пользователем, ...) не суть важно. Главное, что надо определить - запущено оно или нет.
Вот и вопрос - можно ли из приложения "А" узнать список открытых окон на основном компе? Т.е. из виртуальной машины просмотреть открытые окна приложений основного компа на котором и запущена эта ВМ.

нет никаких "основных" компов
запущенная виртуалка - точно такой же комп как и все остальные.

Главное, что надо определить - запущено оно или нет.

ну и определяй.
виртуальность или невиртуальность на этот процесс никак не влияет.