Можно ли вообще работать на GLScene c векторными файлами,
т.е., я загружаю на GLSprite WMF рисунок, но GLSprite понимает его как растровый рисунок, и соответственно при масштабировании спрайта рисунок искажается???

Точно не знаю, но предполагаю, что у разработчиков GLScene хватает забот кроме разбора метафайлов.
Сам по себе разбор не сложен (EnumEnhMetafile или как-то в этом духе). Если нужен какой-то конкретный тип примитивов - линии, например, то их можно получить без особых проблем. Но если нужен вывод вообще любых метафайлов (которые суть записанная последовательность команд GDI) - нужно писать эмулятор GDI на OpenGL.