Сделал редактор карт для 2-х мерной игрушки. (Тайлы)
Результат сохраняю в обычном текстовом файле. (Одни числовые данные)
Собственно вопрос: в некоторых играх специально создают свой собственный формат для хранения карт.
Как мне сделать подобное? С моим расширением? Заранее благодарен.

Ну так ты уже сделал.
Сохраняешь в файл, называешь как нибудь - вот тебе твой собственный формат файлов.

А как сделать его бинарным, а потом считать?

BlockWrite, BlockRead