А как вы поступаете с растрами у которых неправильно напечатана рамка (не там где она должна быть)?
На приведённом рисунке рамка (по расчёту) должна идти по концам горизонталей. В таких случаях, что делать?

Ещё вопрос - выполняете ли вы проверку и отсев опорных точек перед коррекцией и по какому принципу?
Поскольку бывают подобные ситуации связанные с качеством печати (в продолжение предыдущего поста):

Я думаю, как раз наоборот - рамка на месте, а горизонтали вылезли. Во всяком случае, в нашей практике противоположной ситуации не случалось. Да и сами посудите: рамка несет некоторую координатную информацию, т.к. номенклатурные листы строго определены. А горизонтали - это руками нарисованные кривые.

Нет, не выполняем. Поскольку сложно предположить, какие отклонения допустимы, а какие нет. Качество контрольных точек остается на совести пользователя.

Имеет ли смысл, перед трансформацией поворачивать раст для горизонтального расположения линий КМ сетки? Или это пустая трата времени.

Только если исходный растр повернут градусов так на 30-50. Но лучше так не сканировать, конечно.
А вообще - поворот растра на небольшой угол (не на 90) всегда ведет к дополнительному искажению цветов. И коррекция тоже это делает. Соответственно, чем больше таких преобразований, тем больше портится растр.

Есть файл с картой города в формате jpeg как выделить из него полигоны???

Уточните вопрос. Полигоны чего надо выделить из этого растра?
Если полигоны кварталов, то достаточно выделить линии белого цвета, векторизовать, оптимизировать как ломаные и выполнить сборку полигонов.

Надо выделить чисто дома(зеленого и темно зеленого цвета) в полигоны