Найди ближайшие течки каждой линии. Те линии, что будут содержать ближайшую точку, с большой вероятностью будут ближайшими. Ну и перпендикуляры придётся проверить, если линии длинные. Так же можно проверить угол, от проверяемой координаты, если он острый, то вторую проверку делать не надо, если тупой, то проверить надо (на перпендикуляр).
Google translate:
Find the nearest points of each line. Those lines that contain the nearest point are most likely to be the nearest. Well, and the perpendiculars will have to be checked if the lines are long. You can also check the angle from the coordinate being checked, if it is acute, then you do not need to do a second check, if it is obtuse, then you need to check (for the perpendicular).