[flopix]

k - это количество пропускаемых точек, при построение очередного отрезка, k = 0 .. N-1


Одним из признаков, что звезда получилась является:

1. построение звезды закончилось в той же точке где и началось
2. количество отрезков равно количеству точек на окружности

Но это не достаточное условие, нужно как то исключить попадание в одни и те же точки, надо подумать как.

И кстати пример по вашей ссылке вряд ли является корректным решением этой задачи так как N по условию может быть очень большим числом и задан лимит в 2 секунды на работу программы.
Но могу ошибаться, там основной цикл идет от 2 до корень из N.