Почему для уравнений вида cos(x) = a и sin(x) = a существует ограничение |a| ≤ 1?

Потому что косинус и синус — это координаты точки на единичной окружности, и их значения ограничены от -1 до 1.