Несложная тригонометрия

 node.setOnMouseDragged(new EventHandler<MouseEvent>() {
 
            @Override
 
            public void handle(MouseEvent mouseEvent) {
                if (node != null) {
                    if (isRotate) {
                        //dx1, dy1 - координаты клика относительно элемента node, (или в будущем длинны катетов).
                        double dx1 = mouseEvent.getSceneX() - node.getLayoutX();
                        double dy1 = mouseEvent.getSceneY() - node.getLayoutY();
                        //l - длинна гипотенузы.
                        double l = Math.sqrt(dx1 * dx1 + dy1 * dy1);
                        //синус и косинус, уже не представляю зачем они.
                        dx1 /= l;
                        dy1 /= l;
                        //угол 90 градусов в радианах
                        double angle = PI / 2;
                        //синус и косинус 90 градусов? единица и 0? зачем это все?
                        double dx2 = sin(angle);  
                        double dy2 = cos(angle);     
                         //умножаются синусы... тут я уже потерян. 
                        double cosA = dx1 * dx2 + dy1 * dy2;
 
                        //а дальше магия
 
                        angle = acos(cosA);        
                        if (dy1 < 0) angle = PI - angle;
                        //в джаве все в радианах, тут из радиан в градусы
                        node.setRotate(angle / PI * 180);
                    } else {
                        node.setLayoutX(mouseEvent.getSceneX() - delta.x);
                        node.setLayoutY(mouseEvent.getSceneY() - delta.y);
                    }
                }
            }
        });