DOUBLE value is out of range

@vdvoid · Регистрация: 26.02.2011

Author24 — интернет-сервис помощи студентам

Есть функция для измерения расстояния на сфере:

SQL

CREATE DEFINER = 'root'@'localhost'
FUNCTION my.distance(a POINT, b POINT)
  RETURNS INT(11)
BEGIN
RETURN 6371 * acos( cos( radians(X(b)) ) * cos( radians( X(a) ) ) * cos( radians( Y(a) ) - radians(Y(b)) ) + sin( radians(X(b)) ) * sin( radians( X(a) ) ) ) ;
END

и запрос с ее применением:
... WHERE my.distance(coord, PointFromText('POINT(55.68454019051934 37.89279966915805)')) < 10 // работает
... WHERE my.distance(coord, PointFromText('POINT(55.68454019051934 37.89279966915805)')) < 3 // ошибка "DOUBLE value is out of range in 'radians(st_y(a@0))'"

т.е. если расстояние вывести просто как поле в SELECT все хорошо, если поставить как условие в WHERE (< большое число) тоже работает, но если поставить как условие в WHERE (< маленькое число) пишет такую ошибку.

Добавлено через 1 час 21 минуту
в mysql 5.6 на ubuntu нет такой ошибки, видимо только на винде она

@Belonard · 14.06.2015, 03:17

Какой тип указан для этой переменной ? В интернете советуют выставлять DECIMAL, мол тогда ему всегда будет хватать разрядов для сохранения числа.

@Belonard 10 / 10 / 11 Регистрация: 11.06.2015 Сообщений: 50
	14.06.2015, 03:17	2
	Какой тип указан для этой переменной ? В интернете советуют выставлять DECIMAL, мол тогда ему всегда будет хватать разрядов для сохранения числа. 0