Microwap, в статье хотелось бы видеть более глубокий анализ с решением проблем, а не просто примеры того, что у тебя на всех используемых языках переполнение появилось. Вот, например, в Java есть метод Math.hypot(x, y), который считает sqrt(x2+y2) без переполнения. Наверняка в других языках есть подобное.
Microwap, Зависит от того, что ты делаешь, можно по ячейкам искать, не ну 46 тысяч по моему это много, что ты делаешь? Что за проект?
Magatino, А есть другой вариант найти расстояние между точками?
Microwap, Да понял уже, ты в квадрат 46341 и стек переполнился и вернул отрицательное число, у меня вопрос, а зачем такое число в квадрат?
Magatino, -100 * -100 == 100*100.
Magatino, Переполнение там где единичка прибавлена. А abs() тут не причем, формула не может вернуть отрицательного числа, должна быть переменная типа double
Kalter, Ну комплексные числа совсем другая история. Там вообще всякие непотребности творятся =) особенно понравилось следующее, щас только на хабре увидел: ---- Идея Рафаэля Бомбелли заключалась в следующем: давайте прикинемся шлангом и сделаем вид, что корень из отрицательного — это какое-то число. Мы, конечно, знаем, что таких чисел нет, но тем не менее, давайте представим, что оно существует и его, как обычные числа, можно складывать с другими, умножать, возводить в степень и т.п. ----
Что то не врублюсь, в самом верхнем примере x2-x1=100 , то здесь всё норм же, какая ошибка? А в других x1-x2=-100 А вообще, n=abs(x1-x2)
Ну а возведение в квадрат может вернуть минус, когда число комплексное.
Глядя на на заголовок ожидал, что статья будет действительно математическая. "Оказывается тупо переполнилась переменная типа integer" Прочее Категории |