Русскоязычный форум закрыт из-за отсутствия активности (доступен только для чтения).
Пожалуйста, пользуйтесь англоязычной его версией. Приносим извинения за неудобства
Добро пожаловать, Гость! Чтобы использовать все возможности Вход. Новые регистрации запрещены.

Уведомление

Icon
Error

Вход
Помогите разобраться
Опции
К последнему сообщению К первому непрочитанному
Предыдущая тема Следующая тема
Offline Dezmond  
#1 Оставлено : 12 ноября 2011 г. 3:28:10(UTC)
Dezmond

Статус: Newbie

Группы: Registered
Зарегистрирован: 12.11.2011(UTC)
Сообщений: 2
Откуда: Арх-ск

Сказал(а) «Спасибо»: 2 раз
прога не хочет считать значение переменной выдает ошибку "Значение вышло за пределы максимально-допустимого числа". что это означает?
вроде как прога не создает переменную, хотя со следующими переменными никаких проблем нет.
может ли быть это связано с тем что формула большая и содержит много переменных?
Вверх

Wanna join the discussion?! Login to your Форум проекта SMath forum account. Новые регистрации запрещены.
Вверх  
Offline build_your_web  
#2 Оставлено : 12 ноября 2011 г. 6:44:40(UTC)
build_your_web


Статус: Advanced Member

Группы: Developers, Registered
Зарегистрирован: 28.08.2009(UTC)
Сообщений: 127

Сказал(а) «Спасибо»: 19 раз
Поблагодарили: 4 раз в 4 постах
Разделите эту большую формулу на формулы поменьше, из которых она состоит.
Посмотрите промежуточные значения, которые выдают эти небольшие формулы. Подумайте в каком месте математические операции над этими переменными выдадут значение больше 2 000 000 000. Придумайте как сделать так, чтобы программа не доходила до этого значения.

Не уверен, что ограничение установлено в 2^32, но думаю, что так оно и есть. В любом случае не думаю, что требуется такая высокая точность, чтобы оперировать такими разрядами.
Вверх
thanks 1 пользователь поблагодарил build_your_web за этот пост.
Dezmond оставлено 15.11.2011(UTC)
Offline Dezmond  
#3 Оставлено : 14 ноября 2011 г. 21:27:56(UTC)
Dezmond

Статус: Newbie

Группы: Registered
Зарегистрирован: 12.11.2011(UTC)
Сообщений: 2
Откуда: Арх-ск

Сказал(а) «Спасибо»: 2 раз
все значения переменных не превышают 10^7 (2^24).
если уменьшить формул до минимума (2 слогаемых с переменными),
ошибка "Значение вышло за пределы максимально-допустимого числа" все равно появляется
Вложение(я):
Расчеты.rar (6kb) загружен 58 раз(а).
Вверх
Offline Ber7  
#4 Оставлено : 15 ноября 2011 г. 6:20:12(UTC)
Ber7


Статус: Advanced Member

Группы: Registered
Зарегистрирован: 22.03.2010(UTC)
Сообщений: 223
Мужчина
Израиль
Откуда: Beer-Sheva

Сказал «Спасибо»: 173 раз
Поблагодарили: 256 раз в 133 постах
Вместо Ray:="выражение" напишите
Ray:=eval(выражение)
Метод расчета рычажных механизмов :
http://www.exponenta.ru/...litskiy-ivanov/index.asp
Вверх
thanks 1 пользователь поблагодарил Ber7 за этот пост.
Dezmond оставлено 15.11.2011(UTC)
Пользователи, просматривающие эту тему
Guest
Similar Topics
Помогите разобраться с матрицами (Вопросы по использованию)
по syscomua1 13.03.2011 19:45:53(UTC)
Быстрый переход  
Вы не можете создавать новые темы в этом форуме.
Вы не можете отвечать в этом форуме.
Вы не можете удалять Ваши сообщения в этом форуме.
Вы не можете редактировать Ваши сообщения в этом форуме.
Вы не можете создавать опросы в этом форуме.
Вы не можете голосовать в этом форуме.

Форум YAF.NET | YAF.NET © 2003-2024, Yet Another Forum.NET