Отговори на тема  [ 5 мнения ] 
log10() проблемация 
Автор Съобщение
Ранг: Форумен бог
Ранг: Форумен бог
Аватар

Регистриран на: Пон Юни 05, 2006 1:48 pm
Мнения: 4906
Местоположение: където небето среща земята, ракията е Jameson, а бирата Guinness
Мнение log10() проблемация
Здравейте - нещо се омотах
на микроконтролер кортексм4 log10() ми дава някакви странни данни.
не ползвам хардуерен флоат.
например log10(1.8948250236716700557254396721668e-4) трабва да е -3.722....
а контролера връща -6.6290377E+8 което е странно.
някой да има предложения

_________________
... ако трети ден не ти се работи... това означава, че е сряда !


Сря Мар 31, 2021 2:57 pm
Профил
Ранг: Форумен бог
Ранг: Форумен бог

Регистриран на: Вто Фев 07, 2012 11:22 pm
Мнения: 3084
Мнение Re: log10() проблемация
log10(1.894e-4)
колко ти дава?


Сря Мар 31, 2021 3:23 pm
Профил
Ранг: Форумен бог
Ранг: Форумен бог
Аватар

Регистриран на: Пон Юни 05, 2006 1:48 pm
Мнения: 4906
Местоположение: където небето среща земята, ракията е Jameson, а бирата Guinness
Мнение Re: log10() проблемация
същото.
не е препълване.
проблема го намерих беше в променлива с име "pow", което се оказа, че е също така и мат функциа pow(х,у), което явно побърка всички сметки по-надолу. страноото е че нямаше ворнинг нито грешка.

_________________
... ако трети ден не ти се работи... това означава, че е сряда !


Сря Мар 31, 2021 3:39 pm
Профил
Ранг: Форумен бог
Ранг: Форумен бог
Аватар

Регистриран на: Вто Дек 14, 2004 1:31 pm
Мнения: 3849
Мнение Re: log10() проблемация
От чисто любопитство... колко такта отнема да се сметне това на СМ4?


Сря Мар 31, 2021 4:12 pm
Профил WWW
Ранг: Форумен бог
Ранг: Форумен бог

Регистриран на: Нед Сеп 26, 2004 9:21 pm
Мнения: 30684
Местоположение: София
Мнение Re: log10() проблемация
MYXATA написа:
проблема го намерих беше в променлива с име "pow", което се оказа, че е също така и мат функциа pow(х,у)...


Тия дни имах подобен проблем с Qt, сковавам тук едно тестово тулче и същото нещо, и нали не съм писател до де се усетя какво става утрепах 30-на минути, и пак без warning.


Сря Мар 31, 2021 5:27 pm
Профил
Покажи мненията от миналия:  Сортирай по  
Отговори на тема   [ 5 мнения ] 

Кой е на линия

Потребители разглеждащи този форум: 0 регистрирани и 8 госта


Вие не можете да пускате нови теми
Вие не можете да отговаряте на теми
Вие не можете да променяте собственото си мнение
Вие не можете да изтривате собствените си мнения
Вие не можете да прикачвате файл

Търсене:
Иди на:  
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group.
Designed by ST Software for PTF.
Хостинг и Домейни