Вопросы с меткой [float]

Question 1

Есть текстовый файл с данными такого вида: -7.271467826427747 17.84 -7.238717596285217 17.83 -7.203784017466519 17.82 -7.171033787323988 17.81 -7.138283557181459 17.80 -7....

Question 2

Я пробую сложить числа наподобие 0,7 и 1/3: print(Decimal(0.7)+Decimal(1/3)) но при сложении этих чисел выводит 1.033333333333333288924412348. Как это исправить, если я не могу использовать ...

Question 3

Kotlin. Есть пакет с принятыми данными, побайтно, лежит в массиве var packet = Array<UByte>(20) Как сказать компилятору что байты packet[2], packet[3], packet[4] и packet[5] это одно число в ...

Question 4

float f_value = float.Parse(Math.Ceiling(56,3)); Выдает ошибку что нельзя конвертировать double в string. Как привести можно получ значение double в float. В Convert нету метода преобразовать во ...

Question 5

Исходные данные (float): level = -17.0, h = 0.84 Результат: level/100 + h = 0.6699999999999999 Вопрос: как без округлений получить очевидное 0,67? Я же не на нечетное делю. В чем проблема?

Question 6

Всем привет! При запуске кода ниже выскакивает ошибка TypeError: '<' not supported between instances of 'float' and 'str' для данной строки if numbers[i] < mini: Код: import time startt = time....

Question 7

Для создания условия в своей программе мне нужно как-то посчитать, сколько значащих символов стоит после запятой. Запрещено использовать/преобразовывать что-либо в string.

Question 8

Какой модуль, какие функции и.т.п. использовать, чтобы сделать 1.5-1.3 и получить 0.2? Ах да, потом еще и сохранить 0.2 так, чтобы потом оно не стало каким-нибудь 0.1999999998? (Получить от ...

Question 9

Нужно чтобы число с нулем после точки — преобразовалось в целое число, при этом не затронув остальные числа. Например, 27.0 должен быть как 27 а 27.092 должен быть как 27.092. Таблица выглядит так: ...

Question 10

Программировал на Си, обучаясь по книге и увидел (float*). код: #include <stdio.h> #include <stdlib.h> int main() { int i,num; float *data; printf("Введите кол-во ...

Question 11

Заголовок <h4><span>Михаил</span><span>36 лет</span></h4> Нужно "Михаил" оставить слева, а "36 лет" - справа. И такой код: h4>...

Question 12

Есть простенькое задание согласно которому, надо заставить пользователя ввести число с запятой, а потом вывести это число на экран. Я написал такой код import java.util.Scanner; public class tochka { ...

Question 13

Пытаюсь понять, как происходит сложение вещественных чисел в формате binary32 (он же single precision или просто float в большинстве языков программирования), но немного не понимаю, почему ожидаемый ...

Question 14

Вопрос на злобу дня освежить знания о числе с плавающей точкой и потренировать перевод этого числа в двоичную систему и обратно. В документах оракла в пункте 5.1.2 приводится пример с потерей данных ...

Question 15

Это программа для вычисления машинного эпсиона, какую роль играют float и double в скобках и почему без них решение выводиться не то, что находится в библиотеке float.h #include<float.h> ...

Вопросы с меткой [float]

Как перевести строковые значения Decimal в число?

Неточность при операции с Decimal и дробью в периоде [закрыт]

Kotlin как собрать Float из UByte?

Как преобразовать(конвертировать) возвращаемое значение double к float?

Почему при делении float на четное число и сложении получается не точное число? [дубликат]

Ошибка TypeError, хотя типы одинаковые

Как получить кол-во знаков после запятой без использование строк?

Что использовать для простых и правильных вычислений десятичных дробей?

ноль с точкой после целого числа

Что такое (float*)?

CSS. Позиционирование внутри заголовка h1...h6 и внутри div с помощью float

Не выводит переменную float [дубликат]

Сложение вещественных чисел с разными знаками

При переводе числа int во float и обратно теряется точность числа

Какую роль играют float и double в скобках?