habr.com /1 month ago

Вес 0.7000000000000001 кг: откуда в JavaScript берутся такие числа

Вес роутера 0.7000000000000001 кг на М.Видео. Штемпель 0.30000000000000004×2.5 см на Wildberries. Эти числа никто не вводил руками: где-то значение посчитали и забыли округлить. Чи...

Read source
habr.com /4 weeks ago

Почему BigDecimal считает 1.0 и 1.00 разными числами — и к чему это приводит в Java

Цена в базе осталась прежней, но приложение считает, что она изменилась, и повторно отправляет событие. Причина может скрываться в масштабе BigDecimal: equals() сравнивает не тольк...

Read source
habr.com /2 weeks ago

[Перевод] Калькулятор с двумя кнопками: как одна функция заменяет синус, корень и π

Для элементарных функций инженерного калькулятора хватает числа 1 и одной операции eml(x, y) = exp(x) − ln(y). Физик Анджей Одживолек нашёл её программным перебором, а его результа...

Read source
computerra.ru /1 month ago

Самые точные атомные часы в мире могут ошибиться на секунду за 300 млрд лет

Источник: Компьютерра - Журнал о науке и технологиях Ученые из Сингапура создали атомные часы на основе иона лютеция, которые, по заявлению исследователей, стали самыми точными в...

Read source
3dnews.ru /1 week ago

Российские учёные представили квантовый «процессор» с рекордной точностью в трёхкубитных операциях

Современные квантовые вычислители и алгоритмы традиционно опираются на одно- и двухкубитные вентили. Для реализации операций над тремя кубитами необходимо последовательно выполнить...

Read source
runet.news /1 week ago

Российские учёные выполнили трёхкубитную операцию CCZ одним импульсом с точностью 99,39%

Российские учёные разработали трёхкубитный квантовый процессор, который выполняет операции с точностью 99,39%. Результат назван мировым рекордом для гейтов такого типа. Процессорны...

Read source
computerra.ru /1 month ago

Quantinuum в 10 раз сократила число ошибок квантовых операций и достигла точности 99,9995%

Источник: Компьютерра - Журнал о науке и технологиях Квантовый компьютер Helios компании Quantinuum достиг точности 99,9995% при коррекции ошибок в квантовых вычислениях. В испыта...

Read source
ria.ru /1 month ago

Что такое округление чисел и как их правильно округлять

Округление — это замена точного числа близким к нему, но более простым для восприятия и вычислений. Общее правило, как округлять натуральные числа и десятичные дроби до разных разр...

Read source
habr.com /1 month ago

Рациональная параметризация как метод устранения численных погрешностей при построении графиков

При построении графиков по математическим формулам, особенно если они заданы в полярных координатах или в параметрической форме в окрестностях некоторых точек они могут существенно...

Read source

Turn fresh research into a full content calendar

Use SocialBu to discover ideas, generate post drafts, and schedule them across your social channels.