|
LED nik Пользователь Сообщений: 12 |
Доброго времени суток, друзья! Прикрепленные файлы
|
|
Юрий М  Модератор Сообщений: 60570 Контакты см. в профиле |
Не равен, и что? Такое бывает. Вопрос Ваш о чём? Вот это и должно быть в названии темы. Предложите новое — модераторы поменяют. |
|
Сергей  Пользователь Сообщений: 11251 |
#3 20.12.2017 13:03:26
он и правда не равен 0 чтоб в этом убедится делаем формат ячейки числовой и устанавливаем максимум знаков после запятой и дивимся результату Лень двигатель прогресса, доказано!!! |
||
|
LED nik Пользователь Сообщений: 12 |
Я не понимаю почему Эксель выдает такой результат? Вычисления примитивные на уровне первого класса. Видимо дело не в вычислениях, а (я предполагаю) в формате ячеек… Не знаю как по другому назвать тему. Может вы предложите? |
|
Юрий М Модератор Сообщений: 60570 Контакты см. в профиле |
#5 20.12.2017 13:05:16
Тема Ваша — и название за Вами. |
||
|
Сергей Пользователь Сообщений: 11251 |
в поиск «вычисления стандарта IEEE 754» Лень двигатель прогресса, доказано!!! |
|
LED nik Пользователь Сообщений: 12 |
для модератора тема: |
|
Юрий М Модератор Сообщений: 60570 Контакты см. в профиле |
Как избавиться от вычисления? — не вычислять )) |
|
Сергей Пользователь Сообщений: 11251 |
#9 20.12.2017 13:14:32
Лень двигатель прогресса, доказано!!! |
||
написать свой стандарт обязать всех на планете считать по нему|
Karataev Пользователь Сообщений: 2306 |
Проблема в Excel’е. Excel использует для вычислений какой-то стандарт (точно не помню), при этом стандарте возможны погрешности (кажется так они называются). Одно из решений проблемы — использование округления, которое будет удалять погрешность. |
|
LED nik Пользователь Сообщений: 12 |
#11 20.12.2017 13:15:31
Спасибо за подсказку. Удалось разобраться! |
||
|
LED nik Пользователь Сообщений: 12 |
#12 20.12.2017 13:18:03
Гуглите и обрящете! |
||
|
vikttur Пользователь Сообщений: 47199 |
#13 20.12.2017 13:18:30
Не в Excel. Проблема стандарта, применяемого в вычислительной технике. Вообще, не только в Excel. |
||
|
Karataev Пользователь Сообщений: 2306 |
vikttur, за 20 — 30 лет существования, разработчики Excel’я могли бы уже что-нибудь придумать, чтобы работало как надо. В Microsoft ведь не дураки сидят (мне так кажется). |
|
vikttur Пользователь Сообщений: 47199 |
Не дураки, наверное, и те, кто применяет стандарт с плавающей запятой. Ошибка ведь возникает не только в Excel. |
|
Karataev Пользователь Сообщений: 2306 |
vikttur, тему: как решить эту проблему, не смогу обсудить, т.к. не разбираюсь в этих стандартах и думаю, что никогда не разберусь — здесь нужно быть математиком и много знать по математике — за месяц, год вряд ли выучишь все это. |
|
Karataev Пользователь Сообщений: 2306 |
Сергей, я сделал, как Вы написали в посте 3, но у меня в Z11 и Z16 кроме нолей после 6 ничего нет. У меня «Excel 2016». |
|
Сергей Пользователь Сообщений: 11251 |
#18 20.12.2017 13:47:12
эксель 2007 Прикрепленные файлы
Лень двигатель прогресса, доказано!!! |
||
|
Karataev Пользователь Сообщений: 2306 |
#19 20.12.2017 13:51:11 Сергей, то, что в Z10 не ноль и так ясно из темы. Я думал Вы пишите про другие ячейки, о которых я написал в посте 17. |
Recently I have been wrestling with Excel due to the 15 significant digits display limit for a number. I have been looking for a way to display the IEEE 754 format of a value contained in a Excel cell (since they are documented to work that way).
I’d prefer not to rely on VBA for this project (although I might get tempted if a memcpy-like solution is possible).
See my answer below for my current implementation. Any input or alternative is appreciated. I choose to believe that I missed an easier, well-tested solution.
asked Aug 2, 2020 at 17:26
The following sequence allow me to convert a number to its IEEE 754 hexadecimal representation using Excel formulas.
I did not try to handle any exceptions besides 0. From Cell A1 to G1:
-
A1:
0.123456 -
B1:
=INT(LOG(ABS(A1);2))Exponent -
C1:
=ABS(A1)/(2^B1)Mantissa -
D1:
=(C1-1)*(2^52)Convert mantissa to decimal -
E1:
=DEC2HEX(1023+B1+IF(A1<0;2^11;0);3)Convert sign & exponent to hex -
F1:
=CONCATENATE(DEC2HEX(D1/2^32;5);DEC2HEX(MOD(D1;2^32);8))Convert decimal to hex. -
G1:
="0x"&IF(A1=0;0;E1&F1)
A few of my result:
- 22222.0948199999 > 0x40D5B3861187E7A5
=1.35632902954101*2^14> 0x40D5B3861187E7A7- 22222.09482 > 0x40D5B3861187E7C0
- 0.000123456 > 0x3F202E7EF70994DD
- 1E+307 > 0x7FAC7B1F3CAC7433
- -35.3 > 0xC041A66666666666
- 1 > 0x3FF0000000000000
EDIT: Follow-up to chux comments.
We can see that the following value give a wrong result due to a rounding error:
=255+0,9999999999999> 0x40700000FFFFFFFE
Under this scenario, the value given at the step D1 is negative. If I use this information to update my exponent, my results appear to be consistent:
=255+0,9999999999999> 0x406FFFFFFFFFFFFC
Here is the updated B1 formula:
- B1:
=IF((ABS(A1)/(2^INT(LOG(ABS(A1);2)))-1)*(2^52)<0;INT(LOG(ABS(A1);2))-1;INT(LOG(ABS(A1);2)))
answered Aug 2, 2020 at 17:26
AugustinLopezAugustinLopez
3481 gold badge3 silver badges13 bronze badges
4
|
Группа: Друзья Ранг: Ветеран Сообщений: 832
Замечаний: |
32 битное шестнадцатиричное представление в формате IEEE-754.
Шо за зверь такой?
Это так что ли?
[vba]
Код
Declare Sub CopyMem Lib «kernel32» Alias «RtlMoveMemory» (Destination As Any, Source As Any, ByVal Length As Long)
Public Function Double2Hex(x As Double) As String
Dim dWord(2) As Long
Call CopyMem(dWord(1), x, 
Double2Hex = Hex(dWord(1)) + Hex(dWord(2))
End Function
[/vba]
Excel 2003 EN, 2013 EN
Сообщение отредактировал Формуляр — Воскресенье, 05.10.2014, 16:14
The following expression evaluates to false in C#:
(1 + 1 + 0.85) / 3 <= 0.95
And I suppose it does so in most other programming languages which implement IEEE 754, since (1 + 1 + 0.85) / 3 evaluates to 0.95000000000000007, which is greater than 0.95.
However, even though Excel should implement most of IEEE 754 too, the following evaluates to TRUE in Excel 2013:
= ((1 + 1 + 0.85) / 3 <= 0.95)
Is there any specific reason for that? The article linked above does not mention any custom implementations of Excel that can lead to this behavior. Can you tell Excel to strictly round according to IEEE 754?
Please note that even though most Excel questions should be asked on superuser.com, this question deals with floating-point arithmetic, which is a common problem in programming languages. From the viewpoint of this question’s topic, Excel is a programming language like C# or Java.
Последние цифры заменяются на ноли при введении длинных чисел в ячейки Excel
При введении числа, содержащего более 15 цифр в ячейку в Microsoft Excel, Excel заменяет любые цифры после пятнадцатого разряда на ноли. Например, введите идентификационный номер кредитной карты в следующем формате:
В этом случае Excel заменяет последнюю цифру на ноль.
Причина
Excel следует спецификации IEEE 754 в отношении хранения и вычисления чисел с плавающей точкой. Excel сохраняет только 15 значащих цифр числа и изменяет цифры после пятнадцатого разряда на ноль
Обходной путь
Добавить кавычку
Чтобы предотвратить изменение цифр на ноли, добавьте одинарную кавычку перед вводом числа.
Для этого выделите пустую ячейку, введите одну кавычку (‘), а затем введите число. Все цифры отображаются в ячейке.
Формат ячеек
Чтобы не вводить кавычку в каждой ячейке, перед вводом каких-либо данных можно задать для этих ячеек текстовый формат.
Выберите все затронутые ячейки и нажмите Ctrl+1, чтобы открыть диалоговое окно Формат ячеек.
На вкладке Число выберите Текст из списка Категория, а затем выберите ОК.
Дополнительная информация
Это происходит только в том случае, если для ячейки задан формат Число, а введенное число содержит более 15 цифр. В форматированные в виде текста ячейки можно ввести до 32 767 символов. На листе Excel отображается до 1024 символов.
Так как настраиваемые форматы чисел предназначены для работы в основном с числами, невозможно создать настраиваемый формат номеров, который хранит более 15 цифр. Например, нельзя использовать следующий формат для хранения 16-символьного удостоверения кредитной карты в виде числа:
Однако, если ввести такое число в ячейке, которая форматирована как текст, все символы остаются в том виде, в котором они введены, так как Excel сохраняет это число в виде текста, а не числа.
excel заменяет последние цифры на нули
EXCEL хранит и выполняет вычисления с точностью 15 значащих цифр. Поэтому, не получится ввести 20-и значное число без того, чтобы EXCEL автоматически округлил его с точностью до 100 тыс. Используем текстовый формат для отображения таких чисел.
То, что вычисления в EXCEL производятся с точностью 15 значащих цифр, проявляется, например, при записи в ячейку целого двадцатизначного числа.
После нажатия клавиши ENTER происходит округление целого числа до 15 значащих цифр, последние цифры заменяются нулями (см. Строку формул на рисунке ниже). К числу будет применен экспоненциальный формат (см. ячейку А1 на рисунке ниже).
Увеличить точность вычислений в EXCEL нельзя. Однако, если не предполагается участие чисел в математических операциях, то для их хранения можно использовать текстовый формат. Такое решение подходит, например, для хранения номеров банковских счетов.
Для перевода ячейки в текстовый формат достаточно поставить перед значением апостроф (‘) или перед вводом изменить формат ячейки (CTRL+1) на Текстовый.
Примечание. При подсчете таких значений могут возникнуть сложности (см. статью Подсчет ТЕКСТовых значений с единственным критерием в MS EXCEL).
Примечание: Мы стараемся как можно оперативнее обеспечивать вас актуальными справочными материалами на вашем языке. Эта страница переведена автоматически, поэтому ее текст может содержать неточности и грамматические ошибки. Для нас важно, чтобы эта статья была вам полезна. Просим вас уделить пару секунд и сообщить, помогла ли она вам, с помощью кнопок внизу страницы. Для удобства также приводим ссылку на оригинал (на английском языке).
Вам когда-нибудь приходилось импортировать или вводить в Excel данные, содержащие начальные нули (например, 00123) или большие числа (например, 1234 5678 9087 6543)? Это могут быть номера социального страхования, телефонные номера, номера кредитных карт, коды продуктов, номера счетов или почтовые индексы. Excel автоматически удаляет начальные нули и преобразует большие числа в экспоненциальное представление (например, 1,23E+15), чтобы их можно было использовать в формулах и математических операциях. В этой статье объясняется, как сохранить данные в исходном формате, который Excel обрабатывает как текст.
Преобразование чисел в текст при импорте текстовых данных
Для форматирования отдельных столбцов в виде текста при импорте данных в Excel используйте функцию Получить и преобразовать (Power Query). В этом случае импортируется текстовый файл, однако данные проходят те же этапы преобразования, что и при импорте из других источников, таких как XML, Интернет, JSON и т. д.
Откройте вкладку Данные, нажмите кнопку Получить данные и выберите вариант Из текстового/CSV-файла. Если вы не видите кнопку Получить данные, выберите Создать запрос > Из файла > Из текста, найдите нужный файл и нажмите кнопку Импорт.
Excel загрузит данные в область предварительного просмотра. Нажмите кнопку ” изменить ” в области предварительного просмотра, чтобы загрузить Редактор запросов.
Если какие-либо столбцы нужно преобразовать в текст, выделите их, щелкнув заголовок, затем выберите Главная > Преобразовать > Тип данных > Текст.
Совет: Чтобы выбрать несколько столбцов, щелкните их левой кнопкой мыши, удерживая нажатой клавишу CTRL.
В диалоговом окне Изменение типа столбца выберите команду Заменить текущие, и Excel преобразует выделенные столбцы в текст.
преобразование данных в текст” />
По завершении нажмите кнопку Закрыть и загрузить, и Excel вернет данные запроса на лист.
Если в дальнейшем ваши данные изменятся, на вкладке Данные нажмите кнопку Обновить, и Excel их автоматически обновит и преобразует.
В Excel 2010 и Excel 2013 импортировать текстовые файлы и преобразовывать числа в текст можно двумя способами. Рекомендуется использовать Power Query (для этого нужно скачать надстройку Power Query). Если надстройку Power Query скачать не удается, можно воспользоваться мастером импорта текста. В этом случае импортируется текстовый файл, однако данные проходят те же этапы преобразования, что и при импорте из других источников, таких как XML, Интернет, JSON и т. д.
На ленте откройте вкладку Power Query и выберите Получение внешних данных > Из текста.
Excel загрузит данные в область предварительного просмотра. Нажмите кнопку ” изменить ” в области предварительного просмотра, чтобы загрузить Редактор запросов.
Если какие-либо столбцы нужно преобразовать в текст, выделите их, щелкнув заголовок, затем выберите Главная > Преобразовать > Тип данных > Текст.
Совет: Чтобы выбрать несколько столбцов, щелкните их левой кнопкой мыши, удерживая нажатой клавишу CTRL.
В диалоговом окне Изменение типа столбца выберите команду Заменить текущие, и Excel преобразует выделенные столбцы в текст.
преобразование данных в текст” />
По завершении нажмите кнопку Закрыть и загрузить, и Excel вернет данные запроса на лист.
Если в дальнейшем ваши данные изменятся, на вкладке Данные нажмите кнопку Обновить, и Excel их автоматически обновит и преобразует.
Применение пользовательского формата для сохранения начальных нулей
Если эту задачу необходимо решить в пределах книги, поскольку она не используется другими программами в качестве источника данных, для сохранения начальных нулей можно использовать пользовательский или специальный формат. Этот способ подходит для цифровых кодов, содержащих менее 16 цифр. Цифровые коды также можно отформатировать с использованием дефисов или других знаков препинания. Например, чтобы сделать телефонные номера более удобными для чтения, можно добавить дефисы между международным кодом, кодом области, префиксом и остальными цифрами.
Почему excel меняет цифры
Автор Александр Привизенцев задал вопрос в разделе Программное обеспечение
Эксель 2003 при вводе в ячейку 20-значного числа (номер счета) последние три-четыре цифры заменяет на ноль. Как исправить и получил лучший ответ
Ответ от Почтальон Печкин[гуру]
поставьте текстовый формат и тогда уже пропишите число, либо пропишите формулой =”12345678901234567891″
Тема: Длинное число в Excel
киник 
Регистрация 24.02.2002 Адрес Москва Сообщений 36,128
- Просмотр профиля
- Сообщения форума
- Блог
- Просмотр профиля
- Сообщения форума
- Блог
- Домашняя страница
Клерк Регистрация 12.12.2002 Адрес Ярославль Сообщений 66,413
- Просмотр профиля
- Сообщения форума
- Блог
- Просмотр профиля
- Сообщения форума
- Блог
- Просмотр профиля
- Сообщения форума
- Блог
- Домашняя страница
Клерк Регистрация 12.12.2002 Адрес Ярославль Сообщений 66,413
- Просмотр профиля
- Сообщения форума
- Блог
- Просмотр профиля
- Сообщения форума
- Блог
Сообщение от ЕВС
Ошибочка
Вы нам показали экспоненциальную запись числа. Excel так «нещадно» поступает, если для отображения числа недостаточно ширины столбца. Он (Excel) по доброте своей неодушевленной пытается нам помочь.
Наибольшее возможное число в Excel — 9E+307.
Сообщение от YUM
Не Станиславский, но не верю
Очень хочется увидеть в Excel ЧИСЛОВУЮ запись ЧИСЛА длиной более 15 знаков с младшими разрядами, отличными от нуля.
Сообщение от YUM
Сообщение от vikttur
- Просмотр профиля
- Сообщения форума
- Блог
Клерк Регистрация 27.03.2002 Сообщений 11,856
Сообщение от vikttur
Сообщение от office.microsoft.com:
- Просмотр профиля
- Сообщения форума
- Блог
Ворчун (может, и не совсем старый? ), мой текст относился к сообщению YUM о возможности ввода такого длинного числа. Потому-то и «Очень хочется увидеть. «.
Сообщение от Аноним
Сообщение от vikttur
- Просмотр профиля
- Сообщения форума
- Блог
Я не пытаюсь доказать, что р/счет — число или не число.
Разговор о конкретной ситуации: при заполнении листа данными введенная в ячейку информация была воспринята Excel’ем как число.
Почему? Потому что для него это число.
Как обойти? Показать табличному монстру, что это текст.
- Просмотр профиля
- Сообщения форума
- Блог
Доброго времени суток, уважаемые)
При составление различных расчетных таблиц в EXSEL получается вот какая ситуация: при расчете 10839,60 * 2,6% = 281,8296. По-моему мнению, это 281,83, а по EXSEL так и есть 281,8296. Даже если выставить формат ячейки «числовой»- «2 знака после запятой», EXSEL все равно держит «в уме» остальные цифры и при суммировании их учитывает.
Когда в таблице 20 строк (например, по количеству человек) итоговая сумма, чаще всего, получается на 1 или 2 копейки больше. Приходится каждый раз копировать полученные значения, вставлять через «Специальная вставка» — «значение» в эту же колонку, и в ручную убирать лишнее знаки после запятой.
Может быть есть какие-то настройки.
- Просмотр профиля
- Сообщения форума
- Блог
- Домашняя страница
Клерк Регистрация 12.12.2002 Адрес Ярославль Сообщений 66,413
- Просмотр профиля
- Сообщения форума
- Блог
- Просмотр профиля
- Сообщения форума
- Блог
Доброго времени суток, уважаемые)
При составление различных расчетных таблиц в EXSEL получается вот какая ситуация: при расчете 10839,60 * 2,6% = 281,8296. По-моему мнению, это 281,83, а по EXSEL так и есть 281,8296. Даже если выставить формат ячейки «числовой»- «2 знака после запятой», EXSEL все равно держит «в уме» остальные цифры и при суммировании их учитывает.
Когда в таблице 20 строк (например, по количеству человек) итоговая сумма, чаще всего, получается на 1 или 2 копейки больше. Приходится каждый раз копировать полученные значения, вставлять через «Специальная вставка» — «значение» в эту же колонку, и в ручную убирать лишнее знаки после запятой.
Может быть есть какие-то настройки.
- Просмотр профиля
- Сообщения форума
- Блог
Клерк Регистрация 27.03.2002 Сообщений 11,856
Сообщение от konowalowadiana
Когда в таблице 20 строк (например, по количеству человек) итоговая сумма, чаще всего, получается на 1 или 2 копейки больше.
Может быть есть какие-то настройки.
есть: параметры — вычисления — точность как на экране. позволяет избавиться от многочисленных «ОКРУГЛ()» в ячейках.
Но копейка всё равно может вылезти.
Ибо:
1,00/3,00=0,33
0,33*3,00=0,99
- Просмотр профиля
- Сообщения форума
- Блог
Сообщение от konowalowadiana
Доброго времени суток, уважаемые)
При составление различных расчетных таблиц в EXSEL получается вот какая ситуация: при расчете 10839,60 * 2,6% = 281,8296. По-моему мнению, это 281,83, а по EXSEL так и есть 281,8296. Даже если выставить формат ячейки «числовой»- «2 знака после запятой», EXSEL все равно держит «в уме» остальные цифры и при суммировании их учитывает.
Когда в таблице 20 строк (например, по количеству человек) итоговая сумма, чаще всего, получается на 1 или 2 копейки больше. Приходится каждый раз копировать полученные значения, вставлять через «Специальная вставка» — «значение» в эту же колонку, и в ручную убирать лишнее знаки после запятой.
As one of the most versatile calculators ever created, Excel is utilized to power innumerable business operations daily; however, can it ever fail to give you the correct results?
In the case of floating numbers, it can. The term floating point refers to the fact that there are no constant number of digits before or after the decimal point of a number. In other words, the decimal point itself can “float”.
Calculations may not show the correct results when dealing with high precision values. This is not a bug, but rather a design choice that affects every computing system to some degree.
Binary System
The main reason behind this behavior can be broken down to a fundamental design component of computer-based systems. Computer hardware and software communicate with one another using a binary system, consisting of values 1 and 0, as input and output data.
Therefore, the base-10 numerical system is also stored in binary format, which can cause issues with fractions. For example, the fraction of 2/10 is represented as 0.2 in the decimal number system, but identified by an infinitely repeating number 0.00110011001100110011 in the binary system. Data loss becomes inevitable when storing this number in a finite space. The data loss occurs after the 1E-15 point: more commonly known as the 15-digit limit in Excel.
For instance, looking at the example below, you would agree that cells C3 and C5 are equal. However, adding a value of 1 to the value of C3 changes the precision level (i.e. there are eleven 1’s in cell C4, while there are fifteen in cell C3). Ultimately, we get a completely different result in C5, which supposedly contains the inverse function.
Standard
Excel uses a modified version of the IEEE 754-1985 standards. This is a technical standard for floating-point computation, established in 1985 by the Institute of Electrical and Electronics Engineers (IEEE). The 754 revision became very popular and is the most widely used format for floating-point computation by both software libraries and hardware components (i.e. CPUs). According to Microsoft, it is used in all of today’s PC-based microprocessors, including the Intel, Motorola, Sun, and MIPS processors.
Limitations
Maximum / Minimum
Excel only has a finite space to store data. This limitation affects the maximum and minimum numbers allowed by the software. Here are some examples[2]:
| Smallest allowed negative number | -2.2251E-308 |
| Smallest allowed positive number | 2.2251E-308 |
| Largest allowed positive number | 9.99999999999999E+307 |
| Largest allowed negative number | -9.99999999999999E+307 |
| Largest allowed positive number via formula | 1.7976931348623158e+308 |
| Largest allowed negative number via formula | -1.7976931348623158e+308 |
Source: https://support.office.com/en-us/article/excel-specifications-and-limits-1672b34d-7043-467e-8e27-269d656771c3
Excel returns the #NUM! error if a larger number is calculated. This behavior is called an overflow. Excel evaluates very small numbers as 0s, and this behavior is called as underflow. Both will result in data loss.
Excel does not support infinite numbers and provides a #DIV/0! error when a calculation results in an infinite number.
Precision
Although Excel can display more than 15 digits, displayed values are not the actual values that are used in calculations. The IEEE standard upholds storage to only 15 significant digits, which can cause inconsistent results when working with very large or very small numbers.
Very large numbers
In the example below, Excel finds the sum of B8 and B9 to be equal to the value of B8. The 15-digit limit causes Excel to evaluate the calculation with the 15 largest digits. This example would have required Excel to work with 100-digit precision to evaluate accurately.
Very small numbers
If we add the value 1 to 0.000123456789012345 (which has 18 significant digits but contains numeric values in its smallest 15 digits), the result should be 1.000123456789012345. However, Excel gives 1.00012345678901 because it ignores the digits following the 15th significant digit.
Repeating Binary Numbers
Storing repeating binary numbers as non-repeating decimal number can affect the final values in Excel. For example, the formula ‘=(73.1-73.2)+1’ evaluates to 0.899999999999991 when you format the decimal places to 15 digits.
Accuracy within VBA
Unlike Excel calculations, VBA can work with more than a single type of data. Excel uses 8-byte numbers, while VBA offers different data types that vary from 1 byte (Byte) to 16 bytes (Decimal), which can provide precision at the 28-digit level. You can choose a variable type based on your data storage, accuracy, and speed requirements.
Floating point calculations can be relatively challenging due to technical limitations. However, VBA and other mathematical methods offer workarounds to ensure that you don’t miss a decimal if you’re aware of the existing limitations.