Справочник функций

Ваш аккаунт

Войти через: 
Забыли пароль?
Регистрация
Информацию о новых материалах можно получать и без регистрации:

Почтовая рассылка

Подписчиков: -1
Последний выпуск: 19.06.2015

Ошибка Overflow

282
23 августа 2006 года
Bard
481 / / 26.02.2006
Код:
Private Sub Form_Load()
Dim btr(0 To 3) As Byte

btr(0) = 170
btr(1) = 187
btr(2) = 204
btr(3) = 221

MsgBox getValueFFFF(btr())
End Sub

Function getValueFFFF(b() As Byte) As String
Dim s As Long
s = b(0) + (b(1) * 256) + (b(2) * 65536) + (b(3) * 16777216)
getValueFFFF = s
End Function


Результатом выполнения вункцыи [FONT="Courier New"]getValueFFFF[/FONT] должно быть число 3721182122. Но на указанном месте вылетает ошибка Overflow.
275
23 августа 2006 года
pashulka
985 / / 19.09.2004
С каких пор число 3721182122 должно иметь тип Long (от -2147483648 до 2147483647)

Код:
Private Sub Form_Load()
Dim btr(0 To 3) As Byte

btr(0) = 170
btr(1) = 187
btr(2) = 204
btr(3) = 221

MsgBox getValueFFFF(btr())
End Sub

Function getValueFFFF(ByRef b() As Byte) As Double
Dim s As Double
s = b(0) + (b(1) * 256#) + (b(2) * 65536#) + (b(3) * 16777216#)
getValueFFFF = s
End Function
282
23 августа 2006 года
Bard
481 / / 26.02.2006
!!! Спасибо тебе большое !!! Я уже не знал что и делать.

А какое максимальное и минимальное значение Double ?
275
23 августа 2006 года
pashulka
985 / / 19.09.2004
Тип данных Double

Переменные типа Double (числа с плавающей точкой двойной точности) сохраняются как 64-разрядные (8-байтовые) числа с плавающей точкой стандарта IEEE в диапазоне от -1,79769313486232E308 до -4,94065645841247E-324 для отрицательных значений и от 4,94065645841247E-324 до 1,79769313486232E308 для положительных значений. Символом описания типа для типа Double служит символ (#).

Тип данных Single

Переменные типа Single (числа с плавающей точкой обычной точности) сохраняются как 32-разрядные (4-байтовые) числа с плавающей точкой стандарта IEEE в диапазоне от -3,402823E38 до -1,401298E-45 для отрицательных значений и от 1,401298E-45 до 3,402823E38 для положительных значений. Символом описания типа для типа Single служит восклицательный знак (!).


Тип данных Currency

Переменные типа Currency (денежные значения) сохраняются как 64-разрядные (8-байтовые) целые числа, которые после деления на 10000 дают число с фиксированной десятичной точкой с 15 разрядами в целой части и 4 разрядами в дробной. Такое представление позволяет отобразить числа в диапазоне от -922337203685477,5808 до 922337203685477,5807. Символом описания типа для типа Currency служит символ (@).

Тип данных Currency используется для денежных расчетов, а также для проведения расчетов с фиксированной десятичной точкой, в которых требуется обеспечить высокую точность.

Microsoft Office © help
282
23 августа 2006 года
Bard
481 / / 26.02.2006
Пасиба!! Будем знать.
Реклама на сайте | Обмен ссылками | Ссылки | Экспорт (RSS) | Контакты
Добавить статью | Добавить исходник | Добавить хостинг-провайдера | Добавить сайт в каталог