Casio FX-CG10 Software User Guide - Page 544

Function, Input range for real, number solutions, Internal, digits, Precision, Notes, Input range

Page 544 highlights

Function Input range for real number solutions |a|, b, c < 1 × 10100 ° ' " 0 < b, c ←⎯ ° '" |x| < 1 × 10100 Sexagesimal display: |x| < 1 × 107 x > 0: -1 × 10100 < ylogx < 100 x = 0 : y > 0 ^(xy) x < 0 : y = n, -2-nm-+-1 (m, n are integers) However; -1 × 10100 < y log |x| < 100 y > 0 : x ≠ 0 -1 × 10100 < 1 x logy < 100 x 'y y = 0 : x > 0 y < 0 : x = 2n+1, 2--nm-+-1 (m ≠ 0; m, n are integers) However; -1 × 10100 < 1 x log |y| < 100 Total of integer, numerator a b / c and denominator must be within 10 digits (includes division marks). Internal digits Precision 15 digits As a rule, precision is ±1 at the 10th digit.* " " " " " " Notes • Complex numbers can be used as arguments. • Complex numbers can be used as arguments. * For a single calculation, calculation error is ±1 at the 10th digit. (In the case of exponential display, calculation error is ±1 at the last significant digit.) Errors are cumulative in the case of consecutive calculations, which can also cause them to become large. (This is also true of internal consecutive calculations that are performed in the case of ^(xy), x'y, x!, 3'x, nPr, nCr, etc.) In the vicinity of a function's singular point and point of inflection, errors are cumulative and may become large. Function Binary, octal, decimal, hexadecimal calculation Input range Values fall within following ranges after conversion: DEC: -2147483648 < x < 2147483647 BIN: 1000000000000000 < x < 1111111111111111 (negative) 0 < x < 111111111111111 (0, positive) OCT: 20000000000 < x < 37777777777 (negative) 0 < x < 17777777777 (0, positive) HEX: 80000000 < x < FFFFFFFF (negative) 0 < x < 7FFFFFFF (0, positive) α-15

  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 32
  • 33
  • 34
  • 35
  • 36
  • 37
  • 38
  • 39
  • 40
  • 41
  • 42
  • 43
  • 44
  • 45
  • 46
  • 47
  • 48
  • 49
  • 50
  • 51
  • 52
  • 53
  • 54
  • 55
  • 56
  • 57
  • 58
  • 59
  • 60
  • 61
  • 62
  • 63
  • 64
  • 65
  • 66
  • 67
  • 68
  • 69
  • 70
  • 71
  • 72
  • 73
  • 74
  • 75
  • 76
  • 77
  • 78
  • 79
  • 80
  • 81
  • 82
  • 83
  • 84
  • 85
  • 86
  • 87
  • 88
  • 89
  • 90
  • 91
  • 92
  • 93
  • 94
  • 95
  • 96
  • 97
  • 98
  • 99
  • 100
  • 101
  • 102
  • 103
  • 104
  • 105
  • 106
  • 107
  • 108
  • 109
  • 110
  • 111
  • 112
  • 113
  • 114
  • 115
  • 116
  • 117
  • 118
  • 119
  • 120
  • 121
  • 122
  • 123
  • 124
  • 125
  • 126
  • 127
  • 128
  • 129
  • 130
  • 131
  • 132
  • 133
  • 134
  • 135
  • 136
  • 137
  • 138
  • 139
  • 140
  • 141
  • 142
  • 143
  • 144
  • 145
  • 146
  • 147
  • 148
  • 149
  • 150
  • 151
  • 152
  • 153
  • 154
  • 155
  • 156
  • 157
  • 158
  • 159
  • 160
  • 161
  • 162
  • 163
  • 164
  • 165
  • 166
  • 167
  • 168
  • 169
  • 170
  • 171
  • 172
  • 173
  • 174
  • 175
  • 176
  • 177
  • 178
  • 179
  • 180
  • 181
  • 182
  • 183
  • 184
  • 185
  • 186
  • 187
  • 188
  • 189
  • 190
  • 191
  • 192
  • 193
  • 194
  • 195
  • 196
  • 197
  • 198
  • 199
  • 200
  • 201
  • 202
  • 203
  • 204
  • 205
  • 206
  • 207
  • 208
  • 209
  • 210
  • 211
  • 212
  • 213
  • 214
  • 215
  • 216
  • 217
  • 218
  • 219
  • 220
  • 221
  • 222
  • 223
  • 224
  • 225
  • 226
  • 227
  • 228
  • 229
  • 230
  • 231
  • 232
  • 233
  • 234
  • 235
  • 236
  • 237
  • 238
  • 239
  • 240
  • 241
  • 242
  • 243
  • 244
  • 245
  • 246
  • 247
  • 248
  • 249
  • 250
  • 251
  • 252
  • 253
  • 254
  • 255
  • 256
  • 257
  • 258
  • 259
  • 260
  • 261
  • 262
  • 263
  • 264
  • 265
  • 266
  • 267
  • 268
  • 269
  • 270
  • 271
  • 272
  • 273
  • 274
  • 275
  • 276
  • 277
  • 278
  • 279
  • 280
  • 281
  • 282
  • 283
  • 284
  • 285
  • 286
  • 287
  • 288
  • 289
  • 290
  • 291
  • 292
  • 293
  • 294
  • 295
  • 296
  • 297
  • 298
  • 299
  • 300
  • 301
  • 302
  • 303
  • 304
  • 305
  • 306
  • 307
  • 308
  • 309
  • 310
  • 311
  • 312
  • 313
  • 314
  • 315
  • 316
  • 317
  • 318
  • 319
  • 320
  • 321
  • 322
  • 323
  • 324
  • 325
  • 326
  • 327
  • 328
  • 329
  • 330
  • 331
  • 332
  • 333
  • 334
  • 335
  • 336
  • 337
  • 338
  • 339
  • 340
  • 341
  • 342
  • 343
  • 344
  • 345
  • 346
  • 347
  • 348
  • 349
  • 350
  • 351
  • 352
  • 353
  • 354
  • 355
  • 356
  • 357
  • 358
  • 359
  • 360
  • 361
  • 362
  • 363
  • 364
  • 365
  • 366
  • 367
  • 368
  • 369
  • 370
  • 371
  • 372
  • 373
  • 374
  • 375
  • 376
  • 377
  • 378
  • 379
  • 380
  • 381
  • 382
  • 383
  • 384
  • 385
  • 386
  • 387
  • 388
  • 389
  • 390
  • 391
  • 392
  • 393
  • 394
  • 395
  • 396
  • 397
  • 398
  • 399
  • 400
  • 401
  • 402
  • 403
  • 404
  • 405
  • 406
  • 407
  • 408
  • 409
  • 410
  • 411
  • 412
  • 413
  • 414
  • 415
  • 416
  • 417
  • 418
  • 419
  • 420
  • 421
  • 422
  • 423
  • 424
  • 425
  • 426
  • 427
  • 428
  • 429
  • 430
  • 431
  • 432
  • 433
  • 434
  • 435
  • 436
  • 437
  • 438
  • 439
  • 440
  • 441
  • 442
  • 443
  • 444
  • 445
  • 446
  • 447
  • 448
  • 449
  • 450
  • 451
  • 452
  • 453
  • 454
  • 455
  • 456
  • 457
  • 458
  • 459
  • 460
  • 461
  • 462
  • 463
  • 464
  • 465
  • 466
  • 467
  • 468
  • 469
  • 470
  • 471
  • 472
  • 473
  • 474
  • 475
  • 476
  • 477
  • 478
  • 479
  • 480
  • 481
  • 482
  • 483
  • 484
  • 485
  • 486
  • 487
  • 488
  • 489
  • 490
  • 491
  • 492
  • 493
  • 494
  • 495
  • 496
  • 497
  • 498
  • 499
  • 500
  • 501
  • 502
  • 503
  • 504
  • 505
  • 506
  • 507
  • 508
  • 509
  • 510
  • 511
  • 512
  • 513
  • 514
  • 515
  • 516
  • 517
  • 518
  • 519
  • 520
  • 521
  • 522
  • 523
  • 524
  • 525
  • 526
  • 527
  • 528
  • 529
  • 530
  • 531
  • 532
  • 533
  • 534
  • 535
  • 536
  • 537
  • 538
  • 539
  • 540
  • 541
  • 542
  • 543
  • 544
  • 545
  • 546
  • 547
  • 548
  • 549
  • 550
  • 551
  • 552
  • 553
  • 554
  • 555
  • 556
  • 557
  • 558
  • 559
  • 560
  • 561
  • 562
  • 563
  • 564
  • 565
  • 566
  • 567
  • 568
  • 569
  • 570
  • 571
  • 572
  • 573
  • 574
  • 575
  • 576
  • 577
  • 578
  • 579
  • 580
  • 581
  • 582
  • 583
  • 584
  • 585
  • 586
  • 587
  • 588
  • 589
  • 590
  • 591
  • 592
  • 593
  • 594
  • 595
  • 596
  • 597
  • 598
  • 599
  • 600
  • 601

α
-15
Function
Input range for real
number solutions
Internal
digits
Precision
Notes
° ’ ”
←⎯
° ’ ”
|
a
|,
b
,
c
< 1
×
10
100
0
<
b
,
c
15 digits
As a rule,
precision is
±
1 at the
10th digit.*
|
x
| < 1
×
10
100
Sexagesimal display:
|
x
| < 1
×
10
7
^(
x
y
)
x
> 0:
–1
×
10
100
<
y
log
x
< 100
x
= 0 :
y
> 0
x
< 0 :
y
=
n
,
m
––––
2
n
+1
(
m
,
n
are integers)
However;
–1
×
10
100
<
y
log |
x
| < 100
"
"
• Complex numbers can be
used as arguments.
x
'
y
y
> 0 :
x
0
–1 × 10
100
<
1
x
log
y
< 100
y
= 0 :
x
> 0
y
< 0 :
x
= 2
n
+1,
2
n
+1
––––
m
(
m
0;
m
,
n
are integers)
However;
–1 × 10
100
<
1
x
log |
y
| < 100
"
"
• Complex numbers can be
used as arguments.
a
b
/c
Total of integer, numerator
and denominator must be
within 10 digits (includes
division marks).
"
"
* For a single calculation, calculation error is
±
1 at the 10th digit. (In the case of exponential display,
calculation error is
±
1 at the last significant digit.) Errors are cumulative in the case of consecutive
calculations, which can also cause them to become large. (This is also true of internal consecutive
calculations that are performed in the case of ^(
x
y
),
x
'
y
,
x!
,
3
'
x
,
n
P
r
,
n
C
r
, etc.)
In the vicinity of a function’s singular point and point of inflection, errors are cumulative and may
become large.
Function
Input range
Binary, octal,
decimal,
hexadecimal
calculation
Values fall within following ranges after conversion:
DEC: –2147483648
<
x
<
2147483647
BIN: 1000000000000000
<
x
<
1111111111111111 (negative)
0
<
x
<
111111111111111 (0, positive)
OCT: 20000000000
<
x
<
37777777777 (negative)
0
<
x
<
17777777777 (0, positive)
HEX: 80000000
<
x
<
FFFFFFFF (negative)
0
<
x
<
7FFFFFFF (0, positive)