A numerikus érték pontossága azt írja le, hogy hány számjegyet használunk az érték megjelenítéséhez. Tudományos környezetben ez általában a számjegyek teljes száma (gyakran szignifikáns számjegyeknek nevezik), ritkábban pedig a tört rész számjegyeinek, azaz a tizedesjegyek számát értjük alatta (a tizedespontot követő számjegyek száma). Az előbbi meghatározás általános a természettudományokban, az utóbbi pedig különösen hasznos a pénzügyi és mérnöki alkalmazásokban, ahol a törtrész pontossága kritikus.

Szignifikáns számjegyek értelmezése és szabályai

  • Nem nulla számjegyek mindig szignifikánsak: 123,45 → 5 szignifikáns számjegy.
  • Belépő (vezető) nullák nem számítanak szignifikánsnak: 0,0034 → 2 szignifikáns számjegy (3 és 4).
  • Vezető nélkül álló nullák a tizedestörtben szignifikánsak lehetnek, ha a tizedespont jelen van és a mérési pontosság jelzi: 1,200 → általában 4 szignifikáns számjegy (ha a nullák mérési eredményt jelölnek).
  • Egész számoknál a végződő nullák szignifikanciája a jegyzeteléstől vagy méréstől függ (például 1500 lehet 2, 3 vagy 4 szignifikáns számjegy attól függően, hogy írásmóddal vagy tudományos jelöléssel jelezzük-e a pontosságot).

Tizedesjegyek vs. szignifikáns számjegyek

A két fogalom különböző metrikát mér: a tizedesjegyek (decimal places) azt mutatják, hány számjegy van a tizedespont után; a szignifikáns számjegyek (significant figures) pedig az érték teljes érdemi pontosságát adják meg. Például a 12,345 érték:

  • 5 szignifikáns számjegy (1, 2, 3, 4, 5),
  • 3 tizedesjegy (a tizedespont után három számjegy: 345).

Ha korlátozott a rendelkezésre álló pontosság, akkor a számot kerekíteni kell a kívánt számú szignifikáns jegyre vagy tizedesjegyre.

Kerekítési módszerek

A kerekítés többféle szabály szerint történhet; a leggyakoribbak:

  • Round half up (szokásos kerekítés): 0,5 felett felfelé, alatt lefelé.
  • Banker's rounding (round half to even): a .5 értékeket a legközelebbi páros számra kerekíti, hogy csökkentse az eltolódást sok kerekítés során.
  • Speciális szabályok pénzügyi ügyekben: például devizapárok vagy kamatszámítás esetén előírhatnak fix tizedeshelyet (világszerte gyakori a tizedesválasztó utáni két hely a pénznemében).

Példák és gyakorlat

Például, a 12,345 tizedesjegyű mennyiséget különböző pontosságokra kerekítve:

  • 3 szignifikáns számjegyre: 12,3
  • 4 szignifikáns számjegyre: 12,35
  • 2 tizedesjegyre: 12,35
  • 1 tizedesjegyre: 12,3

Fontos megjegyezni, hogy gyakran nem célszerű a mérhetőnél több számjegyet megjeleníteni. Például, ha egy készülék grammra pontosan mér, és 12,345 kg-ot mutat, hamis pontosságot eredményezne, ha a mérés "12,34500 kg" lenne megadva — a felesleges nullák a végén tévesen nagyobb pontosságot sugallnak.

Matematikai formulák a kerekítéshez

Szignifikáns számjegyekre kerekítés általános módja pozitív x és kívánt p szignifikáns számjegy esetén:

1. Határozzuk meg az eltolást: n = floor(log10 x) - p + 1.

2. A kerekített érték: round( x / 10n ) × 10n, ahol a round a választott kerekítési szabály szerinti kerekítést jelenti (kerekítés).

Példa: x = 12,345 és p = 3 → n = floor(log10 12,345) - 3 + 1 = 1 - 3 + 1 = -1 → x / 10-1 = 123,45 → round(123,45) = 123 → × 10-1 = 12,3.

Tizedesjegyekre (d tizedeshely) való kerekítés egyszerűbb: round(x × 10d) / 10d.

round(10-n-x)-10n, ahol n = floor(log10 x) + 1 - p.

Speciális esetek és gyakorlati tippek

  • Negatív számok: a kerekítést általában a szám abszolút értékére alkalmazzuk, majd visszaadjuk az előjelet (a negatív szám értéke a kerekített abszolút érték mínusza).
  • Abszolút érték: a kerekítési műveleteknél gyakran használjuk, hogy az előjelt külön kezeljük.
  • Nulla: 0 bármilyen pontossággal 0-nak tekinthető (nincs értelme „0,00…1” típusú formában több szignifikáns jegyet feltételezni).
  • Lebegőpontos számítások: a lebegőpontos aritmetikában a műveletek során felléphetnek kerekítési hibák és reprezentációs eltérések; itt különösen fontos a kerekítési szabályok és a kívánt pontosság előzetes meghatározása.
  • Dokumentálás: mindig jelezze, hogy a megadott számjegyszám mérési bizonytalanságot is tükröz-e, vagy pusztán a megjelenítés formátuma miatt szerepel.

Összefoglalva: a numerikus pontosság értelmezése attól függ, hogy szignifikáns számjegyekről vagy tizedesjegyekről beszélünk-e, és a kerekítés módja határozza meg az eredmény tudományos és gyakorlati megfelelőségét. A fenti szabályok és formulák segítenek következetesen kezelni a kerekítést és elkerülni a hamis pontosság látszatát.