Käytän esimerkkinä lämpömittaria, jonka avulla selitän nimitysten eron. Alla olevassa kuvassa lämpömittarin asteikko on merkitty yhden asteen välein. Mittarin erottelukyky on 1 aste eli mittari näyttää lämpötilan yhden asteen portain eli välein.
Kuumemittarina ei voi tällaista käyttää, vaan silloin tarvitaan mittaria, joka näyttää asteen kymmenyksetkin. Eli tällä mittarilla mitataan esim. ulkolämpötiloja 18C, 20C, 27C jne. Kuumemittarilla esim. 36,4C, 37,8C jne.
Kun mittarin valmistaja valmistaa suuren määrän lämpömittareita, hän määrittää mittareille tarkkuuden, joka riippuu lähinnä siitä, miten tarkasti nesteputki asennetaan paikalleen ja siitä miten tarkasti mitta-asteikko painetaan runkoon. Jos putki tai asteikko lipsahtaa liian alas tai liian ylös, niin mittari näyttää joko liikaa tai liian vähän, suhteessa todelliseen lämpötilaan.
Kuvassa B on todellinen lämpötila 20C eli 20 Celsius-astetta. Suurin osa po. valmistuserän mittareista näyttää näin. Kuvassa A on putki asennettu liian alas (tai asteikko liian ylös) ja mittari näyttää 18C. Kuvassa C on tilanne toisin päin, mittari näyttää liian korkeaa lämpötilaa.
Koska arvot 18C ja 22C ovat maksimivirheet, ilmoittaa valmistaja mittarin tarkkuudeksi +- 2C. (Ilmoittaa, jos ilmoittaa, yleensä ei ilmoita, koska tarkkuudella ei ole suurtakaan merkitystä ulkolämpötiloja mitattaessa). Jos suurin virhe ylöspäin olisi 3C, kuva D, olisi tarkkuus koko erässä -2C, +3C. Tämä tarkoittaa sitä, että kaupasta ostettu mittari voi näyttää 2 astetta liian vähän tai jopa kolme astetta liikaa.
Jos haluaa tietää mittarin todellisen tarkkuuden, se pitää kalibroida eli mittaria pitää verrata sellaiseen mittariin, eli hienolta nimeltä mittanormaaliin, joka näyttää täysin oikein. Koska lämpömittaria ei pysty säätämään, merkitään virhe eli poikkeama muistiin vastaisen varalle ja lämpötilaa mitattaessa otetaan virhe huomioon.
Kun on kyseessä elektroninen laite, esim. digivaaka, riippuu tarkkuus lähinnä käytetyistä komponenteista. Halvan vaa'an olessa kyseessä voivat komponenttien arvot vaihdella huomattavasti, eli ne eivät ole tasalaatuisia. Kalliin vaa'an komponentit on mahdollisesti valittu isosta erästä niin, että komponenteilla on vakioarvo. Kalliissa vaa'assa on mahdollisesti käytetty komponentteja, joita pystyy säätämään kalibroinnissa (eli trimmerivastuksia, -kondensaattoreita, -induktanssikeloja). Parin kympin vaa'oissa tuskin on säätömahdollisuuksia, ne lähtevät liukuhihnalta sellaisenaan kaupan hyllylle.
Pienessä kuvassa on Mania 50 -vaa'an tyyppikilpi. Siinä oleva merkintä 50g x 0,01 tarkoittaa sitä, että vaaka voi näyttää painot välillä 10mg ja 50g. Vaa'an erottelukyky on 10mg eli se näyttää painon esim. näin: 0,01/0,02/0,03 jne. Se EI esim. pysty näyttämään painoa 0,025, koska pilkun jälkeen on vain kaksi desimaalia. Jos kultahipun todellinen paino on tuo 0,025mg, niin vaaka voi näyttää joko 0,02 tai 0,03 tai jotain muuta, tarkkuudesta riippuen.
Merkintä 50g x 0,01 ei kerro mitään vaa'an tarkkuudesta. 0,01 EI OLE tarkkuusmerkintä vaan erottelukyky (graduation, asteikko, astejako). Valmistaja ei ylipäätään kerro missään näiden halpojen vaakojen tarkkuutta. Jos tarkkuus on esim +- 20mg, voi vaaka näyttää 0,025mg:n hipulle painoksi 0,00mg (koska se ei voi näyttää 0,005) tai 0,04 tai 0,05 (mutta ei 0,045). Jos vaakaan on sattunut tulemaan huonot komponentit, niin vaaituksen tulos voi olla yllä kuvattu. Jos komponentit ovat parempia voi vaaka näyttää mitä tahansa välillä 0,00 ja 0,05.
