알아두면 좋은 내용
유효숫자 세는 규칙
0이 아닌 숫자는 모두 유효
123 → 3개, 45.6 → 3개
사이에 낀 0은 유효
1024 → 4개, 80.05 → 4개
소수점 앞쪽 선행 0은 무효
0.0045 → 2개 (4, 5만)
소수점 뒤 후행 0은 유효
0.04560 → 4개, 2.300 → 4개
소수점 없는 정수의 후행 0은 모호
1500 → 2~4개 (표기로 구분 불가)
※ 모호한 후행 0은 과학적 표기(예: 1.5×10³ vs 1.500×10³)로 쓰면 명확해집니다.
지수 표기로 계산할 때 유효숫자 맞추기
측정값을 곱하거나 나눌 때 결과의 유효숫자는 피연산자 중 가장 적은 자릿수를 따릅니다. 계산기가 뱉는 긴 소수를 그대로 옮겨 적으면 실제보다 정밀한 척하는 셈이 됩니다. 과학적 표기의 장점이 여기서 드러납니다 — 3000은 유효숫자가 1자리인지 4자리인지 모호하지만, 3.0×10³으로 쓰면 2자리임이 명확합니다.
① 가수끼리 곱한다
1.5×10⁻⁶ × 2.0×10³을 계산해 봅니다. 먼저 가수만 곱하면 1.5 × 2.0 = 3.0.
② 지수끼리 더한다
10의 지수는 곱셈에서 서로 더해집니다. (-6) + 3 = -3이므로 중간 결과는 3.0×10⁻³.
③ 유효숫자를 맞춘다
두 값 모두 유효숫자 2자리이므로 결과도 2자리. 이때 3×10⁻³이 아니라 소수점 아래 0을 남긴 3.0×10⁻³으로 써야 2자리 정밀도가 전달됩니다.
※ 반올림이 필요한 예: 2.46×10⁵ × 1.2×10² = 2.952×10⁷ → 유효숫자 2자리로 반올림해 3.0×10⁷. 덧셈·뺄셈은 규칙이 다릅니다 — 유효숫자 개수가 아니라 소수점 자릿값이 가장 낮은 정밀도에 맞춥니다(예: 12.1 + 0.532 = 12.632 → 12.6).
오차의 종류
절대오차
측정값과 참값(또는 불확도)의 차이. 측정값과 같은 단위.
|측정 − 참|
상대오차
절대오차를 기준값으로 나눈 비율. 단위 없음.
절대오차 ÷ |참값|
백분율오차
상대오차를 %로 표현. 정확도 비교에 편리.
상대오차 × 100%
오차 전파 공식
| 연산 | 결과 R | 불확도 δR (독립 오차) |
|---|---|---|
| 덧셈·뺄셈 | A ± B | δR = √(δA² + δB²) |
| 곱셈·나눗셈 | A·B, A/B | δR/R = √((δA/A)² + (δB/B)²) |
| 거듭제곱 | Aⁿ | δR/R = |n|·(δA/A) |
| 상수 곱 | k·A | δR = |k|·δA |
※ 위 제곱합(quadrature) 공식은 오차가 서로 독립인 무작위 오차일 때 표준입니다. 모든 오차가 겹친 최악의 경우(상한)는 절대값을 단순히 더합니다.
실전 워크스루 — 밀도 측정 오차 합성
저울로 잰 질량 m = 25.32 ± 0.01 g과 메스실린더로 잰 부피 V = 10.2 ± 0.1 mL로 밀도 ρ = m/V를 구하는 전형적인 실험 상황을 끝까지 풀어봅니다.
① 측정값 정리
m = 25.32 g (유효숫자 4개), V = 10.2 mL (3개). 나눗셈이므로 결과 유효숫자는 적은 쪽인 3개가 상한.
② 상대오차로 변환
δm/m = 0.01/25.32 ≈ 0.040%, δV/V = 0.1/10.2 ≈ 0.98%. 부피 오차가 질량의 약 25배 — 부피가 지배적.
③ 나눗셈 → 제곱합 합성
δρ/ρ = √(0.040² + 0.98²)% ≈ 0.98%. 지배항이 있으면 합성 결과는 지배항과 거의 같아집니다.
④ 절대 불확도 환산
ρ = 25.32/10.2 = 2.4824 g/mL, δρ = 2.4824 × 0.0098 ≈ 0.024 g/mL.
⑤ 최종 표기
불확도 1자리로 정리하면 ρ = 2.48 ± 0.02 g/mL. 유효숫자 규칙(3개)으로 맞춘 2.48과도 일치.
※ 이 분석의 실용적 결론: 더 좋은 저울을 사도 결과는 거의 나아지지 않습니다. 상대오차가 0.98%로 지배적인 부피 측정(피펫·뷰렛 사용 등)을 개선해야 최종 불확도가 줄어듭니다. 오차 전파는 “어느 측정에 투자할지”를 알려주는 도구이기도 합니다.
로그·지수·삼각함수의 오차 전파
사칙연산이 아닌 함수는 1차 근사 δR = |dR/dA| × δA로 전파합니다. pH·반감기·감쇠 계산에서 자주 쓰는 형태를 정리했습니다.
| 함수 R | 불확도 δR | 비고·용례 |
|---|---|---|
| ln A | δR = δA/A | A의 상대오차가 그대로 절대 불확도가 됨 |
| log₁₀ A | δR = δA/(A·ln10) ≈ 0.434·(δA/A) | pH = −log[H⁺] 계산 |
| eᴬ | δR/R = δA | A의 절대 불확도가 상대오차가 됨 (지수 감쇠) |
| 10ᴬ | δR/R = ln10·δA ≈ 2.303·δA | pH → 농도 역산 |
| sin A | δR = |cos A|·δA | δA는 라디안 단위 |
| tan A | δR = δA/cos²A | 90° 부근에서 급격히 커짐 |
※ 예시: 농도 [H⁺] = (2.0 ± 0.2)×10⁻⁵ M(상대오차 10%)이면 pH = 4.70이고 δpH ≈ 0.434 × 0.10 ≈ 0.04 — 즉 pH = 4.70 ± 0.04. 로그는 상대오차를 절대오차로 바꾸므로, 농도 오차가 커도 pH 불확도는 의외로 작게 나옵니다. 반대로 pH ± 0.01의 측정으로 농도를 역산하면 상대오차는 2.303 × 0.01 ≈ 2.3%가 됩니다.
일반 · 과학적 · 공학적 표기
일반 표기
우리가 평소 쓰는 십진수. 자릿수가 많으면 읽기 어려움.
0.0000015 / 1,500,000
과학적 표기 (Scientific)
가수(1 이상 10 미만) × 10ⁿ. 자릿수에 관계없이 간결.
1.5 × 10⁻⁶ / 1.5 × 10⁶
공학적 표기 (Engineering)
지수를 항상 3의 배수로. SI 접두어(k·M·µ·n)와 1:1 대응.
1.5 × 10⁻⁶ → 1.5 µ
SI 접두어 (지수 ↔ 기호)
| 기호 | 이름 | 배수 | 예시 |
|---|---|---|---|
| T | 테라 | 10¹² | 1 TB = 10¹² B |
| G | 기가 | 10⁹ | 1 GHz = 10⁹ Hz |
| M | 메가 | 10⁶ | 1 MW = 10⁶ W |
| k | 킬로 | 10³ | 1 km = 1,000 m |
| m | 밀리 | 10⁻³ | 1 mm = 0.001 m |
| µ | 마이크로 | 10⁻⁶ | 1 µm = 10⁻⁶ m |
| n | 나노 | 10⁻⁹ | 1 nm = 10⁻⁹ m |
| p | 피코 | 10⁻¹² | 1 pF = 10⁻¹² F |
| f | 펨토 | 10⁻¹⁵ | 1 fs = 10⁻¹⁵ s |
※ 위 계산기의 ‘과학적 표기’ 탭은 퀘타(Q,10³⁰)~퀙토(q,10⁻³⁰)까지 전체 접두어를 지원합니다.
SI 접두어 vs 이진 접두어 — 1TB가 931GB로 보이는 이유
SI 접두어는 10의 거듭제곱(십진)이지만 컴퓨터 메모리는 2의 거듭제곱으로 커집니다. 이 혼동을 정리하려고 국제 표준 IEC 80000-13은 이진 접두어(Ki·Mi·Gi·Ti)를 따로 정의했습니다. 1 KiB(키비바이트) = 2¹⁰ = 1,024바이트로 1 kB(1,000바이트)와 2.4% 차이가 나고, 단위가 커질수록 격차도 벌어집니다.
| SI(십진) | 값 | IEC(이진) | 값 | 격차 |
|---|---|---|---|---|
| kB 킬로 | 10³ B | KiB 키비 | 2¹⁰ = 1,024 B | +2.4% |
| MB 메가 | 10⁶ B | MiB 메비 | 2²⁰ ≈ 1.049×10⁶ B | +4.9% |
| GB 기가 | 10⁹ B | GiB 기비 | 2³⁰ ≈ 1.074×10⁹ B | +7.4% |
| TB 테라 | 10¹² B | TiB 테비 | 2⁴⁰ ≈ 1.100×10¹² B | +10.0% |
※ 실전 예: SSD 제조사는 십진 기준으로 1 TB = 10¹² 바이트를 담아 팝니다. 그런데 윈도우 탐색기는 용량을 2³⁰바이트(GiB) 단위로 나눠 계산하면서 표기만 ‘GB’로 하기 때문에, 10¹² ÷ 2³⁰ ≈ 931.3이 되어 같은 드라이브가 931GB로 보입니다. 용량이 사라진 게 아니라 나누는 기준이 다를 뿐입니다.
자주 쓰는 과학 단위
Å 옹스트롬
1 Å = 0.1 nm = 10⁻¹⁰ m. 원자 반지름·화학 결합 길이.
AU 천문단위
1 AU ≈ 1.496×10¹¹ m. 지구–태양 평균 거리.
ly 광년
1 ly ≈ 9.461×10¹⁵ m. 빛이 1년 동안 가는 거리.
pc 파섹
1 pc ≈ 3.086×10¹⁶ m ≈ 3.26 ly. 천문 거리 표준.
eV 전자볼트
1 eV ≈ 1.602×10⁻¹⁹ J. 원자·광자·입자 에너지.
Da 달톤
원자질량단위(u). 1 Da ≈ 1.661×10⁻²⁷ kg.
실생활 스케일 예시
반도체와 나노미터(nm)
가시광선 파장이 400~700 nm인데, 최신 반도체는 그보다 훨씬 작은 패턴을 새깁니다. 첨단 공정의 EUV(극자외선) 노광 장비는 파장 13.5 nm 빛을 사용해 — 기존 DUV(193 nm)의 약 1/14 — 7·5·3나노 공정의 핵심 회로층을 그립니다.
EUV 파장 13.5 nm = 1.35×10⁻⁸ m
천문 거리 — AU·광년·파섹 고르기
태양계 안에서는 AU(1 AU = 149,597,870,700 m, IAU 2012 정의)를 쓰고, 별 사이 거리부터는 광년·파섹을 씁니다. 태양에서 가장 가까운 별 프록시마 센타우리까지는 약 4.25광년(약 1.3 pc)입니다.
4.25 ly ≈ 4.02×10¹³ km
eV로 읽는 에너지 사다리
가시광선 광자는 약 1.8~3.1 eV(E=hc/λ 환산), X선 광자는 100 eV~100 keV이고 그 이상은 감마선으로 분류됩니다. 입자가속기 LHC는 양성자를 13.6 TeV(2022년 3차 가동 시작 기준)로 충돌시킵니다 — 가시광 광자의 수조 배 에너지입니다.
1 TeV = 10¹² eV ≈ 1.6×10⁻⁷ J
※ 출처: ASML(EUV 13.5 nm)·NASA(전자기 스펙트럼, 프록시마 센타우리 4.25광년)·CERN(LHC 13.6 TeV)·IAU(AU 정의) — 2026년 6월 확인.
주요 물리 상수표 (CODATA 2022)
| 기호 | 이름 | 값 | 단위 |
|---|---|---|---|
| c | 빛의 속도 (진공) | 2.99792458 × 10⁸ | m/s |
| h | 플랑크 상수 | 6.62607015 × 10⁻³⁴ | J·s |
| ħ | 환산 플랑크 상수 | 1.054571817 × 10⁻³⁴ | J·s |
| e | 기본 전하 | 1.602176634 × 10⁻¹⁹ | C |
| k_B | 볼츠만 상수 | 1.380649 × 10⁻²³ | J/K |
| N_A | 아보가드로 수 | 6.02214076 × 10²³ | 1/mol |
| R | 기체 상수 | 8.314462618 | J/(mol·K) |
| G | 만유인력 상수 | 6.67430 × 10⁻¹¹ | N·m²/kg² |
| m_e | 전자 질량 | 9.1093837139 × 10⁻³¹ | kg |
| m_p | 양성자 질량 | 1.67262192595 × 10⁻²⁷ | kg |
| σ | 슈테판-볼츠만 상수 | 5.670374419 × 10⁻⁸ | W/(m²·K⁴) |
| ε₀ | 진공 유전율 | 8.8541878188 × 10⁻¹² | F/m |
※ c·h·ħ·e·k_B·N_A·R·σ는 2019년 SI 재정의에 따른 정확값(불확도 없음)이고, G·m_e·m_p·ε₀는 측정값입니다. 출처: NIST CODATA 2022 권장값(physics.nist.gov, 2026년 6월 확인). 위 계산기 ‘과학적 표기’ 탭의 ‘물리 상수표’와 동일한 값입니다.
자주 묻는 질문 (FAQ)
Q1. 1500의 유효숫자는 몇 개인가요?
소수점이 없는 정수의 후행 0은 모호합니다. 1500은 표기만으로 2개(1,5)인지 4개(1,5,0,0)인지 알 수 없어요. 명확히 하려면 과학적 표기로 씁니다 — 1.5×10³(2개), 1.50×10³(3개), 1.500×10³(4개). 본 계산기는 이런 경우 모호함을 경고합니다.
Q2. 0.04560은 유효숫자가 몇 개죠?
4개입니다. 앞쪽 선행 0(0.0…)은 자릿수만 나타내므로 무효이고, 4·5·6과 맨 끝 0이 유효합니다. 소수점 뒤의 후행 0은 일부러 적은 것이므로 유효숫자에 포함됩니다.
Q3. 계산 결과는 유효숫자를 어떻게 맞추나요?
곱셈·나눗셈은 유효숫자가 가장 적은 값에 맞추고, 덧셈·뺄셈은 소수점 자리수가 가장 적은 값에 맞춥니다. 최종 답을 먼저 다 계산한 뒤 마지막에 한 번만 반올림하는 것이 좋습니다(중간 반올림 누적 오차 방지).
Q4. 오차 전파에서 제곱합과 단순 합은 언제 쓰나요?
측정 오차들이 서로 독립인 무작위 오차일 때는 제곱합 √(δA²+δB²)(표준 불확도)을 씁니다. 통계를 모르거나 최악의 경우 상한을 보수적으로 잡고 싶을 때는 절대값을 그냥 더하는 단순 합(최대 오차)을 씁니다. 본 도구는 둘 다 보여줍니다.
Q5. 불확도는 유효숫자 몇 개로 적나요?
관례상 불확도(δ)는 1~2개 유효숫자로 반올림하고, 측정값을 그 불확도와 같은 소수 자리에 맞춥니다. 예: 9.8123 ± 0.0456 → 9.81 ± 0.05 또는 9.812 ± 0.046. 본 계산기는 2자리 기준으로 정리해 보여줍니다.
Q6. 과학적 표기와 공학적 표기의 차이는?
둘 다 가수 × 10ⁿ 형태지만, 과학적 표기는 가수를 1 이상 10 미만으로 두고(예: 1.5×10⁻⁶), 공학적 표기는 지수를 항상 3의 배수로 맞춥니다(예: 1.5×10⁻⁵ = 15×10⁻⁶ = 15 µ). 공학적 표기는 SI 접두어(k·M·µ·n)와 바로 짝지어집니다.
Q7. 옹스트롬(Å)과 나노미터(nm)는 어떻게 변환하나요?
1 Å = 0.1 nm = 10⁻¹⁰ m입니다. 즉 10 Å = 1 nm. 결정학·반도체·분광학에서 원자 단위 길이를 표현할 때 Å를 쓰고, 빛 파장은 nm를 주로 씁니다(가시광선 약 380~750 nm = 3,800~7,500 Å).
Q8. eV를 줄(J)로 바꾸면?
1 eV = 1.602176634 × 10⁻¹⁹ J입니다. 1 eV는 전자 하나가 1V 전위차를 지날 때 얻는 에너지로 정의됩니다. keV(10³)·MeV(10⁶)·GeV(10⁹)·TeV(10¹²)는 각각 X선·핵반응·입자가속기·LHC 스케일 에너지에 쓰입니다.
Q9. 물리 상수 값은 믿을 수 있나요?
CODATA 2022 권장값(NIST 공개, 2026년 6월 확인) 및 2019년 SI 재정의 기준입니다. c(빛의 속도)·h(플랑크)·e(기본 전하)·k_B(볼츠만)·N_A(아보가드로)는 정의 상수(정확값)이고, G(만유인력)·전자 질량 등은 측정값이라 불확도가 있습니다.
Q10. 파섹(pc)은 어떻게 정의되나요?
1 AU(지구–태양 평균 거리)가 1초각(1″)으로 보이는 거리, 즉 연주시차가 1″인 별까지의 거리입니다. IAU 2015 결의 B2 기준으로 정확히 648,000/π AU이며, 약 3.0857×10¹⁶ m ≈ 3.26광년에 해당합니다. 기준이 되는 1 AU도 IAU 2012 결의 B2에서 정확히 149,597,870,700 m로 정의되어 있습니다.
Q11. 달톤(Da)은 어디에 쓰이는 단위인가요?
탄소-12 원자 질량의 1/12로 정의되는 질량 단위로, 원자질량단위(u)와 같은 단위입니다(SI와 병용이 허용된 단위, BIPM SI 브로슈어 9판). 1 Da = 1.66053906892×10⁻²⁷ kg(CODATA 2022)입니다. 단백질·핵산 등 생체분자 질량을 kDa로 표기할 때 널리 쓰입니다 — 예: 몰질량 64,000 g/mol인 단백질은 64 kDa.
Q12. 광년과 파섹 중 어느 것을 쓰나요?
같은 거리 단위지만 쓰임이 다릅니다. IAU에 따르면 광년(ly)은 주로 대중·교양 매체에서, 파섹(pc)은 천문학 연구에서 쓰입니다. 1 pc ≈ 3.26 ly이며, 더 먼 거리는 킬로파섹(kpc)·메가파섹(Mpc)처럼 SI 접두어를 붙여 표기합니다.
참고 자료
- NIST CODATA(새 창)physics.nist.gov
- IAU Measuring the Universe(새 창)iauarchive.eso.org
- 계산 기준
- 과학적 표기 탭 — 물리 상수 CODATA 2022 권장값 · AU·파섹은 IAU 정의 기준
- 오류 제보
- 결과가 다르면 contact@youtil.kr로 입력 조건을 알려 주세요. 평일 기준 1~3일 안에 답변합니다.