최근 수정 시각 : 2022-07-29 22:04:35

유효숫자

해석학 · 미적분학
Analysis · Calculus
{{{#!wiki style="word-break: keep-all; margin:0 -10px -5px"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin:-6px -1px -11px; letter-spacing: -1px"
<colbgcolor=#8f76d6> 함수 합성 · 항등원 · 역원 · 멱함수( 비례·반비례 ) · 초등함수( 대수함수 · 초월함수) · 특수함수 · 범함수 · 다변수 ( 동차 · 숨은 함수( 다가 함수 )) · 그래프 · 대칭 · 증감표 · 극값 · 연속 · 매끄러움 · 계단형 · 미끄럼틀형 · 볼록/오목 · 닮은꼴 함수 · 병리적 함수 · 해석적 연속 · 로그함수 · 지수함수 · 삼각함수
정리 · 토픽 좌표계 · 중간값 정리 · 최대·최소 정리 · 부동점 정리 · 오일러 동차함수 정리 · 립시츠 규칙
극한 부정형 · 어림( 유효숫자 ) · 근방 · 수열의 극한 · 엡실론-델타 논법 · 수렴 ( 균등수렴 ) · 발산 · 점근선 · 무한대 · 무한소 · 스털링 근사
정리 · 토픽 로피탈의 정리 · 슈톨츠-체사로 정리
수열
급수
규칙과 대응 · 단조 수렴 정리 · 멱급수 · 테일러 급수 ( 일람 ) · 조화급수 · 그란디 급수 · 망원급수 ( 부분분수분해 ) · 오일러 수열 · 베르누이 수열 · 파울하버의 공식 · 리만 재배열 정리
정리 · 토픽 바젤 문제 · 라마누잔합 · 0.999…=1 · 콜라츠 추측미해결
미적분 미분 도함수 일람 · 차분 · 유율법 · 변화량 · 변분법 · 도함수 ( 편도함수 ) · 곱미분 · 몫미분 · 연쇄 법칙 · 역함수 정리 · 임계점 ( 변곡점 · 안장점 ) · 미분형식 · 미분방정식 ( 풀이 ) · [math(boldsymbolnabla)] · 라그랑주 승수법
적분 역도함수 일람 · 부분적분 ( LIATE 법칙 · 도표적분법 · 예제 ) · 치환적분 · 정적분 ( 예제 ) · 이상적분 · 중적분 ( 선적분 · 면적분 · 야코비안 ) · 르베그 적분 · 스틸체스 적분 · 코시 주요값
정리 · 토픽 평균값 정리 ( 롤의 정리 ) · 스토크스 정리 ( 발산 정리 · 그린 정리 ) · 라플라스 변환 · 푸리에 해석 ( 푸리에 변환 ) · 아다마르 변환 · 미적분의 기본정리 · 2학년의 꿈 · 리시 방법

해석
측도론 ( 측도 · 르베그 측도 ) · 유계( 콤팩트성 ) · 칸토어 집합 · 비탈리 집합
정리 · 토픽
복소
해석
복소평면 · 편각 · 코시-리만 방정식
정리 · 토픽 오일러 공식 ( 드 무아브르 공식 ) · 리우빌의 정리 · 바이어슈트라스 분해 정리 · 미타그레플레르 정리
여타 하위 학문 수치해석학 ( FEM ) · 미분기하학 · 해석기하학 · 해석적 정수론 ( 소수 정리 ) · 벡터 미적분학 · 확률론 ( 중심극한정리 )
기타 뉴턴-랩슨 방법 · 디랙 델타 함수 · 리만 가설미해결 · 카오스 이론미해결 · merry=x-mas
응용 수리물리학 · 수리경제학( 경제수학) · 공업수학 }}}}}}}}}

<colbgcolor=#000> 과학 연구 · 실험
Scientific Experiment · Research
{{{#!wiki style="margin:0 -10px -5px"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin:-6px -1px -11px"
<colbgcolor=#000><rowcolor=#000,#fff> 배경 과학적 방법
탐구 논증( 귀납법 · 연역법 · 유추(내삽법 · 외삽법)) · 이론( 법칙 · 공리 · 증명 · 정의) · 복잡계( 창발) · 교차검증 · 오컴의 면도날
실험 실험설계 · 가설 · 관측 · 실험군과 대조군 · 변인(독립 변인 · 조작 변인 · 종속 변인 · 변인 통제) · 모의 실험( 수치해석) · 맹검법 · 사고실험 · 인체실험 · 임상시험 · 실험 기구
측정 ·
물리량
측도 · 단위( 차원( 물리 상수 · 무차원량 · 차원분석) · 단위계( SI 단위계 · 자연 단위계) · 단위 변환) · 계측기구( 원기) · 오차( 불확도 · 유효숫자)
연구방법론 경험주의 · 환원주의 · 복잡계 연구방법론 · 연구노트( 재현성) · 모형화( 구조방정식 · 혼동행렬 · 회귀분석) · 통계적 검정
연구윤리 뉘른베르크 강령 · 연구투명성 · 연구동의서 · 연구 부정 행위 · 표절( 표절검사서비스) · 편향 · 문헌오염 · 자기교정성 · 연구윤리위원회
논문 ·
과학 공동체
소논문 · 리포트 · 논문제출자격시험 · 연구계획서 · 형식( 초록 · 인용( 양식 · 참고문헌) · 감사의 글) · 저자 · 학회 · 세미나 · 학술대회 · 동료평가 · 지표 · 학술 데이터베이스 · 게재 철회 · 학제간 연구
과학 철학 · 연구방법론 관련 정보 · 수학 관련 정보 · 자연과학 관련 정보 · 물리학 관련 정보 · 통계학 · 통계 관련 정보 · 사회과학 조사연구방법론 }}}}}}}}}

1. 설명2. 유효숫자를 판단하는 방법
2.1. 유효숫자인 경우2.2. 유효숫자가 아닌 경우2.3. 과학적 기수법
3. 끝수 처리4. 유효숫자의 연산
4.1. 덧셈, 뺄셈4.2. 곱셈, 나눗셈4.3. 일반적인 함수 및 연산4.4. 제곱근4.5. 복합 연산


; significant figures

1. 설명

측정값은 측정에 사용된 도구의 측정 분해능(measurement resolution) 정도에 따라 각기 다른 자릿수로 나타난다. 똑같은 부피를 재더라도 파이펫의 최소 단위가 [math(\rm10\,mL)]인 것과 [math(\rm0.1\,mL)]인 것은 최소 눈금을 읽는 방식[1]이 다르기 때문에 자릿수에 차이가 날 수 밖에 없다. 유효숫자는 얻어진 측정값의 숫자 중 어디까지가 의미있는지를 나타내는 척도이며, 비단 이공계 관련 분야뿐만 아니라 측정이 필수적인 모든 분야에서 반드시 숙지해야하는 개념이다.

유효숫자에서 불확실성(uncertainty)을 나타내는 숫자는 맨 마지막 한 자릿수의 숫자이기 때문에 그 앞까지는 확실한 측정값이라는 것을 보장한다는 정보가 담겨있다. 이를테면 원주율을 유효숫자 5자리인 [math(3.1416)]으로 나타냈을 때 [math(3.141)]까지가 확실한 값이고 소수 넷째 자리는 [math(3.14155\sim3.14165)][2]의 범위의 값을 처리한 불확실한 값임을 의미한다.
단 이는 무작위 오차(random error)와는 다른 개념이다. 무작위 오차는 반복된 실험을 통해 얻어진 측정값들을 통계적으로 처리한 결과 필연적으로 생길 수 밖에 없는 측정값의 한계폭을 의미하고 표기로도 [math(a\pm b)][3]와 같이 나타낸다. 반면 유효숫자는 이러한 통계적인 의미를 내포하고 있지 않으며 오로지 측정을 한 번 하는 데에 사용한 도구의 분해능에 대한 정보만 제공할 뿐이다.

2. 유효숫자를 판단하는 방법

2.1. 유효숫자인 경우

우선, 측정값에 한하여[4] [math(\bf0)]이 아닌 숫자로 시작하는 자리부터 유효숫자이며, 소수점 아래에서 마지막에 등장하는 [math(\bf0)] 역시 유효숫자이고, 연산에서 아주 중요한 요소로 작용하기 때문에(후술) 함부로 생략해서는 안 된다. 예를 들어 어떤 용기의 부피가 '[math(\rm1.000\,L)]'라고 측정되었을 때, 이를 '[math(\rm1\,L)]'라고 쓰면 틀린다. [math(\rm1.000\,L)]는 최소 단위가 [math(\rm0.01\,L)]인 용기를 써서 [math(\rm0.001\,L)] 단위까지 눈대중으로 읽은 결과로, 최소 소수 둘째 자리는 [math(0)]인 게 확실하다는 뜻을 내포하고 있기 때문이다. 물론 유효숫자가 아니라면 소수점 아래 마지막에 오는 [math(0)]을 생략한다는 일반적인 약속을 적용해도 무관하다.
한편, 측정값이 아니고 개념적으로 배수 관계가 명확하다 하더라도 그 수치가 터무니 없이 커서 굳이 전체 자릿수를 다 알 필요가 없는 경우 과학적 기수법으로 나타내기도 하는데 이 때에는 유효숫자로 간주해서 계산한다. 컴퓨터의 용량 등에 쓰이는 단위인 [math(\rm TiB)][5]에서 [math(\rm Ti = \times2^{40})]으로 명확한 계수의 배수이지만 이를 [math(1.0995\times10^{12})]로 나타냈다면 유효숫자이다.[6]

아래의 예시에서 수레국화색 숫자가 모두 유효숫자에 해당한다.
  • 황금비 [math(\varphi)]의 근삿값 [math({\color{cornflowerblue}1.6180})] (유효숫자 5자리)
  • 기체상수 [math(R \approx\rm0.0{\color{cornflowerblue}82}\,atm\!\cdot\!L/(mol\!\cdot\!K))] (유효숫자 2자리)
  • [math(rm Kr)]의 전기 음성도 [math({\color{cornflowerblue}3.00})] (유효숫자 3자리)
  • VSMOW[7] 어는점 [math(\rm{\color{cornflowerblue}0.000}\,\degree\!C)] (유효숫자 4자리)
  • VSMOW의 끓는점 [math(\rm{\color{cornflowerblue}10\overline0}\,\degree\!C)] (유효숫자 3자리)
  • 태양의 표면 온도 [math(\rm{\color{cornflowerblue}5\underline5}00\,\degree\!C)] (유효숫자 2자리)
유리수의 소수 표현 중에 순환마디의 위나 아래에 줄을 긋는 경우가 있고(해당 문서 참조) 후자 2개처럼 유효숫자 마지막 자릿수에 줄을 긋는 표기는 혼동을 야기할 수 있기 때문에 일반적이지 않으며, 보통은 줄 없이 그냥 [math(5500)], [math(100)]처럼 나타낸다. 문제는 이렇게 쓰면 소수점 위에서 [math(0)]으로 끝나고 있기 때문에 별도의 언급이 없으면 어느 [math(0)]까지가 유효숫자인지 판단할 수 없다. 유효숫자의 자릿수와 정수의 자릿수가 같을 때, 이를테면 [math(5500{\color{cornflowerblue}.})], [math(100{\color{cornflowerblue}.})]처럼 소수점을 찍어서 유효숫자를 명시할 순 있으나[8] 유효숫자의 자릿수가 정수 자릿수보다 작은 경우엔 답이 없다. 이를 보완하기 위해 나온 것이 바로 과학적 기수법(scientific notation)이다.

2.2. 유효숫자가 아닌 경우

'~개', '~회' '~배' 등과 같이 개념적으로 계수가 명확한 것, 즉 이산적인(discrete) 값은 유효숫자가 아니다. 이를테면 물 분자의 분자량을 계산할 때, 수소 원자의 개수만큼 곱해주는 [math(2)]는 유효숫자가 아니다. 꼭 정수만 해당되는 건 아니고, 수소의 연소로 인한 물의 생성 엔탈피는 산소 기체에 [math(\dfrac12)]만큼의 계수가 곱해지는데 이는 반응한 산소와 생성된 물의 입자수 비가 [math(1:2)]라는 관계에서 나온 것이기 때문에 산소의 물질량이나 반응한 기체의 부피 등을 구할 때 곱해지는 [math(\dfrac12)] 혹은 [math(0.5)]는 유효숫자가 아니다. 이 밖에도 자릿수가 약속되어있지 않은 수학 상수들( [math(pi)], [math(e)], [math(sqrt2)] 따위)[9]도 유효숫자가 아닌 것으로 간주하며 이들은 무한소수이기 때문에 유효숫자라 하더라도 자릿수가 무한개다. 또한 유효숫자는 실수로서의 개념이기 때문에 복소수의 허수단위 [math(i)]나 사원수의 허수 단위 [math(i)], [math(j)], [math(k)]등에서는 굳이 따지지 않는다. 단, 이들 단위에 곱해진 계수에 대해서는 경우에 따라 유효숫자로 간주할 수도 있다.

2.3. 과학적 기수법

측정값을 유효숫자 [math(s\,(1\le s<10))]와 [math(10)]을 밑(base)으로 하는 정수 [math(n)]의 거듭제곱을 이용하여 [math(s\times10^n)]의 꼴로 나타내는 방법. 계산기에서는 [math(10^n = {\sf e}n)] 혹은 [math( {\sf E}n)]으로 표기하기도 한다. 앞선 예시들을 과학적 기수법으로 나타내면 다음과 같다.
  • [math(1.6180)]
  • [math(\rm8.2\times10^{-2}\,atm\!\cdot\!L/(mol\!\cdot\!K))]
  • [math(3.00)]
  • [math(\rm0.000\,\degree\!C)]
  • [math(\rm5.5\times10^3\,\degree\!C)]
  • [math(\rm1.00\times10^2\,\degree\!C)]
유효숫자의 자릿수와 규모(scale)를 한눈에 알아볼 수 있다는 점에서 아주 유용한 표기이지만, 모든 측정값의 표기에 이 방식을 도입하면 공간을 매우 낭비하게 된다는 단점이 있다. 또한 측정값을 이용해서 사칙연산을 할 경우, 과학적 기수법은 곱셈과 나눗셈에서 매우 효율적이지만, 덧셈과 뺄셈에서는 거듭제곱을 맞춰줘야 하기 때문에 다소 번거로워진다는 문제점도 안고 있다.

3. 끝수 처리

국제표준화기구(ISO)에서는 ISO 80000-1를 통해 소위 '오사오입(五捨五入)'이라 불리는 최근접 짝수 반올림(Round to nearest even)[10]을 권장한다. 어떤 수를 유효숫자 [math(n)]개로 반올림하고자 한다면 ([math(n+1)])자리의 수가 [math(0\sim4)], [math(6\sim9)]일 때에는 기존 반올림과 똑같고, [math(5)]일 때에는 반올림한 결과의 마지막 자릿수 [math(\underline n)]의 숫자가 짝수가 되게 하는 방식이다. 즉, ([math(\boldsymbol{n+1})])자리의 숫자가 [math(\bf5)]일 때, [math(\boldsymbol n)]자리의 숫자가 홀수면 올리고 짝수면 버린다. 예를 들면 [math(\log_{10}7 = 0.845\,098\,040\cdots\cdots)]을 유효숫자 2자리로 처리하면 기존 반올림 [math(0.85)]와는 달리 [math(0.84)]가 되고 ([math(5)] 앞이 [math(4)]로 짝수) [math(gamma = 0.577,215,664cdotscdots)]를 유효숫자 5자리로 처리하면 [math(0.577\,22)] ([math(5)] 앞이 [math(1)]로 홀수)가 된다.

4. 유효숫자의 연산

전술한대로 유효숫자는 불확실성을 내포하고 있기 때문에, 연산 결과 불확실성이 줄어들거나 늘어나서는 안된다는 대원칙을 토대로 유효숫자를 처리하는 규칙이 약속되어있다. 각 규칙의 설명은 어디까지나 정성적인 수준으로 엄밀하지 않으며 구체적인 수치로 따져보면 예외가 존재하지만 편의상 그렇게 정해져 있다고 생각하면 된다. 붉은 글씨는 각 유효숫자 및 계산 과정에서 불확실한 숫자임을 나타낸다.

4.1. 덧셈, 뺄셈

불확실한 숫자는 맨 마지막 자릿수의 숫자이므로, 그 자릿수보다 아래에 있는 숫자는 모두 불확실하다고 볼 수 있다. 이를테면 [math(1.41{\color{red}4})]는 소수 셋째 자리부터 불확실한 숫자이고 [math(0.301{\color{red}0})]은 소수 넷째 자리부터 불확실한 숫자이다. 이 둘을 더하면 [math(1.71{\color{red}50})]이 되며 불확실한 숫자가 2자리로 늘어나므로 불확실성 불변의 원칙에 따라 1자리가 되도록 끝수 처리를 해야한다. 위 결과에서는 소수 셋째 자리부터 불확실한 수치이므로 [math(1.71{\color{red}5})]로 정리한다.[11]
이를 일반화하면, 덧셈 및 뺄셈에서는 소수점 아래 자릿수가 가장 적은 쪽에 맞추면 된다는 것을 알 수 있다.
한편, 소수점 아래 자리가 없는 정수의 경우, 값을 과학적 기수법으로 나타내면 소수점 아래 자리를 포함하는 수치로 나타낼 수 있고, 덧셈 및 뺄셈을 연산하려면 모든 수의 자릿수가 같아야하므로, 다른 수치들도 똑같은 거듭제곱으로 통일시켜서 소수점을 이동시켜주면 된다. 이를 정리하면 덧셈, 뺄셈에서의 연산 규칙은 다음과 같다.
지수가 가장 큰 쪽으로 거듭제곱을 통일한 과학적 기수법에서 유효숫자의 소수점 아래 자릿수가 가장 적은 쪽에 맞춘다.
  • [math(3.141\,5\times10^3 + 2.718\,28\times10^{-1} \approx 3.141\,8\times10^3)]
    지수가 큰 쪽으로 거듭제곱을 통일하면 [math((3.141\,{\color{red}5} + 0.000\,271\,82{\color{red}8})\times10^3)]으로 나타낼 수 있고 소수점 아래 자릿수를 비교해보면 전자는 4자리, 후자는 9자리이므로 결과값은 소수 넷째 자리까지 정리한다. 이를 도식화하면 다음과 같다.
    [math(\begin{matrix} \begin{aligned} \\ + \end{aligned} & \begin{aligned} 3&.141\,{\color{red}5} && \times10^3 \\ 0&.000\,271\,82{\color{red}8} && \times10^3 \end{aligned} \\ \hline & \begin{aligned} 3&.141\,{\color{red}771\,828} && \times10^3 \end{aligned} \end{matrix} \\ \therefore3.141\,{\color{red}5}\times10^3 + 2.718\,2{\color{red}8}\times10^{-1} \approx 3.141\,{\color{red}8}\times10^3)]

4.2. 곱셈, 나눗셈

불확실한 수치가 곱해지면 다른 한쪽이 확실한 수치여도 결과적으로 불확실한 수치가 포함된다는 것은 납득할 수 있을 것이다. 이때, 어느 자리까지 불확실한 수치로 봐야하는지에 대한 문제가 생긴다. 이를테면 유효숫자인 [math(3.{\color{red}6})]을 [math(2)]배하는 연산 [math(3.{\color{red}6}\times2)]를 생각해보자. 일단 결과는 [math(7.2)]인데 여기서 일의 자리의 [math(7)]은 확실한 수치 [math(3\times2)]에 불확실한 수치와의 곱 [math(0.{\color{red}6}\times2 = {\color{red}1.2})]의 [math(\color{red}1)]이 더해진 값이니까 [math(7.2)] 전체가 불확실한 값이 되는 것일까? 얼핏 합당한 추론같아 보이지만, 곱셈 연산을 거듭할수록 불확실한 자릿수가 점점 늘어나 결과적으로 유효숫자의 자릿수가 줄어드는 문제가 있는 데다가(불확실성 불변의 원칙 위배), 두 수의 곱이 [math(10)]미만이면 이러한 특징이 나타나지 않아 모든 곱셈 연산에 일괄적으로 적용할 수 없다는 문제도 있다. 따라서 이러한 판단은 적절치 않다.
본디 곱셈이란 같은 것을 여러번 더하는 덧셈 연산과 등가이다. 즉, [math(3.{\color{red}6}\times2 = 3.{\color{red}6}+3.{\color{red}6})]이다. 덧셈, 뺄셈의 연산 규칙을 적용하면 소수 첫째 자리가 불확실한 값들의 덧셈이므로 결과 역시 소수 첫째 자리까지 정리하며 결과적으로 [math(7.{\color{red}2})], 즉 여전히 마지막 자릿수만 불확실한 수치라는 것을 알 수 있다. 만약 [math(\color{red}2)]도 유효숫자라면 [math(3\times{\color{red}2} = {\color{red}6})] 역시 불확실한 수치이기 때문에 [math({\color{red}6} + 1 = {\color{red}7})]도 불확실한 수치가 되며, 그 결과 [math({\color{red}7.2} \approx \color{red}7)]로 정리한다.
이 과정을 잘 살펴보면, 전자는 유효숫자 2자리가 그대로 유효숫자 2자리가 되는 연산이고, 후자는 유효숫자 2자리와 유효숫자 1자리가 곱해져서 유효숫자 1자리가 되는 연산임을 알 수 있다. 즉 결과값은 곱하는 유효숫자의 자릿수가 가장 적은 쪽에 맞춰진다.
나눗셈은 역수의 곱셈 연산과 같으므로 이를 정리하면 곱셈, 나눗셈에서의 연산 규칙은 다음과 같다.
유효숫자의 자릿수가 가장 적은 쪽에 맞춘다.
  • [math(1.4\times0.6931 \approx 0.97)]
    유효숫자 2자리와 유효숫자 4자리의 곱이므로 결과값은 유효숫자 2자리로 정리한다. 마찬가지로 도식화하면 다음과 같이 된다.
    [math(\begin{matrix} \begin{aligned} \\ \times \end{aligned} & \begin{aligned} 1&.{\color{red}4} \\ 0&.693\,{\color{red}1}~~ \end{aligned} \\ \hline \begin{aligned} \\ \\ \\ + \end{aligned} & \begin{aligned} 0&.000\,{\color{red}14} \\ 0&.004\,{\color{red}2} \\ 0&.12{\color{red}6} \\ 0&.8{\color{red}4} \end{aligned} \\ \hline & 0.9{\color{red}70\,34}\end{matrix})]
    혹은
    [math(\begin{matrix} \begin{aligned} \\ \times \end{aligned} & \begin{aligned} 0&.693\,{\color{red}1} \\ 1&.{\color{red}4} \end{aligned} \\ \hline \begin{aligned} \\ + \end{aligned} & \begin{aligned} 0&.2{\color{red}77\,24} \\ 0&.693\,{\color{red}1} \end{aligned} \\ \hline & 0.9{\color{red}70\,34}\end{matrix} \\ \therefore 1.{\color{red}4}\times0.693{\color{red}1} \approx 0.9\color{red}7)]

4.3. 일반적인 함수 및 연산

지수, 로그, 삼각함수 등 일반적인 함수에 대한 유효숫자 계산법은 교과과정에서 나오지 않는데, 연산에 의해 변하는 불확실성을 정확히 설명하기 위해서는 미분이 필요하기 때문이다.

값 [math(x)]의 유효숫자가 소수점 이하 [math(n)]자리까지 있다는 이야기는, 값 [math(x)]와 반올림한 근사값 [math(a)]에 대해
[math(|x - a| < 0.5 \times 10^{-n})]
가 성립함을 의미한다. 한편 미분계수의 성질을 생각하면 [math(|f(x) - f(a)|)]는 [math(|x-a||f'(x)|)]에 근접하므로, [math(f(x))]의 유효숫자가 소수점 이하 [math(m)]자리까지 있으려면
[math(|x-a||f'(x)| < 0.5 \times 10^{-m})]
이 만족되어야 한다. [math(|x-a|)]가 [math(0.5 \times 10^{-n})] 정도의 크기를 가질 수 있으므로,
[math(|f'(x)| < 10^{-(m-n)} \Leftrightarrow m-n \le - \log_{10}|f'(x)|)]
이를 정리하면 다음과 같다.
미분계수의 상용로그값을 정수 단위로 올림해서 나온 숫자만큼 유효숫자의 마지막 위치가 변한다.
만약 유효숫자의 개수를 비교하고 싶으면, [math(x)]의 유효숫자의 개수는 [math(\log_{10}\dfrac x{10^{-n}})]을 내림한 정수로 생각할 수 있기 때문에, 다음의 조건을 생각할 수 있다.
[math(\left|\dfrac{x f'(x)}{f(x)}\right|)]의 상용로그값을 정수 단위로 올림해서 나온 숫자만큼 유효숫자의 개수가 줄어든다.
변량 [math(\left|\dfrac{x f'(x)}{f(x)}\right|)]은 수치해석 등에서 등장하는 조건수(conditional number)라는 개념의 일종이다. 이항연산 및 다항연산에 대해서도 비슷하게 조건수를 생각할 수 있고, 위에 이야기한 덧셈, 곱셈에서의 유효숫자 규칙도 엄밀히 생각하면 [math(f(x,\,y))]의 불확실성을 다변수 미분의 성질을 이용해 [math(|x-a| \partial_x f + |y-b| \partial_y f)]로 간주하는 것으로 해석하는 것이 맞는다.

4.4. 제곱근

제곱근의 유효숫자의 경우는 명백하게 정해진 룰은 없으나, 일반적으로는 원 수의 유효숫자가 n개라면, 제곱근을 취한 후의 유효숫자는 n+1개까지 구한다.
3.4.2 How to Use Significant Figures With Square Roots
3.4.2 제곱근의 유효숫자를 구하는 법
Now that you know what they are, the rule for their application is fairly simple. When you take the square root of a number with “n” significant figures, the answer you get will provide “n+1”significant figures.
제곱근(they)에 대하여 알았으니, 간단한 예제를 들어 설명한다. [math(n)]개의 유효숫자를 지닌 수의 제곱근을 취할 때, 그 결과에서 유효숫자를 [math(n+1)] 취한 것이 답이 된다.
For instance, if you take the square root of 2.00 (which you know by now has 3 significant figures), the actual square root will provide four, and we would report it as 1.41421…
예를 들어서, (유효숫자 3개라는걸 알 수 있는)2.00의 제곱근을 취하고자 한다면 실제 제곱근은 4자리까지 구해야 하므로, 1.41421…로 표기할 수 있다.
출처

사실 이도 미분을 통해서 정의해야 하며, 위 문단에서 정의한 다음 내용대로 정의하면 이렇게 된다.
[math(\left|\dfrac{x f'(x)}{f(x)}\right|)]의 상용로그값을 정수 단위로 올림해서 나온 숫자만큼 유효숫자의 개수가 줄어든다.
[math(f(x)=\sqrt{x})]이므로
[math(f'(x)=\displaystyle{\frac{1}{2\sqrt{x}}})]
[math(\left|\dfrac{x f'(x)}{f(x)}\right|=\displaystyle \frac{1}{2})]
[math(\log_{10}\displaystyle\frac{1}{2}=\bar{1}.69897=-0.301029996)]이므로 정수 단위로 올림하면 [math(-1)].
-1개 줄어든 유효숫자이므로 유효숫자를 원래보다 1개 더 많이 세야 한다.

4.5. 복합 연산

기본적으로 사칙연산의 순서에 따라 계산해나간다. 단, 유효숫자의 처리 규칙이 연산 종류에 따라 판이하게 다르기 때문에(특히 덧셈/뺄셈이 다른 연산 규칙과 두드러지게 다르다.) 연산 종류끼리 중간 과정을 계산해서 각각의 유효숫자 혹은 소수점 아래 자릿수를 확인해야한다. 당연한 사항이지만 유효숫자 처리는 연산 맨 마지막에 하는 것이 원칙이다.


[1] 참고로 눈금을 읽을 때에는 최소 눈금의 [math(1/10)]단위까지 눈대중으로 읽는 것이 측정의 기본이다. [2] 반올림 체계에서는 [math(3.14164)]가 상한선이 되겠지만 ISO에서 권장하는 최근접 짝수 반올림 체계에서는 [math(3.14165)]까지가 해당된다. 자세한 것은 끝수 처리 문단 참고. [3] 실제 측정값의 자릿수가 길 경우 괄호를 써서 나타내기도 한다. 이를테면 미세구조상수 [math(\alpha)]는 [math(\alpha = 0.007\,297\,352\,569\,3\pm0.000\,000\,000\,001\,1)]인데 이게 공간을 많이 차지하기 때문에 주로 [math(\alpha = 0.007\,297\,352\,569\,3(1\,1))]로 나타낸다. [4] 개념적으로 계수 관계가 명확하지 않은 것, 즉 연속적인(continuous) 값을 말한다. [5] [math(\rm Ti)]는 '테비'(tebi)라고 읽는다. 보통 [math(\rm i)]를 생략한 [math(\rm TB)](테라바이트)로 많이 나타내는데 엄밀히는 틀린 표기이다. [math(\rm T = \times1000^4 = \times10^{12})]를 의미하는 SI 접두어이기 때문. [6] 이와 비슷하게 [math(rm mol)]은 개념상 입자의 개수를 나타내는 무차원의 단위임에도 불구하고 SI 기본 단위로 채택되어 차원이 [math(\sf N)]인 단위로 취급한다. [7] 빈 표준 평균 바닷물(Vienna Standard Mean Ocean Water). 이름에 바닷물이 들어가지만 증류를 통해 염을 제거한 순수한 물이며 과거 물의 삼중점을 정의할 때 쓰였던 표준 물질이다. [8] 즉 [math(5500.)], [math(100.)]은 각각 유효숫자 4자리, 3자리이다. [9] 단, 손계산에서 이들 무리수의 근삿값으로 각각 [math(3.14)], [math(2.718)], [math(1.414)] 등이 제시되었을 경우 측정치로 간주하고 유효숫자로서 계산한다. [10] 은행업자들이 즐겨 썼던 방식이기 때문에 '은행업자 반올림'(banker's rounding)이라고도 한다. [11] 어디까지나 유효숫자의 끝수 처리 규칙에 따라 [math(0)]이 사라진 것일 뿐이며 소수점 아래 마지막 [math(0)]을 생략하는 일반적인 약속에 의한 것이 아님에 주의하자. 결과만 같아진 것일 뿐이다.