✨컴공주✨ [1052682] · MS 2021 (수정됨) · 쪽지

2022-05-06 15:34:21
조회수 411

컴공 일기6

게시글 주소: https://orbi.kr/00056534554


테일러 급수를 컴퓨터에서 쓰는 이유는 대부분 오차 커버를 위해서죠. 여담으로 컴퓨터는 0.1이라는 소수를 저장할 수 없어요. 2진법으로 0.1 자체가 표기가 제대로 안 되거든요. IEEE 754표준에 의해서 가수부분은 23자리 가져가고, 거기에서 반올림을 해서 저장하죠. 그런 맥락에서 컴퓨터는 오차를 낼 수밖에 없어요. 테일러 급수는 필연적으로 발생하는 반올림 오차를 줄이기 위해서 이용되어요. 뿐만 아니라 나중에 interpolation이나 extrapolation 같은 방식을 구현할 때 발생하는 오차를 줄이기 위해서도 활용된답니다! 

0 XDK (+0)

  1. 유익한 글을 읽었다면 작성자에게 XDK를 선물하세요.