<개발자에게 컴퓨터 과학 기초가 중요한 이유>

개요

우리가 사용하는 프레임워크는 사용하기 쉬운 방향으로 발전해 왔다. 애초에 프레임워크를 쓰는 목적이 쉽게 원하는 기능을 구현할 수 있게 함에 있다.

하지만 결국 프레임워크의 원리를 모른다면 프레임워크가 가진 가정, 제약, 오류의 원인을 발생한다면? 그리고 그 오류가 구글링을 해도 잘 나오지 않는다면 어찌할 것인가? 현상만으로 원인을 찾아야 할 때 컴퓨터 과학 기초가 빛을 발한다. 간단한 사례부터 시작하자.

돈 다루기

정수를 다룰 땐 기본적으로 int를 많이 선택하게 된다.

돈도 그렇게 선택하면 어떻게 될까?

int의 범위: -2,147,483,648 ~ 2,147,483,647

int 값의 양수 최대치인 2,147,483,647를 넘기게 되면 오버플로우가 된다.

정수가 오버플로우가 되면 어떻게 될까?

어째서 값이 범위를 초과했는데 이런 값이 담길까?

변수형, 변수의 값의 범위가 로우 레벨에서 어떻게 동작하는지 아는 것이 중요하다. 변수의 언더플로우, 오버플로우는 일종의 안전장치다. 메모리 무결성을 지키기 위해서 앞이나 뒤의 메모리 영역을 덮어쓰는 동작 대신 언더 플로우, 오버 플로우라는 결과를 선택한 것이다.

메모리 무결성을 포기했다면 어땠을까?

변수의 값이 오버플로우나 언더플로우될 때마다 인접 메모리에 어떤 값이 있었냐에 따라서 다른 버그가 생겼을 것이다.

int64를 쓰면 괜찮은가?

아니 그렇지 않다. 값의 범위가 커지는 것일 뿐 오버플로우 이슈는 존재한다. 우선 오버플로우가 일어났는지 체크하는 것은 상대적으로 쉽다. 이 상황에서 어떻게 해야 될까?

• 값을 더 크게 담기 위해서 더더 큰 타입을 사용?
• 문자열을 이용해 범위가 더 큰 연산?
• unsigned 타입 이용으로 2배의 범위 확장?
• 오버플로우시에는 예외를 발생시키기?

이 모든 판단을 하기 위해선 오버플로우라는 상황이 발생할 수 있음을 인지해야 한다. 그리고 오버플로우로 인해 값이 어떻게 변하고 망가지는가를 알아야 가능하다.

미국의 돈 다루기, 센트 표기를 위해 float, double를 쓰겠다고?

한국의 원은 최소 단위가 1이다. 정수형을 쓰기 딱 좋다. 반면 미국은 센트가 존재한다. 50센트는 0.5로 표기하고 싶어진다. 정수 대신 실수를 써볼까? 실수를 쓰는 순간 부동 소수점 실수가 어떤 것인지 잘 몰랐다면 이로 인한 값 유실로 인해 오류를 만들게 될 것이다.

NaN

부동 소수점 실수가 담을 수 없는 값의 경우 Not a Number라는 뜻의 NaN이 담겨 있게 된다. 이러한 값을 왜 생길까?

난수는 값의 분포를 항상 보장하진 않는다.

임의의 값을 원할 경우 우리는 각 언어의 기본 Random 함수를 호출한다.

하지만 이 Random 함수는 우리가 원하는 임의의 값을 적절한 분포로 발생시키지 않는다.

0~9999의 값을 원할 경우, 결과 값에 나머지 연산 (%)으로 10000을 수행하는 데 여기서 나오는 결과 값이 0~9999까지의 값이 1번씩 발생함을 보장하지 않는다. 그렇기에 연속으로 9999, 9998이 나올 여지도 분명히 존재한다.

이러한 분포를 개선하기 위해서는 MersenneTwister (Apache Commons Math 3.6.1 API) 를 이용한 랜덤 기능을 써야 한다. (논문은 Mersenne twister: a 623-dimensionally equidistributed uniform pseudo-random number generator: ACM Transactions on Modeling and Computer Simulation: Vol 8, No 1 다음과 같다) 자세히 살펴보면 단점이 없는 것은 아닌데 당연하게도 더 정밀해지면 더 느려진다.

컴퓨터 과학의 기본은 트레이드 오프다. 모든 것이 좋아진 발전이 없는 것은 아닌데, 대부분은 트레이드 오프이기 때문에 장단점을 파악하고 단점은 수용 가능한 범주인지, 감내하고라도 이득을 얻어야 되는지를 이해하고 있는지가 중요하다.