컴퓨터 시스템의 개요 - 메모리 계층 구조

1.5 메모리 계층 구조

 

컴퓨터의 메모리에 대한 설계 제약점은 "얼마나 큰가", "얼마나 빠른가", "얼마나 비싸나"의 3가지 질문으로 요약된다.

 - "얼마나 큰가"는 다소 결론내기 어렵다. 

 - "얼마나 빠른가"는 답하기 쉽다 

     : CPU 성능을 최대한 발휘할 수 있으려면 메모리 속도가 처리기 속도에 비해 뒤지지 않아야 한다.

 

메모리 특성인 용량, 접근 속도, 비용 간에는 상호 절충(tradeoff) 관계가 있다.

  - 접근 시간이 짧을 수록 비트당 비용이 높아진다.

  - 용량이 클수록 비트당 비용이 낮아진다.

  - 용량이 클수록 접근 시간이 길어진다.

 

메모리 계층 구조

 계층구조 아래쪽으로 내려갈 수록

  - 비트당 비용 감소

  - 용량 증가

  - 접근 시간 증가

  - 처리기에 의한 메모리 접근 회수 감소

 

∴ 보다 크고, 저렴하고, 속도가 느린 메모리가 보다 작고,

     비싸고 빠른 메모리를 보안하고 있다.

 

 

* 가장 빠르나 소용량 고가의 메모리는 처리기 내부에 있는 레지스터들이다.

    (일반적으로 cpu는 20~30개의 레지스터 보유)

   주기억장치(main memory)는 컴퓨터 주요 내부 메모리이다. 주기억장치 내의 각 위치는 유일한 주소를 가지고 있다.

   주기억장치는 속도는 더 빠르고 용량은 작은 캐시에 의해 확장된다.

   캐시는 성능 향상을 위해 주기억장치와 처리기 레지스터간의 데이터 이동시에 이용되는 저장장치이다.

   (일반적으로 프로그래머는 캐시를 볼 수 없다)

     -> 이것은 다 휘발성 메모리

 

 

적중률 (Hit ratio)

 - 빠른 메모리(ex. 캐시)에서 메모리 접근이 성공할 확률로 정의한다.

    : 빠른 메모리에 내가 원하는 데이터가 있다는 적중률을 따지는 것!

 - 적중률 이용한 메모리 접근 평균시간 계산

   T1은 단계 1에 접근하는 시간, T2은 단계 2에 접근하는 시간이라 가정해보자, (T1이 T2보다 빠른 메모리)

   메모리 접근의 95%가 캐시에서 적중(H=0.95)된다고 가정해보자.

     (0.95)(T1) + (1 - 0.95)(T1+T2) 

   : H(0.95) 캐시에 있을 경우의 적중률이다. 캐시에 접근하는 시간이 T1이 걸리므로  (0.95)(T1) 된다.

     캐시에 없고, 다른 메모리에 있는 경우는 는 (1 - 0.95)의 적중률이다. 캐시에서의 메모리 접근을 한 후, 다른 메모리

    접근을 한거니깐 (T1+T2) 이다. 그래서 캐시 외에 다른 메모리 접근 시간(1 - 0.95)(T1+T2) 시간이 된다.

    ∴ 총 메모리 접근 시간은 (0.95)(T1) + (1 - 0.95)(T1+T2)  된다.

  

 

참조 지역성 (locality of reference)

 - 프로그램이 수행되는 동안 명령어와 데이터 둘 다에 대한 처리기의 메모리 참조는 인근 지역으로 몰리는 경향이 있다.

 - ex. for문, while문 등 반복 루프와 서브루틴

        -> 진입하면, 명령어 집단들이 반복해서 참조 된다.

        table이나 array 같은 경우에 대한 연산도 근처에 밀집된 데이터 집단을 참조한다.