Bài giảng Vi Xử lý nâng cao chương 1

Kỹ Thuật Vi Xử Lý 2
- Đối tượng: Cao học chuyên ngành Kỹ thuật Điện tử, Rada dẫn đường.
- Thời lượng: 60 tiết
- Mục đích: Giới thiệu cho học viên kiến trúc các bộ vi xử lý gần đây và
các kỹ thuật cơ bản trong khai thác các kiến trúc này.
- Phương pháp: Bài giảng slides + Thảo luận
- Đánh giá kết quả: assignments + Vấn đáp
- Giáo trình: Computer Architecture - A Quantitative Approach 5th
Edition, tác giả John L. Hennessy và David A. Patterson.
- Tài liệu tham khảo: Computer Organization and Design, 5th Edition,
tác giả David A. Patterson và John L. Hennessy


Kỹ Thuật Vi Xử Lý 2

- Nội dung:
+ Chương 1: Introduction of quantitative design and analysis
(Giới thiệu về thiết kế và phân tích định lượng)
+ Chương 2: Memory Hierarchy (Hệ thống cấp bậc bộ nhớ)
+ Chương 3: Instruction-Level Parallelism (Song song mức lệnh)
+ Chương 4: Data-Level Parallelism (Song song mức dữ liệu)


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
I. Hiệu năng của hệ vi xử lý
1. Định nghĩa
- Là khối lượng công việc hệ vi xử lý hoàn thành trong một
khoảng thời gian nhất định.
- 2 tham số đánh giá hiệu năng của hệ vi xử lý
+ Response time (Thời gian đáp ứng) hoặc latency (độ trễ)
Là khoảng thời gian từ khi bắt đầu đến khi hoàn thành

một sự kiện.
+ Throughput (thông lượng) hoặc băng thông (bandwidth)
Là tổng khối lượng công việc hoàn thành trong một
khoảng thời gian nhất định.


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
I. Hiệu năng của hệ vi xử lý
1. Định nghĩa
2. Tăng hiệu năng của hệ vi xử lý
- Vì sao cần tăng hiệu năng: nhu cầu của ứng dụng (speech,
image, video processing; big data; machine learning …)
- Có 2 cách tiếp cận để tăng hiệu năng của hệ vi xử lý:
+ Công nghệ bán dẫn (Semiconductor technology)
Feature size, clock speed, memory technology
+ Kiến trúc bộ vi xử lý (processor architectures)


Single Processor Performance
Move to multi-processor

RISC


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
I. Hiệu năng của hệ vi xử lý
1. Định nghĩa
2. Tăng hiệu năng của hệ vi xử lý
3. Các xu hướng hiện tại trong kiến trúc (Current Trends in Architecture)
- Không thể khai thác thêm hiệu quả từ việc song song hoá mức lệnh

(instruction-level parallelism)
+ Không thể tăng hiệu năng của single processor sau năm 2003.
- Đang khai thác sự song song hoá:
+ Song song hoá mức dữ liệu (Data-level parallelism)
+ Song song hoá mức luồng (Thread-level parallelism)
+ Song song hoá mức yêu cầu (Request-level parallelism)


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
II. Phân loại máy tính (Classes of computer)
- Personal Mobile Devices:
Tập trung vào hiệu quả năng lượng (energy efficiency) và thời gian thực
(real-time).

- Desktop computers:
Tập trung vào hiệu năng (performance) và giá thành (price)

- Servers:
Tập trung vào tính có sẵn (availability) và hiệu năng (performance)

- Clusters / Warehouse Scale Computers:
Tập trung vào tính có sẵn (availability), internal networks, và hiệu năng
(performance)

- Embedded Computers:
Tập trung vào giá thành (price)


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
III. Các kiểu song song (Parallelism)

- Sự song song trong các ứng dụng (Parallelism in applications)
+ Song song mức dữ liệu (Data-level parallelism)
+ Song song mức nhiệm vụ (Task-level parallelism)
- Sự song song trong kiến trúc phần cứng
+ Song song mức lệnh (Instruction-level parallelism)
+ Các kiến trúc vector (Vector architectures) và Graphic
Processor Units
+ Song song mức luồng (Thread-level Parallelism)
+ Song song mức yêu cầu (Request-level Parallelism)


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
IV. Yếu tố quy định kiến trúc máy tính (Defining computer
architecture)
1. Quan điểm cũ:
- Kiến trúc máy tính quy định bởi kiến trúc tập lệnh (ISA).
- Memory addressing, addressing modes, operations, control
flow instructions
2. Quan điểm ngày nay:
- Kiến trúc máy tính quy định bởi mục đích và yêu cầu chức
năng của máy.
- Thiết kế máy tính để cực đại hoá hiệu năng trong sự ràng buộc
về giá thành, năng lượng, và sự có sẵn (availability)
- bao gồm ISA, microarchitecture (CPU), hardware.


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
V. Năng lượng và công suất (Energy and Power)
1. Năng lượng và công suất động (Dynamic Energy and Power)
- Năng lượng động (dynamic energy)

+ Transistor switch from 0 -> 1 or 1 -> 0
+ ½ x Capacitive load x Voltage2

- Công suất động (dynamic power)
+ ½ x Capacitive load x Voltage2 x Frequency switched
+ Giảm tần số clock giúp giảm công suất động chứ không giảm năng lượng
động.


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
V. Năng lượng và công suất (Energy and Power)
1. Năng lượng và công suất động (Dynamic Energy and Power)
- Các kỹ thuật giảm thiểu công suất
+ Do nothing well
+ Dynamic Voltage-Frequency Scaling
+ Low power state for DRAM, disks
+ Overclocking, turning off cores


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
V. Năng lượng và công suất (Energy and Power)
1. Năng lượng và công suất động (Dynamic Energy and Power)
2. Công suất tĩnh (Static Power)
- Công thức:
Currentstatic x Voltage
- Kỹ thuật giảm thiểu: Power gating


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
VI. Đo hiệu năng (Measuring performance)

1. Thước đo hiệu năng
- Thời gian đáp ứng (Response time or execution time)
- Thông lượng (Throughput)
- Nói máy tính X nhanh hơn máy tính Y n lần:
n = Execution timeY / Execution timeX
n = PerformanceX / PerformanceY
2. Benchmarks


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
VII. Nguyên tắc thiết kế máy tính (Principles of computer design)
1. Khai thác sự song song (Take advantages of Parallelism)
- Multiple processors, disks, memory banks, pipelining, multiple
functional units
2. Khai thác tính cục bộ (Locality)
- Reuse of data and instructions
3. Ưu tiên tối ưu những phần được sử dụng thường xuyên nhất.


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
VII. Nguyên tắc thiết kế máy tính (Principles of computer design)
1. Khai thác sự song song (Take advantages of Parallelism)
2. Khai thác tính cục bộ (Locality)
3. Ưu tiên tối ưu những phần được sử dụng thường xuyên nhất.
Luật Amdahl:


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
VII. Nguyên tắc thiết kế máy tính (Principles of computer design)
4. Phương trình hiệu năng của bộ xử lý

(CPI: clock cycles per instruction)


Chương 1: Giới thiệu về phân tích và thiết kế định lượng
VII. Nguyên tắc thiết kế máy tính (Principles of computer design)
4. Phương trình hiệu năng của bộ xử lý
- Các loại lệnh khác nhau có CPI khác nhau:
IC: Instruction count.