Bài giảng Học sâu và ứng dụng: Bài 6 Phần cứng và phần mềm cho học sâu, cung cấp cho người học những kiến thức như: Phần cứng cho học sâu; Các nền tảng lập trình cho học sâu; Công cụ tăng tốc và nén mạng. Mời các bạn cùng tham khảo! | 1 Bài 6 Phần cứng và phần mềm cho học sâu 2 Nội dung 1. Phần cứng cho học sâu 2. Các nền tảng lập trình cho học sâu 3. Công cụ tăng tốc và nén mạng 3 Phần cứng cho học sâu 4 Một máy tính cho học sâu 5 CPU vs GPU CPU ít nhân nhưng mỗi nhân rất nhanh và hiệu năng cao có khả năng xử lý thao tác phức tạp. Rất tốt cho các tác vụ tuần tự GPU nhiều nhân những mỗi nhân chậm hơn và dốt hơn. Rất tốt cho các tác vụ song song 6 Ví dụ nhân ma trận Rất phù hợp để sử dụng GPU 7 GigaFLOPs trên 1 8 CPU vs GPU trong thực tế 9 CPU vs GPU trong thực tế 10 CPU vs GPU vs TPU TPU phần cứng chuyên dụng cho học sâu 11 GigaFLOPs trên 1 12 NVIDIA DGX-2 13 Thiết bị biên NVidia 14 Thiết bị biên Google Coral 15 Thiết bị biên ARM 16 Thiết bị biên ARM NPU 17 Các nền tảng lập trình cho học sâu 18 Rất nhiều nền tảng 19 Đồ thị tính toán Ưu điểm API sáng sủa dễ lập trình các tác vụ tính toán Nhược điểm Phải tự lập trình Backprop Không chạy được trên GPU 20