Chương 3 trang bị cho người học những kiến thức cơ bản về lập trình song song. Nội dung chính trong chương này gồm có: Cơ bản về giao tiếp bằng phương pháp trao đổi thông điệp (message passing), thư viện giao diện trao đổi thông điệp (Message Passing Interface – MPI), máy ảo song song (Parallel Virtual Machine-PVM), thiết kế và xây dựng một chương trình (giải một bài toán (NPcomplete) sử dụng MPI và C.