cuốn sách gpt4 ai đã làm

hadoop - bộ giảm tốc chiếm lõi của trình ánh xạ

In lại Tác giả: Hồ Xil Thời gian cập nhật: 2023-11-01 14:44:23 32 4
mua khóa gpt4 Nike

Tôi đang chạy công việc mapreduce trên cụm hadoop với 88 lõi và 60 bộ giảm tốc. Vì lý do nào đó, nó chỉ sử dụng 79 lõi cụm. Ban đầu, nó đang chạy 79 trình ánh xạ, nhưng khi hoàn thành một nửa quá trình phân chia, nó đang sử dụng 53 trình ánh xạ và 26 trình rút gọn, đồng thời số lượng trình lập bản đồ đang chạy tiếp tục giảm sau đó, điều này làm tăng thời gian hoàn thành công việc. Nhật ký cho thấy 26 bộ giảm tốc này đang sao chép dữ liệu tính toán. Có thể yêu cầu hadoop chạy tất cả các trình ánh xạ trước rồi mới đến trình giảm tốc không? Giống như trong công việc spark hoặc tez, họ sử dụng tất cả các lõi để ánh xạ và sau đó sử dụng tất cả các lõi để thu gọn.

câu trả lời hay nhất

Sẽ mapreduce.job.reduce.slowstart.completedmaps Đặt thành 1.0. Trích dẫn từ mapred-default.xml :

mapreduce.job.reduce.slowstart.completedmaps

0,05

Phần số lượng bản đồ trong công việc cần được hoàn thành trước khi lên kế hoạch cắt giảm cho công việc.

Về hadoop - bộ giảm tốc chiếm lõi của trình ánh xạ, chúng tôi đã tìm thấy một câu hỏi tương tự trên Stack Overflow: https://stackoverflow.com/questions/39805840/

32 4 0
Chứng chỉ ICP Bắc Kinh số 000000
Hợp tác quảng cáo: 1813099741@qq.com 6ren.com
Xem sitemap của VNExpress