Mọi người khởi tạo weights như thế nào?

Ít người chú ý tới vấn đề này khi giải quyết các bài toán Machine Learning, cả mình cũng vậy, thông thường để các giá trị này bằng 0 tại thời điểm ban đầu.

Sau quá trình làm việc, nhận ra loss thường giảm khá chậm hoặc không ổn định, mình mới tìm hiểu thêm về nguyên nhân của nó và nhận ra giá trị khởi tạo của weight ảnh hưởng rất nhiều tới quá trình training và độ chính xác của nó.

=> Vậy mọi người thường lấy giá trị khởi tạo của weights như thế nào?