Fine-tuning là gì?

Thực hiện những thay đổi nhỏ đối với điều gì đó

Tinh chỉnh (fine-tuning) trong học máy (machine learning) là một quá trình lấy một mô hình (model) đã được huấn luyện (train) cho một tác vụ nhất định và sau đó điều chỉnh mô hình để làm cho nó thực hiện một tác vụ tương tự thứ hai.

Giả sử tác vụ ban đầu tương tự như tác vụ mới, việc sử dụng mạng nơ-ron nhân tạo đã được thiết kế và huấn luyện cho phép chúng ta tận dụng những gì mô hình đã học mà không cần phải phát triển nó từ đầu. Khi xây dựng một mô hình từ đầu, chúng ta thường phải thử nhiều cách tiếp cận thông qua thử-và-sai (trial-and-error).

Ví dụ: chúng ta phải chọn bao nhiêu layer chúng ta đang sử dụng, loại layer chúng ta đang sử dụng, thứ tự đặt các layer, bao nhiêu nút (node) trong mỗi layer, quyết định mức độ regularization để sử dụng, tốc độ học (learning rate) v.v.

Việc xây dựng và xác thực mô hình (model validation) có thể là một nhiệm vụ to lớn, tùy thuộc vào dữ liệu mà chúng ta đang huấn luyện.

Đây là điều làm cho cách tiếp cận tinh chỉnh (fine-tuning) trở nên hấp dẫn. Nếu chúng ta có thể tìm thấy một mô hình được huấn luyện đã thực hiện tốt một tác vụ và tác vụ đó tương tự với tác vụ của chúng ta, thì chúng ta có thể tận dụng mọi thứ mà mô hình đã học và áp dụng nó vào tác vụ cụ thể của chúng ta.