Quá trình hoàn thiện dự án của nhóm bạn diễn ra như thế nào? Có kỉ niệm nào đáng nhớ không?
Nếu dùng 3 từ để mô tả hành trình từ lúc được phân chia nhóm đến khi hoàn thành bài thuyết trình, em sẽ chọn từ: Hào hứng, hoang mang, hân hoan.
Trong suốt quá trình làm dự án, khoảnh khắc "Eureka!" (lúc cả nhóm tìm ra lời giải cho bài toán khó nhất) diễn ra sau vô số lần thử và sai. Quá trình train-model rất lâu, nhóm chúng em quan sát cẩn thận các kết quả ứng với từng tham số và cuối cùng tìm ra thông số cho hàm loss thấp nhất có thể. Và kết quả như ý xuất hiện sau hơn 10 tiếng chờ đợi và cầu nguyện vì chúng em đã điều chỉnh, tính toán vô cùng chi tiết.
Nửa đêm trước ngày thuyết trình, có sự cố khiến cả nhóm "đau đầu" chính là giới hạn thời gian. Nhóm chúng em liên tục tập dợt để phần nói êm mượt, trôi chảy, đồng thời cân bằng giữa sự hài hước và kiến thức chuyên môn nhằm giúp bài thú vị và thu hút các bạn hơn. Trong quá trình đó, nhóm em liên tục lố một ít thời gian nên khá lo lắng. Rất vui là cuối cùng bài đã diễn ra thành công, như tính toán và mong đợi.
Nếu chỉ được chọn 1 điểm kỹ thuật hoặc 1 tính năng mà bạn cảm thấy tự hào nhất trong dự án của nhóm, đó sẽ là ứng dụng LoRA, tối ưu hóa mô hình gốc. Bởi vì nhờ vậy, nhóm em có thể tô màu các bức ảnh kiến trúc cổ đen trắng mà không phải tốn quá nhiều tài nguyên huấn luyện mô hình mới từ đầu.
Trước đó, em nghĩ rằng chỉ cần chia tập train/test rồi chạy lệnh. Tuy nhiên, khi bắt tay vào làm dữ liệu rất dễ trùng lặp, không phù hợp và chất lượng kém. Do đó, nhóm em phải làm sạch dữ liệu cẩn thận. Hơn nữa, trước đó em tưởng rằng chỉ cần giảm hàm loss, giải quyết các chỉ số toán học thuần túy là đã thành công. Tuy nhiên, mô hình huấn luyện chính xác cao nhưng tô màu thực tế không đẹp, bị lem cũng rất đáng lo ngại, nên chúng em phải học cách cân bằng các yếu tố.