Dữ liệu huấn luyện AI: thu thập, gán nhãn và post-training

Vì sao dự án AI tắc ở dữ liệu chứ không ở model

Đội ngũ đến với một model đã chọn sẵn và một vấn đề dataset chưa ai gọi tên. Kiểu mẫu này lặp lại rất đều.

• Guideline gán nhãn được viết trước khi ai nhìn thấy case khó, nên case khó bị gán nhãn không nhất quán.
• Dữ liệu thu thập giống môi trường demo hơn là môi trường triển khai thật.
• Không ai đo agreement giữa các annotator, nên không ai biết nhãn có còn nghĩa lý gì không.
• Dataset phủ kỹ trường hợp phổ biến và gần như bỏ trống trường hợp lỗi — ngược hẳn với thứ việc huấn luyện thực sự cần.
• Định dạng phải viết lại trước khi đưa vào pipeline huấn luyện, và bản viết lại làm mất thông tin.

Chúng tôi làm gì

Bốn năng lực, bán riêng hoặc trọn gói như một chương trình.

• Thu thập dữ liệu theo đặc tả bằng văn bản — video, hình ảnh, âm thanh, tài liệu, và kịch bản dàn dựng.
• Ghi hình egocentric và exocentric cho robotics và embodied AI, thu theo cặp đồng bộ.
• Gán nhãn trên ảnh, video, point cloud 3D, tài liệu, và âm thanh.
• Dữ liệu post-training cho LLM: minh họa supervised fine-tuning, xếp hạng preference, và đánh giá.

• Thu thập dữ liệu
• Thu ego và exo
• Gán nhãn dữ liệu
• Dữ liệu RLHF và SFT

Đội gán nhãn cũng là đội huấn luyện model

Phần lớn vendor gán nhãn giao dataset rồi không bao giờ biết nó có chạy được không. Xây hệ thống AI là việc chính của chúng tôi, nghĩa là một dataset chúng tôi làm ra có thể chính là dataset chúng tôi phải fine-tune, đánh giá, và bảo vệ khi chạy production. Đó không phải câu marketing — nó quyết định guideline gán nhãn viết ra sao, vì người viết guideline biết trước sự mập mờ nào sẽ trồi lên thành lỗi model về sau.

Chất lượng phải đo được

Tuyên bố về chất lượng vô nghĩa nếu không có phép đo đứng sau, nên chúng tôi đo công việc thay vì khẳng định kết quả.

• Gold-standard item cài vào mọi batch, chấm điểm liên tục thay vì audit ở cuối.
• Multi-pass review, lượt hai không biết kết quả lượt một.
• Inter-annotator agreement báo cáo bằng một con số, không phải một lời khẳng định.
• Pre-labelling tự động ở chỗ model làm được lượt đầu, người chỉ sửa lại thay vì làm từ đầu.
• Guideline được version như code, vì một thay đổi guideline âm thầm làm mất giá trị mọi thứ đã gán nhãn trước đó.

Bảo mật và quyền truy cập

Điều gì nói rõ được, chúng tôi nói rõ; điều gì không nói rõ được, chúng tôi bỏ qua chứ không suy diễn thêm.

• Mọi người chạm vào dữ liệu của bạn đều ký NDA trước khi thấy bất cứ gì.
• Quyền truy cập cấp theo từng dự án, không theo từng nhân viên, và thu hồi khi dự án kết thúc.
• Dữ liệu khách hàng nằm trong môi trường tách biệt khỏi các việc khác của chúng tôi.
• Dữ liệu bị xóa khi hoàn thành, theo lịch đã thống nhất trong hợp đồng.