Cuộc thi ImageNet năm 2012 là bước ngoặt của thị giác máy: ngày 12 tháng 10 năm 2012, ở Florence (Ý), một mạng nơ-ron huấn luyện trên hai chiếc card chơi game đã bỏ xa mọi đối thủ. Bài này kể lại chuyện bộ ảnh ImageNet ra đời, đội Toronto của Geoffrey Hinton và AlexNet, rồi những hệ quả về tiền bạc, gian lận và đạo đức dữ liệu theo sau.
Tóm tắt nhanh
Đội Toronto sai khoảng 15,3% ở bài thi gọi tên vật trong ảnh, trong khi hạng hai sai 26,2%. Mạng tích chập họ dùng không phải ý tưởng mới, vì đã có từ năm 1989. Điều làm nên khác biệt là sự gặp nhau của ba thứ: một bộ dữ liệu đủ lớn (ImageNet), một cỗ máy đủ nhanh (card đồ họa) và một mạng đủ sâu. Sau năm 2012, giới nghiên cứu chuyển hướng rất nhanh sang học sâu.
Diễn biến chính
2006–2010: Một bộ ảnh bị khuyên là đi quá xa
Trước năm 2010, cuộc thi được coi trọng nhất của giới thị giác máy là PASCAL VOC, chỉ có 20 loại vật từ năm 2007. Trong khi đó, nhà tâm lý học Irving Biederman ước rằng một người bình thường nhận ra khoảng ba mươi nghìn loại. Fei-Fei Li, từ năm 2006 và về Đại học Princeton tháng 1 năm 2007, muốn lấp khoảng trống ấy bằng một bộ ảnh xây trên khung WordNet.
Không ai ủng hộ ngay. Theo hồi ký của Li, một người thầy bảo bà đã đẩy ý tưởng đi quá xa; bà kể rằng không xin được khoản tài trợ liên bang nào. Nếu thuê sinh viên dán nhãn, việc này mất gần hai mươi năm. Lối ra là Amazon Mechanical Turk: từ 2007 đến 2010 có khoảng 49 nghìn người ở 167 nước góp tay. Năm 2009, ImageNet ra mắt tại hội nghị ở Miami Beach với hơn ba triệu ảnh, hơn năm nghìn loại, nhưng chỉ là tấm poster số 103.
Cuộc thi ImageNet đầu tiên diễn ra năm 2010 với 1.000 loại vật và 11 đội. Đội thắng sai 28,2%; năm 2011 nhà vô địch chỉ hạ được xuống 25,8%.
Hai phe thị giác máy
Một phía là thị giác máy cổ điển: công thức do con người thiết kế để nhặt chi tiết trong ảnh (như SIFT), rồi một bộ phân loại học cách tách các loại vật. Phía kia là mạng nơ-ron, vốn bị coi là lỗi thời, tự học cách mô tả ảnh từ dữ liệu nhưng cần rất nhiều ví dụ và phép tính.
Người giữ ngọn lửa ấy là Geoffrey Hinton, giáo sư Đại học Toronto, 64 tuổi năm 2012. Mạng tích chập từng được Yann LeCun dùng đọc mã bưu chính viết tay năm 1989, nhưng bản 1998 chỉ có khoảng 60 nghìn tham số, còn mạng Toronto sẽ có 60 triệu. Ilya Sutskever tin sức mạnh mạng nơ-ron tăng theo dữ liệu, và năm 2011 thuyết phục Alex Krizhevsky huấn luyện một mạng cho ImageNet. Cỗ máy gồm hai card Nvidia dòng chơi game, mỗi card 3 GB nên mạng phải chia đôi, đặt trong phòng ngủ của Krizhevsky ở nhà bố mẹ. Mỗi lần huấn luyện mất năm đến sáu ngày. Đội mang tên SuperVision; tên AlexNet chỉ xuất hiện về sau.
12 tháng 10 năm 2012: Bảng điểm ở Florence
Hạn nộp bài là đêm 30 tháng 9. Tại hội thảo ở Florence, Krizhevsky trình bày cuối cùng, với slide rất ngắn: bảy lớp có trọng số, hoàn toàn có giám sát, và dòng "dữ liệu nhiều hơn là tốt". Toronto đạt 15,3%, Tokyo hạng hai 26,2%, Oxford hạng ba kém Tokyo chưa đến một điểm. Ở bài vừa gọi tên vừa khoanh vị trí vật, Toronto sai khoảng 34%, Oxford sai 50%.
Bài báo của nhóm kể thẳng các thành phần: năm lớp tích chập, ba lớp kết nối đầy đủ, ReLU, dropout, cắt và lật ảnh. Bỏ đi bất kỳ lớp giữa nào, kết quả kém khoảng hai điểm, nên họ kết luận độ sâu thực sự quan trọng. Bài viết cũng nói kết quả còn có thể tốt hơn nếu chờ card nhanh hơn và dữ liệu lớn hơn.
2013–2014: Cả ngành đổi phe
Năm 2013, phần lớn bài dự thi dùng mạng tích chập sâu; đội thắng, do Matthew Zeiler dẫn đầu, sai 11,7%. Năm 2014, đội Oxford cũng chuyển sang mạng tích chập, và đội thắng của Google chỉ còn sai 6,7%. Chính ban tổ chức về sau gọi năm 2012 là bước ngoặt khi các mạng nơ-ron sâu cỡ lớn bước vào cuộc chơi.
Cuối 2012: Phiên đấu giá ba con người
Theo nhà báo Cade Metz, Hinton và hai học trò lập một công ty nhỏ không có sản phẩm, rồi tổ chức đấu giá nhân dịp hội nghị học máy ở hồ Tahoe. Bốn bên tham gia: Google, Microsoft, Baidu và DeepMind. Giá dừng ở 44 triệu đô la và Hinton chọn Google. Đầu năm 2013, Đại học Toronto công bố thương vụ, không nêu điều khoản tài chính. Sutskever sau đó rời Google để cùng lập OpenAI.
2015–2019: Gian lận, tuyên bố quá tay và ImageNet Roulette
Ngày 2 tháng 6 năm 2015, ban tổ chức thông báo một đội của Baidu đã dùng ít nhất 30 tài khoản để nộp ít nhất 200 lần, vượt giới hạn hai lần mỗi tuần; đội bị yêu cầu ngừng dự thi 12 tháng và bài báo bị rút. Cùng năm, Microsoft công bố mạng sai 4,94% và nói lần đầu vượt mức con người là 5,1%, nhưng mức ấy là của một người, Andrej Karpathy, trên 1.500 ảnh.
Cuộc thi khép lại ngày 26 tháng 7 năm 2017 ở Honolulu; đội thắng cuối cùng sai khoảng 2,25%, tức lỗi giảm mười lần trong bảy năm. Tháng 9 năm 2019, Kate Crawford và Trevor Paglen ra ImageNet Roulette, phơi bày những nhãn xúc phạm trong nhánh "người" của ImageNet. Cùng tháng, nhóm ImageNet cho biết họ đánh giá hơn 1.500 trong gần 2.800 nhãn về người là không an toàn, gắn với hơn 600 nghìn ảnh.
Điều còn tranh cãi hoặc cần thận trọng
- Con số 15,3% có dùng thêm dữ liệu ngoài đề; chỉ dùng dữ liệu cuộc thi thì sai 16,4%, vẫn bỏ xa hạng hai.
- Con số 44 triệu đô la và cảnh đấu giá đến từ lời kể của Cade Metz; phía Đại học Toronto không công bố điều khoản tài chính.
- Câu "bước ngoặt không thể chối cãi" của Yann LeCun là lời thuật lại nhiều năm sau. Việc Hinton có mặt ở Florence hay không cũng không khớp giữa các lời kể.
- Nói ImageNet Roulette buộc nhóm ImageNet gỡ ảnh là hơi quá: việc rà soát đã bắt đầu từ năm trước, hai việc chỉ gần nhau về thời gian. AlexNet cũng không học những nhãn ấy, vì bộ đề thi chỉ có ba loại về người.
- Công trạng chưa chia xong. Jürgen Schmidhuber cho rằng nhóm của ông ở Thụy Sĩ, theo lời ông đã thắng bốn cuộc thi nhận dạng ảnh năm 2011–2012 bằng mạng tích chập trên card đồ họa, bị lãng quên.
Vì sao câu chuyện này đáng nhớ?
Nhóm Thụy Sĩ có cùng loại mạng và cùng card đồ họa, nhưng ngành thị giác máy chưa quay đầu. Thứ còn thiếu là một sân đấu đủ lớn, đủ khó và đủ uy tín để cả những người hoài nghi nhất cũng chịu nhận thua. Sân đấu ấy là ImageNet, bộ ảnh từng bị khuyên là đi quá xa.
Vì vậy công trạng của làn sóng học sâu thuộc về người làm dữ liệu không kém người làm mô hình. Năm 2024 Hinton nhận giải Nobel Vật lý; ông đùa rằng Ilya nghĩ ra việc nên làm, Alex làm cho nó chạy, còn ông nhận giải. Bốn mươi chín nghìn người dán nhãn chỉ hiện lên thành một dòng cảm ơn trong slide tổng kết năm 2017. Và bảng điểm chưa bao giờ chấm điều quan trọng khác: những cái nhãn ấy nói gì về con người.
Câu hỏi thường gặp
AlexNet là gì?
Là mạng tích chập của đội SuperVision (Toronto) thắng cuộc thi ImageNet 2012, với năm lớp tích chập, ba lớp kết nối đầy đủ và 60 triệu tham số. Tên AlexNet, theo Alex Krizhevsky, chỉ xuất hiện về sau.
Đội Toronto thắng ImageNet 2012 với khoảng cách bao nhiêu?
Họ sai khoảng 15,3%, hạng hai sai 26,2%, tức hơn mười điểm phần trăm. Nếu chỉ dùng dữ liệu của cuộc thi, họ sai 16,4%.
AlexNet có phải ý tưởng hoàn toàn mới không?
Không. Mạng tích chập đã được Yann LeCun cùng đồng nghiệp dùng đọc mã bưu chính viết tay từ năm 1989. Điều mới là quy mô: dữ liệu ImageNet, card đồ họa và mạng sâu hơn nhiều.
ImageNet được dán nhãn bằng cách nào?
Qua Amazon Mechanical Turk, nơi từ 2007 đến 2010 có khoảng 49 nghìn người ở 167 nước góp tay. Nhóm còn cài sẵn những ảnh đã biết đáp án để kiểm tra chất lượng, theo lời Li kể.
Máy có thật sự vượt con người trên ImageNet năm 2015 không?
Microsoft tuyên bố vậy với mức lỗi 4,94% so với 5,1%. Nhưng mức 5,1% là của một người, Andrej Karpathy, trên 1.500 ảnh; người thứ hai thử sai tới 12% trên 258 ảnh.
ImageNet Roulette là gì?
Là trang web do Kate Crawford và Trevor Paglen ra mắt tháng 9 năm 2019, cho thấy máy gắn nhãn chân dung, kể cả những nhãn xúc phạm từ nhánh người của ImageNet.
Nguồn tham khảo
- Krizhevsky, Sutskever, Hinton, "ImageNet Classification with Deep Convolutional Neural Networks" (NIPS 2012)
- Deng và cộng sự, "ImageNet: A Large-Scale Hierarchical Image Database" (CVPR 2009)
- ILSVRC 2012, kết quả chính thức; Russakovsky và cộng sự, "ImageNet Large Scale Visual Recognition Challenge" (IJCV 2015)
- Computer History Museum, "CHM Releases AlexNet Source Code" (2025)
- LeCun và cộng sự, "Backpropagation Applied to Handwritten Zip Code Recognition" (1989)
- Cade Metz, "The Secret Auction That Set Off the Race for AI Supremacy" (Wired, 2021)
- Gershgorn, Quartz (2017); T. B. Lee, Ars Technica (2024)
- Thông báo của ILSVRC ngày 2/6/2015; Karpathy (2014); Crawford và Paglen, "Excavating AI" (2019); Yang và cộng sự, "Towards Fairer Datasets" (2019)
- Bài báo AlexNet (NIPS 2012)
- Bảng điểm ILSVRC 2012
- Computer History Museum về AlexNet
Bài viết tóm tắt từ video của kênh; nội dung mang tính giới thiệu.
