Dự án GPT-5 của OpenAI - được đặt tên mã là Project Orion, đang gặp phải một số trở ngại lớn, dẫn đến việc chậm tiến độ và đội chi phí đáng kể. Ban đầu, Microsoft dự kiến hoàn thành vào giữa năm 2024, nhưng mục tiêu này hiện không thể đạt được.
Chi phí khổng lồ nhưng hiệu quả không được mong đợi
Sau hơn 18 tháng làm việc, những cải thiện về hiệu suất so với GPT-4 vẫn chưa đủ đáng kể để biện minh cho khoản đầu tư khổng lồ, với mỗi lần huấn luyện tiêu tốn đến 500 triệu USD. Một trong những trở ngại lớn nhất là việc thiếu hụt dữ liệu huấn luyện. Nguồn tài nguyên từ internet không còn đủ đa dạng và phong phú để đáp ứng yêu cầu phát triển mô hình.
Để giải quyết vấn đề này, OpenAI đã mời các chuyên gia tạo ra dữ liệu mới, từ mã phần mềm cho đến các mô hình toán học. Tuy nhiên, quy trình này tiến triển rất chậm, khi khối lượng dữ liệu cần thiết để đào tạo mô hình ở mức hàng nghìn tỷ tokens—một con số vượt xa khả năng tạo ra dữ liệu trong thời gian ngắn. Để minh họa, GPT-4 cần 13 nghìn tỷ tokens để huấn luyện. Ngay cả với 1.000 người viết 5.000 từ mỗi ngày, sẽ mất nhiều tháng chỉ để đạt được 1 tỷ tokens—chưa nói đến quy mô hàng nghìn tỷ.
Khủng hoảng nội bộ
Ilya Sutskever
Các vấn đề trong nội bộ của OpenAI cũng là một vấn đề nghiêm trọng. Năm 2024 chứng kiến sự ra đi của hàng loạt lãnh đạo chủ chốt, bao gồm cả Giám đốc Khoa học Ilya Sutskever và Giám đốc Công nghệ Mira Murati. Trong khi đó, nguồn lực công ty bị phân tán bởi nhiều dự án khác như “o1” và “Sora,” làm giảm sự tập trung vào GPT-5.
Mira Murati
Trước tình hình này, Sam Altman, CEO của OpenAI, đã chính thức xác nhận rằng GPT-5 sẽ không thể ra mắt trong năm 2024. Đây là một bước lùi lớn đối với tham vọng của công ty trong lĩnh vực AI. Mặc dù vậy, OpenAI vẫn kiên định với mục tiêu phát triển mô hình này, bất chấp các thách thức hiện tại về dữ liệu, chi phí và nhân sự.
Tương lai của GPT-5
Mặc dù gặp nhiều thách thức, OpenAI vẫn đang nỗ lực tìm kiếm giải pháp và hướng đi mới để phát triển GPT-5. Tuy nhiên, với các vấn đề về dữ liệu, tài chính và nhân sự, tương lai của dự án hiện vẫn đầy bất định. Dự án này cho thấy việc phát triển AI tiên tiến không chỉ đòi hỏi tài nguyên khổng lồ mà còn cần chiến lược dài hạn để vượt qua những giới hạn hiện tại.