Trong cuộc đua không ngừng của trí tuệ nhân tạo (AI), các nhà phát triển đang nỗ lực tối ưu để chạy các mô hình ngôn ngữ lớn (LLM) trên những phần cứng yếu nhất và rẻ nhất có thể, nhằm giảm thiểu năng lượng tiêu thụ. Nhưng sẽ thế nào nếu một mô hình AI được chạy trên phần cứng ra đời từ năm 1982? Đó chính xác là điều mà Maciej Witkowiak đang thực hiện với dự án mới của mình.
Dự án có tên “Llama2.c64” hướng tới mục tiêu đưa một mô hình AI đơn giản lên chiếc máy tính Commodore 64 huyền thoại – một cỗ máy ra đời rất lâu trước khi khái niệm LLM trở nên phổ biến. Mặc dù chắc chắn không thể so sánh với các siêu phẩm như GPT-4o, đây vẫn là một thành tựu đáng kinh ngạc, cho thấy tiềm năng của AI ngay cả trên những nền tảng tưởng chừng đã lỗi thời.
Bàn phím cơ 8BitDo C64 mô phỏng thiết kế cổ điển của Commodore 64
Llama2.c64: Mang AI Hiện Đại Đến Với Phần Cứng Cổ Điển, Mặc Dù Chậm Rãi
Theo báo cáo đầu tiên từ Hackaday, Maciej Witkowiak đã trình làng Llama2.c64 trước thế giới công nghệ. Như bạn có thể hình dung, việc đạt được hiệu suất cao trên phần cứng này là điều không thể, nhưng việc chạy được bất kỳ thứ gì đã là một kỳ công thực sự. Witkowiak mô tả về dự án của mình như sau:
Được port sang C64 bởi Maciej ‘YTM/Elysium’ Witkowiak sử dụng oscar64
Llama2.c64 là bản port của llama2.c lên Commodore C64 được trang bị ít nhất 2MB REU (Bộ Mở Rộng RAM).
Nó chạy mô hình 260K tinystories, mang khả năng của Llama2 đến với môi trường phần cứng độc đáo của C64.
Đây không phải là một mô hình trò chuyện.
Thay vào đó, hãy tưởng tượng bạn đưa ra một câu chuyện khởi đầu cho một đứa trẻ 3 tuổi — chúng sẽ tiếp tục câu chuyện đó với vốn từ vựng và khả năng tốt nhất của mình.
Màn hình Commodore 64 hiển thị câu chuyện được tạo bởi AI Llama2.c64
Bạn có thể thấy một ví dụ về Llama2.c64 tạo ra một câu chuyện trong hình ảnh trên. Quả thực, nó nghe giống như một đứa trẻ đang luyên thuyên kể chuyện, nhưng xét đến việc AI chỉ được cung cấp rất ít thông tin để làm việc và cách nó đã tiếp nối câu chuyện, đây thực sự là điều đáng kinh ngạc đối với một chiếc máy tính 42 năm tuổi.
Về ưu điểm của dự án này, Witkowiak lưu ý rằng AI nằm dưới sự kiểm soát của người dùng, hoạt động trên phần cứng yếu và khẳng định rằng “Chờ đợi token tiếp theo trên C64 cũng thú vị như chờ đợi token từ DeepSeek chạy trên laptop của bạn.” Trong khi đó, về nhược điểm, ông cho rằng “Thực sự không có, đây là điều tuyệt vời” (mặc dù ông thừa nhận nó có thể hơi chậm).
Llama2.c64 là minh chứng rõ ràng cho thấy khả năng vượt trội của trí tuệ nhân tạo, có thể được tối ưu để hoạt động ngay cả trên những nền tảng phần cứng cực kỳ hạn chế. Dự án này không chỉ khơi gợi sự hoài niệm về một thời kỳ vàng son của công nghệ, mà còn mở ra những suy nghĩ mới về việc ứng dụng AI trong tương lai. Nếu bạn muốn tìm hiểu thêm về các dự án AI thú vị trên các phần cứng khác, hãy khám phá cách biến chiếc PC cũ của mình thành máy chủ tạo ảnh AI hoặc tìm hiểu các bo mạch máy tính đơn (SBCs) phù hợp để chạy AI tại nhà.
