Nghiên cứu của IBM ra mắt chip AI “NorthPole”, chạy nhanh hơn 22 lần so với các chip hiện tại

Dữ liệu mới do IBM Research công bố gợi ý rằng chip AI “NorthPole” được thiết lập để thiết lập các tiêu chuẩn mới trong ngành, đặc biệt là do cách tiếp cận của công ty với chip AI thực sự rất hấp dẫn.

Trưởng dự án Dharmendra Modha nhận thấy sự lạc quan tuyệt vời với kiến ​​trúc chip. Giờ đây, cách triển khai của IBM Research là công ty kết hợp các kiến ​​trúc suy luận thần kinh vào chính quá trình xử lý chip, đó là lý do tại sao Modha phân loại nó là “bộ não con người”. Khả năng kết nối CPU hiệu quả của nó kết hợp với kiến ​​trúc hoàn toàn kỹ thuật số cho phép liên lạc giữa các bên nhanh hơn nhiều, đó là lý do tại sao NorthPole mang lại hiệu suất như vậy.

Nói về thông số kỹ thuật, chip NorthPole AI sử dụng công nghệ xử lý nút 12nm, theo thuật ngữ trong ngành thì khá cũ, tuy nhiên, IBM Research tin rằng con chip này cũng vượt qua các GPU AI 4nm hiện đại nhờ sử dụng mạng nơ-ron ResNet-50. người mẫu. Thành tựu này cũng phủ nhận Định luật Moore và ở một mức độ nào đó, tuân theo các yếu tố cốt lõi của Định luật Huang , vốn tập trung vào các ngăn xếp chip riêng lẻ thay vì thu nhỏ quy trình.

Về mặt kiến ​​trúc, NorthPole xóa mờ ranh giới giữa điện toán và bộ nhớ. Ở cấp độ lõi riêng lẻ, NorthPole xuất hiện dưới dạng bộ nhớ gần tính toán và từ bên ngoài chip, ở cấp độ đầu vào-đầu ra, nó xuất hiện dưới dạng bộ nhớ hoạt động. Điều này giúp NorthPole dễ dàng tích hợp vào hệ thống và giảm đáng kể tải cho máy chủ

-Dharmendra Modha thông qua Nghiên cứu của IBM

Tập hợp kết quả đầy hứa hẹn đầu tiên từ chip NorthPole đã  được công bố ngày hôm nay trên tạp chí Science . Theo Modha, NorthPole là một bước đột phá trong kiến ​​trúc chip mang lại những cải tiến lớn về hiệu quả năng lượng, không gian và thời gian. Sử dụng mô hình ResNet-50 làm chuẩn, NorthPole hiệu quả hơn đáng kể so với GPU 12 nm và CPU 14 nm thông thường. (Bản thân NorthPole được xây dựng trên công nghệ xử lý nút 12 nm.) Trong cả hai trường hợp, NorthPole tiết kiệm năng lượng hơn 25 lần khi xét đến số lượng khung hình được diễn giải trên mỗi jun năng lượng cần thiết. NorthPole cũng vượt trội về độ trễ cũng như không gian cần thiết để tính toán về số lượng khung hình được diễn giải mỗi giây trên một tỷ bóng bán dẫn cần thiết.

Theo Modha, trên ResNet-50, NorthPole vượt trội hơn tất cả các kiến ​​trúc phổ biến chính — ngay cả những kiến ​​trúc sử dụng quy trình công nghệ tiên tiến hơn, chẳng hạn như GPU được triển khai bằng quy trình 4 nm.

thông qua IBM

Nếu chúng ta xem xét tác động tiềm tàng của NorthPole đối với toàn bộ ngành công nghiệp AI, thì chắc chắn nó chỉ giới hạn ở “suy luận mô hình” vì chip này thiếu hỗ trợ cho các mạng thần kinh quy mô lớn như GPT-4. Tuy nhiên, mục tiêu của công ty với con chip này không nhắm đến các thị trường AI chính thống mà thực tế là những thị trường chỉ tập trung vào suy luận, do đó lý do tại sao tác động của nó bị hạn chế. Sẽ rất thú vị để xem NorthPole có thể tạo ra loại hiệu suất nào, vì công ty tuyên bố rằng nó cũng có thể vượt qua các sản phẩm NVIDIA AI hiện đại.