Đầu năm 2025, các mô hình AI quy mô lớn của Trung Quốc như DeepSeek nhanh chóng lan rộng trong ngành công nghiệp công nghệ, thu hút hàng trăm triệu người dùng. Là một mô hình suy diễn tiên tiến dựa trên kiến trúc Transformer, DeepSeek có số lượng tham số khổng lồ, đặt ra yêu cầu cao về năng lực tính toán phần cứng, dung lượng bộ nhớ và băng thông.

Yiswei Computing trên nền tảng chip SoC tính toán thông minh RISC-V tự phát triển Chip SoC tính toán thông minh RISC-V Trên bảng phát triển EVB của dòng EIC77 – bao gồm EIC7700X và EIC7702X, việc tích hợp mô hình DeepSeek đã được thực hiện thành công.

Bảng EVB sử dụng chip EIC77 của Yiswei Computing

EIC7700X/7702X tích hợp các module gia tốc phần cứng như NPU, GPU, DSP, cùng với bộ nhớ LPDDR5 có dung lượng lớn và băng thông cao, đảm bảo khai thác tối đa tài nguyên phần cứng khi xử lý mô hình DeepSeek quy mô lớn, di chuyển nhanh các tham số mô hình, từ đó nâng cao đáng kể hiệu quả suy diễn.

Kết quả kiểm tra (xem hình bên dưới) cho thấy, khi chạy mô hình DeepSeek-distill-qwen có 7 tỷ tham số, bảng phát triển EVB trang bị EIC7700X của Yisiwei đạt tốc độ suy diễn 7 tokens/s, trong khi bảng EVB trang bị EIC7702X đạt 14 tokens/s, thể hiện khả năng hiệu suất năng lượng vượt trội so với các kiến trúc tương tự.

Kết quả kiểm tra chip SoC tính toán thông minh RISC-V của Yiswei Computing tích hợp mô hình DeepSeek

Dòng EIC77 là SoC tính toán thông minh do Yisiwei nghiên cứu và phát triển, sử dụng tiến trình 12nm, dựa trên kiến trúc RISC-V. Bên trong nó tích hợp CPU RISC-V P550 64-bit 4 nhân hỗ trợ thực thi lộn xộn, NPU cao cấp tự phát triển, cùng các thành phần như DSP, GPU, bộ giải mã H.264/H. kết quả bóng đá trực tuyến hôm nay Khả năng xử lý AI của nó có thể đạt đến 20 TOPS INT8, hỗ trợ bộ nhớ LPDDR5 lên đến 32GB ở tần số 6400MHz, đồng thời hỗ trợ toàn bộ tính toán dấu phẩy động và các mô hình ngôn ngữ lớn.

Trong đó, SoC AI hai Die EIC7702X tích hợp CPU RISC-V P550 64-bit 8 nhân hỗ trợ thực thi lộn xộn, khả năng xử lý AI đạt tới 40 TOPS INT8, hỗ trợ bộ nhớ LPDDR5 lên đến 64GB ở tần số 6400MHz.

Sơ đồ khối mô-đun EIC7700X

Bảng phát triển EIC7700X/EIC7702X sở hữu dung lượng bộ nhớ LPDDR từ 32/64 GB, cổng PCIe Gen3 4/8 kênh, hỗ trợ SATA3, HDMI2.0, Ethernet 1000M, USB3.2, MIPI. nạp thẻ điện thoại giúp thực hiện nhiều chức năng như thị giác máy tính, phân loại đối tượng, định vị đối tượng, phân đoạn hình ảnh, nhận diện tư thế hành động, xử lý ngôn ngữ tự nhiên. có thể áp dụng rộng rãi trong các lĩnh vực như an ninh vận hành, kiểm tra công nghiệp, giáo dục thông minh, xe tự lái, robot, drone, giao thông thông minh.

Ngoài bảng phát triển, sản phẩm EIC77 còn bao gồm nhiều dạng thiết bị khác như AI BOX, AI PC, card gia tốc máy chủ, phù hợp với nhiều môi trường làm việc như đám mây, biên, thiết bị, mở rộng đa chiều khả năng xử lý AI.

Ứng dụng đa dạng

Trong thời gian ngắn, EIC77 đã hoàn tất việc tích hợp mô hình DeepSeek, thể hiện rõ khả năng sử dụng hiệu quả sức mạnh tính toán và tính phổ biến, dễ sử dụng của công cụ phát triển phần mềm. lich ngoai hang anh Sản phẩm này có thể thích ứng với nhiều thuật toán học sâu, phản ánh tính thực tiễn trong quá trình phát triển kỹ thuật sau nhiều thế hệ kiến trúc.

Với sự phát triển nhanh chóng của công nghệ AI, Yisiwei sẽ tiếp tục theo đuổi con đường công nghệ RISC-V + AI, cung cấp các sản phẩm và giải pháp có hiệu năng và hiệu suất năng lượng vượt trội hơn, không ngừng mở rộng các ứng dụng mới, mang lại hỗ trợ tính toán AI cho nhiều ngành nghề khác nhau.