📰 Bản Tin
← Bản tin 18/11Bulletin 18/11

AI Model & InferenceAI Models & Inference · 18/11 · Mã bàiArticle BT-134

SiMa.ai's Palette 3.0 runs many AI models on one chip and lifts throughput up to 3.5 timesSiMa.ai's Palette 3.0 runs many AI models on one chip and lifts throughput up to 3.5 times

📣 Đăng bàiPost📰 Xem bài viết gốcView original article
Ảnh bìa bài viết: SiMa.ai's Palette 3.0 runs many AI models on one chip and lifts throughput up to 3.5 times
Ảnh: siliconangle.com — SiMa.ai's Palette 3.0 runs many AI models on one chip and lifts throughput up to 3.5 times - SiliconANGLEẢnh: siliconangle.com — SiMa.ai's Palette 3.0 runs many AI models on one chip and lifts throughput up to 3.5 times - SiliconANGLE

SiMa Technologies Inc. đã phát hành Palette 3.0, phiên bản mới của bộ phần mềm Palette nhằm cho phép nhiều mô hình AI chạy đồng thời trên một chip. Theo công ty, bản phát hành này có thể tăng thông lượng mô hình lên tới 3.5 lần và hướng tới các nhà phát triển drone, robot cùng những máy tự hành khác cần chạy mô hình AI ngay trên thiết bị.SiMa Technologies Inc. released Palette 3.0, a new version of its Palette software suite intended to allow many AI models to run concurrently on one chip. According to the company, the release can raise model throughput by as much as 3.5 times and is aimed at developers building drones, robots and other autonomous machines that need to run AI models on the device.

Một chip Modalix MLSoC giờ có thể chạy đồng thời suy luận phức tạp và nhiều tải đa mô hình mà vẫn duy trì mức điện năng thấp, nhờ Palette 3.0 của SiMa Technologies Inc. Kết luận cần mang về là thông lượng mô hình có thể tăng tới 3,5 lần, và lợi ích đó nhắm thẳng tới drone, robot cùng máy tự hành phải chạy AI ngay trên thiết bị thay vì trong trung tâm dữ liệu.

Điểm mới

Năng lực dẫn đầu bản phát hành là thực thi nhiều mô hình đồng thời được cải thiện trên cùng một chip. Các tải suy luận phức tạp và đa mô hình có thể vận hành song song, thay vì phải nhường nhau từng lượt trên phần cứng. Nền tảng còn chạy được các Docker container riêng biệt trực tiếp trên chip, giúp đội ngũ đóng gói và tách biệt từng thành phần AI trong quá trình phát triển và triển khai.

Danh mục tải được hỗ trợ gồm mô hình ngôn ngữ lớn, mô hình ngôn ngữ-thị giác, cùng các mô hình cảm nhận, độ sâu và suy luận mà drone và robot vẫn dùng; công ty cho biết nhóm mô hình sau chạy nhanh hơn trên phiên bản mới. Làm việc với đối tác hệ sinh thái, SiMa.ai còn thêm hợp nhất cảm biến thống nhất, trường độ sâu thần kinh dày đặc và mô phỏng song sinh số vòng kín. Mục tiêu được công ty nêu là gỡ các nút thắt tích hợp và kiểm chứng vốn làm chậm phát triển hệ thống tự hành, không chỉ tăng tốc suy luận.

Thông số nổi bật

Cơ chế đứng sau mức tăng hiệu năng là giải mã suy đoán, với ba thuật toán được nêu tên cụ thể.

Hạng mụcThông tin SiMa.ai công bố
Nền tảng chipModalix MLSoC
Mức tăng thông lượngTới 3,5 lần
Thuật toán giải mã suy đoánEAGLE3, DFlash, Gemma 4 MTP
Mô hình MoE được nêu tênGPT-OSS-20B của OpenAI Group PBC
Cấu hình chạy mô hình đóMô-đun hệ thống Modalix MLSoC 16GB
Ngày phát hành17/11/2026

Ví dụ cụ thể nhất là hỗ trợ các mô hình mixture-of-experts cỡ lớn: GPT-OSS-20B nay chạy được trên mô-đun hệ thống 16GB. Chi tiết này gắn tuyên bố hiệu năng với một mô hình tạo sinh có tên và dung lượng mô-đun xác định, thay vì chỉ áp dụng cho mô hình thị giác nhỏ ở biên. Dù vậy, nguồn chưa công bố số watt, độ trễ, TOPS hay điện năng đo riêng cho từng tác vụ, nên không thể suy ra hiệu quả năng lượng tuyệt đối từ mô tả điện năng thấp.

Thay cho bảng điện năng chi tiết, công ty công bố kết quả trong Model Registry mới và nói mọi kết quả đều được đo trong ràng buộc điện năng của thế giới thực. Chi tiết benchmark cạnh tranh chỉ được cung cấp khi có yêu cầu, vì vậy các đội ngũ đánh giá nên coi Model Registry là điểm bắt đầu để đối chiếu, không phải bằng chứng độc lập đã được kiểm chứng bên ngoài.

Khác gì bản trước

Palette 3.0 xây dựng trên Palette Neat, môi trường phát triển agentic được ra mắt hồi tháng 6. Điểm khác nằm ở tầng vận hành và bộ công cụ: thực thi đồng thời được cải thiện, đồng thời bản này bổ sung một tập hợp năng lực mã nguồn mở cho phát triển ứng dụng AI tạo sinh, và nhà phát triển có thể tự điều chỉnh mã nguồn mở đó.

Công ty còn tạo khác biệt bằng triết lý sản phẩm: các đối thủ lâu đời bị mô tả là đang điều chỉnh công nghệ trung tâm dữ liệu cũ, trong khi SiMa.ai nói hãng xây dựng cả phần mềm lẫn silicon chuyên biệt cho AI vật lý. Cần lưu ý nguồn không đưa bảng đối chiếu từng tính năng giữa các thế hệ Palette, nên ranh giới giữa tính năng hoàn toàn mới và tính năng được cải thiện chỉ rõ ở những mục công ty gọi đích danh là mới hoặc được cải thiện.

Giá và thời điểm dùng được

Palette 3.0 đã phát hành ngày 17/11/2026; tài liệu được cung cấp qua Developer Center của SiMa.ai và mã nguồn mở liên quan có trên GitHub. Nguồn chưa công bố giá của bộ phần mềm, điều khoản cấp phép toàn bộ nền tảng, hay giá chip và mô-đun, và sự hiện diện của mã nguồn mở không đồng nghĩa toàn bộ Palette 3.0 miễn phí. Vì vậy, mốc dùng được đã rõ — tài liệu và mã đã có kênh tiếp cận — nhưng chi phí triển khai vẫn là thông tin phải hỏi trực tiếp công ty.

Ai nên thử

Nhóm nên thử đầu tiên là nhà phát triển drone, robot và máy tự hành khác cần chạy AI trên thiết bị, nhất là khi một hệ thống phải kết hợp cảm nhận, độ sâu và suy luận cùng lúc trong giới hạn phần cứng biên. Nhóm thứ hai là đội ngũ muốn thử LLM, mô hình ngôn ngữ-thị giác hoặc mô hình MoE ngoài trung tâm dữ liệu và cần một nền tảng chạy nhiều mô hình trên cùng chip. Đội ngũ cần số liệu điện năng tuyệt đối trước khi chọn phần cứng sẽ chưa có đủ dữ kiện từ thông báo này để quyết định ngay.

500 triệu USD — tổng vốn SiMa.ai đã huy động tính tới nay.

Công ty thành lập năm 2018 bởi Giám đốc điều hành Krishna Rangasayee; riêng vòng Series C hồi tháng 9 đã huy động 150 triệu USD ở định giá 1,45 tỷ USD, do Fidelity Management & Research Co. và Amplify Partners đồng dẫn dắt. Khách hàng và đối tác đáng chú ý gồm Robert Bosch GmbH, Emerson Electric Co. và Synopsys Inc., một bối cảnh đáng cân nhắc khi đánh giá nhà cung cấp bên cạnh việc tự benchmark.

A single Modalix MLSoC chip can now run complex reasoning and multiple multi-model workloads concurrently while maintaining a low power level, thanks to Palette 3.0 from SiMa Technologies Inc. The takeaway to carry away is that model throughput can rise by up to 3.5 times, and that benefit is aimed squarely at drones, robots and autonomous machines that must run AI on the device rather than in a data center.

What's new

The release's leading capability is improved concurrent model execution on the same chip. Complex reasoning and multi-model workloads can operate in parallel, rather than having to take turns on the hardware. The platform can also run separate Docker containers directly on the chip, helping teams package and isolate individual AI components during development and deployment.

The supported workloads include large language models and vision-language models, alongside the perception, depth and reasoning models that drones and robots already use; the company says the latter group of models runs faster on the new version. Working with ecosystem partners, SiMa.ai has also added unified sensor fusion, dense neural depth fields and closed-loop digital twin simulation. The goal stated by the company is to remove the integration and validation bottlenecks that slow down autonomous development, not merely to accelerate inference.

Price and availability

Palette 3.0 was released on November 17, 2026; documentation is provided through SiMa.ai's Developer Center and the related open-source code is available on GitHub. The source does not publish the price of the software suite, licensing terms for the entire platform, or the price of the chip and module, and the presence of open-source code does not mean the whole of Palette 3.0 is free. The availability milestone is therefore clear — documentation and code have access channels — but deployment cost remains information that must be asked directly from the company.

Who should try it

The first group that should try it is developers of drones, robots and other autonomous machines who need to run AI on the device, especially when one system must combine perception, depth and reasoning at the same time within edge hardware limits. The second group is teams that want to try LLMs, vision-language models or MoE models outside a data center and need a platform that runs many models on a single chip. Teams that need absolute power figures before choosing hardware will not yet have enough data from this announcement to decide immediately.

$500 million — the total capital SiMa.ai has raised to date.

The company was founded in 2018 by Chief Executive Krishna Rangasayee; its Series C round in September alone raised $150 million at a $1.45 billion valuation, co-led by Fidelity Management & Research Co. and Amplify Partners. Notable customers and partners include Robert Bosch GmbH, Emerson Electric Co. and Synopsys Inc., a context worth considering when evaluating the vendor alongside running your own benchmarks.

Key specifications

The mechanism behind the performance increase is speculative decoding, with three algorithms named specifically.

ItemInformation published by SiMa.ai
Chip platformModalix MLSoC
Throughput increaseUp to 3.5 times
Speculative decoding algorithmsEAGLE3, DFlash, Gemma 4 MTP
Named MoE modelGPT-OSS-20B from OpenAI Group PBC
Configuration for running that modelModalix MLSoC 16GB system-on-module
Release dateNovember 17, 2026

The most concrete example is support for large mixture-of-experts models: GPT-OSS-20B can now run on the 16GB system-on-module. This detail ties the performance claim to a named generative model and a specified module capacity, rather than applying it only to small vision models at the edge. However, the source does not publish watts, latency, TOPS or power measured separately for each task, so absolute energy efficiency cannot be inferred from the low-power description.

Instead of a detailed power table, the company publishes results in the new Model Registry and says every result is measured within real-world power constraints. Competitive benchmarking details are provided only on request, so evaluation teams should treat the Model Registry as a starting point for comparison, not as independently verified external evidence.

How it differs from the previous version

Palette 3.0 builds on Palette Neat, the agentic development environment launched in June. The difference lies in the operating layer and the toolset: concurrent execution has been improved, while this release adds a set of open-source capabilities for generative AI application development, and developers are free to adapt that open-source code.

The company also differentiates itself through its product philosophy: longstanding incumbents are described as adapting legacy data center technology, while SiMa.ai says it builds both software and silicon purpose-built for physical AI. Note that the source provides no feature-by-feature comparison table between Palette generations, so the boundary between entirely new features and improved features is clear only for items the company explicitly calls new or improved.

🔗 Nguồn tham chiếuSource: siliconangle.com

📣 Đăng bàiPost📰 Xem bài viết gốcView original article

Đọc tiếpKeep reading

Ảnh bìa bài viết: Tặng 6 tháng Claude Ultra miễn phí (200 USD/tháng) cho maintainer mã nguồn mở
Ảnh: claude.com — Claude for Open SourceẢnh: claude.com — Claude for Open Source
HOTAI Model & InferenceAI Models & InferenceQuốc tếInternational

Tặng 6 tháng Claude Ultra miễn phí (200 USD/tháng) cho maintainer mã nguồn mởFree 6 Months of Claude Ultra ($200/month) for Open-Source Maintainers

AI Model & InferenceAI Models & Inference · claude.com · Quốc tếInternational · 18/11

Anthropic tặng 6 tháng Claude Ultra miễn phí (kế hoạch 200 USD/tháng, trước đây gọi là Max 20x) cho maintainer và contributor mã nguồn mở đủ điều kiện sau khi nộp đơn và được duyệt. Ứng viên đăng ký bằng GitHub và phải đáp ứng một trong các lộ trình về mức độ phụ thuộc của dự án hoặc đóng góp theo chương trình Claude for Open Source.Anthropic is giving eligible open-source maintainers and contributors six months of Claude Ultra free of charge (a $200-a-month plan, formerly called Max 20x) after they apply and are approved. Applicants apply using GitHub sign-in and must meet one of the routes based on project dependency or contribution criteria under the Claude for Open Source program.

HãngProvider: AnthropicHạnDeadline: chưa rõ hạn
Đọc bài đầy đủ →Read the full article →
Ảnh bìa bài viết: Mistral Large 4 reaches general release after extra RL, backed by €4B European data-center bet
Ảnh: aibriefing.dev — AI News Today — Daily AI BriefingẢnh: aibriefing.dev — AI News Today — Daily AI Briefing
HOTAI Model & InferenceAI Models & InferenceQuốc tếInternational

Mistral Large 4 reaches general release after extra RL, backed by €4B European data-center betMistral Large 4 reaches general release after extra RL, backed by €4B European data-center bet

AI Model & InferenceAI Models & Inference · aibriefing.dev · Quốc tếInternational · 18/11

Mistral Large 4 đã chính thức phát hành sau ba tuần huấn luyện tăng cường bổ sung kể từ bản xem trước công khai vào tháng 10. Mistral cho biết đợt RL bổ sung giúp tăng 13 điểm Terminal-Bench và giảm 30% token đầu ra; mô hình là MoE đa phương thức 1T tham số với 52B tham số hoạt động và trọng số mở.Mistral Large 4 is now generally available after three weeks of additional reinforcement learning following its October public preview. Mistral says the extra RL raised Terminal-Bench by 13 points and cut output tokens by 30%; the model is a 1T-parameter multimodal MoE with 52B active parameters and open weights.

Đọc bài đầy đủ →Read the full article →
HOTAI Model & InferenceAI Models & InferenceQuốc tếInternational

Alibaba Releases Qwen4-Max: 2.4T MoE, 71B Active, 1M ContextAlibaba Releases Qwen4-Max: 2.4T MoE, 71B Active, 1M Context

AI Model & InferenceAI Models & Inference · www.marktechpost.com · Quốc tếInternational · 18/11

Alibaba đã phát hành Qwen4-Max vào ngày 16/11/2026. Mô hình này là MoE 2.4T với 71B tham số hoạt động và cửa sổ ngữ cảnh 1M token.Alibaba released Qwen4-Max on November 16, 2026. The model is a 2.4T MoE with 71B active parameters and a 1M context window.

Đọc bài đầy đủ →Read the full article →