Cara Kerja SBC dan Produk Utama — Raspberry Pi 5, Jetson, Coral

SBC (Single Board Computer) adalah komputer ringkas yang mengintegrasikan CPU, memori, antarmuka penyimpanan, dan berbagai I/O ke dalam satu papan — dalam robot atau drone bergerak otonom, ini adalah "otak" di balik lokalisasi mandiri, perencanaan jalur, dan pemrosesan sensor. Jauh dari sekadar PC kecil, filosofi desain tentang bagaimana memasukkan kemampuan GPU atau NPU (Neural Processing Unit) untuk inferensi sekarang sangat bervariasi menurut lini produk, dan tiga arus berjalan paralel: SoC Linux serbaguna Raspberry Pi, komputer AI terintegrasi GPU NVIDIA Jetson, dan akselerator ASIC khusus Google Coral.

Raspberry Pi 5

NVIDIA Jetson Orin NX (Computex 2025)

Gambar: Raspberry Papan Pi 5 (SimonWaldherr, CC BY-SA 4.0) / Nvidia Jetson Orin NX di motherboard Computex 2025 (4300streetcar, CC BY 4.0), keduanya dari Wikimedia Commons. Bukan Jetson Orin Nano Super yang persis sama seperti yang dibandingkan dalam teks, tetapi modul Orin NX dari generasi Orin dan arsitektur Ampere yang sama. Tidak ada foto Google Coral (Dev Board/USB Accelerator) yang jelas ditemukan di Wikimedia Commons, jadi tidak ada foto produk yang disertakan dalam artikel ini.

Prinsip: metrik TOPS dan "batas memori"

Saat membahas kinerja SBC, kecepatan clock CPU saja tidak lagi menceritakan semuanya. Kinerja GPU/NPU yang khusus untuk inferensi jaringan saraf dinyatakan sebagai jumlah operasi bilangan bulat terkuantisasi (biasanya INT8) yang dieksekusi per detik, dalam satuan TOPS (Tera Operations Per Second — satu triliun operasi per detik). TOPS dapat diperkirakan secara kasar dari jumlah unit perkalian-penjumlahan (MAC) paralel N_{MAC} dan frekuensi clock f :

Satu operasi perkalian-penjumlahan dihitung sebagai dua operasi — satu perkalian ditambah satu penjumlahan — oleh karena itu faktornya adalah 2. Misalnya, NVIDIA Jetson Orin Nano Super menggerakkan 1024 core CUDA dan 32 core Tensor pada sekitar 1,7 GHz, mencapai 67 TOPS dalam mode "MAXN Super" yang daya komputasinya ditingkatkan (25W).

Sebagian besar angka TOPS ini mengasumsikan aritmatika integer 8-bit (INT8) daripada floating point 32-bit (FP32). Mengkuantisasi bobot FP32 yang digunakan selama pelatihan menjadi INT8 sebelum inferensi secara teoritis mengurangi ukuran model dan bandwidth memori yang dibutuhkan hingga seperempatnya, memungkinkan unit komputasi yang sama untuk melakukan lebih banyak operasi paralel. Ini adalah desain yang mengorbankan presisi inferensi demi throughput maksimum dalam anggaran daya dan bandwidth memori yang terbatas — dan Jetson, Hailo, dan Coral semuanya mengutip angka TOPS katalog yang mengasumsikan kuantisasi INT8 ini.

Meskipun demikian, puncak TOPS katalog tidak secara otomatis diterjemahkan ke dalam kinerja efektif. Secepat apa pun unit komputasi, unit tersebut akan menganggur jika data yang dibutuhkan (bobot, fitur perantara) tidak dapat diambil dari memori dengan cukup cepat. Model roofline menangkap hal ini: kinerja efektif P dibatasi pada nilai yang lebih kecil antara throughput komputasi puncak P_{peak} dan bandwidth memori BW dikalikan dengan intensitas aritmatika (operasi per byte) AI.

LPDDR4X-4267 pada Raspberry Pi 5, pada bus 32-bit, memiliki bandwidth teoritis maksimal sekitar 17,1 GB/s, dibandingkan dengan LPDDR5 pada Jetson Orin Nano Super yang mencapai 102 GB/s — kira-kira 6 kali lipat. Perbedaan ini jarang terasa pada beban kerja yang terikat CPU, tetapi untuk inferensi jaringan saraf yang membaca ulang matriks bobot besar setiap frame, kesenjangan bandwidth ini menjadi faktor pembatas laju yang menentukan seberapa banyak angka TOPS katalog yang sebenarnya dapat Anda ekstrak.

Tiga filosofi desain: SoC tujuan umum, terintegrasi GPU, ASIC khusus

Produk yang disebut "SBC" secara luas terbagi menjadi tiga kelompok berdasarkan cara mereka menangani inferensi AI.

SoC tujuan umum (Raspberry Pi) mengintegrasikan CPU, GPU, dan berbagai pengontrol I/O, tetapi tidak menyertakan NPU khusus untuk inferensi jaringan saraf. Komputer ini menjalankan distribusi Linux lengkap, dan kekuatan terbesarnya adalah kemampuannya untuk menggunakan hampir semua tumpukan perangkat lunak yang ada — termasuk ROS 2 — apa adanya; desainnya mengasumsikan bahwa setiap kali kinerja inferensi dibutuhkan, akselerator eksternal (Hailo, yang dibahas di bawah, misalnya) mengisi celah tersebut.

Komputer AI terintegrasi GPU (NVIDIA Jetson) mengintegrasikan GPU yang dapat diprogram CUDA dan inti Tensor ke dalam paket yang sama dengan memori bandwidth tinggi. Tidak seperti ASIC khusus yang hanya dapat menjalankan grafik komputasi tetap yang telah dikuantisasi sebelumnya, komputer ini mempertahankan fleksibilitas untuk menjalankan kernel CUDA dan model PyTorch/TensorRT secara langsung, sambil menawarkan komputasi paralel yang jauh lebih besar. Lini produk untuk keandalan tingkat otomotif juga tersedia, seperti AGX Orin, yang memegang sertifikasi keselamatan fungsional ISO 26262 ASIL-D untuk pengemudian otonom dan robotika.

Akselerator ASIC khusus (Google Coral / Hailo) berbentuk ASIC fungsi tetap yang dikhususkan murni untuk inferensi jaringan saraf terkuantisasi, yang ditambahkan ke SBC host melalui USB atau M.2. Sebagai imbalan atas pengorbanan fleksibilitas, ia dapat mencapai efisiensi (TOPS per watt) yang jauh melebihi dua pendekatan lainnya.

Ketiga kategori ini tidak saling eksklusif, dan proyek robot nyata sering menggabungkannya. Memadukan SoC serbaguna seperti Raspberry Pi 5 dengan akselerator ASIC (AI HAT+) adalah kompromi yang bertujuan untuk mendapatkan cakupan perangkat lunak Linux/ROS 2 dan efisiensi daya dari pengalihan inferensi ke ASIC — dan, seperti yang ditunjukkan oleh makalah benchmarking yang dibahas di bawah ini, kombinasi ini dapat mendekati efisiensi komputer terintegrasi GPU mandiri.

Diagram 1 · Use the button to switch views

Diagram: Duskcoil. Ini adalah tata letak konseptual, bukan peringkat kecepatan produk. Kinerja efektif bergantung pada model, presisi, perangkat lunak, bandwidth memori, dan konfigurasi daya.

Perbandingan spesifikasi produk utama

Raspberry Pi 5 adalah model yang digunakan proyek newbot sebagai komputer kontrol utamanya, yang menangani pemrosesan sisi tepi seperti lokalisasi mandiri, pengawasan keselamatan, dan akuisisi sensor. Karena LiDAR-Inertial Odometry (FAST-LIO) dari newbot adalah algoritma yang berjalan sepenuhnya pada CPU, dan sistem tidak perlu terus-menerus menjalankan inferensi jaringan saraf skala besar, SoC serbaguna tanpa NPU khusus sudah cukup untuk memenuhi persyaratannya. Sebaliknya, robot yang dibangun di sekitar deteksi atau segmentasi objek secara real-time dari umpan kamera cenderung membutuhkan GPU terintegrasi seperti Jetson, atau akselerator eksternal kelas Hailo/Coral. Jetson Orin Nano Super juga memiliki sejarah yang tidak biasa: pembaruan perangkat lunak Desember 2024 yang disebut "Super Mode" meningkatkan batas daya dan membawanya dari generasi sebelumnya 40 TOPS pada 499 menjadi 67 TOPS pada249 — kinerja lebih tinggi dengan setengah harga.

Sejarah: Nostalgia untuk BBC Micro, dan perubahan haluan pembuat GPU gaming

Raspberry Pi: dipicu oleh penurunan penerimaan di Cambridge — Pendiri Raspberry Pi Foundation, Eben Upton, mendapatkan BBC Micro bekas (komputer rumahan yang digunakan BBC untuk pendidikan pada tahun 1980-an) pada usia 10 tahun pada tahun 1988, dan itu adalah pengalaman pertamanya dalam pemrograman BASIC. Kemudian, saat menjabat sebagai Direktur Studi untuk ilmu komputer di Universitas Cambridge sekitar tahun 2006, ia memperhatikan lonjakan pelamar yang datang dengan sedikit pengalaman pemrograman, bersamaan dengan penurunan jumlah aplikasi ke program studi Ilmu Komputer itu sendiri. Melihat hilangnya komputer "nyalakan dan mulai pemrograman" seperti BBC Micro dari rumah-rumah sebagai salah satu penyebabnya, Upton menghabiskan malam dan akhir pekan dari tahun 2006 hingga 2011 untuk mengembangkan SBC berbiaya rendah di samping pekerjaannya di Broadcom. Raspberry Pi Foundation secara resmi didirikan pada tahun 2009, dengan tujuan "komputer yang dapat diprogram dengan harga di bawah $35." Pada tahun 2011, orang-orang dari Yayasan membawa prototipe ke BBC dengan harapan dapat meneruskan nama "BBC Micro", yang mana hal itu tidak memungkinkan karena keadaan hukum — tetapi seorang jurnalis BBC malah menerbitkan video demo prototipe yang menjadi viral, membuktikan adanya permintaan yang kuat jauh sebelum peluncuran resmi.

Jetson: pembuat GPU gaming memasuki dunia robotika pada tahun 2014 — Pada Maret 2014, CEO NVIDIA Jensen Huang secara pribadi memperkenalkan Jetson TK1 dalam pidato utama di GTC (GPU Technology Conference). Perangkat ini menggabungkan chip Tegra K1 yang berorientasi mobile dengan GPU arsitektur Kepler 192-core, menghasilkan 326 GFLOPS — angka yang luar biasa untuk perangkat tertanam pada saat itu — dan membawa serta model pemrograman CUDA. Sejak awal, kasus penggunaan seperti navigasi robot dan penghindaran rintangan drone menjadi bagian dari promosi, menandai masuknya NVIDIA ke pasar robotika tertanam dari bisnis yang, hingga saat itu, sebagian besar berjuang di bidang GPU gaming dan pusat data.

Jajaran produk Jetson terus memperbarui arsitektur GPU-nya kira-kira setiap dua generasi: TX2 tahun 2017, dengan GPU Pascal 256-core yang memberikan kinerja 2x lipat dari TK1; generasi Xavier dengan arsitektur Volta tahun 2018–2020, yang diklaim memberikan kinerja lebih dari 20x lipat dan efisiensi daya lebih dari 10x lipat dari TX2; dan generasi Orin dengan arsitektur Ampere tahun 2022. Pola yang konsisten adalah arsitektur yang pertama kali diperkenalkan di pasar GPU gaming kemudian digunakan kembali untuk penggunaan tertanam beberapa tahun kemudian — sebuah struktur di mana akumulasi teknologi bisnis GPU pusat data dan PC NVIDIA secara langsung berkontribusi pada peningkatan kinerja produk robotika tertanamnya, dan inilah kekuatan inti Jetson.

Implementasi nyata: satu NVR rumahan yang menggerakkan beberapa TPU Coral Edge

Kasus representatif dari akselerator ASIC khusus yang dijalankan "beberapa sekaligus" adalah Frigate NVR, sebuah paket perekaman dan deteksi objek sumber terbuka. Frigate menganalisis umpan kamera pengawasan secara real-time dan mengalihkan deteksi orang/kendaraan ke Coral Edge TPU, dengan arsitektur yang menetapkan satu proses khusus per TPU dan mendistribusikan permintaan deteksi dari beberapa kamera melalui antrian bersama ke proses tersebut.

Satu Coral USB Accelerator (4 TOPS) diperkirakan mampu menangani deteksi real-time untuk sekitar dua hingga empat aliran 1080p; konfigurasi yang menggabungkan dua kartu Coral Dual Edge TPU (M.2) 8-TOPS dilaporkan mampu menangani lebih dari 20 kamera secara bersamaan sementara pemanfaatan chip tetap sekitar 12%. Di sisi lain, diketahui juga bahwa penumpukan beberapa USB Accelerator dapat menyebabkan hambatan pada bandwidth bus USB host, sehingga kinerja tidak meningkat secara linier dengan jumlah perangkat. Menambahkan beberapa ASIC khusus ke satu server NVR untuk meningkatkan jumlah kamera adalah pola penerapan standar yang memanfaatkan biaya rendah dan konsumsi daya per TOPS.

Bagaimana Permintaan Pusat Data AI Mendorong Kenaikan Harga SBC untuk Hobi

Pada tahun 2026, Raspberry Pi mendapati dirinya berulang kali menaikkan harga karena alasan yang sepenuhnya di luar kendalinya sendiri. Penyebabnya adalah krisis pasar memori yang didorong oleh lonjakan permintaan dari pusat data AI — CEO Raspberry Pi Foundation, Eben Upton sendiri, mengungkapkan di blog perusahaan bahwa biaya pengadaan DRAM LPDDR4 yang digunakan di Raspberry Pi 4/5 telah melonjak tujuh kali lipat dalam satu tahun. Setelah kenaikan harga pada Desember 2025, beberapa kenaikan lagi diumumkan pada paruh pertama tahun 2026, dan kenaikan pada April 2026 menambahkan 100 ke model 16GB, menjadikannya305 — lebih dari 2,5 kali lipat harganya saat peluncuran (Oktober 2024, ketika model 16GB debut dengan harga 120). Ironisnya, seiring dengan lonjakan harga ini, Yayasan tersebut juga memperkenalkan model 1GB baru pada tahun 2026 dengan harga hanya45 — sebuah kasus di mana permintaan akan memori AI berkinerja tinggi mencapai struktur harga pasar yang sama sekali tidak terkait: komputer tertanam untuk hobi.

Coral, yang ditinggalkan oleh Google, tetap hidup berkat komunitas

Edge TPU di dalam Coral mengikuti arsitektur komputasi "array sistolik" yang sama yang dikembangkan Google untuk TPU pusat datanya — ini pada dasarnya adalah versi miniatur. Di mana TPU v1 skala pusat data menangani pelatihan dan inferensi dengan array sistolik 256×256 yang besar, Edge TPU mengecilkan array tersebut secara dramatis dan mengurangi konsumsi daya hingga beberapa watt, sehingga memungkinkan untuk berjalan di dalam perangkat tertanam dengan anggaran daya yang ketat. Google meluncurkan Coral pada tahun 2019 dengan Edge TPU (4 TOPS, 2W) di dalam Dev Board dan USB Accelerator, dan produk ini berhasil membangun popularitas sebagai akselerator tambahan untuk SBC yang sudah ada seperti Raspberry Pi, berkat inferensi hemat daya yang mampu menjalankan MobileNet v2 dengan kecepatan sekitar 400 frame per detik. Namun sejak saat itu, Google secara efektif berhenti berinvestasi dalam lini produk ini tanpa merilis perangkat keras baru yang signifikan, dan sebagian besar pustaka pendukungnya belum diperbarui sejak sekitar tahun 2022. Driver GASKET yang dibutuhkan oleh perangkat Coral yang terhubung melalui PCIe tetap tidak didukung pada kernel Linux saat ini. Yang mencegah Coral sepenuhnya ditinggalkan adalah karena Google membuka kode sumber driver dan firmware-nya; proyek-proyek seperti Frigate NVR yang disebutkan sebelumnya telah mengambil alih beban dukungan dan tetap menjalankannya dalam produksi — sebuah kasus di mana penghentian dukungan resmi dan penggunaan di dunia nyata yang berkelanjutan dapat berjalan bersamaan, yang menggambarkan ketidaksesuaian antara siklus produk perangkat keras dan masa pakai perangkat lunak sumber terbuka. Prinsip kuantisasi INT8 pada Edge TPU, dan bagaimana filosofi desainnya dibandingkan dengan Intel Movidius (Myriad X) — chip lain yang telah dihentikan produksinya — dibahas lebih mendalam dalam artikel perbandingan akselerator AI edge.

Apakah memasang akselerator pada SBC mengalahkan Jetson? Makalah benchmarking tahun 2026

Sebuah makalah April 2026 tentang menjalankan inferensi model bahasa besar (LLM) pada SBC edge, "Cloud to Edge: Benchmarking LLM Inference on Hardware-Accelerated Single-Board Computers" (Renney, Trad, Mattarock, Evetts, Wood), membandingkan konsumsi daya dan throughput di empat konfigurasi: Raspberry Pi 5 polos (hanya CPU), Raspberry Pi 5 dengan AI HAT+ (NPU Hailo-10H), Jetson Orin Nano Super (konfigurasi CPU dan GPU terpisah), dan Modul LLM M5Stack (NPU AX630C). Hasilnya: menambahkan NPU Hailo ke Raspberry Pi 5 meningkatkan efisiensi token yang dihasilkan per watt sebesar 9,57x hingga 39,97x dibandingkan konfigurasi hanya CPU, menurunkan konsumsi energi per megatoken dari 27–77 megajoule menjadi 0,88–5,51 megajoule. Dalam hal throughput mentah, konfigurasi GPU Jetson Orin Nano adalah yang tercepat dengan 9–10 token per detik, tetapi konfigurasi Raspberry Pi 5 + Hailo menyamai throughput konfigurasi CPU-only Jetson dengan konsumsi daya sekitar setengahnya dan ukuran yang lebih kecil — data yang mendukung klaim bahwa kombinasi "SoC serbaguna plus ASIC khusus" dapat bersaing dengan komputer terintegrasi GPU mandiri dalam hal efisiensi daya.

Parameter yang menentukan kinerja

• TOPS/W (efisiensi): Untuk robot dan drone kecil bertenaga baterai, kinerja per watt seringkali lebih penting daripada kinerja absolut. Hailo-8 menonjol dengan 26 TOPS/2,5W (sekitar 10,4 TOPS/W), sementara Jetson Orin Nano Super hanya mencapai sekitar 2,7 TOPS/W dalam mode MAXN Super-nya (67 TOPS/25W). Namun, perlu dicatat bahwa hal ini mengorbankan fleksibilitas untuk dapat menjalankan model CUDA sembarang, tidak seperti ASIC khusus yang terbatas pada grafik tetap.
• Bandwidth memori: Untuk inferensi jaringan saraf yang membaca ulang matriks bobot besar setiap frame, bandwidth memori menjadi faktor pembatas laju lebih sering daripada komputasi mentah. LPDDR5 Jetson Orin Nano Super (102GB/s) kira-kira 6x LPDDR4X Raspberry Pi 5 (~17,1GB/s), dan kesenjangan ini menentukan seberapa banyak angka TOPS katalog yang sebenarnya dapat diekstrak.
• Kompatibilitas dengan perangkat lunak yang ada: Raspberry Pi 5 dapat menjalankan distribusi Linux standar dan ROS 2 apa adanya, sementara akselerator ASIC seperti Coral/Hailo hanya dapat mengeksekusi grafik tetap yang telah dikuantisasi dan dikompilasi sebelumnya. Kombinasi mana yang optimal bergantung pada apakah Anda berada dalam fase pengembangan di mana model sering berubah, atau fase produksi yang hanya menjalankan inferensi yang telah diselesaikan.
• Risiko pasokan dan kontinuitas peta jalan: Produk seperti Coral, di mana vendor secara efektif telah berhenti berinvestasi, bertahan hidup berkat niat baik komunitas — risiko nyata untuk adopsi baru dalam proyek jangka panjang. Jetson, sebaliknya, mempertahankan lini produk yang dibangun untuk kontinuitas peta jalan, seperti sertifikasi ISO 26262 ASIL-D kelas otomotif AGX Orin.
• Fluktuasi harga dari luar pasar: Seperti yang ditunjukkan oleh kenaikan harga Raspberry Pi 2026, harga SBC dapat berfluktuasi tajam karena faktor-faktor yang sepenuhnya di luar proyek tertentu — seperti permintaan pusat data AI. Perencanaan pengadaan untuk penerapan jangka panjang perlu mempertimbangkan stabilitas pasokan bersamaan dengan harga satuan
• Ketersediaan antarmuka ekspansi: Jalur PCIe 2.0 x1 Raspberry Pi 5 terlalu sempit untuk menjalankan akselerator seperti AI HAT+ pada spesifikasi penuh, dan dalam beberapa kasus tidak dapat sepenuhnya mengekstrak kinerja katalog Hailo-8 (dinilai untuk PCIe Gen3, 2 jalur) — kendala praktis yang perlu dipertimbangkan untuk pengaturan akselerator tambahan apa pun
• Ukuran casing dan desain termal: Modul ultra-kompak seperti Modul M5Stack LLM, dengan ukuran 54×54×13mm, dapat unggul dalam kepadatan throughput per unit volume meskipun tertinggal dalam kinerja absolut, dan itu adalah proposisi yang sangat berbeda dari modul yang bergantung pada heatsink seperti Jetson AGX Orin dalam hal rangka pesawat atau sasis yang sesuai. Untuk drone atau lengan robot kecil yang terbatas pada ruang pemasangan dan berat, kinerja per unit volume menjadi kriteria seleksi bersamaan dengan TOPS dan TOPS/W

Referensi

• Halaman produk Raspberry Pi 5
• PDF ringkasan produk Raspberry Pi 5
• Raspberry Pi 5 1GB kini tersedia dengan harga $45, dan kenaikan harga yang didorong oleh memori (Raspberry Pi)
• Lebih banyak kenaikan harga yang didorong oleh memori (Raspberry Pi)
• Harga Raspberry Pi 5 meningkat drastis karena kekurangan AI (Tom's Hardware)
• Halaman produk NVIDIA Jetson Orin
• Kit Pengembang Super Jetson Orin Nano (NVIDIA)
• Papan pengembangan AI baru Nvidia seharga $249 menjanjikan 67 TOPS (Tom's Hardware)
• NVIDIA JetPack 6.2 menghadirkan Super Mode ke Jetson Orin Nano dan Orin NX (Blog Pengembang NVIDIA)
• Jetson TK1: Superkomputer Tertanam Seluler Membawa CUDA ke Mana Saja (Blog Teknis NVIDIA)
• Lembar data Akselerator USB Coral (Coral)
• Benchmark kinerja Edge TPU (Coral)
• Coral TPU mungkin ditinggalkan (Diskusi GitHub Frigate)
• [Peningkatan kecepatan inferensi dengan 2 TPU vs 1 TPU (GitHub Frigate)] Diskusi)](https://github.com/blakeblackshear/frigate/discussions/4125)
• Detektor Objek (Dokumentasi Frigate)
• Halaman produk Raspberry Pi AI HAT+ (Raspberry Pi)
• Akselerator AI Hailo-8 (Hailo)
• Ringkasan produk Hailo-8 M.2 (Hailo PDF)
• BBC Micro dan Raspberry Pi (Raspberry Pi)
• Kehidupan Pi: Sepuluh tahun Raspberry Pi (Universitas Cambridge)
• [Cloud to Edge: Benchmarking Inferensi LLM pada Komputer Papan Tunggal yang Dipercepat Perangkat Keras] (arXiv:2604.24785)](https://arxiv.org/abs/2604.24785)