NVIDIA Jetson Orin Nano Geliştirici Kit, AI destekli robotlar, akıllı dronlar ve akıllı görüntü sistemleri gibi giriş seviyesi AI uygulamalarının standartlarını yukarı taşıyor. Kompakt tasarımı, çok sayıda konnektörü ve 40 TOPS’a kadar AI performansıyla projelerinizi gerçeğe dönüştürmek oldukça kolaylaşıyor.

Jetson Orin Nano 8 GB modülü, 1024 adet CUDA çekirdeği, 32 adet üçüncü nesil Tensör Çekirdeği, 6 çekirdekli Arm CPU ve NVIDIA Ampere mimarili GPU’ya sahiptir. Böylece birden çok eşzamanlı AI uygulamasını ve yüksek performanslı çıkarıma olanak tanır. Referans taşıyıcı kart, önceki nesilden daha yüksek çözünürlük ve kare hızı sağlayan 4-lane’e kadar kamera modüllerini destekleyen iki adet MIPI CSI konektörü de dahil olmak üzere çok çeşitli konektörlere sahiptir.

Önceki nesil Jetson Nano Developer Kit, yapay zekayı herkes için erişilebilir hale getirmişti, yeni Jetson Orin Nano Geliştirici Kiti ise giriş düzeyi yapay zeka projelerine 80 kat daha yüksek performans sağlayarak çıtayı yükseltiyor. Bu sağlanan yüksek performans artışı ile geliştiriciler gelişmiş robotik modeller de dahil olmak üzere her tür modern yapay zeka modelini çalıştırabilir hale geliyor.

Önceki nesil Jetson Nano’ya göre yapay zeka performansında büyük bir artış sağlamasının yanında Jetson Orin Nano ayrıca 5,4 kat CUDA hesaplama, 6,6 kat CPU performansı ve watt başına 50 kat performans sağlıyor.

NVIDIA Jetson Orin Nano Geliştirici Kit Özellikleri

NVIDIA Jetson Orin Nano Geliştirici Kiti, özel bir NVIDIA Orin Nano 8GB modüle, tüm NVIDIA Jetson Orin Nano ve NVIDIA Jetson Orin NX modüllerini referans taşıyıcı kartına, SD kart yuvasına, modüle monte edilmiş aktif soğutucuya, M.2 Key E tabanlı wifi modülüne sahiptir. Önyüklenebilir micro SD kart dışında yüksek hızlı depolama kullanabilmeniz için 2 adet M.2 key M NVME konnektörü bulunmaktadır.

Tablo 1, NVIDIA Jetson Orin Nano Geliştirici Kit modülü özellikleri

Tablo 2, NVIDIA Jetson Orin Geliştirici Kit taşıyıcı kart özellikleri

Jetson Orin Nano ile Yeni Nesil AI Modellerine Başlangıç

40 TOPS’a kadar yapay zeka performansına sahip olan Jetson Orin Nano Geliştirici Kiti, tüm modern yapay zeka modellerini çalıştırabilir. Hesaplama performansındaki büyük sıçramayla, daha önce Jetson Nano ile mümkün olmayan transformer modellerini uçta çalıştırmak da dahil olmak üzere en zorlu yapay zeka uygulamalarını artık gerçekleştirebilirsiniz.

Transformer modelleri, son zamanlarda oldukça duyduğumuz ChatGPT ve DALL-E gibi yeni üretken AI uygulamalarının temelidir. Transformer modelleri hakkında detaylı bilgiye buradan ulaşabilirsiniz.

Aşağıdaki uygulamalar ile hemen çalışmaya başlayabilirsiniz:

• Kaldırımlardan, gökyüzüne kadar bir kent içinde karşılaşacağınız nesnelerin segmentasyonu için City Segmentation
• Deformable Detection Transformer’ı temel alan PeopleNet Transformer
• Doğal Dil İşleme (NLP – Natural Language Processing) için BERT

Jetson Yazılımı AI ve TTM Uygulamalarını Hızlandırıyor

Jetson Orin Nano Geliştirici Kitiyle, robotik çalışmalar için NVIDIA Isaac, akıllı video uygulamaları için NVIDIA DeepStream, ve diyalog tabanlı uygulamalar için NVIDIA Riva gibi farklı kullanım durumlarına özel oluşturulmuş uygulamala kütüphanelerini ve NVIDIA AI yazılım yığını çalıştırabilirsiniz.

Sentetik veri üretimi (Synthetic Data Generation – SDG) için NVIDIA Omniverse Replicator ve NGC kataloğundan ön eğitimli AI modellerinde ince ayar yapmak için NVIDIA TAO Toolkit kullanarak, proje geliştirme sürecinizde önemli ölçüde zaman kazanabilirsiniz.

Şekil 3, yakında yayınlanacak olan NVIDIA JetPack 5.1.1’i kullanarak Jetson Orin Nano ile bazı bilgisayar görüsü testlerinden elde edilen sonuçları göstermektedir. Bu sonuçlar, geliştirici kitinin giriş seviyesi bilgisayar görüsü için çıtayı yükselttiğini gösteriyor. Yapılan testler, NGC’den bazı yoğun INT8 ve FP16 önceden eğitilmiş modelleri ve Industry Resnet-50 içeriyor.  Testlerde kullanılan modeller aşağıda belirtilmiştir:

• Yükek doğruluklu insan tespiti için NVIDIA PeopleNet v2.5
• 2B ve 3B modeller için NVIDIA ActionRecognitionNet
• Plaka tespiti için NVIDIA LPRNet
• Görüntüdeki birden fazla insanın poz tahmini için NVIDIA DashCamNet, BodyPoseNet
• Nesne tespiti için ResNet-50 (224×224)

Şekil 3, Jetson Nano ve Jetson Orin Nano 8GB performans testleri sonuçları

Jetson Orin Nano Developer Kit, NVIDIA TAO Toolkit 4.0 ile eğitilmiş modelleri destekleyen çok yönlü bir platformdur ve yakında TAO Toolkit 5.0’daki yeni modelleri de destekleyecektir. TAO Toolkit 5.0 ile görüntü sınıflandırma, nesne tespiti ve segmentasyon kullanım durumları için son teknoloji transformers modellerinden yararlanabilirsiniz. Daha fazla bilgiye buradan erişebilirsiniz.

NVIDIA Jetson Orin Nano ve NVIDIA DeepStream, akıllı perakende, akıllı şehir kavşakları ve endüstriyel otomasyon gibi uç uygulamalar için ideal bir kombinasyon oluşturur. Yakında çıkacak olan DeepStream sürümü ve GXF çalışma zamanının kullanıma sunulmasıyla birlikte Jetson Orin Nano, fabrika otomasyonu kullanım durumlarında yaygın olan deterministik sistemlerle sıkı entegrasyon gerektiren yapay zeka grafiklerini çalıştırmak için ideal bir platform haline gelecektir.

Bütün bunlara ek olarak, DeepStream Graph Composer’ın en son sürümüyle DeepStream’de kolay bir şekilde uygulama oluşturabilir ve uygulamanızı tek tıklama ile Jetson Orin Nano’da kullanabilirsiniz.

Şekil 4, DeepStream Graph Composer ile uygulama oluşturma ve Jetson Orin Nano’da çalıştırma

NVIDIA Isaac ve NVIDIA Jetson Orin ile Robotik Uygulamalar

NVIDIA Isaac robotik platformu, AI destekli robotların geliştirilmesi, simülasyonu ve sahada çalıştırılması için uçtan uca bir platformdur. Donanım hızlandırmalı paketlerden oluşturulan NVIDIA Isaac ROS, ROS 2 geliştiricilerinin Jetson Orin Nano Geliştirici Kiti üzerinde performansı yüksek çözümleri kolayca oluşturabilir. Yeni NVIDIA Isaac ROS DP sürümü, Jetson Orin Platformunda yürütülebilen ROS 2 düğümlerini işleme akışlarını optimize eder ve verimi artırmak için tasarlanmış yeni DNN tabanlı GEMS sağlar.

Şekil 5, yakında çıkacak olan NVIDIA Isaac ROS DP3 sürümünü kullanarak Jetson Orin Nano’da robotik uygulama test sonuçlarını göstermektedir. Performans, gerçek dünya performansının göstergesi olan pratik kıyaslama için RCL’deki mesaj taşıma maliyetleri de dahil olmak üzere yük altında ölçülür. Testlerde, aşağıdakiler dahil olmak üzere şekil 5’teki algoritmalar kullanılmıştır:

• Bir robotun, çevresini izleyerek konumunu ve hareketini görüntülerden hesaplamasını sağlayan Visual SLAM
• AprilTag tespiti ve poz tahmini için April Tags
• Image Detection
• Image Segmentation
• Bir engelin robotun yakınlık alanı içinde olup olmadığını belirlemek ve navigasyon sırasında çarpışmayı önlemek için Proximity Segmentation
• Stereo giriş görüntülerini almak ve robot navigasyonu için giriş görüntüsünün bir eşitsizlik haritasını(disparity map) oluşturmak için Stereo Disparity

Şekil 5, Jetson Orin Nano 8GB üzerinde çalışan Isaac ROS GEMs’in Performans, gecikme ve çözünürlük sonuçları

Orin Nano Geliştirici Kitiyle yeni nesil uygulamalara başlangıç yapmak için buraya tıklayarak mağazamızdan ön sipariş verebilirsiniz.

Orin Nano modülleri hakkında detaylı bilgiye Jetson Orin Nano ile Giriş Seviyesine Yüksek Güç isimli yazımızdan ulaşabilirsiniz.

Yazının kaynağına buradan ulaşabilirsiniz.