Güçlü üretken yapay zeka modelleri, bulut tabanlı API’ler ve mikro hizmetler uç noktalara geliyor.

Üretken yapay zeka, transformer modeller ve büyük dil modellerini(LLM) tüm sektörlere ulaştırıyor. Bu modeller artık robotik, lojistik ve uç sistemlerde çalışarak; kalite kontrol, gerçek zamanlı nesne takibi, insan-robot etkileşimleri otonom planlama ve sürüş gibi alanlarda kullanılıyorlar.

NVIDIA, uçta yapay zeka ve robotik için NVIDIA Jetson platformundaki iki framework ile ilgili gelişmeleri duyurdu: NVIDIA Isaac ROS robotik genel kullanıma açıldı ve NVIDIA Metropolis yakında Jetson platformlarında kullanılabilecek.

NVIDIA yapay zeka uygulamaları geliştirme ve bu uygulamaların uçta hızlandırılması için, geliştiricilerin yeni açık kaynaklı üretken yapay zeka modelleriyle kullanabilecekleri “Jetson Generative AI Lab“ı da kurdu.

Amazon Web Hizmetleri, Cisco, John Deere, Medtronic, Pepsico ve Siemens dahil olmak üzere, 1.2 milyonun üzerinde geliştirici ve 10.000’den fazla müşteri, NVIDIA yapay zeka ve Jetson platformunu tercih etmektedir.

Yapay zeka teknolojisinin hızla gelişen ortamında, karmaşık senaryolarla başa çıkmak zorunda kalan geliştiriciler, uç sistemler için yapay zeka uygulamaları geliştirirken daha uzun geliştirme döngüleri ile karşı karşıya kalıyor. Robotları ve yapay zeka sistemlerini ortam değişikliklerine, üretim hatlarına ve müşterilerin otomasyon ihtiyaçlarına göre hızlı bir şekilde yeniden programlamak oldukça zaman alıcıdır ve uzmanlık gerektirir.

Üretken yapay zeka, modelin eğitim sırasında görülmemiş nesneleri tanıma yeteneği anlamına gelen zero-shot learning(sıfır atış öğrenimi) sağlar. Bu, geliştirme, dağıtım ve uçta yapay zeka yönetimini basitleştirmek için doğal dil arayüzü kullanılarak gerçekleştirilir.

Yapay Zeka Alanının Dönüştürülmesi

Üretken yapay zeka, model değişiklikleri yapmak için doğal insan dilinde verilen komutları anlayarak kullanım kolaylığını önemli ölçüde artırır. Bu yapay zeka modelleri tespit etme, takip etme, arama ve hatta yeniden programlama gibi alanlarda daha esnektir. Hatta geleneksel evrişimli sinir ağı(CNN) modellerinden daha yüksek performans sağlarlar.

ABI Research tarafından yapılan araştırmaya göre, üretken yapay zeka uygulamalarının, 2033’e kadar dünya çapındaki üretim operasyonlarına 10.5 milyar dolar gelir eklemesi bekleniyor.

NVIDIA’nın Gömülü ve Uç Hesaplama Başkan Yardımcısı Deepu Talla, ”Üretken Yapay Zeka, daha önce mümkün olmayan şekilde daha iyi genelleme, kullanım kolaylığı ve yüksek doğrulukla uçta yapay zeka kullanımını önemli ölçüde hızlandıracak. Jetson üzerinde Metropolis ve Isaac frameworkleri ile şimdiye kadar yapılan en büyük yazılım büyümesi, dönüştürücü modellerin gücü ve üretken yapay zeka ile birleşerek bu ihtiyaca cevap veriyor. ” dedi.

Üretken Yapay Zeka ile Uçta Geliştirme

Jetson Generative AI Lab, geliştiricilerin açık kaynaklı Büyük Dil Modelleri (LLM’ler), difüzyon modelleri, görüş dil modelleri (VLM’ler) ve görüş dönüştürücüler (ViT’ler) de dahil olmak üzere optimize edilmiş araçlara ve eğitim dokümanlarına erişimlerini sağlar. Bu modeller, görüntü yapay zeka ve doğal dil işleme konularında kapsamlı bir anlayış sağlamak amacıyla birleştirilmiştir.

Geliştiriciler aynı zamanda NVIDIA TAO Toolkit’i kullanarak uç uygulamaları için etkili ve doğru yapay zeka modelleri oluşturabilirler. TAO, ViT ve görüş temel modelleri de dahil olmak üzere görüntü yapay zeka modellerini ayarlamak ve optimize etmek için düşük kodlu bir arayüz sağlar. Geliştiriciler ayrıca NVIDIA NV-DINOv2 gibi temel modelleri veya OpenCLIP gibi genel modelleri özelleştirebilir ve ayarlayabilirler. Böylece çok az veri ile doğruluk dercesi yüksek görüntü yapay zeka modelleri oluşturabilirler. TAO ayrıca, hata incelemesi için dönüştürücü tabanlı yeni bir model olan VisualChangeNet’i içeriyor.

Yeni Metropolis ve Isaac Frameworklerini Kullanma

NVIDIA Metropolis, işletmelerin dünya standartlarında, görüntü yapay zeka destekli çözümleri benimsemelerini, kritik işletme verimliliği ve güvenlik sorunlarını iyileştirmelerini daha kolay ve maliyet etkin hale getirir. Bu platform, geliştiricilerin karmaşık görüntü tabanlı uygulamaları hızlı bir şekilde geliştirmeleri için güçlü arayüzler ve mikro servisler sunar.

BMW Group, Pepsico, Kroger, Tyson Foods, Infosys ve Siemens dahil olmak üzere 1.000’den fazla şirket, NVIDIA Metropolis geliştirici araçlarını kullanarak nesnelerin interneti, sensör işleme ve görüntü yapay zeka ile ilgili operasyonel zorlukları çözüyor. Bu araçlar, görüntü yapay zeka uygulamaları oluşturmayı amaçlayanlar tarafından 1 milyondan fazla kez indirildi.

Geliştiricilerin hızlı bir şekilde ölçeklenebilir görüntü yapay zeka uygulamaları oluşturmalarına yardımcı olmak için, NVIDIA Jetson üzerinde Metropolis API’ları ve mikro servislerin genişletilmiş bir setinin yıl sonuna kadar kullanıma sunulması planlanıyor.

Yüzlerce müşteri, tarım, depo otomasyonu, teslimat ve hizmet robotiği gibi çeşitli alanlarda yüksek performanslı robotik çözümler geliştirmek için NVIDIA Isaac platformunu kullanıyorlar.

ROSCon 2023 etkinliğinde, NVIDIA, Isaac ROS ve Isaac Sim yazılımının yeni sürümlerindeki algılama ve simülasyon yeteneklerinde yapılan önemli geliştirmeleri duyurdu. Yaygın olarak benimsenen açık kaynak Robot İşletim Sistemi (ROS) üzerine inşa edilen Isaac ROS, otomasyona algılama getirerek hareket eden şeylere göz ve kulak kazandırıyor. Robot geliştiriciler, GPU hızlandırmalı GPU Genişleme Modüllerinin (GEM) gücünden yararlanarak, görsel odometri, derinlik algısı, 3D sahne rekonstrüksiyonu, konumlama ve planlama gibi, çeşitli uygulamalara özel olarak tasarlanmış robotik çözümleri hızlı bir şekilde yapmak için gereken araçlara sahip oluyorlar.

Son Isaac ROS 2.0 sürümünün genel olarak kullanıma sunulmasıyla birlikte, geliştiriciler Jetson ile yüksek performanslı robotik çözümler oluşturabilir ve pazarlayabilirler.

Açık Kaynak Robotik Vakfı’nın CTO’su Geoff Biggs, “ROS, robotik topluluğu için açık kaynaklı yazılım sağlamak amacıyla sürekli büyüyor ve gelişiyor. Bu sürümle birlikte başlatılan NVIDIA’ya ait önceden derlenmiş ROS 2 paketleri, ROS 2’yi geniş NVIDIA Jetson geliştirici topluluğuna kolayca erişilebilir kılarak bu büyümeyi hızlandıracak.” diyor.

Yeni Referans Yapay Zeka İş Akışları

Kullanıma hazır bir yapay zeka çözümü geliştirmek; modelleri belirli kullanım durumlarına göre ayarlamayı, güvenlik özellikleri eklemeyi, uygulamaları yönetmeyi ve uçtan buluta sorunsuz iletişim kurmayı gerektirir.

NVIDIA, Metropolis ve Isaac frameworklerine uygun geliştirilen yapay zeka referans iş akışlarını duyurdu. Geliştiriciler, tüm iş akışını hızla benimseyebilir veya belirli bileşenleri seçerek entegre edebilir. Bu da geliştirme süresinde ve maliyetinde önemli düşüşlere imkan verir. Üç ayrı yapay zeka iş akışı şunlardır: Ağ Video Kaydı, Otomatik Optik İnceleme ve Otonom Mobil Robot.

Tirias Research’den Jim McGregor, NVIDIA Jetson’un uç robotiği ve yapay zeka alanında bir devrim yaratmaya yardımcı olduğunu belirtti. Uygulama gereksinimleri karmaşıklaştıkça, uç dağıtımlarını basitleştiren ve hızlandıran platformlara ihtiyaç duyuluyor. NVIDIA’ın bu önemli yazılım genişlemesi, geliştiricilerin yeni çoklu sensör modelleri ve üretken yapay zeka yeteneklerine erişimini sağlıyor.

Ufukta Daha Fazlası Var

NVIDIA bir dizi sistem hizmetini duyurdu. Bunlar, her geliştiricinin uç yapay zeka çözümleri oluştururken ihtiyaç duyduğu temel yeteneklerdir. Bu hizmetler, iş akışlarına entegrasyonu basitleştirecek ve geliştiriciyi bunları sıfırdan oluşturma gibi zorlu bir görevden kurtaracak.

Yıl sonuna kadar piyasaya sürülmesi beklenen yeni NVIDIA JetPack 6, yapay zeka geliştiricilerinin tam bir Jetson Linux yükseltmesine ihtiyaç duymadan uç hesaplamanın en ileri teknolojilerinde kalmalarına olanak tanıyacak. Geliştirme zaman çizelgeleri önemli ölçüde hızlanacak ve geliştiricileri Jetson Linux bağımlılıklarından kurtulacak.

JetPack 6 ayrıca Linux dağıtım ortaklarıyla olan işbirliği çabalarını da artıracak. Bu dağıtımlardan bazıları Canonical’in Optimize Edilmiş ve Sertifikalı Ubuntu’su, Wind River Linux, Eşzamanlı Gerçek Zamanlı Redhawk Linux ve çeşitli Yocto tabanlı dağıtımlardır.

NVIDIA Partner Ekosistemi Platform Genişlemesinden Faydalanıyor

Jetson partner ekosistemi, donanımdan yapay zeka yazılımına ve uygulama tasarım hizmetlerine, sensörlerden bağlantıya ve geliştirici araçlarına kadar geniş bir destek yelpazesi sunmaktadır. Bu NVIDIA Partner Network, piyasada satılan birçok ürün için temel bileşenleri ve alt sistemleri sağlama konusunda hayati bir rol oynamaktadır.

En son sürüm, Jetson iş ortaklarına yapay zekayı artan performans ve yeteneklerle benimseyerek pazarlama süreçlerini hızlandırma ve müşteri tabanlarını genişletme imkanı tanımaktadır.

Bağımsız yazılım satıcısı ortaklar da Jetson için tekliflerini genişletebileceklerdir.

OpenZeka, NVIDIA Embedded Türkiye, Ortadoğu ve Kuzey Afrika Distribütörü olarak NVIDIA partner ekosisteminde yerini korumaktadır. Jetson ürünlerine ulaşmak için mağazamızı ziyaret edebilirsiniz. (Buradan ziyaret edin.)

Yazının kaynağına buradan ulaşabilirsiniz.