Kuruluşlar, IoT ve yapay zekanın bir araya gelmesiyle birlikte daha büyük veri yüklerine ve daha karmaşık kullanım durumlarına uyum sağlamak için yeni hesaplama yollarını değerlendiriyor. Uç hesaplama, birçok kuruluşun dağıtılmış IoT cihazlarından veri alan AI uygulamalarını başarıyla çalıştırması için tercih ettiği doğru bir yöntemdir. Ancak hâlâ birçoğu uç hesaplamayı anlamakta güçlük çekiyor. Uç hesaplamanın yapay zeka alanındaki popülerliğinin nedenleri, bulut hesaplamaya kıyasla avantajları ve kullanım örnekleri nedir gibi sorular soruyorlar.

NVIDIA kısa süre önce “Edge Computing 101: An Introduction to the Edge” webinarına ev sahipliği yaptı. Etkinlikte uç hesaplamaya genel bir giriş yapılarak, farklı uç türleri, uç hesaplamanın faydaları, hangi durumlarda ve neden kullanılacağı gibi birçok konuya değinildi.

Webinar sırasında, katılımcıların uç hesaplamayla ilgili problemlerini anlamak ve sonrasında yardımcı olabilmek adına bazı anketler yapıldı.

Blog yazısının bu kısmında NVIDIA’nın uç hesaplama konusunda size yardımcı olabilecek kaynak önerileriyle birlikte, webinarda bahsi geçen soruların cevaplarından bahsedeceğiz.

Uç hesaplama yolculuğunuzda hangi aşamadasınız?

Katılımcıların yaklaşık %51’i bu soruya, “öğrenme (learning)” aşamasındayım cevabını verdi. Webinarın uç hesaplamaya giriş şeklinde başlangıç seviyesinde bir oturum olduğunu düşünürsek, bu cevap hiç de şaşırtıcı değil. Elbette birçok kişi uygulama ve ölçeklendirmenin aksine henüz öğrenme aşamasındadır. Aynı zamanda bu durum uç pazardaki araçların birçoğunun hâlâ yeni olması gerçeğiyle de desteklendi. Bu durumdan yola çıkarak, uç hesaplama konusunda daha fazla bilgiye sahip olanların gelecekte elde edeceği birçok fırsat olduğunu söyleyebiliriz.

Öğrenme yolculuğunuza yardımcı olmak için “Uçta Yapay Zeka Dağıtma Konusunda Dikkat Edilecek Noktalar” bölümüne bakabilirsiniz. Bu genel bakış, uç bir çözüm için doğru bileşenleri seçmeye yönelik önemli karar noktalarını, uç dağıtımlarına ilişkin güvenlik ipuçlarını ve uç hesaplamanın mevcut ortamınıza uyumunu nasıl değerlendireceğinizi içeriyor.

Uygulamalarınızı uçta dağıtarak elde etmeyi umduğunuz en büyük fayda nedir?

Gerçek zamanlı içgörüler, azaltılmış bant genişliği, veri gizliliği ve ileri verimlilik dahil olmak üzere, yapay zeka uygulamalarını uçta dağıtmanın birçok faydası vardır. Oturumdaki katılımcıların %42’si uygulamaları uçta dağıtmanın sağlayacağı en büyük faydanın gecikme (latency) faktörü  olduğunu söyledi.

Şekil 1. Uç yapay zekanın faydaları arasında  düşük gecikme, azaltılmış bant genişliği gereksinimleri, veri gizliliği ve ileri verimlilik yer alır.

Uygulamanın hesaplama birimi, verilerin toplandığı  yere fiziksel olarak daha yakın olduğu için gecikmeyi iyileştirebilmek uç hesaplamanın önemli bir avantajıdır. Farklı birçok kullanım senaryosunda uç hesaplamanın sağladığı düşük gecikme(low latency), başarılı bir AI uygulaması için gereklidir.

Örneğin, üretimde çalışan otonom bir forklift, dinamik ortama anında tepki verebilmelidir. Dar köşeleri dönebilmeli, ağır yükleri kaldırıp teslim edebilmeli ve tesiste hareket eden işçilerle çarpışmayı önlemek için zamanında durabilmelidir. Forklift ultra düşük gecikmeyle karar veremezse, verimli çalışacağının garantisi yoktur. Kuruluşlar güvenlik nedenleriyle, bu otonom forklifte güç veren AI uygulamalarının çevreyi güvende tutacak kadar hızlı içgörüler sağlayabildiğini bilmelidir.

Uç hesaplama çözümü tasarlarken karşılaştığınız en büyük zorluk nedir?

Uç hesaplamadan bağımsız olarak, herhangi bir yeni teknolojiyi uygulamanın zorlukları elbette vardır. Katılımcıların bu soruya yanıtı seçenekler arasında eşit dağılımdaydı. Uç hesaplamanın henüz yeni sayabileceğimiz bir teknoloji olmasını göz önünde bulundurursak bu durum şaşırtıcı sayılmaz. Birçok kuruluş hâlâ uç hesaplamanın kendileri için uygun bir çözüm olup olmadığını, nasıl uygulayacaklarını ve çeşitli diğer zorlukları araştırıyor. Aşağıda bu hedef kitle için yardımcı olacak kaynaklarla birlikte, altı ortak sorunu listeleyeceğiz.

1. Hangi bileşenlerin gerekli olduğundan emin değil misiniz?

Herhangi bir uç dağıtım için gereken üç ana bileşen; uygulama, altyapı (uygulamaları uzaktan yönetmek için araçlar dahil) ve güvenlik protokolleridir.”Edge Computing 201: How to Build an Edge Solution” isimli gelecek webinarda bu konuların her biri derinlemesine incelenecek. Ayrıca webinar uç bir dağıtım oluşturmak, mevcut teknolojiyi uç dağıtım için optimize edilecek şekilde yeniden kullanmak ve dağıtıma başlamak için gereken uygulamaların ve temeldeki ihtiyaçların ne olduğuna ilişkin ayrıntıları da içeriyor.

2. Uygulama zorlukları

Birçok kuruluş şimdilerde uç AI uygulamasına başlıyor. Bu nedenle ilgili süreci ve zorlukları anlamak önemlidir. Herhangi bir uç AI çözümünü uygulamak için beş ana adım vardır:

1. Bir kullanım senaryosu hazırlayın veya zorlukları tanımlayın.
2. Uygulama gereksinimlerini ve gerekli verileri belirleyin.
3. Mevcut uç altyapısını ve bu alt yapıya hangi parçaların eklenmesi gerektiğini değerlendirin.
4. Çözümü test edin ve ardından ölçekli olarak yayın.
5. Ek kullanım durumlarını tespit etmek için sonucunuzu gruplarla paylaşın.

Bu beş adımı anlamak, uygulama sırasında ortaya çıkan zorlukların üstesinden gelmenin anahtarıdır.

Şekil 2. Uç AI projesine başlamanın beş adımı

3. Uç kullanım durumları için uygulamayı ayarlama

Bir uç uygulamasının en önemli yönleri esneklik ve performanstır. Kuruluşların, belirli gereksinimleri sağlayabilmesi ve bazen diğer sitelerden farklı araçları olan uç sitelere bir  dağıtım gerçekleştirebilmesi gerekir. Ek olarak, bir uygulamanın ultra düşük gecikme süresi için gereken performansı sağlayabilmesini sağlamak, başarı için kritik öneme sahiptir.

Bulutta yerel uygulamalar (cloud-native), bu gereksinimlerin her ikisini de karşılar ve başka birçok ek avantaja sahiptir.

4. Bir çözümü birden çok sitede ölçeklendirme

Bir dağıtımı birden çok (bazen binlerce) dağıtıma sorunsuz bir şekilde ölçeklendirmek, doğru teknoloji kullanımıyla kolay olabilir. Dağıtılmış uç siteler arasında uygulama dağıtımlarını yönetmeye yönelik araçlar, tüm organizasyonlarında uç AI’yı ölçeklendirmek isteyen herhangi bir kuruluş için kritik öneme sahiptir.  Bu araçlara örnek olarak; Red Hat OpenShift, VMware Tanzu ve NVIDIA Fleet Command verilebilir.

Fleet Command anahtar teslimi, güvenli ve binlerce cihaza ölçeklenebilir. Daha fazla bilgi edinmek için demoya göz atabilirsiniz.

5. Uç ortamların güvenliği

Uç hesaplama ortamları, bulut  hesaplama ortamlarından çok farklıdır ve farklı güvenlik hususlarına sahiptir. Örneğin, veri ve donanımın fiziksel güvenliği, genellikle bulutta dağıtırken dikkate alınmayan bir konu olsa da, uçta dağıtımda önemli bir husustur.  Buluttan uca tüm iş akışını koruyan uç dağıtımlara uygun çok katmanlı güvenlik sağlamak için doğru protokolleri bulmak çok önemlidir.

Uç ortamlarının nasıl güvenli hale getirileceği hakkında daha fazla bilgi edinmek için bu yazıyı inceleyebilirsiniz.

6. Uç bir çözümün maliyetini gerekçelendirin

Herhangi bir teknolojinin maliyetini gerekçelendirmek, tüm maliyet faktörlerini ve çözümün değerini anlamaktan geçer. Uç hesaplama için üç ana maliyet faktörü vardır: altyapı maliyetleri, uygulama maliyetleri ve yönetim maliyetleri. Uç hesaplamanın değeri, kullanım durumuna göre değişir ve büyük ölçüde, dağıtılan AI uygulamasının yatırım getirisine bağlıdır.

Uç hesaplamada maliyet faktörüne dair daha fazla bilgi almak için bu yazıyı inceleyebilirsiniz.

Uç hesaplama yolculuğunuzda bir sonraki adım nedir?

Oturumdan sonra, katılımcıların %49’u uç hesaplama yolculuklarında bir sonraki adımın “uç AI kullanım durumları hakkında daha fazla bilgi edinmek” olduğunu söyledi. Birçok öncü hesaplama uygulaması, yaya geçidindeki yayalardan bir perakende mağazasındaki raftaki nesnelere kadar, bir ortamdaki nesneleri algılamak için bilgisayarlı görü (computer vision) kullanır. Kuruluşlar, uç hesaplamanın sunduğu ultra hızlı performans nedeniyle bilgisayarlı görü için hesaplamaya güveniyor.Uç hesaplama sayesinde nesneleri anında algılayabilirsiniz.

Akıllı Alanlar için NVIDIA AI Ebook, tümü uç hesaplama dağıtımlarında kullanılabilecek birkaç ana vizyon AI (vision AI) kullanım durumunu kapsar.

Uç hesaplama çözümleriyle çalışmaya başlamaya hazırsanız NVIDIA LaunchPad‘e göz atmalısınız. Kuruluşlar LaunchPad ile uçta bir uygulamayı dağıtmak, yönetmek ve doğrulamak için gerekli tüm donanım ve yazılım yığınlarına anında, kısa vadeli erişim elde edebilir. Uygulamalı laboratuvarlar, kullanıcılara üretimde dağıtılabilen aynı teknoloji üzerinde ve aynı iş akışında yol göstererek daha güvenli yazılım ve altyapı kararlarının alınabilmesini sağlar. Kuruluşlar bu ücretsiz deneme ile hedeflerine ulaşmak için çevrelerinde en iyi şekilde çalışacak kullanım senaryosu ve uygulama türlerini kendileri görebilirler.

Uç hesaplama endüstrisi yeni ve oldukça heyecan verici. Kuruluşların, yapay zekayı dağıtma ve çalıştırma şeklini değiştirmenin net bir yolu olan birçok yeni teknoloji var. Kuruluşlar yapay zekayı benimsemeye devam ettikçe, altyapı seçimleri yenilikçi kullanım durumları için çok önemli olmaya devam edecek.

Edge Computing 201 webinarında uygulama, altyapı ve güvenlik protokolleri dahil olmak üzere bir uç hesaplama çözümünün bileşenlerinin nasıl birleştirileceğini derinlemesine inceleyebilirsiniz.

Yazının kaynağına buradan ulaşabilirsiniz.

OpenZeka, bünyesinde aktif olarak yürütülen Cordatus projesi ile yüksek hızlı görüntü aktarımı, dağıtık görüntü işleme ve yapay zeka bulutu oluşturma alanlarında geliştirme faaliyetlerini sürdürmektedir. Bunun yanında, OpenZeka Akıllı Görüntü Analiz Sistemi, OpenZeka AI Servis-V1, Yangın Tespit Yazılımı adında tamamlanmış projeleri ve “Cordatus”, “OpenZeka AI Servis-V2” adında geliştirilmeye devam eden projelerimiz bulunmaktadır. Ayrıca yeni nesil yapay zeka algoritmaları ve sensörleri kullanarak akıllı şehir ve otonom sistemler konusunda çalışmalarımızı ve işbirliklerimizi sürdürmekteyiz. Detaylı bilgi almak için web sitemizi ziyaret edip, bizimle iletişime geçebilirsiniz.