Yapay zeka için üretilen AI işlemcilerle neler yapılır?
Tech'in en büyük oyuncuları AI devrimini tamamen tanıttı. Apple, Qualcomm ve Huawei, her biri biraz farklı bir yaklaşımla makine öğrenme görevleriyle daha iyi başa çıkmak için tasarlanmış mobil yonga setleri hazırladılar. Huawei , bu yıl özel bir sinirsel işlemci ünitesi (NPU) olan ilk yonga seti olarak nitelendirdiği Kirin 970'i IFA'ya sundu . Sonra Apple , iPhone 8, 8 Plus ve X'e güç veren A11 Bionic çipini açtı. A11 Bionic , şirketin "makine öğrenmesi için tasarlanmış" dendiği sinir motoruna sahip.
Geçtiğimiz hafta Qualcomm , AI görevlerini en uygun çekirdeğe gönderen Snapdragon 845'i duyurdu . Üç şirketin yaklaşımları arasında pek bir fark yok - sonuç olarak her şirketin geliştiricilere sunduğu erişim seviyesine ve her bir kurulumun ne kadar güç harcadığına bakılıyor.
Buna başlamadan önce, AI çipinin mevcut CPU'lardan gerçekten çok farklı olup olmadığına karar verelim. Endüstri'de AI'ya atfen son zamanlarda duyacağınız bir terim "heterojen bilgi işlem". Performans elde etmek veya enerji tasarrufu yapmak için her biri özel işlevlere sahip birden çok işlemci kullanan sistemlere atıfta bulunur. Fikir yeni değil - mevcut yonga setlerinin birçoğu kullanıyor - söz konusu üç yeni teklif sadece konsepti derecelendiren derecelerde kullanıyor.
Snapdragon 845.
Son üç yıldaki akıllı telefon CPU'ları, daha yavaş, enerji tasarrufu sağlayan çekirdekleri daha hızlı, güç tükenilen çekirdeklerle eşleyen ARM'ın big.LITTLE mimarisini kullandı . Ana hedef, daha iyi pil ömrü elde etmek için mümkün olduğu kadar az güç kullanmaktır. Bu tür bir mimari kullanan ilk telefonların bazıları , şirketin kendi Exynos 5 yongasının yanı sıra Huawei'nin Mate 8 ve Honor 6'sı ile Samsung Galaxy S4'ü de içeriyor .
Bu yılın "AI yongaları", makine-öğrenme görevlerini yerine getirmek için yeni bir bileşen ekleyerek veya Snapdragon 845'te bunu yapmak için diğer düşük güçlü çekirdekleri kullanarak bu konsepte bir adım ileriye taşıyor. Örneğin, Snapdragon 845, bir hotword için dinleme gibi, birçok tekrarlayan matematik gerektiren uzun süren görevleri çözmek için dijital sinyal işlemcisine (DSP) dokunabilir. Qualcomm'un ürün yönetimi direktörü Gary Brotman Engadget'a yaptığı açıklamada, resim tanıma gibi etkinlikler GPU tarafından daha iyi yönetildiğini söyledi. Brotman, Snapdragon platformu için AI ve makine öğrenimi görüyor.
Bu arada Apple'ın A11 Bionic, GPU'da Face ID , Animoji ve bazı üçüncü taraf uygulamaları hızlandırmak için sinirsel bir motor kullanıyor . Bu , iPhone X'inizde bu işlemleri başlattıktan sonra A11, sizin kim olduğunuzu doğrulamak veya yüz ifadelerinizi küfreden konuşmaya yönlendirmek için gereken hesaplamaları yapmak için sinir motorunu çalıştırdığı anlamına gelir .
Kirin 970'de, NPU bugüne kadar bu yonga seti için optimize edilmiş olan tek üçüncü taraf uygulaması olan Microsoft Translator ile çekilen resimlerin içindeki kelimelerin taranması ve tercümesi gibi görevleri üstleniyor. Huawei, "HiAI" heterojen bilgi işlem yapısının, yonga setindeki bileşenlerin çoğunun performansını en üst düzeye çıkaracağını, bu nedenle AI görevlerini yalnızca NPU'dan daha fazla alana atayabileceğini söyledi.
Farklar bir yana, bu yeni mimari, bulutta işlenmiş olan makine öğrenme hesaplamaları artık bir cihaz üzerinde daha verimli bir şekilde gerçekleştirilebileceği anlamına geliyor. AI görevlerini çalıştırmak için CPU haricindeki parçaları kullanarak, telefonunuz aynı anda daha fazla şey yapabilir, bu nedenle bir çeviri beklerken veya köpeğinizin resmini bulurken geç kalma olasılığı daha düşüktür.
Ayrıca, bilgisayar korsanlarının verilerinize erişmesi için potansiyel fırsatları azalttığınızdan, bu işlemleri telefonunuzda buluta göndermek yerine kullanmak da gizlilik için daha başarılıdır.
A11 Bionic'in iki "performans" çekirdeği ve dört "verimlilik" çekirdeği.
Bu AI yongalarının diğer bir büyük avantajı enerji tasarrufudur. Güç, kıymetli bir kaynaktır, çünkü bu eylemlerin bazıları bütün gün tekrar edilebilir. GPU daha fazla su emme eğiliminde. Dolayısıyla, daha enerji verimli DSP'nin benzer sonuçlar ile gerçekleştirebileceği bir şey varsa, diğerlerinden daha iyi bir sonuç almanız daha iyi.
Açıkça belirtmek gerekirse, belirli görevleri yürütürken hangi çekirdeğin kullanılacağına karar vermek yonga setlerinin kendileri değil. Brotman, "Bugün, bunu çalıştırmak istedikleri geliştiricilere ya da OEM'lere bağlı." Dedi. Programcılar, Google'ın TensorFlow (veya daha özel olarak Lite mobil sürümü) gibi desteklenen kütüphaneleri , modellerini çalıştırmak için hangi çekirdeği belirlemek için kullanabilirler. Qualcomm, Huawei ve Apple, TensorFlow Lite ve Facebook'un Caffe2 gibi en popüler seçeneklerle çalışır. Qualcomm, daha yeni Open Neural Networks Exchange (ONNX) 'ide desteklerken, Apple, Core ML çerçevesi üzerinden daha fazla makine öğrenme modeline uyumluluk ekliyor .
Şimdiye kadar, bu cipslerden hiçbiri gerçek anlamda çok farkedilen faydalar sağlamadı. Chip yapımcıları AI süreçleri günlük hayatımızın önemli bir parçası haline gelene kadar kendi test sonuçlarını ve sonuçta nihai anlamsız olan testleri sunacaklar. Cihaz üzerinde makine öğrenmenin ilk aşamalarındayız ve yeni donanımı kullanan geliştiriciler çok az ve uzaktadır.
Şu an için, ırkın makine öğrenme ile ilgili görevleri cihazınızda gerçekleştirmesi çok daha hızlı ve daha verimli. AI 'nin gerçek yararlarını görmek için biraz daha beklemek zorunda kalacağız.
Henüz Yorum Yapılmamış, İlk Yorumu Siz Yapın