Amazon, yeni jenerasyon çiplerinin AI eğitimi için dört kat daha süratli olduğunu söylüyor

Bir bütün olarak ele alındığında bu haberler, şirketin yapay zeka platformlarına yönelik uzun vadeli amaçlarına kısa bir bakış atmamızı sağlıyor.

Her şeyden evvel AWS, model eğitimi ve eğitimli modelleri çalıştırmaya yönelik en yeni kuşak yapay zeka çiplerini tanıttı. Model eğitimi için olduğu açık olan Trainium2, selefine kıyasla 4 kata kadar daha âlâ performans ve 2 kata kadar güç verimliliği sağlayacak biçimde tasarlandı. Amazon, bu çiplerin, güç kullanımındaki azalma nedeniyle programcıların modelleri süratli ve daha düşük bir maliyetle eğitmelerine imkan tanıyacağının kelamını veriyor. Amazon dayanaklı OpenAI yarışmacısı Anthropic, Trainium2 çiplerini kullanarak modeller oluşturma planlarını esasen duyurmuştu.

Amazon, yeni kuşak çiplerinin AI eğitimi için dört kat daha süratli olduğunu söylüyor

Graviton4 ise daha çok genel kullanıma yönelik. Bu işlemciler Arm mimarisini temel alıyor fakat Intel yahut AMD çiplerine nazaran daha az güç tüketiyor. Amazon, Graviton4 işlemciye gömülü eğitimli bir yapay zeka modeli kullanıldığında genel performansta %30’luk bir artış vaat ediyor. Bu, sistemli olarak AI modellerini kullanan kuruluşlar için bulut bilişim maliyetlerini düşürecek ve bir partide Harry Potter’ın geçersiz fotoğraflarını çekmek isteyen sıradan kullanıcılar için süratte hafif bir artış sunacaktır.

Sonuç olarak Graviton’un, AWS müşterilerinin “daha büyük ölçülerde data işlemesine, iş yüklerini ölçeklendirmesine, sonuç alma müddetini iyileştirmesine ve toplam sahip olma maliyetlerini düşürmesine” imkan sağlaması bekleniyor. Önümüzdeki aylar için planlanan daha geniş bir sürümle birlikte bugün bir ön izleme de mevcut.