Suni Zekâ Eğitiminde Niçin CPU Değil de GPU Kullanılır?

Suni zekâ mevzusuna dışarıdan bakıyorsanız; Stable Diffusion ve Midjourney benzer biçimde görsel üretme amaçlı araçların, ekran kartı olarak bildiğimiz GPU ile çalıştığını, ChatGPT benzer biçimde asistanların ise işlemci olarak bildiğimiz CPU’dan güç aldığını düşünüyor olabilirsiniz. Gündelik tanımlarla yaygın olarak kabul edilen bu olsa da durum fark etmeksizin iki tarafta da GPU daha öndedir.

İyi de bizim rahat şekilde görsel ve video düzenlememizi, sağlam grafiklerle oyun oynamamızı ve 3 boyutlu tasarım yapmamızı mümkün kılan GPU’lar, iyi mi oluyor da mevzudan oldukça alakasız görünen sesli ve yazılı asistanlara yaşam verebiliyor?

Ilk olarak çözmemiz ihtiyaç duyulan mevzu, CPU ve GPU ayrımı.

Genel olarak CPU dendiğinde i3, i7, Ryzen 5 benzer biçimde seriler kastedilir. GPU dendiğinde ise GTX, RTX, 6600, 7700 benzer biçimde ekran kartı serileri söz mevzusu olur. Fakat bizim bu mevzuyu anlayabilmemiz için bir tık perde arkasına geçmemiz gerek.

CPU ve GPU’nun ikisi de özünde işlem birimidir. CPU olarak bildiğimiz işlem birimi, sıralı işlemler yapar. Bunu oldukça süratli bir halde gerçekleştiren CPU’lar, süratli olsalar da oldukça geniş çaplı veri setleriyle ilgilenemezler. Fakat temel görevleri bilgisayarın işleyişini sağlamak ve karışık işlemleri gerçekleştirmek olan bu birimler, azca sayıda kuvvetli çekirdeklere haiz olurlar.

Öte taraftan GPU birimleri, CPU’lara gore daha ufak ve daha oldukça sayıda çekirdeğe ev sahipliği yapar. Grafik işlemleri için üretilen bu birimler, bunun yanında paralel hesaplamalar yaparlar. Doğal burada kafanız karışmasın. Azca ilkin CPU’ların süratli işlemleri sıra sıra yaptığını söylemiştik. GPU’lar, daha yüksek çekirdek sayısının da getirisiyle oldukça sayıda işlemi aynı anda yapabilir. Buna hesaplamalar da dahil.

Ek olarak iki tarafın ortasında bulunan, içinde hem CPU hem de GPU bulunduran APU’lar da var.

Bu ayrımı yaptıktan sonrasında gelelim aslolan sorumuza: Niçin GPU’lar, suni zekâ eğitiminde CPU’ların yerine tercih ediliyor?

Suni zekâ araçlarının eğitilebilmesi, oldukça karışık işlemlerin ne kadar sürede işlenebildiğine bağlı. Bunun en kısa sürede yapılabilmesi için de birbirinden karışık oldukça sayıda işlemin aynı anda çözülebilmesi gerek. GPU’ların, CPU’lara nazaran daha oldukça çekirdeğe haiz bulunduğunu söylemiştik. Bu da bu birimlerin aynı anda bir sürü işlemi yapabilmesini sağlıyor.

Bant genişliği de GPU’ların avantajlı olduğu bir nokta. Yüksek bant genişliği yardımıyla bu birimler, hem aynı anda oldukça sayıda işlem yapıyor hem de gene yüksek hızda bu işlemlerin verilerini işliyor. Averaj bir CPU 50 ila 100 GB/s bant genişliğine sahipken üst düzey bir GPU, 500 GB/s’nin üzerine çıkabiliyor.

Ek olarak bir tek bu işlemlerin daha süratli yapılabilmesi için geliştirilen suni zekâ odaklı GPU’lar da bulunuyor. Daha sağlam bant genişliğine ve saat hızına haiz olan bu modeller, alışık olduğumuz GTA 5 açan kartlara benzemeseler de suni zekâ öğrenimini daha verimli kılıyorlar. NVIDIA’nın H100 GPU’su bunlardan biri.

Buraya kadar ne işe yaradığını anlamayanlar için bu mevzuyu netleştirecek oldukça güzel bir örnek var.

Yapmamız ihtiyaç duyulan işlemin bu kişileri karşıdan karşıya geçirmek bulunduğunu düşünelim.

Bu bizim CPU’muz:

Bu da GPU’muz:

Her ne kadar CPU’muz oldukça gelişmiş de olsa bu kişilerin hepsini karşıya geçirmesi uzun vakit alacaktır. Bu elbet yeterince kuvvetli olmadığından değil, işlemleri bir tek sıralı yapma seçeneği olduğundan kaynaklı.

Öte taraftan GPU’muz, bu kişilerin (verilerin) hepsini aynı anda karşıya geçirebilecek kapasitede olduğundan bizim hem zamandan hem de harcamadan tutum edebilmemizi sağlıyor.

Suni zekâ modellerine veri girileceği vakit hem GPU hem de CPU oldukça eleştiri roller oynuyor. Bu yüzden biri olmadan diğeri olabilir benzer biçimde düşünceler kafanızda canlanmasın. Zira CPU’nun öne geçmiş olduğu alanlarda da GPU kenarda kalabiliyor.

Kaynaklar: Pure Storage, Analytics Vidhya, By By