GenAI 5 : Donanım 101: CPU’dan GPU’ya Yapay Zeka Donanı… — Transcript

Yapay zeka donanımları CPU'dan GPU'ya nasıl gelişti, temel kavramlar ve donanımın yapay zekadaki önemi anlatılıyor.

Key Takeaways

  • Yapay zekanın gelişimi büyük veri ve güçlü donanım kapasitesine bağlıdır.
  • CPU temel işlem birimi olup, basit aritmetik ve lojik işlemleri gerçekleştirir.
  • GPU'lar paralel işlem yetenekleri sayesinde grafik ve yapay zeka uygulamalarında öne çıkar.
  • Donanımın evrimi multitasking ve çok çekirdekli işlemcilerle hız kazanmıştır.
  • Von Neumann mimarisi modern bilgisayarların temelini oluşturur.

Summary

  • Yapay zeka donanımlarının tarihçesi ve gelişimi anlatılıyor.
  • CPU'nun temel işlevleri, yapısı ve işlem birimleri detaylandırılıyor.
  • Von Neumann makinesi ve işlemci tasarımının önemi vurgulanıyor.
  • CPU'nun tek çekirdekten çok çekirdeğe ve multitasking kavramlarına evrimi açıklanıyor.
  • GPU'nun grafik işlemedeki rolü ve paralel işlem yapabilme kapasitesi ele alınıyor.
  • Yapay zeka için büyük veri ve donanım kapasitesinin önemi üzerinde duruluyor.
  • RAM türleri (VRAM, SRAM, DRAM) gibi temel donanım bileşenlerine giriş yapılıyor.
  • Matematiksel işlemlerin CPU içindeki Aritmetik Logic Unit (ALU) tarafından nasıl yapıldığı anlatılıyor.
  • İşlemcilerin karmaşıklaşması ve grafik işlemcilerin yapay zeka alanındaki yükselişi açıklanıyor.
  • Bilgisayarların multitasking ve multithreading kavramları ile çalışma prensipleri özetleniyor.

Full Transcript — Download SRT & Markdown

00:05
Speaker A
Merhaba, Generative AI'ın 5. dersiyle beraberiz. Daha önce daha farklı sayılarda videolar olabilir, 5. video değil tam olarak.
00:16
Speaker A
Araya başka videolar da eklemiştik, ihtiyaç oldukça da ekleriz ama bu 5. dersimiz diyelim. Burada da biraz donanımdan bahsedeceğiz.
00:29
Speaker A
Belki çok duyduğunuz, günlük hayatta çok geçen işte GPU, TPU, CPU gibi veya RAM tipleri, VRAM, SRAM, DRAM gibi kavramları biraz anlatmaya çalışacağız.
00:40
Speaker A
Nedir bunlar, niye çıktı, nasıl çıktı, ne işe yarar, nerede kullanılır, bizim ihtiyacımız var mı, bunlara para ödemeye değer mi, biraz bu kavramlardan bahsetmeye çalışacağız ve donanımdan bahsedeceğiz.
00:54
Speaker A
Günün sonunda yapay zeka dediğimiz dünya, bugün belki LLM'lerden bahsediyoruz.
01:00
Speaker A
Yapay zeka dediğimizde ilk aklımıza gelenler LLM'ler ama bu dünyanın çıkışında önemli bir motivasyon daha öncesindeki veri bilimi ve büyük veri çalışmalarıyla ortaya çıktı.
01:10
Speaker A
Büyük verilerin işlenebilmesi için de donanımdaki limitlerin aşılması gerekiyordu.
01:15
Speaker A
Yani belki 70'lerde de yapay sinir ağından bahsedebiliriz, Artificial Neural Network'lerden.
01:23
Speaker A
Ama bu yapay sinir ağlarının günümüze kadar gelen sürecinde büyük atlamayı sağlayan şey bir verinin çok olması, iki donanımın bunu işleyecek kapasitede olmasıyla mümkün olabildi.
01:33
Speaker A
Elinizde sadece bir tane pizza resmi varsa oradan yapay zekayı pizza resmini öğrettiğinizde bir tane resmi öğrenir.
01:40
Speaker A
Ama elinizde milyonlarca pizza resmi varsa oradan pizzayı öğrettiğiniz zaman pizza kavramını öğrenir, onun ne olduğuyla ilgili genel bir fikre sahip olabilir.
01:50
Speaker A
Aynı insan gibi bir tane şeyi görünce bütün dünyayı ondan ibaret zannediyor ama çok farklı durumları, vakaları gördüğü zaman bir bilgeliğe, biraz daha farklı bir bakış açısına sahip olabiliyor.
01:57
Speaker A
Bunu da işleyecek makineye ihtiyaç var.
02:02
Speaker A
İşte bu dersimizde de bu makinelerin çıkışından biraz bahsedeceğiz.
02:07
Speaker A
Nasıl geliştiklerinden bahsedeceğiz.
02:10
Speaker A
Önce CPU'dan bahsetmek lazım.
02:13
Speaker A
Tabii CPU Central Processing Unit'in kısaltılmışı.
02:16
Speaker A
Türkçede MİP deniyor, Merkezi İşlem Birimi.
02:20
Speaker A
Merkezi İşlem Birimi veya Central Processing Unit aslında bilgisayarın ana beyni diyelim.
02:27
Speaker A
Yani bir hafıza bir de işlem gücü gibi beyni düşünebilirsiniz.
02:34
Speaker A
İşte bizim yaptığımız matematiksel işlemler için mesela iki sayıyı toplayacaksınız, önce bu iki sayıyı aklınızda tutmanız lazım.
02:41
Speaker A
3 ile 5'i toplayacaksanız 3'ü unutmamanız lazım toplama süresi boyunca, 5'i de unutmamanız lazım.
02:49
Speaker A
Sonra bir de toplama işlemini biliyor olmanız.
02:52
Speaker A
Ve bunu da işletiyor olmanız lazım.
02:55
Speaker A
Bir yerlerde çalıştırıyor olmanız lazım.
02:57
Speaker A
Çarpma için, bölme için.
03:00
Speaker A
Aritmetik Logic Unit de vardır CPU'nun içinde ALU diye geçen.
03:05
Speaker A
Veya ALU diye de okuyanlar var.
03:08
Speaker A
Aritmetik Logic Unit de aslında bu aritmetik ve lojik işlemleri yapar.
03:12
Speaker A
Yani aslında belki şunu söyleyebiliriz, birazcık cüretkar bir böyle hatta tahrik edici.
03:20
Speaker A
Belki bunu araştırmak da isteyebilirsiniz bir iddia olarak.
03:23
Speaker A
Bütün matematik, aritmetik toplama işlemlerini indirgenebilir.
03:29
Speaker A
Bütün mantık da büyüktür işlemine indirgenebilir diyebiliriz.
03:33
Speaker A
Diğerleri bunun versiyonları olarak düşünebiliriz.
03:35
Speaker A
Mesela toplamayı artık biliyorsanız çarpma yapabilirsiniz.
03:40
Speaker A
Çünkü 5 ile 3'ün çarpımı 5 tane 3'ün toplamıdır gibi dönüştürülebilir.
03:46
Speaker A
Bölme yapabilirsiniz.
03:48
Speaker A
Çıkartma tersidir zaten toplamanın.
03:50
Speaker A
Buna benzer böyle gidebiliriz tabii matematik değil şeyimiz.
03:56
Speaker A
Yani kalkülüse geçtiğinizde bir limit operatörü eklemeniz gerekiyor buna.
04:00
Speaker A
Türevi, integrali falan alabilmeniz için.
04:02
Speaker A
Gibi böyle basit 3-5 tane operatörle bütün matematik dünyasını indirgemeniz de mümkün olabilir bir görüşe göre diyelim.
04:10
Speaker A
Bunu birazcık araştırın isterseniz.
04:12
Speaker A
Ve bu şeye aritmetik Logic Unit de aslında CPU'nun içindeki aritmetik Logic Unit de basitçe bu işlemleri yapıyor.
04:20
Speaker A
Yani sizin o görmüş olduğunuz en kompleks yapay zeka sonuçlarının çıkartılması, en kompleks görüntü işleme işlemlerinin yapılması.
04:30
Speaker A
İşte ne bileyim internette sohbet edebilmemiz, çok kompleks işlemlerin yapılabilmesi.
04:35
Speaker A
Günün sonunda CPU'daki basit operatörlere indirgeniyor.
04:38
Speaker A
Yani toplama dışında bir sürü operatör yapıyor.
04:41
Speaker A
Yani karekök de alıyor.
04:43
Speaker A
Bazı CPU'ların içinde böyle operatörler de var.
04:45
Speaker A
Onlar niçin işi hızlandırmak için.
04:47
Speaker A
Belki daha da indirgenebilecek operatörler.
04:50
Speaker A
Basite indirgenebilecek operatörler.
04:52
Speaker A
Assembly dili bilen, makine dili bilen arkadaşlar bunları çok daha hakim olacaktır.
04:56
Speaker A
Ve CPU bizim bilgisayar dünyasının ilk çıkışı.
05:00
Speaker A
Von Neumann makinesi vardır, resmini gene koyalım bu videoya.
05:04
Speaker A
Von Neumann önemli bir şahsiyet.
05:06
Speaker A
Eee biliyorsunuz 1900'lerin başında bir makine tasarımı yapıyor.
05:10
Speaker A
Diyor ki bir genel bir makine ben yapacak olsam bunun içinde bir işlemcisi olur.
05:15
Speaker A
CPU diyoruz bugün.
05:17
Speaker A
Bir hafızası olur.
05:19
Speaker A
RAM diyoruz.
05:20
Speaker A
Bir de giriş çıkış ki onu işte tape veya başka şeyler de söylenebilir.
05:24
Speaker A
Turing bunu daha sonrasında Turing Machine'e çeviriyor çünkü.
05:27
Speaker A
Turing Machine dediğimiz makinenin çıkışı da bununla mümkün oluyor.
05:30
Speaker A
Von Neumann'ın bu arada bir sürü yapay zekada veya düşünce tarihinde de önemli yerlere sahip.
05:35
Speaker A
Buluşların da sahibi.
05:37
Speaker A
Eee ve bu makinenin tasarımıyla birlikte işlemci diye bir kavram.
05:42
Speaker A
Yani ne olabilir işlemci?
05:44
Speaker A
Nasıl gelişebilir?
05:46
Speaker A
Şimdi bakın CPU'nun çıkışında aslında basit işlemler yapan.
05:50
Speaker A
İşte lojik operatörü.
05:52
Speaker A
If clause'u yazıyorsunuz siz bir tane.
05:54
Speaker A
If diyorsunuz.
05:56
Speaker A
İşte A B'den büyük müdür?
05:58
Speaker A
Bu bir lojik operatörü.
06:00
Speaker A
Veya 8 ile 7'yi topla.
06:03
Speaker A
Bu bir aritmetik operatörü.
06:05
Speaker A
Bunlar yapılıyor.
06:06
Speaker A
Şimdi bu işlemler bir tane CPU'da bir kernel'da.
06:10
Speaker A
Yani eskiden şöyle düşünün.
06:13
Speaker A
Core dediğimiz kavram bile bizim için hayatımıza sonradan giren bir şey.
06:16
Speaker A
İlk çıkan işlemciler basit bir tane işlem yapabiliyor.
06:20
Speaker A
Hatta multiprocessing ve multitasking veya multithreading gibi kavramlar bilgisayar dünyasına çok sonradan giriyor.
06:26
Speaker A
Yani 1980'lerde bir bilgisayarınız olduğunda, 90'ların başında bir bilgisayarınız olduğunda böyle bir şeyden bahsedemiyorsunuz.
06:32
Speaker A
Bir bilgisayar aynı anda bir işi yapabilir.
06:36
Speaker A
O anda bir çarpma işlemi verdiyseniz onu yapabilir.
06:39
Speaker A
Başka bir şey yapamaz.
06:40
Speaker A
Daha sonrasında bunun paylaşılmasıyla birlikte, zaman paylaşımıyla birlikte, time sharing dediğimiz bir yöntemle aynı anda bir iş çalışıyor.
06:49
Speaker A
Ama bu işi parçalara bölüp biraz onu, biraz onu, biraz onu çok hızlı çalıştıra çalıştıra aynı anda hepsi çalışıyormuş gibi bir izlenim vermeye başlıyor tabii bilgisayarlar.
06:55
Speaker A
Ve bununla multitasking hayatımıza giriyor.
06:58
Speaker A
Sonra bu işlemcilerin daha karmaşıklaşmasıyla birlikte üstüne çekirdek dediğimiz core yapısı geliyor.
07:03
Speaker A
Aynı anda çoklu thread'lerin çalıştırılabilmesi.
07:06
Speaker A
Vesaire diye gidiyor.
07:08
Speaker A
Bunları detaylı olarak işletim sistemleri derslerinde anlatıyoruz.
07:12
Speaker A
Operating Systems dersi.
07:14
Speaker A
Bunun üstüne kurulu ve insan ufkunu çok açan derslerdir.
07:20
Speaker A
Çünkü aynı anda birden fazla işi nasıl yaparsınız, nasıl yönetirsiniz?
07:25
Speaker A
Zamanı nasıl yönetirsiniz aslında?
07:28
Speaker A
Felsefesinde onu öğretir.
07:30
Speaker A
Ama önce CPU var ve tek işlem yapabiliyor CPU.
07:33
Speaker A
Böyle düşünelim.
07:34
Speaker A
Sonra bilgisayarların tabii CPU'su var ama ilk bilgisayarlardan baktığımızda personal computer'lardan.
07:40
Speaker A
Bir de görüntü göstermesi, ses çıkartması falan isteniyor.
07:43
Speaker A
Normalde mesela diyelim ki 90'larda bir bilgisayar aldığınızda ses çıkartmazdı.
07:49
Speaker A
Basit bir tane buzzer denilen, buzzer veya diye okunan bir yapı vardı üstünde.
07:53
Speaker A
İşte böyle bız bız diye sesler çıkartırdı.
07:56
Speaker A
Ancak o kadar ses çıkartabilirdi.
07:58
Speaker A
Ses kartı eklemeniz gerekirdi ki ses çıkartırsın.
08:03
Speaker A
İşte mesela bir bilgisayarı bir monitöre bağlayacaksanız onun için görüntü kartı eklemeniz gerekirdi.
08:10
Speaker A
Graphical adapter diye geçen.
08:13
Speaker A
Grafik adaptörü eklemeniz gerekirdi.
08:16
Speaker A
Bilgisayarın seri yollarının üstüne.
08:20
Speaker A
Çok teknik detayına girmeyelim.
08:23
Speaker A
Bunu eklerdiniz ve görüntü çıkartırdı.
08:25
Speaker A
Şimdi bu harici eklenen kartlar üstünde de basit işlemciler vardı tabii.
08:30
Speaker A
Onun da kendine göre bazı işlemler yapması gerekiyor.
08:32
Speaker A
Basit entegre devrelerle başlayan dünya.
08:35
Speaker A
Sonra üstündeki işlemcilerin karmaşıklaşmasıyla birlikte grafik işlemeye özel işlemcilere doğru gitti.
08:40
Speaker A
Bunlara da GPU denmeye başlandı.
08:42
Speaker A
Graphical Processing Unit.
08:44
Speaker A
Ve o zaman bir sürü grafik kartı üreten ve grafik işlemcisi üreten şirket vardı.
08:50
Speaker A
Bunlardan NVIDIA daha bir öne çıkmaya başladı.
08:53
Speaker A
Daha kaliteli işler yapmaya başladı.
08:55
Speaker A
Bunu da motive eden şey grafik kartlarını paralel bağlayabileceği yapılara geçmesi.
09:00
Speaker A
CUDA diye bir yapıya o zamanlar geçti.
09:03
Speaker A
Ve CUDA ile birlikte paralelde işleme yeteneği kazandırıldı.
09:07
Speaker A
O zaman farklı teknolojiler yani şöyle düşünebilirsiniz işte CPU'ların paralel bağlandığı.
09:13
Speaker A
Yapılar vardı veya bilgisayarların paralel bağlandığı.
09:17
Speaker A
Yapılar vardı.
09:20
Speaker A
İşte parallel processing veya distributed processing dediğimiz kavramlar.
09:23
Speaker A
Distributed'da bir bilgisayarın üstünde birden fazla işlemciniz var, bunlar paralel çalışıyorlar mesela.
09:30
Speaker A
Veya parallel processing'de de nedir, birden fazla bilgisayarınız var.
09:36
Speaker A
100 tane bilgisayarı birbirine paralel bağladınız.
09:40
Speaker A
Bu bilgisayarlar tek bir amaca hizmet ediyor.
09:43
Speaker A
RAM'lerini paylaşıyorlar, CPU'larını paylaşıyorlar.
09:46
Speaker A
Load balancing, güç dengelemesi yapıyorsunuz, işleri bu bilgisayarlara doğru şekilde dağıtıyorsunuz.
09:51
Speaker A
Ki onu nasıl dağıtılacağı da işte.
09:53
Speaker A
Merkezi birimi dağıtacak.
09:55
Speaker A
Herkes kendine göre.
09:57
Speaker A
Peer to peer yapıya mı gideceksiniz falan gibi.
09:59
Speaker A
Bir sürü algoritmalarla 90'larda uğraşıyorduk.
10:03
Speaker A
Hatta PVM Parallel Virtual Machine, MPI Message Passing Interface gibi kavramlar o yıllarda oldukça modaydı.
10:09
Speaker A
Sonra 2000'lerin başından itibaren bu GPU'ların artmasıyla birlikte bu paralel işleme süreçleri.
10:15
Speaker A
GPU'lara, birden fazla GPU'nun dağıtılmış olduğu yapılara devredilmeye başlandı.
10:20
Speaker A
O dönem işlemci tabii bir güç, işlem kapasiteniz.
10:25
Speaker A
Güç süper bilgisayarlar önemli.
10:27
Speaker A
Askeri amaçlarla, istihbarat amacıyla.
10:30
Speaker A
İşte ne bileyim ülkenin devlet.
10:32
Speaker A
Yani meteoroloji bile bir iş yani.
10:34
Speaker A
Bu amaçlarla kullanılırken birden bunların paralel bir sürü bilgisayarla yapılabileceği ortaya çıktı.
10:40
Speaker A
Yani çok büyük bir yatırım yapıp çok büyük bir bilgisayar alıp büyük işleri orada yapmak yerine binlerce küçük bilgisayarı.
10:47
Speaker A
Belki başarısız bilgisayarı aralarında bazılarının bozulduğu, tam çalışamadığı bir yapıyı kuruyorsunuz.
10:52
Speaker A
Ve çok daha yüksek bir işlem gücü elde ediyorsunuz.
10:55
Speaker A
Tabii bununla birlikte paralel tarafın gücü artmaya başladı.
11:00
Speaker A
Bir de üstüne çok veri eklenince bu verilerin birden fazla yerde aynı anda işlenmesi gibi bir problem ortaya çıkınca.
11:05
Speaker A
Eee bizim MapReduce dediğimiz yani bir problemi birden fazla yere map etmek, dağıtmak ve orada problemi çözmek.
11:12
Speaker A
MapReduce kavramı ortaya çıktı.
11:14
Speaker A
Onu da veri analitiği derslerinde detaylı anlatıyoruz.
11:17
Speaker A
Ve günün sonunda GPU'ların yükselişi başladı.
11:21
Speaker A
Tabii GPU'lar yükselmeye başlayınca sadece grafik amacıyla kullanılmayan şeyler olduğu artık ortaya çıktı.
11:26
Speaker A
Yani bir tane CPU'nun bir konuda uzmanlaştığı, arka arkaya işleri yaptığı ve bir sıraya göre kendisi.
11:33
Speaker A
Bunu tabii uzman bir şekilde sokması gerekiyor.
11:36
Speaker A
Yaptığı bir işten.
11:38
Speaker A
Birdenbire birden fazla ve binlerce bir ordu şeklinde GPU'ların çalıştığı hatta böyle artık değil mi?
11:46
Speaker A
Kredi kartı gibi bir yere binlerce, on binlerce GPU'yu yerleştirebiliyorlar.
11:51
Speaker A
Bunları işleyebiliyorsunuz.
11:53
Speaker A
Ve GPU dünyası ortaya çıkmaya başladı.
11:56
Speaker A
Eee bu GPU'lar günümüzde grafik amacıyla tabii çok kullanılmıyorlar artık.
12:00
Speaker A
Eskiden amacı neydi bir bilgisayarın ekranda göstermek istediği bilgiyi.
12:04
Speaker A
Ki üç boyutlu oyunlarla ilk biz bunları tanıdık.
12:07
Speaker A
Grafik kartı alınırdı işte.
12:10
Speaker A
O zaman takılırdı 4 MB'lık bu grafik kartları böyle ilk çıkanlar.
12:15
Speaker A
2 MB'lık, 1 MB'lık falan.
12:17
Speaker A
Sonra 8'ler, 16'lar böyle çıktılar.
12:19
Speaker A
Bunların kendine göre RAM'i olan, kendi hafızası olan, onun içinde işlem yapan cihazlar gibi düşünebilirsiniz.
12:24
Speaker A
Günümüzde de teknoloji aşağı yukarı bu şekilde gidiyor diyebiliriz.
12:26
Speaker A
Birden fazla GPU paralel de çalışıyor.
12:28
Speaker A
Şimdi burada tabii CPU'nun uzmanlığı seri olarak arka arkaya koyduğu yapılardan çıkıyor.
12:33
Speaker A
Hatta onu biz pipelining deriz.
12:35
Speaker A
Nedir işte birden fazla işi paralelde çalıştıracaksınız.
12:40
Speaker A
Önce birisi alınır, sonra diğeri biraz alınır.
12:43
Speaker A
Sonra diğeri biraz alınır falan.
12:45
Speaker A
Böyle işlenerek çalıştırılır.
12:47
Speaker A
Bunu işletim sistemi schedule etmesi gerekiyor.
12:50
Speaker A
CPU'da çalışacak işleri bir işletim sistemi.
12:53
Speaker A
Yani bilgisayarınızda çalıştığınız Windows, işte Linux, Unix, MacOS neyse kullandığınız.
12:59
Speaker A
Bu işletim sisteminin bir scheduler'ı vardır.
13:03
Speaker A
İşleri sıraya sokar.
13:05
Speaker A
O işlerin öncelikleri de vardır bunların bir kısmının.
13:08
Speaker A
Yani sizinle iletişim kuracak olan görüntü işleyen, görüntüde görünen mesela işlemler daha önceliklidir.
13:13
Speaker A
Orada bekleme takılma sizin moralinizi bozar.
13:15
Speaker A
Etkinizi bozar.
13:17
Speaker A
Onlara biraz daha öncelik verir.
13:21
Speaker A
Arka da çalışan işleri mesela batch job'ları biraz daha arkaya atar.
13:25
Speaker A
Onlara daha az kaynak ayırır falan.
13:27
Speaker A
Ve günün sonunda elindeki kaynağı, CPU'yu, RAM'i bir sürü makinede çalışan uygulamaya.
13:32
Speaker A
Application'a ve onların altında çalışan process'lere.
13:35
Speaker A
Her bir application yani bir application diyelim ki bir uygulama çalıştırıyorsunuz.
13:38
Speaker A
Birden fazla process'ten oluşabilir değil mi?
13:40
Speaker A
Onun arkasında çalışan mesela bir web sitesine bağlandınız.
13:43
Speaker A
Orada işte JavaScript'i indiriyor.
13:46
Speaker A
Onu indirmek bir iş.
13:48
Speaker A
Process ediyor.
13:49
Speaker A
Ekranda gösteriyor.
13:51
Speaker A
Sizin tıkladığınız yerleri bir anda.
13:53
Speaker A
Bir sürü iş yapıyor aynı anda.
13:55
Speaker A
Bunların hepsi birer thread veya process seviyesinde kırılan, bölünen, paralelleştirilen işlerdir.
14:01
Speaker A
CPU bunlar konusunda uzmanlaşmış bir işlemci.
14:04
Speaker A
Ve dolayısıyla sizin o yapmış olduğunuz bütün o interaction'lar da olabilir.
14:10
Speaker A
Veya vermiş olduğunuz bütün process'leri, işleri sıraya sokup çalıştırıyor.
14:15
Speaker A
Bunun da işte scheduler algoritmaları vardır.
14:17
Speaker A
Farklı algoritmalarla kullandığınız işletim sistemini tasarlarken.
14:20
Speaker A
Yani sıfırdan bir işletim sistemi yazarken bunlar tasarlanır.
14:24
Speaker A
Nasıl bir algoritma kullanacağımız, hangi durumlarda hangi algoritmanın kullanılacağı.
14:28
Speaker A
Bunları yazabilecek seviyedeyiz.
14:30
Speaker A
Bildiğimiz konular.
14:31
Speaker A
Basit bir lisans öğrencisi bilgisayar mühendisliğinde bir işletim sistemi yazabilir teorik olarak.
14:35
Speaker A
Bunun üstüne GPU'lar gelince tabii GPU'ların çalıştığı yapı için özel kütüphaneler geliştirilmeye başlandı.
14:40
Speaker A
Artık GPU tarafı evet GPU tarafında da işletim sistemiyle ilgili bir bağlantı vardı ilk başta.
14:47
Speaker A
Bir görüntü basmak istiyor ekrana.
14:50
Speaker A
Ve o basacağı görüntüyü GPU'ya atıyordu.
14:53
Speaker A
Al bunu bas.
14:54
Speaker A
GPU kendi içinde onu çalıştırıp kendi hafızasını, kendi GPU'sunu processing unit'ini işlem birimini kullanarak bir şeyler işleyip basıyordu.
15:00
Speaker A
Ama günümüzde artık bunları biz paralel böyle birbiriyle iletişim kuran, birbiriyle çok hızlı iletişim kurup çok hızlı işlem yapıp sonuç elde eden.
15:06
Speaker A
İşte bir yapay sinir ağını mesela üstünde eğiteceksiniz diyelim.
15:10
Speaker A
Bu eğitim sürecinde ne yapıyoruz?
15:13
Speaker A
Onun için özel bir katman varmış gibi orada.
15:15
Speaker A
İşletim sistemi altta çalışıyor ama sanki orada özel bir framework diyoruz bunlara.
15:20
Speaker A
Özel bir çerçeve yazılımı varmış gibi orada çalıştırıyoruz.
15:23
Speaker A
Ve o yazılım işletim sistemi gibi hangi GPU'nun ne kadar kaynak yakacağı, hangi işin hangi GPU'ya gideceği.
15:29
Speaker A
Orada ne kadar bekleyeceği, bir takılma olduğunda müdahale edip onu öldürüp öldürmeyeceği gibi bütün o süreçleri.
15:34
Speaker A
Oradaki framework kontrol etmeye başlıyor ve yönetiyor.
15:37
Speaker A
Bunun için de özel kütüphaneler var.
15:40
Speaker A
İşte ilk çıkanları dediğim gibi CUDA gibi yapılarla çıkmıştı.
15:43
Speaker A
NVIDIA'nın belki de en büyük yaptığı yatırımlardan biri bu olabilir, paralel işlemeyle ilgili yapmış olduğu yatırım.
15:49
Speaker A
Ve sonrasında da bu paralelleştirilmiş işlerin sonuçları gene işletim sistemine toplanıyor tabii.
15:54
Speaker A
Mesela oradan bir dosya çıkıyor diyelim.
15:57
Speaker A
İşledi, işledi bir data çıkıyor.
16:00
Speaker A
O datayı gene işletim sisteminde bir file sisteme değil mi diske.
16:05
Speaker A
Veya bir RAM'e, bir değişkene.
16:08
Speaker A
Programın içinde mesela Python kodu yazıyorsunuz, yazdığınız Python kodu çalışıyor satır satır.
16:14
Speaker A
Çalışırken bir yerde GPU'ları kullanacağı yapıya gidiyor.
16:19
Speaker A
Oraya atıyor task'ı.
16:20
Speaker A
Orada o çalışıyor.
16:22
Speaker A
O sırada Python kodunuz başka işler yapmaya da devam edebilir.
16:25
Speaker A
Veya durur bekler onu.
16:26
Speaker A
Blocking'tir.
16:27
Speaker A
Bloklamış bir işidir.
16:28
Speaker A
Bekle, bundan sonra bu bitince devam et demişsinizdir.
16:30
Speaker A
Onu bekler, ondan sonra çalışır.
16:32
Speaker A
Ve o gelen bilgileri daha sonra gene işletim sistemi kendi dünyasına alıyor.
16:37
Speaker A
O dış katmanın belki o framework'ün artık görevi kalmadığı için.
16:40
Speaker A
Tamamen hafızadan da kaldırılıyor.
16:42
Speaker A
Yer tasarrufu yapmak için.
16:44
Speaker A
Bu dünya gelişirken tabii TensorFlow framework'ü.
16:48
Speaker A
Bu framework'lerin de malum şeyleri var.
16:52
Speaker A
Değişik kütüphanelerin isimleri ve bunların çalıştırdığı yapılar var.
16:56
Speaker A
TensorFlow tabii çok öne çıkmaya başlamıştı.
17:00
Speaker A
Google'ın büyük oranda desteklediği bir kütüphane.
17:03
Speaker A
Eee ve Google tarafından eee bir işlemci özel işlemci tasarımına gidildi.
17:08
Speaker A
Onlara da TPU Tensor Processing Unit ismi verilen.
17:12
Speaker A
Bir TPU ismi verildi.
17:15
Speaker A
Daha da odaklanmış, daha da özelleşmiş, tamamen kendi kütüphaneleri üstünde.
17:22
Speaker A
Yani eskiden nasıldı bakın tarihsel süreci bilhassa anlattım size, CPU varken grafiğe özel bir işlemciye geçildi.
17:29
Speaker A
GPU ismi verildi.
17:30
Speaker A
GPU varken şimdi artık daha da özelleşmiş, tamamen bu yapay sinir ağlarına özel.
17:36
Speaker A
Derin öğrenmeye, deep learning'e özel işlemciler tasarlandı.
17:39
Speaker A
Grafik GPU'ların çıkış amacı neydi aslında grafik arayüzü.
17:44
Speaker A
Ekran da gözükecekleri üç boyutlu işlemleri yapmaktı çıkış itibarıyla baktığınızda.
17:50
Speaker A
90'lardan beri var olan bir teknolojiden bahsediyoruz.
17:52
Speaker A
Belki eee bu derin öğrenmeye giriş 2000'lerin başında başlamıştır.
17:55
Speaker A
Ki 90'larda da vardı.
17:56
Speaker A
Daha sonrasında da böyle bir yapıya geçişti.
17:59
Speaker A
Şimdi bu yapıya baktığımızda da eee artık tamamen bu işe odaklanmış.
18:03
Speaker A
Yapay sinir ağlarına odaklanmış işlemcilerden bahsediyoruz.
18:06
Speaker A
Ama şunu görmeniz lazım.
18:08
Speaker A
TPU genel amaçlı bir işlemci değil.
18:11
Speaker A
Yani siz mesela CPU'da çalıştırdığınız o çok genel amaçlı işleri TPU'da çalıştıramazsınız.
18:15
Speaker A
Hatta GPU'da bile çalıştıramazsınız.
18:17
Speaker A
GPU grafiğe özel özelleştirilmiş bir işlemciyken TPU tamamen bazı.
18:22
Speaker A
Yani böyle diyelim.
18:24
Speaker A
TPU'nun dışında da başka processing unit'ler var, işlemciler var.
18:32
Speaker A
Bu işlemcilerin tamamı için şunu söyleyebiliriz.
18:36
Speaker A
O kütüphaneye, o amaca yöneltilmiş, o derin öğrenme task'ına yöneltilmiş.
18:43
Speaker A
Yönlendirilmiş özel bir işlemci olarak görebilirsiniz.
18:46
Speaker A
Orada çok iyi, çok başarılı.
18:48
Speaker A
Verilen işi sadece yapıyor, verilen işe odaklanmış.
18:51
Speaker A
Ama onun dışındaki işleri yapamıyor.
18:53
Speaker A
Genelde bu tip yapılar bakın fark ettiyseniz.
18:56
Speaker A
Giderek özelleşiyor.
19:00
Speaker A
Özelleştikçe diğer yapıdan kopamazsınız.
19:02
Speaker A
Kurtulamazsınız.
19:03
Speaker A
Hala sizin bir bilgisayarınız olmalı.
19:06
Speaker A
Hala CPU'nuz olmalı.
19:08
Speaker A
Onun yanında GPU'nuz olur.
19:10
Speaker A
GPU'nuz onun yanında TPU'nuz.
19:12
Speaker A
Yani bunlar genelde böyle odaklandıkça diğer taraftan kopmadan.
19:17
Speaker A
Orada detay gibi düşünülebilir.
19:20
Speaker A
O yapı olacak, ana yapı olacak, onun altında bazı detayları bu işlemcilere dağıtabilirsiniz.
19:24
Speaker A
Ki keza işte şimdi kuantum bilgisayarları konuşuluyor değil mi?
19:28
Speaker A
Kuantumda bile bilgisayarlardan tamamen kopuş mümkün değil.
19:31
Speaker A
Bazı işleri biz kuantuma bırakacağımızı artık öngörüyoruz.
19:35
Speaker A
Bunların ne olacağı, hangi konularda iyi olduğuna göre bir iş seçimi yapılıp.
19:40
Speaker A
O işlerin ilgili uzman donanıma yöneltilmesi söz konusu.
19:43
Speaker A
Tabii bütün bunlar yapılırken bir de bizim hafıza problemimiz var.
19:46
Speaker A
Hafızayla ilgili de şöyle düşünebilirsiniz.
19:50
Speaker A
Elinizde çok güçlü bir işlemci var.
19:53
Speaker A
Ama bu işlemci çok hızlı çalışan bir işlemci.
19:56
Speaker A
Bu işlemciye yetecek hafızanızın da aynı hızda olması lazım.
20:00
Speaker A
Yani şöyle düşünün.
20:02
Speaker A
İşte 3 ile 5'i topla dedi.
20:04
Speaker A
İlk örneğimize dönelim.
20:06
Speaker A
Toplamayı çok hızlı yapabilen bir elinizde insan var.
20:09
Speaker A
Çok hızlı toplama yapabiliyor.
20:11
Speaker A
Sayıları verdiniz.
20:13
Speaker A
3 ile 5'i topla dediniz.
20:14
Speaker A
Topladı, tak aldınız veriyi.
20:16
Speaker A
Şimdi adam bekliyor boşta.
20:18
Speaker A
Bir sonraki sayıları vermeniz lazım.
20:20
Speaker A
Vereceksiniz sayıları.
20:22
Speaker A
Bu sefer de 70 ile 80'i topla diyeceksiniz.
20:24
Speaker A
Alacak, toplayacak.
20:25
Speaker A
O çok hızlı toplama yapabiliyor ama siz aynı hızda verebiliyor musunuz verileri?
20:28
Speaker A
Bu verileri al bu kadar hızlı topla işini yapabiliyor musunuz?
20:30
Speaker A
Bu nerede takılabilir?
20:32
Speaker A
İşte hafızanızın hızıyla ilgili bir şey.
20:34
Speaker A
Hafızadan o veriyi ne kadar hızlı okudunuz, ne kadar hızlı yazdınız?
20:37
Speaker A
Çünkü sonucu da geri hafızaya yazıyorsunuz.
20:39
Speaker A
Veya network'te de takılabilir.
20:41
Speaker A
Delay'ler olabilir.
20:43
Speaker A
Gecikmeler.
20:44
Speaker A
O verinin o işlemciye, o ortama hızlı gelmesiyle ilgili sıkıntılar olabilir.
20:47
Speaker A
Bunların da paralelinde gelişmesi lazım.
20:50
Speaker A
Bu yani bir araba düşünün.
20:52
Speaker A
Arabanın mesela motoru çok hızlı, çok iyi.
20:54
Speaker A
Ama onu kullanan şoför o hızda kullanamıyor.
20:59
Speaker A
Gözü, eli o hıza alışık değil.
21:01
Speaker A
Onu yapamıyor.
21:02
Speaker A
O zaman gitmez o hızda araba.
21:03
Speaker A
Veya tekerlek o hızı kaldıramıyor, yanıyor belli bir hızdan sonra tekerlek.
21:07
Speaker A
O araba gitmez.
21:08
Speaker A
Dolayısıyla bir sistemin tamamının o uyumda olması lazım.
21:11
Speaker A
İşte hafızadaki gelişmeler de bununla birlikte yaşandı.
21:14
Speaker A
RAM dediğimiz bir kavram tabii.
21:16
Speaker A
Gene Random Access Memory.
21:18
Speaker A
Şöyle iki tip hafıza vardır.
21:21
Speaker A
Birisi sequential access yani ardışık erişim yapan.
21:24
Speaker A
Birisi de random access yapan.
21:26
Speaker A
Sequential access gene bilgisayar bilimlerindeki arkadaşlar çok iyi bilecektir.
21:30
Speaker A
LinkedIn gibi, tape gibi yapılar.
21:33
Speaker A
Yani tape'e mesela bir banda kaydı alırken bir verileri yazarken.
21:38
Speaker A
Belli bir sırada yazar, belli bir sırada okursunuz.
21:40
Speaker A
İleride bir veriye erişmek istiyorsanız onu sararsınız oraya kadar.
21:44
Speaker A
Ki sarmak demek önce öteki verilerin üstünden geçmek demek.
21:47
Speaker A
Sonra veriye erişirsiniz.
21:49
Speaker A
Random access nasıl bir matris gibi düşünün.
21:52
Speaker A
Adresini veriyorsunuz koordinatlarını.
21:55
Speaker A
Ben buradaki veriye erişmek istiyorum diyorsunuz.
21:57
Speaker A
Tak diye oradaki veriyi çekiyor.
21:59
Speaker A
Diğer hiçbir yere erişmenize gerek yok.
22:01
Speaker A
Adresini bildiğiniz yere erişen bir yapıdan bahsediyoruz.
22:04
Speaker A
Adres verildiğinde.
22:05
Speaker A
Şimdi Random Access Memory tabii RAM dediğimiz hafıza dediğimizde bilgisayarda ilk anlaşılan ve primary memory diye de daha literatürde geçen birincil hafıza RAM'dir.
22:10
Speaker A
RAM'in eee dışında başka hafızaları da var bilgisayarın.
22:14
Speaker A
Secondary memory dediğimiz ikincil hafıza mesela disk.
22:17
Speaker A
Veya şimdi solid state disk'ler çıktı.
22:20
Speaker A
Eskiden bunlar manyetik disklerdi.
22:22
Speaker A
Eee bunlara erişilmesi gerekiyor.
22:24
Speaker A
Burada store edebiliyoruz, veriyi bilgisayar kapansa bile kalacak halde tutmamıza yarayan yerler.
22:29
Speaker A
RAM dışındaki ikincil hafızalar.
22:31
Speaker A
Veya işte CD'ye yazabilirsiniz, USB memory'ye yazabilirsiniz.
22:34
Speaker A
Veya bir yerlere cloud'a atabilirsiniz.
22:36
Speaker A
Bu RAM teknolojisinin de birkaç tane problemi var.
22:39
Speaker A
Birisi hız.
22:40
Speaker A
Ne kadar hızlı olacağı.
22:41
Speaker A
İkincisi bu RAM'in boyutu, büyüklüğü.
22:43
Speaker A
Yani siz ne kadar veri tutacağınız.
22:45
Speaker A
Şimdi genel strateji şöyle düşünün bu VRAM'lerin, SRAM'lerin, DRAM'lerin gelişmesindeki mantık şöyle.
22:50
Speaker A
Sizin eee yeterince hızlı bir defa CPU'nun hızına yetecek bir RAM'inizin olması lazım.
22:55
Speaker A
Ama bunun dışında bir de yeterince büyük bir yapınız varsa.
22:59
Speaker A
Siz oraya belli bir büyüklükteki veriyi atıp bunları işle diyebilirsiniz.
23:02
Speaker A
Dolayısıyla hızı biraz orada tolere edebiliyorsunuz.
23:04
Speaker A
Çok büyük bir veriyi oraya yükledikten sonra aralarında CPU ile RAM çalışırken.
23:10
Speaker A
Dolayısıyla network'ten kaynaklanan bu bus olabilir veya.
23:14
Speaker A
Direkt network olabilir.
23:17
Speaker A
Ağdaki gecikme olabilir.
23:18
Speaker A
Bunu tolere etme şansınız var.
23:20
Speaker A
Veri büyüdükçe şey RAM'inizin kapasitesi büyüdükçe.
23:22
Speaker A
Bunun için de yeni teknolojiler gelişti tabii ki.
23:25
Speaker A
Ve eee bu teknolojide de bazı gelişmeleri görüyoruz.
23:30
Speaker A
CPU ile bağlanan ve CPU ile eee.
23:34
Speaker A
Bağlantılı olarak SIMD, SIMT değişik teknolojilerin olduğu yapılar.
23:38
Speaker A
Bununla birlikte çıktı.
23:40
Speaker A
Ama bunu böyle bir analoji olarak düşünecek olursanız.
23:44
Speaker A
İki tane aslında aşamamız var bizim.
23:47
Speaker A
Yapay sinir ağlarında kullanılan yapay zekada kullanılan.
23:51
Speaker A
Birisi eğitim training time'ı, birisi de inference veya query time dediğimiz.
23:54
Speaker A
Sorgulama zamanı.
23:56
Speaker A
Training time aslında algoritmanın öğrendiği zaman.
23:59
Speaker A
Verileri veriyorsunuz, bana buradan kuralları çıkart diyorsunuz.
24:02
Speaker A
Aldığı verinin üstünden kuralları çıkartıyor.
24:05
Speaker A
Pizza şöyle bir şeydir.
24:06
Speaker A
Mesela üçgen pizza olmayacağını anlıyor.
24:10
Speaker A
Yani hiç örneğini görmediği için belki üçgen pizza örneği görse onu da anlayacak.
24:14
Speaker A
Ama öyle bir şey görmediği için öyle bir şey onun için mümkün değil.
24:17
Speaker A
Eee ve bir pizzanın yuvarlak olacağıyla ilgili bir kural çıkartıyor arkada belki de.
24:21
Speaker A
Yani bunları ben tam böyle çalışmayabilir.
24:23
Speaker A
Başka ilişkiler bulabilir.
24:25
Speaker A
O ilişki yapısının nasıl olduğunu yapay sinir ağlarında tam net bilemiyoruz biliyorsunuz çoğu zaman.
24:29
Speaker A
Ama örnek olsun anlaşılsın diye veriyorum.
24:31
Speaker A
Eee ve böyle bir yapı ortaya çıkartıyor.
24:34
Speaker A
Şimdi bu çıkartılan öğrenme süreci tabii çok fazla verinin üstünde kural çıkarımı süreci.
24:37
Speaker A
Aynı bir yemek tarifini yapar gibi, yazar gibi.
24:40
Speaker A
Orada tarifi yazıyor.
24:42
Speaker A
Sonra da o tarifi alıp uyguluyor.
24:44
Speaker A
Artık pizzanın ne olduğunu biliyorsa bir resim geldiğinde onda pizza var mı yok mu bunu bulduğu yapı.
24:48
Speaker A
Eee bir de bilgisayarlarda eee tabii bu gelişmeler yaşanırken.
24:50
Speaker A
Eee uzun bir süre bilgisayar ağlarının, internetin yavaşlığından dolayı lokal çalışmak çok önemliydi güncelde.
24:57
Speaker A
Personal computer, kişisel bilgisayarlar, PC'ler kullanılıyordu.
25:00
Speaker A
Eee ve herkesin önünde bir bilgisayar ve bu bilgisayarda ne yapıyorsa yapıyordu.
25:05
Speaker A
Bütün yapacağı, çalışacağı uygulamalar orada çalışıyor.
25:08
Speaker A
Oradaki kapasite ne kadarsa onun kadar iş yapabiliyor idi.
25:11
Speaker A
Ama internetin gelişmesi, ağın gelişmesiyle, network'ün gelişmesiyle birlikte işte gigabit internetlerin gelmesi.
25:17
Speaker A
İnternette çok hızlı işlerin yapılmasıyla birlikte.
25:20
Speaker A
Uzun süre mesela tiny client'lar diyelim ki aptal bilgisayarların.
25:24
Speaker A
Olması bile konuşuldu.
25:26
Speaker A
Ne demek tiny client'lar?
25:27
Speaker A
Bilgisayarınızda RAM, CPU doğru düzgün yok.
25:30
Speaker A
Belki bilgisayarın ayakta kalmasını sağlayacak kadar var.
25:32
Speaker A
İşte basit bir tane browser çalıştırıyorsunuz.
25:35
Speaker A
Hatta Chrome OS diye Chrome browser'ının bir işletim sistemine dönüştürüldüğü Google tarafından çıkartılan böyle bilgisayarlar ve işletim sistemleri de çıktı.
25:41
Speaker A
Laptop'lar da çıktı değil mi?
25:43
Speaker A
Belki bir ara görmüşsünüzdür.
25:45
Speaker A
Bu teknolojiye geçildi.
25:47
Speaker A
Bu daha önceki bir teknoloji aslında TTY dediğimiz.
25:50
Speaker A
Yani terminal yapısı.
25:52
Speaker A
Eski ilk bilgisayarlar 1950'lerde, 60'larda, 70'lerde çıkan bilgisayarlarda.
25:57
Speaker A
Bir tane mainframe var.
25:59
Speaker A
Ana bir bilgisayar var.
26:00
Speaker A
O ana bilgisayara herkes kablosuyla bağlı.
26:05
Speaker A
Önündeki monitör ve klavye o ana bilgisayara bağlı.
26:09
Speaker A
Öyle düşünebilirsiniz.
26:11
Speaker A
Yani şimdiki network gibi düşünmeyin.
26:14
Speaker A
Network üstünden bir sunucuya bağlanan istemciler gibi.
26:17
Speaker A
Client server yapısı gibi değil.
26:19
Speaker A
Orada bir tane makine var.
26:22
Speaker A
Makine donanım olarak monitör ve klavyeleri aynı anda 10 kişiye dağıtabiliyor.
26:28
Speaker A
10 kişi bağlanıp kendi şeylerinde, kendi eee.
26:32
Speaker A
Bağlandığı terminalinde işlerini yapabiliyor.
26:36
Speaker A
İlk teknoloji böyle aslında bilgisayarların çıkışında.
26:38
Speaker A
Sonrasında kişiselleştiriliyor bu bilgisayar.
26:41
Speaker A
Her bir monitör, bir klavye herkese bunun verildiği bir yapıyı düşünün.
26:44
Speaker A
Sonrasında tekrar network'le birlikte bu yapıya geri dönüyoruz.
26:48
Speaker A
O yüzden ben hep söylerim bilgisayarda bilgisayar bilimlerinde bir teknoloji hiçbir zaman tamamen bitmez.
26:53
Speaker A
Tamamen çöp olmaz.
26:55
Speaker A
Öğrendiğiniz bir bilgisayar belki ilk başlarda şöyle bir algı olabiliyor.
27:00
Speaker A
Yani bir şey öğreniyoruz, unutacağız.
27:02
Speaker A
Ve hiçbir işe yaramayacak veya insanlık bundan vazgeçecek.
27:04
Speaker A
Kullanılan teknikler, teknolojiler, algoritmalar emin olun dönüp dönüp tekrar geliyor karşınıza.
27:09
Speaker A
Bir kullanılan teknoloji tekrar gelebiliyor.
27:11
Speaker A
Eee ve bu şu anki yapı onunla ilgili bir ara gene tiny client'lar denendi.
27:17
Speaker A
Sonrasında bunun işte sunucu tarafında daha gelişmiş teknolojilerle bugün artık task'ı atıyorsunuz, job'ı atıyorsunuz, orada çalışıyor.
27:23
Speaker A
MapReduce'ta.
27:24
Speaker A
Arayüzünün nasıl sağlanacağı bu sefer.
27:27
Speaker A
Eee ve en sonunda da The Crisis'e yapılar.
27:30
Speaker A
Virtualization'a vesaireye gittik şu anda.
27:32
Speaker A
Sanal makineler artık ulaştık.
27:34
Speaker A
Ve ama günün sonunda donanımla ilgili konuşacak olursak donanımın da iki türlü yaklaşımı var.
27:39
Speaker A
Ya alırsınız parayı verirsiniz, kendiniz bir GPU parkı yaparsınız.
27:42
Speaker A
Ya da bunu cloud'da çalıştırırsınız.
27:44
Speaker A
Cloud'da çalıştırmanın artısı ne?
27:48
Speaker A
Orada tabii bir sürü kişi çalıştırabileceği için.
27:51
Speaker A
Kaynak paylaşımı yapılabiliyor.
27:53
Speaker A
Siz kendi GPU'nuzu alıp koydunuz eve.
27:58
Speaker A
Onun soğutması, elektriğini yaktınız.
28:01
Speaker A
İşte şimdi kripto falan mine edenler de çok kullanıyor değil mi böyle şeyler?
28:04
Speaker A
Aldınız, koydunuz.
28:05
Speaker A
Bunun bir maliyeti var.
28:07
Speaker A
Elektrik maliyeti var.
28:08
Speaker A
Barındırma maliyeti var.
28:09
Speaker A
Teknoloji maliyeti var.
28:10
Speaker A
Yani bunu aldığınız gün itibarıyla o eskimeye başlıyor.
28:13
Speaker A
Maliyeti düşüyor.
28:14
Speaker A
10 liraya aldığınız şey bir yıl sonra 10 lira değil artık satsanız.
28:17
Speaker A
8 lira, 7 lira neyse bir hızla düşüyor.
28:19
Speaker A
Dolayısıyla o bir maliyet.
28:22
Speaker A
İnsanlar da diyorlar ki o zaman biz bunu cloud'dan kiralayalım.
28:25
Speaker A
Bir bu işi yapan kişilerden ihtiyacımız kadar ödeyelim.
28:29
Speaker A
Böyle bir teknoloji de var.
28:30
Speaker A
Tabii bunun artıları, eksileri var.
28:32
Speaker A
Çünkü private cloud'un yani kendi kişisel sunucularınızın diyelim ki bir veri mahremiyeti artısı var.
28:37
Speaker A
Herkes o veriyi görmüyor.
28:39
Speaker A
Dışarıya çıkmıyor.
28:40
Speaker A
Cloud'da da mahremiyet sağlanıyor bu arada sağlanmıyor değil.
28:44
Speaker A
Ama o işte biraz daha ince regülatif yapılarda falan daha ince düşünen yerlerde sıkıntı olabiliyor.
28:49
Speaker A
Gibi artılar, eksilerinden bahsedebiliriz.
28:50
Speaker A
Çok hızlı gene belki izleyen arkadaşlardan bu konuların detayına girmek isteyenler olabilir.
28:56
Speaker A
Karşılaştırma tablomuzu da hazırladık.
29:00
Speaker A
CPU, GPU, TPU'nun karşılaştırıldığı.
29:02
Speaker A
İşte üretici firmalar.
29:05
Speaker A
Genelde biliyorsunuz.
29:07
Speaker A
CPU Intel, AMD, ARM.
29:09
Speaker A
ARM eskiden böyle cep telefonu işlemcisi falan üretiyordu.
29:12
Speaker A
Sonradan bayağı bir yükseldi.
29:14
Speaker A
Şimdi biliyorsunuz Apple bu tarafa geçti.
29:17
Speaker A
Tamamen işlemcilerini o ürettiriyor.
29:19
Speaker A
AMD ile Intel uzun süre yarıştı.
29:22
Speaker A
Önce Intel vardı, AMD daha sonra çıktı.
29:24
Speaker A
Ve aralarında büyük bir rekabet oldu.
29:26
Speaker A
GPU tarafında NVIDIA, AMD.
29:29
Speaker A
Yani eskiden vardı bir sürü mesela OAK Technologies vardı.
29:32
Speaker A
Belki tarihi olmuş gitmiştir.
29:34
Speaker A
Bir sürü grafik üreticisi vardı.
29:37
Speaker A
Şimdi AMD ile NVIDIA'nın yarışı var.
29:39
Speaker A
TPU tabii özelleşmiş bir dediğim gibi.
29:43
Speaker A
Çok özel durumlarda özel kütüphanelerle kullanılan.
29:47
Speaker A
Bunun TPU'nun benzeri bir sürü bu arada işlemci olduğunu da söyleyebilirim.
29:50
Speaker A
Eee ve orada da Google'ın üretimini eee vendor olarak.
29:54
Speaker A
Bir tedarikçi olarak söyleyebiliriz.
29:56
Speaker A
Ve aralarındaki bir karşılaştırma matrisi olarak görebiliriz.
30:00
Speaker A
Gene RAM'lerle ilgili farklı RAM yapılarıyla ilgili.
30:02
Speaker A
SRAM dediğimiz static RAM'ler.
30:05
Speaker A
DRAM dediğimiz dynamic.
30:07
Speaker A
Ve VRAM dediğimizde video RAM'ler.
30:09
Speaker A
Bu üç yapı şu anda birbiriyle yarışıyorlar.
30:12
Speaker A
Daha önce işte daha önce değil hala daha kullanılıyor.
30:15
Speaker A
ROM Read Only Memory'ler.
30:16
Speaker A
Yani bilgisayarın mesela ilk açıldığında okunan kısımları genelde ROM'da tutulur.
30:22
Speaker A
Bilgisayarın işletim sistemini diskten yükleyebilmesi için gereken talimatlar oradadır mesela.
30:28
Speaker A
İşte mesela diyelim ki bir Windows DOS tabanlı bir işletim sistemi açacaksınız.
30:32
Speaker A
Master boot record'u okunması gibi bütün o operasyonlar.
30:35
Speaker A
Saat gibi bilgisayarın saati gibi.
30:37
Speaker A
Bazı kritik bilgiler oradadır mesela.
30:39
Speaker A
Onu flash RAM denilen yazılabilen bir kere yazılabilen.
30:42
Speaker A
Özel durumlarda yazılabilen ROM örnekleri vardı.
30:44
Speaker A
Tabii cache yapıları var.
30:46
Speaker A
Eee ve farklı yapılara geçiliyor tarih boyunca.
30:50
Speaker A
Böyle karşılaştırma tablolarını da koyalım.
30:53
Speaker A
Tabii register'lardan bahsetmedim.
30:54
Speaker A
İşlemcilerin kullandığı bir de register yapımız var.
30:57
Speaker A
Doğrudan işlemcinin müdahale edebildiği ve bizim de programlama olarak müdahale edebildiğimiz.
31:03
Speaker A
Aslında bir işlemcinin o işte 3 ile 5'i topluyor falan dediğim yapılar.
31:08
Speaker A
Register'larda tutuluyor.
31:10
Speaker A
Register diye geçer.
31:11
Speaker A
Register değil o işte L1, L2 yani level 1, level 2 şeklinde CPU'nun içinde olması, dışında olmasına göre.
31:17
Speaker A
Farklı yerlerde cache yapıları var.
31:20
Speaker A
Daha hızlandırmak için yapıyı.
31:22
Speaker A
Eee böyle teknolojiler de var.
31:24
Speaker A
Ama bunlar biraz daha işte bilgisayar mimarileri derslerinde falan anlattığımız konular.
31:27
Speaker A
Kabaca bu derslerde giriş yapıyoruz.
31:30
Speaker A
Kavramlara giriş yapıyoruz.
31:31
Speaker A
Dolayısıyla biraz terminolojiyi öğrendiğimiz, terminolojiyi tanıdığımız, yapıyı öğrendiğimiz bir teknoloji olarak.
31:35
Speaker A
Bir ders olarak, video olarak burada da bahsedebiliriz.
31:38
Speaker A
Bir sonraki dersimizde artık modellere geçeceğiz.
31:42
Speaker A
Model nasıl öğrenir?
31:43
Speaker A
Yani Generative AI'da bir modelin eğitilmesi nedir, pre-training nedir, fine-tuning nedir?
31:49
Speaker A
RLHF yani Reinforcement Learning Human Feedback nedir?
31:54
Speaker A
Bu kavramlardan bahsedeceğiz.
31:56
Speaker A
Bu derste de böyle donanımlara biraz giriş yapmış.
31:59
Speaker A
Terminolojiye giriş yapmış.
32:01
Speaker A
Biraz yapıyı öğrenmiş.
Topics:Yapay ZekaCPUGPUDonanımVon Neumann MakinesiAritmetik Logic UnitMultitaskingParalel İşlemRAM TürleriBilgisayar Kavramları

Frequently Asked Questions

CPU nedir ve yapay zekada neden önemlidir?

CPU, Merkezi İşlem Birimi olarak bilgisayarın ana beynidir ve temel aritmetik ve lojik işlemleri yapar. Yapay zekada verilerin işlenmesi için gerekli hesaplama gücünü sağlar.

GPU'nun yapay zeka donanımındaki rolü nedir?

GPU, paralel işlem yeteneği sayesinde grafik işlemenin yanı sıra yapay zeka algoritmalarını hızlandırır ve büyük veri setlerinin işlenmesini kolaylaştırır.

Von Neumann makinesi neyi ifade eder?

Von Neumann makinesi, işlemci, hafıza ve giriş-çıkış birimlerinden oluşan genel amaçlı bilgisayar tasarımıdır ve modern bilgisayarların temel mimarisini oluşturur.

Get More with the Söz AI App

Transcribe recordings, audio files, and YouTube videos — with AI summaries, speaker detection, and unlimited transcriptions.

Or transcribe another YouTube video here →