Von Neumann: Transformer Paradigması Sınırlar ve Uzay

Yönetici Özeti

Yapay zeka (YZ) ve yüksek performanslı hesaplama (HPC) dünyası, tarihsel bir dönüm noktasında bulunmaktadır. Onlarca yıldır bilişim sistemlerinin temelini oluşturan Von Neumann mimarisi, modern veri yoğunluklu iş yükleri karşısında fiziksel ve enerjetik sınırlarına ulaşmıştır. “Von Neumann Darboğazı” olarak bilinen bu fenomen, işlemci hızları ile bellek erişim hızları arasındaki makasın açılmasıyla derinleşmiş ve “Bellek Duvarı” (Memory Wall) adı verilen aşılamaz bir engele dönüşmüştür. Bu durum, özellikle enerji bütçesinin son derece kısıtlı olduğu uzay havacılığı uygulamalarında, otonom sistemlerin potansiyelini ciddi şekilde sınırlamaktadır. Eş zamanlı olarak, son on yıla damgasını vuran Transformer derin öğrenme mimarisi, benzeri görülmemiş bir başarı yakalamasına rağmen, $O(N^2)$ hesaplama karmaşıklığı ve devasa bellek bant genişliği gereksinimleri nedeniyle kendi sınırlarına dayanmış durumdadır.

Mevcut hesaplama paradigmalarının fiziksel ve algoritmik kısıtlamalarını en ince ayrıntısına kadar incelemektedir. Rapor, veri hareketinin enerji maliyetinden (pJ/bit) Transformer modellerindeki “Lost-in-the-Middle” (Ortada Kaybolma) fenomenine, Mamba ve RWKV gibi yeni nesil lineer karmaşıklıklı mimarilerden, NASA’nın RISC-V tabanlı Yüksek Performanslı Uzay Uçuşu Bilgisayarı (HPSC) projesine kadar geniş bir yelpazeyi kapsamaktadır. Analizler, uzay keşfinin geleceğinin, brüt işlem gücüne dayalı mevcut yaklaşımlardan ziyade, veriyi yerinde işleyen nöromorfik yapılar, durum uzayı modelleri (SSM) ve nedensel “Dünya Modelleri” (World Models) gibi enerji verimli ve biyolojik olarak ilham alınmış mimarilere geçişe bağlı olduğunu ortaya koymaktadır.

Şu yazılar ilginizi çekebilir.

1. Von Neumann Darboğazı: Fiziksel Temeller, Enerji Maliyetleri ve Bellek Duvarı

Modern bilgisayar biliminin temel taşı olan Von Neumann mimarisi, 1945 yılında John von Neumann tarafından “First Draft of a Report on the EDVAC” başlıklı raporda resmileştirilmiştir. Bu mimari, işlem birimi (CPU) ile veri ve komutları saklayan bellek biriminin fiziksel ve mantıksal olarak ayrılması prensibine dayanır.¹ Bu ayrım, genel amaçlı bilgisayarların (general-purpose computers) esnekliğini ve programlanabilirliğini sağlamış olsa da, günümüzün veri odaklı yapay zeka çağında sistem performansını kısıtlayan en büyük faktör haline gelmiştir.

1.1 Mimarinin Anatomisi ve Darboğazın Oluşumu

Von Neumann mimarisinde, merkezi işlem birimi bir komutu veya veriyi işlemek için mutlaka belleğe erişmek zorundadır. Komutlar ve veriler aynı veri yolu (bus) üzerinden işlemciye taşınır. Bu durum, “Fetch-Decode-Execute” (Getir-Çöz-Yürüt) döngüsünün, veri yolunun hızıyla sınırlı kalmasına neden olur. İşlemci hızları, Moore Yasası uyarınca transistör yoğunluğunun artmasıyla her 18-24 ayda bir ikiye katlanarak üstel bir artış göstermiştir. Ancak, bellek teknolojileri (DRAM) aynı hızda gelişmemiş, özellikle bellek erişim süresi (latency) konusunda işlemcilerin çok gerisinde kalmıştır.

Son kırk yılda, işlemci performansı ile bellek performansı arasındaki fark yılda yaklaşık %50 oranında açılmıştır. Bugün bu fark 1000 kattan fazladır. İşlemciler saniyede milyarlarca işlem yapabilme kapasitesine sahipken, bellekten veri gelmesini bekledikleri “idle” (boşta) süreler, toplam işlem süresinin büyük bir kısmını oluşturmaktadır.² Bu fenomene “Bellek Duvarı” (Memory Wall) adı verilir. Modern derin öğrenme algoritmaları, özellikle büyük dil modelleri (LLM), bu duvarın etkilerini en şiddetli şekilde hisseden uygulamalardır.

1.2 Veri Hareketinin Fiziği: Hesaplama vs. Taşıma Enerjisi

Uzay uygulamalarında en kritik kaynak enerjidir. Bir uzay aracının güç bütçesi, güneş panellerinin verimliliği ve batarya kapasitesi ile sınırlıdır. Bu bağlamda, Von Neumann darboğazı sadece bir hız sorunu değil, aynı zamanda bir enerji krizidir. Dijital sistemlerde enerji tüketimi iki ana kalemde incelenir: transistörlerin anahtarlanmasıyla harcanan hesaplama enerjisi ve verinin teller (interconnects) üzerinden taşınmasıyla harcanan veri hareket enerjisi.

Fiziksel yasalar, veriyi taşımanın (kapasitif yükleri şarj edip deşarj etmenin), veriyi işlemekten çok daha maliyetli olduğunu göstermektedir. 7nm ve 5nm gibi gelişmiş üretim teknolojilerinde yapılan ölçümler, bu dengesizliği çarpıcı bir şekilde ortaya koymaktadır. Bir aritmetik mantık biriminde (ALU) 32-bitlik bir toplama işlemi yapmak veya kayan nokta (floating point) çarpma işlemi gerçekleştirmek 1 pikojoule (pJ) altında enerji gerektirirken, aynı veriyi ana bellekten (DRAM) getirmek yüzlerce, hatta binlerce kat daha fazla enerji tüketmektedir.³

Aşağıdaki tablo, farklı bellek erişim türlerinin ve hesaplama işlemlerinin enerji maliyetlerini karşılaştırmalı olarak sunmaktadır:

İşlem Türü (45nm – 7nm arası verilerle normalize edilmiştir)	Yaklaşık Enerji Maliyeti (pJ)	Göreli Maliyet
32-bit Tamsayı Toplama (ADD)	~0.1 pJ	1x
32-bit Kayan Nokta Çarpma (F-MULT)	~3.7 pJ	~37x
Önbellek (SRAM) Erişimi (8KB – 32KB)	~5 – 10 pJ	~50x – 100x
Ana Bellek (DRAM/LPDDR) Erişimi	640 – 1000+ pJ	6400x – 10000x
Off-Chip Veri Transferi	1000+ pJ	10000x+

Bu veriler ışığında, modern bir yapay zeka işlemcisinin enerji tüketiminin %90’ından fazlasının hesaplama yapmak için değil, veriyi bellekten işlemciye taşımak için harcandığı görülmektedir. Bu duruma “Von Neumann Vergisi” diyebiliriz. Uzayda çalışan bir otonom navigasyon sistemi için bu, her bir watt enerjinin büyük kısmının telleri ısıtmak için harcandığı ve “zeka” üretimine çok az enerjinin kaldığı anlamına gelir.

1.3 Modern Yarı İletken Süreçlerinde (5nm, 3nm) Durum

Yarı iletken teknolojisi 7nm, 5nm ve 3nm düğümlerine (node) doğru ilerledikçe, transistörler daha küçük, daha hızlı ve daha enerji verimli hale gelmektedir. Ancak, çip üzerindeki bakır bağlantı yolları (interconnects) aynı oranda küçülmemektedir. Aksine, teller inceldikçe dirençleri artmakta ve RC gecikmeleri (Resistance-Capacitance delay) baskın hale gelmektedir. Bu durum, işlemci çekirdekleri içindeki hesaplama verimliliğini artırırken, veriyi çip üzerinde bir noktadan diğerine taşımanın enerji maliyetinin toplam bütçe içindeki payını daha da artırmaktadır.⁵

Özellikle GPU ve TPU gibi yapay zeka hızlandırıcılarında, bellek bant genişliği (memory bandwidth) performansı belirleyen ana faktördür. NVIDIA H100 veya AMD MI300 gibi modern işlemciler, Yüksek Bant Genişlikli Bellek (HBM) teknolojileri kullanarak bu sorunu hafifletmeye çalışsa da, temel mimari hala işlemci ve belleğin ayrık olduğu Von Neumann prensibine dayandığı için sorun kökten çözülememektedir. HBM bellekler, veriyi işlemciye daha yakın bir konuma (2.5D paketleme ile) getirerek enerji maliyetini düşürse de (LPDDR’a göre daha düşük pJ/bit), toplam güç tüketimi hala devasa boyutlardadır.⁷

1.4 Uzay Uygulamaları İçin Kritik Çıkarımlar

NASA’nın derin uzay misyonlarında (örneğin Mars yüzeyindeki bir gezgin veya Europa’ya inecek bir araç), enerji üretimi Güneş’e olan uzaklık veya Radyoizotop Termoelektrik Jeneratörlerinin (RTG) kapasitesi ile sınırlıdır. Karasal veri merkezlerinde binlerce watt güç çekebilen AI modellerini uzayda çalıştırmak, Von Neumann mimarisinin getirdiği bu enerji verimsizliği nedeniyle mümkün değildir. Bu durum, uzayda çalışacak yapay zeka modelleri için ya çok daha verimli mimarilere geçilmesini ya da mevcut modellerin (Transformer gibi) ciddi şekilde optimize edilmesini zorunlu kılmaktadır.

2. Transformer Paradigması: Yapısal Analiz, Başarılar ve Kısıtlamalar

2017 yılında “Attention Is All You Need” makalesiyle tanıtılan Transformer mimarisi, Doğal Dil İşleme (NLP) ve Bilgisayarlı Görü (Computer Vision) alanlarında bir devrim yaratmıştır. Ancak, bu mimari, Von Neumann darboğazını daha da derinleştiren ve kendi içinde ölçeklenebilirlik sorunları barındıran özelliklere sahiptir.

2.1 Öz-Dikkat (Self-Attention) Mekanizması ve $O(N^2)$ Karmaşıklığı

Transformer’ın kalbinde “Öz-Dikkat” mekanizması yatar. Bu mekanizma, bir girdi dizisindeki her bir elemanın (token), dizideki diğer tüm elemanlarla olan ilişkisini hesaplamasını sağlar. Bu sayede model, uzun mesafeli bağımlılıkları (long-range dependencies) yakalayabilir ve bağlamı anlayabilir. Ancak bu yeteneğin matematiksel bedeli ağırdır.

$N$ uzunluğunda bir dizi için, Öz-Dikkat mekanizması $N \times N$ boyutunda bir dikkat matrisi hesaplar. Bu işlem, hesaplama karmaşıklığının ve bellek gereksiniminin $N$’in karesiyle ($O(N^2)$) artmasına neden olur.

Matematiksel olarak dikkat işlemi şu şekilde ifade edilir:

$$Attention(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V$$

Burada $Q$ (Sorgu), $K$ (Anahtar) ve $V$ (Değer) matrisleridir. $QK^T$ çarpımı, $N \times N$ boyutunda bir matris üretir.

Kısa Bağlamlar: Kısa metinler veya düşük çözünürlüklü görüntüler için bu maliyet yönetilebilir düzeydedir.
Uzun Bağlamlar: Uzay misyonlarında, örneğin günlerce süren telemetri verilerinin analizi veya yüksek çözünürlüklü gezegen yüzeyi taramaları gibi “sonsuz” uzunluktaki veri akışlarında, $O(N^2)$ karmaşıklığı bir duvara toslar. Dizi uzunluğu iki katına çıktığında, işlem yükü dört katına çıkar. Bu durum, Transformer modellerinin çok uzun süreli verileri işlemesini pratik olarak imkansız hale getirir.⁹

2.2 KV Önbelleği (KV Cache) ve Bant Genişliği Darboğazı

Transformer modelleri genellikle “otoregresif” (autoregressive) çalışır; yani bir sonraki kelimeyi veya veriyi tahmin ederken geçmişteki tüm verileri kullanır. Modelin her adımda geçmiş verilerin temsillerini (key ve value vektörleri) yeniden hesaplamaması için, bu değerler GPU belleğinde (VRAM) saklanır. Bu yapıya KV Önbelleği (Key-Value Cache) denir.

KV Cache, modern LLM çıkarımında (inference) en büyük bellek darboğazını oluşturur:

Bellek Kapasitesi: KV Cache boyutu, dizi uzunluğu ($N$) ve katman sayısı ile doğrusal olarak büyür. Uzun bağlamlı bir sohbette veya analizde, KV Cache gigabytelarca yer kaplayarak GPU belleğini doldurabilir. Bu durum “Out of Memory” (OOM) hatalarına yol açar.
Bellek Bant Genişliği: Her bir yeni token üretildiğinde, işlemci tüm KV Cache verisini bellektrn (HBM) çip üzerindeki işlem birimlerine taşımak zorundadır. Bu işlemdeki “aritmetik yoğunluk” (arithmetic intensity) son derece düşüktür; yani yapılan işlem başına çok fazla veri transferi gerektirir. Sonuç olarak, GPU’nun hesaplama gücü (FLOPS) ne kadar yüksek olursa olsun, sistem bellek bant genişliği ile sınırlanır (memory-bound). Uzay araçlarında kullanılan radyasyona dayanıklı belleklerin bant genişliği karasal HBM belleklere göre çok daha düşük olduğundan, bu sorun uzayda katlanarak büyür.⁹

2.3 Fonksiyonel Kısıtlamalar: “Lost-in-the-Middle” ve “Reversal Curse”

Donanım kısıtlamalarının ötesinde, Transformer mimarisinin algoritmik yapısında da bazı temel eksiklikler tespit edilmiştir.

2.3.1 “Lost-in-the-Middle” (Ortada Kaybolma) Fenomeni

Araştırmalar, geniş bağlam penceresine (context window) sahip LLM’lerin, verinin tamamına eşit derecede odaklanamadığını göstermiştir. Modeller, girdinin başındaki (primacy effect) ve sonundaki (recency effect) bilgilere yüksek doğrulukla erişebilirken, bağlamın ortasında yer alan bilgileri gözden kaçırma eğilimindedir. Bu durum, bir U-eğrisi şeklinde performans grafiği oluşturur.¹²

Uzay Misyonu Örneği: Bir Mars gezgini, 24 saatlik sensör verisini analiz ederken, 12. saatte (verinin tam ortasında) gerçekleşen kritik bir voltaj dalgalanmasını tespit edemeyebilir. Bu “dikkat kaybı”, güvenlik açısından kritik sistemlerde kabul edilemez bir risktir.

2.3.2 “Reversal Curse” (Tersine Çevirme Laneti)

Otoregresif modeller, veriyi soldan sağa (veya tek yönlü) okuyarak eğitildikleri için, nedensel ilişkileri tersine çevirmekte zorlanırlar. Eğer model “A, B’dir” şeklinde eğitilmişse, “B nedir?” sorusuna cevap veremeyebilir. Buna Reversal Curse denir.¹⁵

Örnek: Model, “Neil Armstrong, Ay’a ayak basan ilk insandır” cümlesiyle eğitildiyse, “Ay’a ayak basan ilk insan kimdir?” sorusunu cevaplayabilir. Ancak, eğitim verisinde tersi yoksa, model bu basit mantıksal çıkarımı yapamayabilir. Arıza tespiti senaryolarında, “Valf arızası basınç düşüşüne neden olur” bilgisini öğrenen bir modelin, basınç düşüşü gördüğünde “Valf arızası” teşhisini koyamaması (tersine çıkarım yapamaması) hayati bir eksikliktir.¹⁷

2.4 Planlama Eksikliği, Halüsinasyonlar ve “Dünya Modeli” Yoksunluğu

Yann LeCun gibi önde gelen yapay zeka araştırmacıları, mevcut LLM’lerin gerçek bir “zekaya” sahip olmadığını savunmaktadır. Bu modeller, fiziksel dünyanın, neden-sonuç ilişkilerinin veya nesne sürekliliğinin bir iç modeline (World Model) sahip değildir. Sadece istatistiksel olarak bir sonraki kelimeyi tahmin etmeye çalışırlar.¹⁹

Planlama: LLM’ler, bir hedefe ulaşmak için gereken adımları zihinsel olarak simüle edemezler. Bir satranç oyuncusu gibi hamleleri önceden düşünüp sonuçlarını değerlendiremezler; sadece o an için en olası hamleyi yaparlar. Bu durum, karmaşık görevlerde tutarsızlığa ve hatalı planlara yol açar.²¹
Halüsinasyon: Gerçek dünya ile doğrulanabilir bir bağları olmadığı için, modeller inandırıcı ama tamamen uydurma bilgiler üretebilirler. Uzay operasyonlarında bir astronota yanlış bir tamir prosedürü öneren veya yer kontrolüne hatalı telemetri yorumu yapan bir yapay zeka, felakete yol açabilir. Halüsinasyonları önlemek için kullanılan RAG (Retrieval Augmented Generation) gibi yöntemler de dış veri kaynağının kalitesine bağımlıdır ve sorunu kökten çözmez.²³

3. Yeni Nesil Mimariler: Doğrusal Dikkat ve Durum Uzayı Modelleri (Mamba & RWKV)

Transformer’ın $O(N^2)$ maliyeti ve Von Neumann darboğazı ile olan uyumsuzluğu, araştırmacıları doğrusal karmaşıklığa ($O(N)$) sahip, yani dizi uzunluğuyla orantılı olarak artan ancak karesel büyümeyen mimarilere yöneltmiştir. Bu alandaki en umut verici iki aday Mamba (State Space Models) ve RWKV‘dir.

3.1 RWKV (Receptance Weighted Key Value): RNN ve Transformer’ın Hibritleşmesi

RWKV, Transformer’ların paralel eğitilebilirliğini, Tekrarlayan Sinir Ağlarının (RNN) verimli çıkarım (inference) yeteneği ile birleştiren bir mimaridir. İsmini mimaride kullanılan dört ana parametreden alır: R (Receptance), W (Weight), K (Key) ve V (Value).²⁵

3.1.1 Çalışma Prensibi ve Matematiksel Temel

RWKV, standart dikkat mekanizmasındaki $QK^T$ matris çarpımını kaldırır ve yerine lineer bir yineleme (recurrence) koyar. “Linear Attention” (Doğrusal Dikkat) prensibine dayanan bu yapı, geçmiş bilgiyi sabit boyutlu bir “durum” (state) içinde saklar.

Token Shift (Zaman Kaydırma): RWKV, her adımda mevcut girdiyi ($x_t$) bir önceki adımdaki girdi ($x_{t-1}$) ile karıştırır. Bu işlem, modelin yerel bağlamı (local context) çok ucuza yakalamasını sağlar.
WKV Mekanizması: Dikkat ağırlıkları, zamanla sönümlenen (decay) bir ağırlık vektörü ($W$) ile kontrol edilir. Bu, modelin ne kadar geçmişi hatırlayacağını belirler.

Matematiksel olarak basitleştirilmiş bir RWKV zaman karıştırma (time-mixing) işlemi şu şekildedir:

$$wkv_t = \frac{\sum_{i=1}^{t-1} e^{-(t-1-i)w + k_i} v_i + e^{u+k_t} v_t}{\sum_{i=1}^{t-1} e^{-(t-1-i)w + k_i} + e^{u+k_t}}$$

Bu formül yinelemeli (recursive) olarak hesaplanabilir, böylece tüm geçmişi hafızada tutmaya gerek kalmaz.25

3.1.2 Avantajları

Sabit Bellek ($O(1)$): Dizi ne kadar uzun olursa olsun, çıkarım sırasında kullanılan bellek miktarı sabittir. Devasa bir KV Cache tutmaya gerek yoktur. Bu, bellek bant genişliği darboğazını (Von Neumann Vergisi) doğrudan elimine eder.
Hız: Çıkarım hızı sabittir ve Transformer’lara göre çok daha hızlıdır.²⁷

3.2 Mamba ve Seçici Durum Uzayı Modelleri (Selective SSMs)

Mamba, kontrol teorisinden türetilen Durum Uzayı Modelleri’ne (SSM) dayanır. 2023 sonunda Gu ve Dao tarafından tanıtılan Mamba, “Seçici” (Selective) mekanizmasıyla SSM’lerin en büyük eksikliği olan “bağlam duyarlılığı” sorununu çözmüştür.

3.2.1 Matematiksel Altyapı

Sürekli zamanlı bir sistem şu şekilde ifade edilir:

$$h'(t) = A h(t) + B x(t)$$

$$y(t) = C h(t)$$

Mamba, bu sürekli denklemi dijital bilgisayarlarda işlemek için ayrıklaştırır (discretization). Ayrıklaştırma adımı $\Delta$ (delta) parametresi ile kontrol edilir:

$$h_t = \bar{A} h_{t-1} + \bar{B} x_t$$

3.2.2 Seçici Tarama (Selective Scan) ve Veri Bağımlılığı

Geleneksel SSM’lerde $A, B, C$ matrisleri sabittir (Time-Invariant). Bu durum modelin eğitimi hızlı (convolution ile) yapmasını sağlar ancak modelin girdiye göre dinamik davranmasını engeller. Mamba, bu matrisleri girdinin bir fonksiyonu ($B(x_t), C(x_t), \Delta(x_t)$) haline getirir.

Bu “Seçicilik”, modelin hangi bilgiyi saklayacağına (State’e yazacağına) ve hangisini unutacağına o anki veriye bakarak karar vermesini sağlar. Transformer’daki “Attention” mekanizmasının yaptığı işi, $O(N)$ karmaşıklığıyla yapar.²⁹

3.2.3 Donanım Duyarlı Paralel Tarama (Hardware-Aware Parallel Scan)

Mamba’nın en büyük inovasyonu, yinelemeli (recurrent) işlemi GPU üzerinde paralelleştiren algoritmasıdır. Standart bir for döngüsü GPU’da yavaştır. Mamba, “Parallel Associative Scan” (koşut İlişkisel Tarama) algoritmasını kullanır.

Daha da önemlisi, Mamba Kernel Fusion tekniğini kullanır. $A, B, C, \Delta$ parametrelerini yavaş olan HBM (DRAM) belleğinden hızlı olan SRAM (Önbellek) belleğine yükler, tüm hesaplamayı SRAM içinde yapar ve sadece sonucu geri yazar. Bu yaklaşım, bellek I/O trafiğini minimize ederek Von Neumann darboğazını aşar ve Transformer’lara göre 5 kat daha yüksek çıkarım hızı (throughput) sağlar.³¹

3.3 Mamba-2 ve Durum Uzayı Dualitesi (SSD)

Mamba-2, SSM’ler ile Doğrusal Dikkat mekanizmaları arasında teorik bir bağ kurmuştur: State Space Duality (SSD). Bu teori, belirli yapıdaki matrislerin (semi-separable matrices) hem SSM hem de Dikkat mekanizması olarak ifade edilebileceğini gösterir. Bu sayede Mamba-2, GPU’ların matris çarpım birimlerini (Tensor Cores) daha verimli kullanarak eğitim hızını daha da artırır.³³

Özellik	Transformer	RWKV	Mamba (SSM)
Karmaşıklık	$O(N^2)$ (Karesel)	$O(N)$ (Doğrusal)	$O(N)$ (Doğrusal)
Çıkarım Belleği	Artan (KV Cache)	Sabit ($O(1)$)	Sabit ($O(1)$)
Eğitim	Paralel	Paralel	Paralel (Scan ile)
İçerik Kopyalama	Mükemmel	Orta	Orta (Durum sıkıştırması nedeniyle)
Uzun Bağlam	Sınırlı (Bellek yetmezliği)	Çok İyi (Unutma sorunu olabilir)	Mükemmel (Seçicilik sayesinde)

Tablo, Mamba ve RWKV’nin özellikle uzun bağlamlı ve bellek kısıtlı uzay uygulamaları için Transformer’a göre neden daha uygun olduğunu özetlemektedir.

4. Dünya Modelleri ve Otonom Planlama (JEPA)

Mimari verimliliğin ötesinde, yapay zekanın “akıl yürütme” yeteneği de sorgulanmaktadır. Yann LeCun’un öncülüğünü yaptığı Joint Embedding Predictive Architecture (JEPA), üretken (generative) modellerin eksikliklerini gidermeyi hedefler.

4.1 Tahmin vs. Üretim (Prediction vs. Generation)

Mevcut LLM’ler ve difüzyon modelleri “üretkendir”; yani pikselleri veya kelimeleri tek tek tahmin ederek bir çıktı oluştururlar. Bu işlem çok detaylıdır ve hataya açıktır. JEPA ise tahmin edicidir; ancak pikselleri değil, verinin soyut temsilini (embedding) tahmin eder.

JEPA, girdinin bir kısmını (context) alır ve maskelenmiş diğer kısmının soyut temsilini tahmin etmeye çalışır. Bu süreçte, gereksiz detayları (örneğin bir videodaki ağaç yapraklarının rastgele hareketi) atar ve sadece önemli anlamsal bilgiyi (arabanın yoldaki hareketi) öğrenir. Bu, modelin bir “Dünya Modeli” oluşturmasını, yani fiziksel dünyanın nasıl işlediğine dair bir içgörü kazanmasını sağlar.³⁵

4.2 Latent Uzayda Planlama ve Halüsinasyonsuzluk

JEPA, gelecekteki durumları soyut uzayda simüle edebilir. Bu, bir robotun veya uzay aracının, bir eylemi gerçekleştirmeden önce sonucunu “hayal etmesine” ve plan yapmasına olanak tanır.

Planlama: Model, $State_t$ durumundan $Action$ eylemiyle hangi $State_{t+1}$ durumuna geçeceğini tahmin eder. Bunu yaparken üretken modeller gibi her pikseli oluşturmak zorunda olmadığı için çok hızlıdır.
Doğruluk: Üretken olmadığı için “halüsinasyon” (gerçekte olmayan detaylar uydurma) problemi minimize edilmiştir. Model sadece sistemin durumunu tahmin eder, hikaye uydurmaz.³⁵

Bu özellikler, JEPA’yı, hatanın tolere edilemeyeceği Mars yüzey operasyonları veya otonom kenetlenme manevraları için ideal bir aday yapmaktadır.

5. NASA HPSC: Uzay İçin Yüksek Performanslı Hesaplama

NASA, yukarıda tartışılan modern algoritmaları çalıştırabilecek donanım altyapısını oluşturmak amacıyla Yüksek Performanslı Uzay Uçuşu Bilgisayarı (HPSC – High-Performance Spaceflight Computing) projesini başlatmıştır. Bu proje kapsamında Microchip Technology ve SiFive ile işbirliği yapılarak, mevcut uzay işlemcilerinden (RAD750 gibi) 100 kat daha güçlü bir çip geliştirilmektedir.

5.1 RISC-V Mimarisi ve Vektör Uzantıları (RVV)

HPSC, açık kaynaklı RISC-V komut seti mimarisini (ISA) temel alır. İşlemci, SiFive tarafından tasarlanan X280 çekirdeklerini kullanır.

Çok Çekirdekli Yapı: HPSC, heterojen bir yapıya sahiptir. Toplamda 12 çekirdekli bir kümeleme (cluster) yapısı (8 adet X280 + 4 adet genel amaçlı çekirdek) sunarak esneklik sağlar.³⁸
RISC-V Vektör Uzantısı (RVV 1.0): HPSC’nin en kritik özelliği, yapay zeka iş yüklerini hızlandırmak için donanımsal vektör ünitelerine sahip olmasıdır. X280 çekirdekleri, 512-bit genişliğinde vektör kayıtçılarına (register) sahiptir. Bu üniteler, tek bir komutla büyük veri dizileri üzerinde matematiksel işlem yapabilir (SIMD). Bu özellik, sinir ağlarının temelini oluşturan tensör işlemlerini (matris çarpımı, konvolüsyon) CPU üzerinde son derece verimli bir şekilde çalıştırmayı mümkün kılar.³⁹

Önemli: RVV sayesinde, HPSC üzerinde Mamba veya Transformer modellerinin “quantized” (INT8) versiyonları, özel bir GPU’ya ihtiyaç duymadan, doğrudan CPU üzerinde yüksek performansla çalıştırılabilir.

5.2 WorldGuard ve Donanım Tabanlı İzolasyon

Uzay araçlarında, uçuş kontrol yazılımı (gn&c) ile deneysel yapay zeka yazılımlarının aynı işlemci üzerinde çalışması büyük bir risk oluşturur. Yapay zekanın yapacağı bir hata veya bellek taşması, aracı kontrolden çıkarabilir.

HPSC, bu riski yönetmek için SiFive WorldGuard teknolojisini kullanır.

Çalışma Prensibi: WorldGuard, işlemci içindeki veri yoluna (bus) ve bellek denetleyicisine donanımsal etiketler (World ID – WID) ekler. Her işlem (transaction), hangi “Dünya”dan (World) geldiğine dair bir kimlik taşır.
İzolasyon: Örneğin, hayati uçuş yazılımı World_0 (Güvenli) olarak etiketlenirken, otonom görüntü işleme yazılımı World_1 (Güvensiz) olarak etiketlenir. Donanım, World_1’den gelen hiçbir isteğin World_0’a ait belleğe veya çevresel birime (örneğin motor kontrolcüsüne) erişmesine izin vermez. Bu koruma yazılım seviyesinde değil, fiziksel donanım seviyesinde gerçekleşir, dolayısıyla yazılım hataları bu korumayı aşamaz.⁴²

5.3 Radyasyon Toleransı ve Hata Yönetimi

HPSC, uzaydaki ağır iyon bombardımanına ve kozmik radyasyona dayanacak şekilde “Radiation-Hardened by Design” (RHBD) teknikleriyle üretilmektedir.

Dual-Core Lockstep (DCLS): Kritik işlemlerde, iki çekirdek aynı kodu aynı anda çalıştırır ve sonuçları karşılaştırır. Eğer sonuçlar uyuşmazsa (bir bit hatası/SEU oluşmuşsa), işlemci hatayı tespit eder ve düzeltir.
Güç Yönetimi: RISC-V mimarisi, kullanılmayan çekirdeklerin veya vektör ünitelerinin gücünü tamamen kesebilir (power gating). Bu, HPSC’nin sadece gerektiğinde yüksek performans moduna geçmesini, diğer zamanlarda ise minimum enerjiyle çalışmasını sağlar.⁴⁵

6. Nöromorfik Hesaplama: Biyolojik İlham ve Radyasyon Toleransı

NASA, HPSC gibi dijital işlemcilerin ötesinde, insan beyninin çalışma prensiplerini taklit eden Nöromorfik Hesaplama teknolojilerini de araştırmaktadır. Bu alanda Intel’in Loihi ve Loihi 2 çipleri öne çıkmaktadır.

6.1 Çivili Sinir Ağları (SNN) ve Olay Tabanlı İşleme

Geleneksel yapay zeka sürekli değerlerle çalışırken, nöromorfik çipler Çivili Sinir Ağları (Spiking Neural Networks – SNN) kullanır. SNN’lerde bilgi, zaman içindeki ayrık “çiviler” (spikes) veya olaylar (events) ile taşınır.

Enerji Verimliliği: Nöronlar sadece bir girdi (spike) aldıklarında aktif olurlar. Eğer bir sensörde değişim yoksa (örneğin uzay boşluğuna bakan bir kamera), sistem neredeyse sıfır enerji harcar. Bu “seyreklik” (sparsity), nöromorfik sistemleri GPU’lara göre 1000 kata kadar daha verimli kılar.⁴⁷
Bellek-İşlem Bütünleşmesi: Nöromorfik mimaride, her nöron kendi belleğine sahiptir. Veri ile işlem birimi iç içedir. Bu yapı, Von Neumann darboğazını tamamen ortadan kaldırır çünkü veri taşınmaz, olduğu yerde işlenir.⁴⁹

6.2 Uzayda Testler ve Radyasyon Sonuçları

Uzayda-Testler-ve-Radyasyon-Sonuclari Von Neumann Darboğazı Nedir? Bilgisayar Bilimleri/Yapay Zeka Fizik-Astronomi

NASA Ames Araştırma Merkezi, TechEdSat küp uydu serisi ile nöromorfik işlemcileri yörüngede test etmiştir (örneğin TechEdSat-13).

Bulgular: Testler, Loihi çipinin uzay ortamında çalışabildiğini göstermiştir. Loihi, ticari bir üretim sürecine (14nm) sahip olmasına rağmen, yazılımsal ve mimari yedekleme yöntemleri (örneğin aynı ağı üç kez çalıştırıp oylama yapma – Triple Modular Redundancy) ile radyasyon kaynaklı hatalara karşı dirençli hale getirilebilmiştir. Nöral ağların dağıtık yapısı (birkaç nöronun ölmesinin genel sonucu değiştirmemesi) da doğal bir tolerans sağlamaktadır.⁵¹

7. Sonuç ve Stratejik Öngörüler: Geleceğin Mimarisi

Uzay havacılığı ve otonom sistemlerin geleceği, donanım ve yazılımın simbiyotik bir evrimine bağlıdır. Von Neumann mimarisinin enerji duvarı ve Transformer’ların hesaplama yükü, mevcut yaklaşımların sürdürülemez olduğunu kanıtlamıştır.

Stratejik Çıkarımlar:

Hibrit Mimarilere Geçiş: Geleceğin uçuş bilgisayarları tek tip olmayacaktır. HPSC gibi güçlü RISC-V işlemciler genel yönetim ve ağır matematiksel işlemler için kullanılırken, Mamba veya RWKV gibi lineer modeller sürekli veri akışını işleyecek, Nöromorfik yardımcı işlemciler ise “her zaman açık” (always-on) sensör izleme görevlerini mikrowatt seviyesinde enerjiyle yapacaktır.
Yazılımda Paradigma Değişimi: NASA, görev kritik otonomi için Transformer’lardan uzaklaşmalı ve Durum Uzayı Modellerine (Mamba) yönelmelidir. Mamba’nın sabit bellek kullanımı ve yüksek çıkarım hızı, uzay aracının sınırlı donanımında “sonsuz” uzunlukta veri işlemeyi mümkün kılar.
Güvenilirlik İçin Dünya Modelleri: İstatistiksel tahmin yerine nedensel akıl yürütmeye dayalı JEPA benzeri mimariler ve bunların WorldGuard gibi donanım izolasyonlarıyla korunması, güvenli otonomun anahtarıdır.

Özetle, “daha büyük model, daha çok veri” devri uzay için kapanmıştır. Artık devir, “daha akıllı mimari, daha verimli fizik” devridir. NASA’nın HPSC ve nöromorfik araştırmaları, bu yeni çağın donanım temelini oluştururken, Mamba ve JEPA gibi algoritmalar da bu donanım üzerinde çalışacak zekayı tanımlayacaktır.