Geçen yazılarımdan birinde AI’yı internetsiz, kendi bilgisayarımda çalıştırdığımı anlatmıştım. O gün heyecanlıydım: verilerim bende kalıyordu, abonelik yoktu, internet kesilse bile asistanım ayaktaydı. Üç ay geçti. Bugün bu yazıyı tasarlarken en çok yardım aldığım asistan nerede çalışıyor biliyor musunuz? Bulutta. Evet, geri döndüm.
Ama “vazgeçtim” demek doğru değil; hibrit bir yerde duruyorum ve o üç ay boşa gitmedi. Çünkü “yerel mi bulut mu” sorusu sanıldığı kadar ideoloji değil, hesap meselesi. Hesabı da sizinle paylaşayım.
Konu İçeriği
Yerel AI Beni Neden Yordu?
Önce dürüst itiraf: yerel AI beni teknik olarak yordu. Orta seviye bir bilgisayarda büyük modelleri çalıştırmak, cevabı beklerken ekrandaki “düşünüyor…” çubuğuna bakmak demekti. Model indirmek diski yuttu, güncellemeleri takip etmek ayrı bir iş oldu, Ram’in yarısı hep modeldeydi. Bir de elektrik: kışın GPU odanın ısınmasına katkı veriyordu, yazın klimayla kapışıyordular. Faturada kimin kazandığını söylemeyeyim.
Bunlar geçilebilir sıkıntılar aslında. Beni asıl döndüren şey ne performans ne faturaydı; ihtiyacımın ne olduğunu net görmek oldu.
Fark Ettiğim Beş Şey
1. Kalite farkı gerçek, ama işe bağlı
Günlük sorular, kısa özetler, basit çeviriler: yerel model gayet yeter. Ama karmaşık bir analizi, uzun bir kod parçasını ya da ince bir editoryal gözden geçirmeyi konuştuğumuzda fark kapanmıyor. Modellerin yarışını izleyen yazımda da değinmiştim: en güçlü modeller her zaman önce buluta geliyor. Yerelde çalışan, dünden kalmanın en iyisi oluyor çoğu zaman.
2. Gizlilik ihtiyacım sandığımdan dardı
Kendimi “verilerimi kimseye vermem” havasında tutuyordum ama gerçek listeyi çıkardım: gerçekten hassas olan müşteri belgeleri ve aile fotoğraflarıydı. Geri kalan işlerimin büyük kısmı öyle secret dosyalar değildi. Hassas %10 için tüm iş akışımı yavaşlatmak, domates için bakkal kapatmak gibiydi. Hassas verim yerelde kaldı; gerisi buluta gitti.
3. Yerel AI harika bir okuldu
Beklenmedik fayda: yerel kurulumda modeli kurcalayarak prompt yazmayı, sıcaklık ayarlarını, modelin nasıl “davrandığını” öğrendim. Bulut asistanlarında sihir gibi duran şeylerin aslında ayar meselesi olduğunu gördüm. Bugün bulut araçlarından aldığım verimin artmasında o üç ayın payı büyük. Yerel AI’ı eğitim kampı gibi düşünün: mezun olursunuz ama kamp bir şeyler bırakır.
4. Abonelik ekonomisi iki taraflı hesap ister
Bulut tarafının bedeli belli: abonelikler. Yıllık toplamı hesapladım, sızladım. Ama yerelin maliyeti de sıfır değil: elektrik, donanım amortismanı ve en pahalısı, zaman. AI’ı işe alıp kovduğum yazıda anlattığım tuzağın bir benzeri burada da var: “bedava” görünen şey, faturasını zaman olarak kesiyor. İki tarafa da dürüst bakın.
5. En iyi cevap hibrit
Kararım netleşti: ikisi rakip değil, iş bölümü. Masadaki tablo şöyle işliyor:
| Senaryo | Tercihim | Neden |
|---|---|---|
| Özel belge özetleme | Yerel | İçerik bilgisayardan çıkmıyor |
| Kod projeleri | Bulut | Bağlam penceresi ve en iyi modeller orada |
| Günlük soru, çeviri | Bulut ücretsiz katman | Kurulum derdi yok, hızlı |
| Fotoğraf arşivi etiketleme | Yerel | Binlerce dosya dışarı gitmesin |
| Uzun metin analizi | Bulut | Yerelde ya takılıyor ya da kalite düşüyor |
Günlük işler için ücretsiz katmanları da küçümsemeyin; hepsini deneyip sıraladığım yazı küçük bütçeler için ciddi bir kaynak.
Peki Yerel Kurulumu Söktüm mü?
Hayır. Küçük sunucumda duruyor, görevi bile var: aile fotoğraf arşivini etiketliyor, internetsiz kalınca aranılan o sadık yardımcı oluyor. Bir gün donanım ucuzlar, açık modeller iyice kapanırsa belki roller değişir. Şimdilik ikisi de evinde huzur içinde yaşıyor. “Yerel AI’ı bıraktım” değil; “yerinden ettim” diyelim.
Sıkça Sorulan Sorular
Yerel AI için ne kadar donanım gerekir?
Küçük modeller 8–16 GB Ram ile günlük kullanımda rahat çalışıyor. Ciddi işler (uzun metin, kod) için ekran kartı şart; kart ne kadar iyiyse model o kadar büyür. Benim orta seviye kurulumum özet ve sohbet için hâlâ yeterli.
Yerel AI’a başlamak için en kolay yol ne?
Tek bir kurulum paketi indirip modeli seçtikten sonra kullanıma hazır oluyor; ayrıntıya girmeden söyleyeyim, kurulum artık eskisi kadar korkutucu değil. İngilizce kaynak okuyabiliyorsanız seçenek çok. Merak başladıysa deneyin; bilgisayarınıza bir şey olmaz.
Bulut AI’a içerik verirken nelere dikkat etmeliyim?
Temel kural: yayınlamayacağınız şeyi yapıştırmayın. Müşteri belgesi, kimlik bilgisi, açık adres gibi alanları önceden silin ya da değiştirin. Kalan riski kabul etmek size kalmış. Benim pratik çözümüm hassas dosyaların hiç buluta gitmemesi; işi yerelde bitirmek.
Abonelik ödemek zorunda mıyım?
Değilsiniz. Ücretsiz katmanlar günlük ihtiyacın büyük kısmını karşılıyor. Aboneliğe geçmek gereken an, işinizin AI’a bağımlılığı arttığında ve sınırlandırmaların sizi yavaşlattığında gelir. Ben o noktayı geçtiğim için ödüyorum; siz geçmediyseniz ödemeyin.
Yerel modeller bulutu yakalar mı?
Bazı işlerde çoktan yakaladı bile. Ama en üst model yarışında açık modeller genelde birkaç adım geriden geliyor ve bu fark kritik işlerde hissediliyor. Takip etmek isteyenlere önerim: yılda iki kez küçük bir deneme yapın, kendi işinizde kıyaslayın. Reklamlara değil, kendi testinize inanın.
Sonuç
Üç ay önce “verilerim bende kalsın” diye yerleştiğim dünyadan, “en iyi sonucu hızlı alayım” diye buluta döndüm; ama kapıyı çarpmadım, yerel kurulum yerinde duruyor. Araç seçimi ideoloji değil, ihtiyaç meselesi. Gizlilik sizin listenizin başındaysa yerel; hız ve kalite başındaysa bulut. Ben listeyi yazdım, ikiye böldüm, huzura kavuştum.
Siz de bir kere o listeyi çıkarın: hangi işlerim gerçekten hassas, hangileri değil? Cevap size kalmış ama soruyu sormak, üç aylık yanılgıdan ucuz.
