Kim programlarsa, o yönetir

The AI Illusion" kitabının yazarı Mark Keenan şöyle diyor:"Yakında yaşanan kimlik ile yönetilen kimlik arasındaki ayrım bulanıklaşacak..." Bunun anlamı ne ve Kim programlayacak? Kimler? 

 Mark Keenan (tam adıyla Mark Gerard Keenan), eski bir BM teknik uzmanı ve teknoloji, güç yapıları ile insan özgürlüğü üzerine eleştirel kitaplar yazan bir yazar. “The AI Illusion” kitabı, yapay zekânın (AI) nasıl bir kontrol aracı haline geldiğini, algoritmalar ve gözetim yoluyla insan davranışını şekillendirdiğini, “dijital totalitarizm” ve teknokrasi tehlikesini tartışıyor.
“Yakında yaşanan kimlik (lived identity) ile yönetilen kimlik (managed identity) arasındaki ayrım bulanıklaşacak” ifadesi şu anlama geliyor:

• Yaşanan kimlik (lived identity): Gerçek hayatta, kendi deneyimlerinizle, duygularınızla, özgür seçimlerinizle, bedeninizle ve bireysel bilincinizle şekillenen “ben” duygusu. Yani doğal, organik, kendi iradenizle yaşadığınız kimliğiniz. Düşünceleriniz, ilişkileriniz, hatalarınız ve başarılarınızla oluşan otantik benlik.
• Yönetilen kimlik (managed identity): Dijital sistemler, AI algoritmaları, sosyal medya platformları, devlet veya şirket veritabanları tarafından oluşturulan, takip edilen, puanlanan, profillenen ve yönlendirilen dijital versiyonunuz. Bu, veri izlerinizden (like’lar, arama geçmişi, konum verileri, kredi puanı, sosyal kredi sistemi benzeri metrikler) türetilen “siz” imajı. AI bu verileri analiz edip size “önerilerde” bulunur, davranışınızı şekillendirir, hatta kararlarınızı önceden tahmin edip etkilemeye çalışır.

Keenan’a göre, AI’nin ilerlemesiyle bu ikisi arasındaki çizgi silikleşecek. Artık “gerçek ben” ile “sistemlerin tanımladığı ben” o kadar iç içe geçecek ki, insanlar kendi düşüncelerinin, tercihlerinin ne kadar kendilerine ait olduğunu bile zor ayırt edecek. AI, kişiselleştirilmiş içerik, öneri sistemleri, sanal asistanlar ve gözetim araçlarıyla günlük hayatı domine edecek; sonuçta insan bilinci ve özgür iradesi “yönetilen” bir yapıya dönüşme riski taşıyacak. Bu, bir illüzyon (yanılsama) olarak tanımlanıyor çünkü insanlar hâlâ “özgür” hissetse de, aslında algoritmaların yönlendirdiği bir matriks içinde yaşıyor olacak.Keenan bu konuyu, AI’nin insan düşüncesini yavaş yavaş erozyona uğrattığı, özgün düşünmeyi ve dikkati azalttığı eleştirileriyle bağdaştırıyor. Benzer yazılarında “Matrix’in Matrix’le konuşması” metaforunu kullanıyor: AI sistemleri birbirleriyle ve bizim verilerimizle beslenerek bir kapalı döngü yaratıyor.Kim programlayacak? Kimler?Bu “yönetilen kimlik” sistemini programlayacak (yani kodlayacak, tasarlayacak, yönetecek ve güçlendirecek) olanlar temel olarak şunlar:

• Büyük teknoloji şirketleri (Big Tech): Google, Meta (Facebook), OpenAI, Microsoft, Amazon, Apple gibi devler. Onlar AI modellerini geliştiren, veri toplayan, algoritmaları eğiten ve “kişiselleştirme” adı altında davranış mühendisliği yapan asıl aktörler. Bu şirketlerin mühendisleri, veri bilimcileri ve yöneticileri, sistemin çekirdeğini kodluyor.
• Hükümetler ve devlet kurumları: Özellikle Çin’deki sosyal kredi sistemi gibi modeller, Batı’da ise dijital kimlik (digital ID), CBDC (merkezi banka dijital parası) ve gözetim yasalarıyla entegre edilen sistemler. AB’nin AI Act’i, ABD’de çeşitli regülasyonlar veya ulusal güvenlik gerekçeleriyle devletler de bu altyapıyı şekillendiriyor. Bazı ülkelerde doğrudan “yönetilen kimlik” için altyapı kuruyorlar.
• Teknokrasi yanlısı kurumlar ve düşünce kuruluşları: BM, Dünya Ekonomik Forumu (WEF), Dünya Bankası gibi uluslararası örgütler ve bunların içindeki teknokratlar. Keenan’ın eski çalıştığı ortamlar da bu eleştirinin odağında; yazar, bu yapıların “insan özgürlüğünü” tehdit eden merkeziyetçi, algoritmik kontrol mekanizmaları yarattığını savunuyor.
• AI geliştiricileri ve algoritma tasarımcıları: Pratikte kodu yazan yazılımcılar, ama kararları veren üst düzey yöneticiler ve hissedarlar (yatırım fonları, venture capital). Kar amacı güden şirketler olduğu için, dikkat ekonomisi (attention economy) ve davranış manipülasyonu ön planda.

Keenan’ın genel tezi: Bu süreç “kaçınılmaz teknolojik ilerleme” olarak pazarlanıyor ama aslında güç ve kontrol konsantrasyonu yaratıyor. Kimin programladığı sorusunun cevabı net: Mevcut ekonomik ve siyasi elitlerin (özellikle Silikon Vadisi + hükümet işbirlikleri) kontrolündeki ekipler. Sonuçta “kim programlarsa, o yönetir” mantığı işliyor.Bu görüşler eleştirel ve distopik bir perspektiften geliyor. Karşı argümanlar ise AI’nin özgürlüğü artırabileceğini (kişiselleştirme, erişilebilirlik, verimlilik) savunuyor, ama Keenan gibi düşünürler bunun bir illüzyon olduğunu ve uzun vadede insan özerkliğini erozyona uğrattığını vurguluyor.

Siyasi Forum Siyasi-Politik Haber - Makale - Yazılar -- Sosyoloji Toplum bilimi , sosyoloji ders notları