Bir teknolojinin gücünü bazen ekranındaki özelliklerden anlarız. Daha hızlı hesaplıyor, daha düzgün metin yazıyor, daha çok veriyi karşılaştırıyor. Fakat toplumları değiştiren güç, ürünün özellik listesinden daha geniştir. Kimlerin görünür olacağını, hangi bilginin öne çıkacağını ve hangi kararın makul sayılacağını etkilemeye başladığında teknoloji, hayatın yönetilme biçimine de katılır.

Birleşmiş Milletler Ortaklıklar Ofisinin 23 Eylül’de yayımladığı yapay zekâ ve insani gelişme raporu, farklı disiplinlerden görüşleri bir araya getiriyor. Kahire, Mexico City, Şian ve Roma’daki görüşmeleri aktaran bu tartışma raporu, meseleyi teknik performansın dışına taşıyor. İnsanların karar alanını ve toplumsal ilişkileri de sorguluyor.

Bilgisayar bilimleri açısından bir sistemin nasıl çalıştığını anlamak önemlidir. Kamu yönetimi açısından ise başka bir soru eklenir: O sisteme hangi yetki verilmiştir? Uluslararası işletme açısından da gücün maliyetini, mülkiyetini ve pazarlık koşullarını düşünürüz. Yapay zekâyı bu alanları birbirinden ayırarak okumak, aynı gelişmenin farklı sonuçlarını kaçırmamıza neden olabilir.

Bir modelin iyi sonuç vermesi, onu kullanan kurumun bütün kararlarını kendiliğinden meşru kılmaz. Kimin verisiyle, hangi amaç için, hangi sınırlar içinde kullanıldığı önemlidir. Bir şirketin tavsiye sistemiyle kamunun hak veya hizmet hakkında karar vermesine yardımcı olan sistem aynı sorumluluk düzeyinde değerlendirilemez. Yetkinin etkisi büyüdükçe gerekçenin de daha açık olması gerekir.

Gücün toplandığı yer yalnızca model değil

Güç, yazılımın kendisinde olduğu kadar ona erişimin koşullarında da bulunur. Hesaplama altyapısı, veri, uzmanlık, dağıtım kanalları ve kullanıcı alışkanlıkları bir araya gelir. Bunlardan birini kontrol eden aktör, diğerleri üzerinde de etkili olabilir. Bu yüzden rekabeti sadece kaç farklı ürünün piyasada olduğu üzerinden değerlendirmeyi yeterli bulmuyorum.

Bir kurum aynı sağlayıcıya gittikçe daha fazla bağımlı hâle geldiğinde, başlangıçtaki kolaylığın sonraki maliyetini düşünmelidir. Verisini başka bir sisteme taşıyabilecek mi? Çalışma düzenini değiştirmek ne kadar zorlaşacak? Sözleşme koşulları değiştiğinde gerçek bir alternatifi var mı? Bunlar teknolojik ayrıntılar gibi görünür; gerçekte kurumun karar özgürlüğüyle ilgilidir.

Ülkeler açısından dijital egemenliği de bu nedenle yalnızca yerli marka üretmek olarak okumuyorum. Kendi kararlarını anlayabilme, altyapısını denetleyebilme, gerektiğinde sağlayıcı değiştirebilme ve topluma hesap verebilme kapasitesi gerekir. Yerli etiketi taşıyan kapalı bir düzen, açıklanabilirlik veya rekabet sorununu otomatik olarak çözmez.

Öte yandan bütün altyapıyı tek başına üretme hedefi de her ülke için makul olmayabilir. Uluslararası iş birliği, ortak araştırma ve uzmanlık paylaşımı değerlidir. Asıl mesele, bağımlılığı anlamadan bir hizmet satın almakla, koşulları bilinen bir ortaklık kurmak arasındaki farktır. Küresel bir teknolojide bağımsızlık, her bağlantıyı kesmekten çok bağlantıları yönetebilmektir.

Amerika’dan Avrupa’ya ve farklı gelişme düzeyindeki ülkelere bakarken tek bir başarı ölçüsünü yeterli bulmuyorum. Bir yerde yenilik hızı, başka bir yerde hizmete erişim, başka bir yerde hesaplama maliyeti belirleyici olabilir. Uluslararası bir düzen, yalnızca en güçlü şirketlerin ve devletlerin ihtiyaçlarını genel kural gibi sunarsa diğer toplumların hareket alanını daraltabilir.

Denetim, ilerlemenin bir parçasıdır

Yapay zekânın denetlenmesiyle gelişmesinin birbirine düşman iki hedef olarak sunulmasına itiraz ediyorum. Sağlam denetim, yeniliği daha güvenilir bir zeminde kullanmayı sağlayabilir. Elbette gereksiz ve belirsiz yükler küçük girişimleri zorlayabilir. Bu yüzden kurallar etkisi yüksek kullanım alanlarına odaklanmalı, anlaşılır olmalı ve gerçek riskle orantılı işlemelidir.

Bir sistemin önerisi önemli bir kararı etkiliyorsa, kurumun sorumluluğu ekrana devredilemez. Son kararı kimin verdiği, hangi bilginin kullanıldığı ve itirazın nasıl inceleneceği belli olmalıdır. “Algoritma böyle söyledi” cümlesi, kararın gerekçesi yerine geçmemeli. İnsan denetimi de yalnızca bir kişinin onay düğmesine basmasıyla tamamlanmış sayılmamalı.

Gerçek denetim için o kişinin yeterli bilgiye ve zamana ihtiyacı vardır. Hatalı öneriyi durdurabilecek yetkisi olmalı, bunu yaptığında cezalandırılmamalıdır. Aksi hâlde insanın süreçte bulunması yalnızca görünüşte bir güvence sağlayabilir. Kamu yönetiminin eski bir sorusu, yeni teknolojiyle tekrar karşımıza çıkar: Yetki ile sorumluluk aynı yerde mi?

Bu tartışmanın uluslararası adalet boyutu da var. Bir ülkenin yalnızca teknoloji tüketicisi olarak kalmasıyla araştırmaya, standart belirlemeye ve denetime katılması farklı konumlardır. Ortak bir yapay zekâ düzeni, en az kapasiteye sahip ülkelerin de anlamlı biçimde katılabileceği bilgi ve kurumlar gerektirir. Aksi hâlde ortaklık, kararları sonradan öğrenmenin başka bir adı olabilir.

Yapay zekâ çağında bütün gücün bir anda makinelerin eline geçeceğini söylemiyorum. Daha yakın bir ihtimal var: İnsanların ve kurumların elindeki gücün, teknolojinin arkasındaki aktörlerde daha fazla toplanması. Bu dönüşümü anlamak için yazılım kadar sözleşmelere, altyapıya, kurumlara ve pazarlık ilişkilerine de bakmalıyız.

Geleceği konuşurken hangi modelin en zeki olduğunu sormaya devam edeceğiz. Ama hangi düzenin daha hesap verebilir olduğunu da aynı ciddiyetle sormalıyız. Bir toplumun teknolojik olgunluğu, güçlü araçlara sahip olması kadar, o araçları kimin adına ve hangi sınırlar içinde kullandığını açıklayabilmesidir. Yeni güç haritasında insanın yerini koruyacak olan, bu açıklığın kurumsal hâle gelmesidir.

Farklı bakışlar, değerli kalemler, özel haberler.AGD’yi keşfet ↗