Yapay zekâ bankacılık sistemini çökertecek mi? Düzenleyici kurumlar öyle düşünüyor…

Chris Skinner

Bize yapay zekanın bankacılığı daha hızlı, daha ucuz, daha güvenli ve daha akıllı hale getireceği söylendi. Şimdi ise finansal sistemi düzenleyenler farklı bir soru sormaya başlıyor. Ya yapay zekâ, küresel finans krizinden bu yana en büyük sistemik risk haline gelirse?

Bu endişe, teknolojiye şüpheyle bakanlardan gelmiyor. Bu endişe, uyanık oldukları her anı küresel ekonominin istikrarından endişelenerek geçiren İngiltere Merkez Bankası, Avrupa Merkez Bankası ve finansal düzenleyicilerden geliyor.

En son raporlarının satır aralarını okuduğunuzda çarpıcı bir tablo ortaya çıkıyor.

Tartışma, bankaların yapay zekâ kullanıp kullanmaması gerektiği konusundan, herkesin aynı yapay zekâyı kullandığında ne olacağı konusuna kaydı.

On yıllardır düzenleyiciler, bankaların aynı ipotek menkul kıymetlerine sahip olmalarından, aynı kredi kararlarını almalarından veya aynı fonlama piyasalarına güvenmelerinden endişe duyuyorlardı. Şimdi ise her finans kurumunun aynı temel modellere, aynı bulut sağlayıcılara, aynı yazılımlara ve belki de aynı otonom yapay zekâ ajanlarına güvenmek zorunda kalabileceğinden endişe ediyorlar. Çeşitlilik ortadan kalkıyor. Sürü davranışı hızlanıyor. Bir makinenin yaptığı hata, binlerce makinenin yaptığı hataya dönüşüyor.

Tek endişe bu değil.

İngiltere Merkez Bankası, yatırımcıların yapay zekâ hikâyesinden o kadar etkilenmiş durumda oldukları için yapay zekâ şirketleri etrafında kaldıraç etkisinin arttığı, özel kredilerin sektöre aktığı ve hedge fonlarının bu patlamayı yakalamak için giderek daha fazla borçlandığı konusunda uyarıda bulunuyor.

Beklentiler aniden gerçeklerle çarpışırsa, düzeltme sadece teknoloji hisselerini etkilemekle kalmayacak. Yapay zekâ ekonomisiyle derin bir şekilde iç içe geçmiş olan kredi verenler, türev ürünler, devlet tahvili piyasaları ve finansal kurumlara da dalga dalga yayılabilir.

Tanıdık geliyor mu? Gelmeli. Her balon, durum değişene kadar “bu sefer farklı” olduğuna inanır.

Bir de siber boyut var ki, bu muhtemelen daha da tedirgin edici.

Yıllardır siber güvenlik, saldırganlar ile savunmacılar arasındaki bir silahlanma yarışı olmuştur. Yapay zekâ ise bu ekonomiyi tamamen değiştiriyor. Hackerların zayıf noktaları tek tek sabırla araması yerine, en yeni yapay zekâ modelleri binlerce sistemdeki güvenlik açıklarını neredeyse anında tespit edebiliyor.

Avrupa Merkez Bankası (ECB), bu konuda yeterince endişeli olduğu için Avrupa’nın en büyük bankalarına, yapay zekâ destekli siber saldırılara karşı kendilerini nasıl koruyacaklarını açıklayan ayrıntılı planlar sunmalarını emretti. Bu artık teorik bir konu değil. Düzenleyiciler, makinelerin makine hızında makinelere saldırdığı bir dünyaya hazırlanıyor.

İlginç olan, düzenleyicilerin ne kadar farklı tepkiler verdiği.

Avrupalılar agresif bir şekilde hareket ediyor; eylem planları, güvenlik açığı değerlendirmeleri ve daha güçlü dayanıklılık talep ediyorlar. İngiltere Merkez Bankası ise risklerin farkında olmakla birlikte inovasyonu boğmamaya çalışarak daha ölçülü bir yaklaşım sergiliyor. Her iki yaklaşım da aynı rahatsız edici gerçeği kabul ediyor: Yapay zekâ artık BT departmanında yer alan sıradan bir teknoloji projesi değil. Finansal sistemin kendisinin bir parçası haline geldi.

Bu nedenle, finansal düzenlemede tamamen yeni bir aşamaya girdiğimizi düşünüyorum.

Düzenlemenin ilk dalgası sermayeye odaklanmıştı. İkincisi likiditeye odaklanmıştı. Üçüncüsü operasyonel dayanıklılığa odaklanmıştı. Dördüncüsü ise zekanın kendisiyle ilgili olacak.

Yapay zekanızın kararları nasıl aldığını açıklayabilir misiniz? Bu kararları geçersiz kılabilir misiniz? Ana model sağlayıcınız arızalanırsa ne olur? Her bankanın yapay zekası tam olarak aynı anda tam olarak aynı sonuca varırsa ne olur? Birkaç dakikada bir kendini yeniden yazan bir yazılımı nasıl denetlersiniz?

Bunlar artık bilimkurgu soruları değil. Bugün merkez bankaları arasında tartışılan sorular.

İronik bir şekilde, yapay zekanın en büyük vaadi insan hatasını ortadan kaldırmasıdır. En büyük korku ise insan çeşitliliğini ortadan kaldırmasıdır. Piyasalar, yatırımcıların fikir ayrılıkları sayesinde ayakta kalır. Bankalar, kurumların farklı düşünmesi sayesinde dayanıklılığını korur. Yapay zeka herkesin aynı şekilde düşünmesine neden olursa, zeka finansal sistemi daha az zeki hale getiren bir şey haline gelebilir.