Dilekçelerde Hayalet Kararlar ile Avukatlar Yeni Bir Sorumluluk Kriziyle Yüz Yüze Geleceğin tartışması yapay zekâyı hukuktan dışlamak olmayacak. Onu güvenli ve sorumlu şekilde kullanmanın çerçevesini kurmak olacak. Ve o çerçeveyi kuracak olanlar da yine hukukçulardır… Dünya gelişiyor, teknoloji gelişiyor… Son birkaç yılda dünya genelinde dikkat çekici bir olgu dikkat çekmeye başladı.Çoğu avukat, mahkemeye sundukları dilekçelerde yapay zekâ araçlarından aldıkları içtihat kararlarına dayanmış; ancak zamanla bu kararların gerçekte hiç verilmediği ortaya çıkmıştır. Çeşitli ülkelerde benzer sonuçlar ortaya çıkmıştır: disiplin soruşturmaları, para cezaları ve kimi durumlarda meslek icrasının geçici olarak askıya alınması. Bunları okuyunca "teknoloji bilmeyen avukatların dikkatsizliği" demek kolaydır. Ama o okuma hem eksik hem de tehlikeli bir basitleştirmedir. Ortada bireysel bir hata değil, sistemik bir sorun mevcuttur. Yapay Zekâ Bir Arama Motoru Değildir Meselenin özünü kavrayabilmek için şu ayrımı net yapmak gerekiyor: yapay zekâ tabanlı dil modelleri, bilgiyi aramıyor; çoğunlukla üretiyor. Bir arama motoru sizi mevcut kaynaklara yönlendirir, o kadar. Dil modeli ise size olası bir yanıtı biçimlendiriyor, adeta inşa ediyor. Bu fark, gündelik kullanımda önemsiz görünebilir. Hukuk gibi kesinlik gerektiren, her kelimenin sonuç doğurduğu bir alanda ise bu fark derin bir uçurum ve sorumluluk anlamına geliyor. Akılda tutulması gereken en önemli noktanın altını çizelim. Bu bir “dil modeli”dir.  Ve dil modelinin "halüsinasyon" adı verilen bu üretim hatası yalnızca teknik bir kusur değildir. Asıl sorun, yanlış bilginin sunumudur. Yapay zekâ, gerçek olmayan bir mahkeme kararını size gerçek bir karardan ayırt etmeniz neredeyse imkânsız bir üslupla sunabilir: tam dava numarasıyla, karar tarihiyle, mahkeme adıyla, hatta yargıcın ismiyle. Üstelik tüm bunları gereksiz yere özgüvenli bir dille ifade edebilir; tereddüt etmeden, uyarmadan, "emin değilim" demeden. Sanki kaynağı elinin altında tutuyormuş gibi konuşur. İnsan zihni, ayrıntılı, tutarlı ve teknik görünen bilgilere güvenme eğiliminde oluyor. Bu bir zayıflık değil; evrimsel bir adaptasyondur. Hayatın çoğu alanında bu sezgi bize doğru yönü gösteriyor. Ama karşımızda insan gibi yazan, insan gibi akıl yürüten ama doğruluk kaygısı taşımayan bir sistem çıkınca, o adaptasyon bizi ciddi biçimde yanıltabilir. Ve bu yanılma, avukatlık mesleğinde son derece ağır bedeller doğuruyor. Teknoloji Her Zaman Boşluk Yaratıyordu; Ama Bu Sefer Durum Farklı… Hukuk dünyası elbette daha önce de yeni teknolojilerle yüzleşmek zorunda kalmıştır. Telgraf iletişimi hızlandırdığında hukuk, mesafeli sözleşmelerin geçerliliğini tartıştı. Telefon delil sorunlarını gündeme taşıdı. İnternet, yargı yetkisi ve dijital delil gibi kavramları doğurdu. Elektronik imza ve e-tebligat, başlangıçta kimi boşluklar yarattı; ama zamanla bunlar dolduruldu, standartlar oturtuldu. Her seferinde hukuk geç de olsa teknolojiye yetişti. Ancak bu teknolojilerin hiçbiri bilgi üretmiyordu. Hepsi yalnızca var olan bilgiyi aktarıyor, saklıyor ya da doğruluyordu. Yapay zekâ bu açıdan gerçekten yeni bir şey. İlk kez, yanlış bilgi üretebilen ve bunu ikna edici biçimde sunabilen bir sistem hukuk pratiğinin içine girdi. Daha da önemlisi, bu sisteme erişim artık teknik bir uzmanlık gerektirmiyor; sıradan bir arayüz üzerinden, birkaç saniyede, herkes kullanabilir hâle geldi. Yaygınlık hız kazandıkça risk artıyor. Bir avukat daha önce yanlış kaynak kullanmışsa, bu genellikle ihmal ya da kasıttan kaynaklanıyordu. Şimdi ise iyi niyetli, dikkatli, deneyimli bir hukukçu bile güvenilir görünen ama var olmayan bir karara dayanabilir. Bu durum, sorumluluğun nerede başlayıp nerede biteceği sorusunu köklü biçimde yeniden sormamızı gerektiriyor. Mesleki Özen Yükümlülüğü Yeterli mi?Kesin olan bir şey var: avukatın mesleki özen yükümlülüğü yapay zekâ çağında da geçerliliğini koruyor. Dilekçesine dahil ettiği her kaynaktan avukat sorumludur. Yapay zekâ çıktısını doğrulamadan kullanmak, kaynaksız bir iddiayı kopyala-yapıştır yapmaktan farklı değildir. Bu konuda savunma üretmek güçtür; zira mesleki standartlar "aracım beni yanılttı" gerekçesini sorumluluktan kurtarıcı bir mazeret olarak kabul etmiyor. Bununla birlikte, sorunun tamamını yalnızca kullanıcının sırtına yüklemek de uzun vadede yeterli ve adil bir çözüm olmayacağı kanaatindeyim. Şu soruları artık sormak gerekiyor: Bu araçları geliştiren ve ticarileştiren şirketlerin sorumluluğu nerede başlıyor? Yüksek riskli mesleklerde kullanılacak yapay zekâ sistemleri için bağımsız standartlar belirlenmeli midir? Şeffaflık yükümlülükleri nasıl tanımlanmalıdır? Bir sistemin hatalı çıktı üretme oranı kamuoyuyla paylaşılmalı mıdır? Hatalı bir çıktının mesleki zarara yol açması hâlinde geliştirici şirket hukuki sorumluluk taşımalı mıdır? Avrupa Birliği'nin Yapay Zekâ Tüzüğü yüksek riskli sistemlere ilişkin genel bir çerçeve kurmaya çalışıyor; ancak hukuk pratiğine özgü ayrıntılar, avukat-müvekkil ilişkisinin bu bağlamdaki yansımaları ve disiplin hukuku ile yapay zekâ sorumluluğunun kesişim noktalarının belirlenmesi sanırım biraz zaman alacak. Türkiye özelinde ise bu tartışma henüz hiç olgunlaşmış değil. Önümüzdeki on yılda "yapay zekâ kaynaklı mesleki sorumluluk hukuku" adıyla bağımsız bir uzmanlık alanının şekillenmeye başlaması sanırım kaçınılmazdır. Avukatlık bu tartışmanın ilk ve en görünür sahnesi oldu ne yazık ki. Nitekim hata kamuya açık mahkeme dosyalarına yansıdı. Ama benzer kırılmalar çok geçmeden hekimlikte de, mühendislikte de, mali müşavirlikte de gündeme geleceğini düşünüyorum. Bir yapay zekâ sisteminin tanı önerisi üzerine yürütülen bir tedavi. Yapay zekânın ürettiği risk analizine göre verilen bir yatırım tavsiyesi. Bu senaryoların her birinde hata ortaya çıktığında sorumluluk zinciri nasıl kurulacak? Mesleği icra eden uzman mı, sistemi geliştiren şirket mi, sistemi onaylayan düzenleyici kurum mu, yoksa tamamı birlikte mi? Bu sorulara bugünden hazırlıklı olmak, yarın krizle karşılaşmaktan çok daha az maliyetli olabilir. Halihazırdaki durumda tek gerçek mevcuttur: bu güçlü yardımcının hangi koşullarda, hangi standartlara göre, kimin denetiminde ve hangi şeffaflık gereklilikleri altında kullanılacağına dair kuralların artık ciddi biçimde yazılmaya başlanması gerekiyor. Mesleki sorumluluk rejimlerinin bu yeni gerçeği karşılayacak şekilde güncellenmesi, yapay zekâ geliştiricileri için hesap verebilirlik mekanizmalarının kurulması ve hukukçuların bu araçları bilinçli kullanabilmesi için mesleki eğitim müfredatlarının yeniden düzenlenmesi... Bunların hepsi ertelenebilir meseleler değildir. Geleceğin tartışması yapay zekâyı hukuktan dışlamak olmayacak. Onu güvenli ve sorumlu şekilde kullanmanın çerçevesini kurmak olacak. Ve o çerçeveyi kuracak olanlar da yine hukukçular olacaktır.