AVUKATLAR vs. YAPAY ZEKA

Yapay zeka teknolojisi hem kamu kurum ve kuruluşları için hem de özel teşebbüsler için vazgeçilemeyen bir konuma gelmiştir. Bu konuya, geçtiğimiz haftalarda “Yapay Zekanın İstihdam Süreçlerine Etkisi” başlıklı yazımda da bir nebze değinmiştim. Bankalar kredi verecekleri müşterileri belirlerken, şirketler işe alacakları çalışanları belirlerken, doktorlar hastalarına uygulayacakları en doğru tedaviye karar verirken ve hatta bir failin aynı suçu tekrar işleme riski tahmin edilirken yapay zeka teknolojisinden yararlanılmaktadır. Bu gibi örnekleri çoğaltmak mümkündür. Yapay zeka gibi veri merkezli teknolojilerden sıklıkla yararlanılmakla birlikte bu teknolojiler toplumdaki bazı kesimler için olumsuz çıkarımlara kapsam, ölçek ve hız katmaktadır. Bu durumun farkında olan Data&Society (Veri&Toplum) Araştırma Enstitüsü, algoritmalar ve diğer teknolojik sistemler dolayısıyla düşük gelirli kimselerin maruz kaldıkları problemlere çözüm sunan bir rapor yayımlamıştır. Algoritmaların yol açtığı sorunlara karşı hukuken izlenecek yol haritasını göstermesi dolayısıyla rapora “POVERTY LAWGORITHMS” başlığı verilmiştir.

Raporun kapsamına aldığı konular arasında tüketici hukuku, aile hukuku, barınma, kamu yardımları, okullar ve eğitim, işçi hakları ve son olarak göçmenlik gözetimi bulunmaktadır. Düşük gelirli insanların bu sorunlara sıklıkla maruz kalması bakımından bu konulara özellikle yer verilmiştir. Raporda da bahsedildiği üzere, dijital profilleme düşük gelirli kimseler için kredi ya da sigorta için yaptığı başvurularda adeta bir kapı bekçisi görevi görmektedir. Okullardaki dijital gözetim uygulamaları dolayısıyla öğrencilerin kişisel verileri ihlal edilebilmekte yahut öğretmenlerin yapay zekadan destek aldıkları faaliyetlerde öğrenciler ayrımcı uygulamalara maruz kalabilmektedirler. Teknolojinin en fazla etkilediği yerlerden biri olan işyerlerinde işçilerin işe giriş aşamasından işsizlik sigortasına kadar pek çok faaliyette ayrımcı uygulamaların olabileceği iddia edilmektedir. Dahası, işçiler işyerlerinde aralıksız izlenmeye maruz kalmaktadırlar. Son olarak, göçmenler ulaştıkları ülkede ekonomik ve sosyal hayata tam katılımlarının önünde engeller oluşturan karmaşık ve opak bir veri tabanları ve bilgi paylaşım mekanizmaları ağına yakalanmaktadırlar.

Rapora göre, veri merkezli teknolojiler insan hakları, medeni haklar ve ekonomik adalet gibi derin konularda düşük gelirli kesimin sorunlar yaşamasına neden olabilmektedir. Yani düşük gelirli kimseler otomatik karar verme sistemleri, dijital profil oluşturma, tahmine dayalı analizler nedeniyle birtakım problemle yüzleşebilmektedirler. Bu kesimin yaşadığı sorunların artması, kendilerini temsil eden avukatlara da bu sorunlardan ötürü daha sık başvurmalarına yol açmıştır. Rapor, bu durumda avukatların üzerine düşenin, veri merkezli teknolojilerin yasal iddialar ve savunmalarla kesişme noktalarını belirleyebilmek ve geçerli yasal çerçeveleri anlayabilmek olduğunu belirtmektedir. Örneğin, raporda, bir müşterinin kredi puanının düşük olması nedeniyle yaptığı konut başvurusunun reddedilmesi durumunda, avukatının ilk olarak başvuranlar için puanlama yapan yapay zekanın -algoritmanın- doğru veri setleriyle eğitilip eğitilmediğinin kontrol etmesi/ettirmesi önerilmektedir. Bu noktada, avukatların teknik uzmanlar kadar bilgi birikimine sahip olması aranmamışsa da, bu teknolojilerin nerede ve nasıl çalıştığını anlamanın yapacakları savunmaları daha güçlü kılacağı ifade edilmiştir. Veri merkezli teknolojik sistemlerdeki hatalar dolayısıyla mağduriyet yaşayanlar için avukatlara itirazda bulunmaları yönünde tavsiye verilmiştir. Her ne kadar bu yönde bir tavsiye verişmişse de Amerikan yasalarının bir yere kadar çözüm sunduğu, yasalarda birtakım boşluklar olduğu vurgulanmıştır.

Rapor , veri merkezli teknolojilerin düşük gelirli kimseler için yol açtığı sorunlar karşısında onlara, avukatlara ve politika belirleyicilere dört öneride bulunmaktadır. Buna göre ilk olarak, devletler teknolojinin olumsuz etkilerine karşı alacağı önlemlerde, çıkaracağı yasalarda mağdurları göz önüne alarak ve avukatlarının tavsiyelerini dinleyerek düzenleme yapmalıdırlar. Zira onların görüşlerinin, bu sistemlerin doğruluğunu ve etik kullanımını iyileştirme noktasında etkileri olacaktır. İkinci olarak, uygulanacak devlet politikalarının sadece hayat standartları yüksek olan kişilerin çıkarlarını değil tüm toplumun çıkarını gözetmesi gerektiği üzerinde durulmuştur. Bunun sağlanması için mağdur olan kişiler ile avukatlarının tecrübelerini paylaşmasının önemine dikkat çekilmiştir. Bu doğrultu da, raporun editörlerinden Michele Gilman, ileride karşılaşacağımız her problemin bir şekilde algoritma vakasına dönüşeceğini belirterek hukukçuların karşılaştıkları vakalara birlikte çözüm aramaları gerektiğini belirtmiştir. Üçüncü olarak, avukatların algoritmik sistemleri anlayarak onların yarattığı sorunlara karşı savunma yapabilmeleri için hukuk bilgisinin yanı sıra teknik bilgiye de sahip olmaları gerektiği ifade edilmiştir. Bu ihtiyacı karşılamak için de teknoloji uzmanları ile hukukçuların bir araya getirerek bilgi alışverişi yapmaları gerektiği vurgulanmıştır. Son olarak, raporda vurgulanan sorunların ve çözümlerin özellikle küçük ölçekli hukuk bürolarına ile ücretsiz hukuki destek sunan ofislere yönelik olduğu belirtilmiştir.

Bu raporun bir başka soruya da cevap verdiği kanaatindeyim. Teknoloji gelişmeye devam ederek hayatımıza her geçen gün biraz daha dahil olmaktadır. Ancak görüldüğü üzere, yapay zeka halen yanılabilmekte ve kötü uygulamalara sebebiyet verebilmektedir. Bu duruma neyin yol açtığını da henüz net olarak ortaya koyamamaktayız. Öyleyse, yapay zekanın avukatlar da dahil yargı mensuplarının mesleklerini tamamen elinden alacağını söylemek için henüz erken olduğunu söyleyebiliriz.

İlgili rapora buradan ulaşabilirsiniz.