AVUKATLAR vs. YAPAY ZEKA

Yapay zeka teknolojisi hem kamu kurum ve kuruluşları için hem de özel teşebbüsler için vazgeçilemeyen bir konuma gelmiştir. Bu konuya, geçtiğimiz haftalarda “Yapay Zekanın İstihdam Süreçlerine Etkisi” başlıklı yazımda da bir nebze değinmiştim. Bankalar kredi verecekleri müşterileri belirlerken, şirketler işe alacakları çalışanları belirlerken, doktorlar hastalarına uygulayacakları en doğru tedaviye karar verirken ve hatta bir failin aynı suçu tekrar işleme riski tahmin edilirken yapay zeka teknolojisinden yararlanılmaktadır. Bu gibi örnekleri çoğaltmak mümkündür. Yapay zeka gibi veri merkezli teknolojilerden sıklıkla yararlanılmakla birlikte bu teknolojiler toplumdaki bazı kesimler için olumsuz çıkarımlara kapsam, ölçek ve hız katmaktadır. Bu durumun farkında olan Data&Society (Veri&Toplum) Araştırma Enstitüsü, algoritmalar ve diğer teknolojik sistemler dolayısıyla düşük gelirli kimselerin maruz kaldıkları problemlere çözüm sunan bir rapor yayımlamıştır. Algoritmaların yol açtığı sorunlara karşı hukuken izlenecek yol haritasını göstermesi dolayısıyla rapora “POVERTY LAWGORITHMS” başlığı verilmiştir.

Raporun kapsamına aldığı konular arasında tüketici hukuku, aile hukuku, barınma, kamu yardımları, okullar ve eğitim, işçi hakları ve son olarak göçmenlik gözetimi bulunmaktadır. Düşük gelirli insanların bu sorunlara sıklıkla maruz kalması bakımından bu konulara özellikle yer verilmiştir. Raporda da bahsedildiği üzere, dijital profilleme düşük gelirli kimseler için kredi ya da sigorta için yaptığı başvurularda adeta bir kapı bekçisi görevi görmektedir. Okullardaki dijital gözetim uygulamaları dolayısıyla öğrencilerin kişisel verileri ihlal edilebilmekte yahut öğretmenlerin yapay zekadan destek aldıkları faaliyetlerde öğrenciler ayrımcı uygulamalara maruz kalabilmektedirler. Teknolojinin en fazla etkilediği yerlerden biri olan işyerlerinde işçilerin işe giriş aşamasından işsizlik sigortasına kadar pek çok faaliyette ayrımcı uygulamaların olabileceği iddia edilmektedir. Dahası, işçiler işyerlerinde aralıksız izlenmeye maruz kalmaktadırlar. Son olarak, göçmenler ulaştıkları ülkede ekonomik ve sosyal hayata tam katılımlarının önünde engeller oluşturan karmaşık ve opak bir veri tabanları ve bilgi paylaşım mekanizmaları ağına yakalanmaktadırlar.

Kaynak: CNBC

Rapora göre, veri merkezli teknolojiler insan hakları, medeni haklar ve ekonomik adalet gibi derin konularda düşük gelirli kesimin sorunlar yaşamasına neden olabilmektedir. Yani düşük gelirli kimseler otomatik karar verme sistemleri, dijital profil oluşturma, tahmine dayalı analizler nedeniyle birtakım problemle yüzleşebilmektedirler. Bu kesimin yaşadığı sorunların artması, kendilerini temsil eden avukatlara da bu sorunlardan ötürü daha sık başvurmalarına yol açmıştır. Rapor, bu durumda avukatların üzerine düşenin, veri merkezli teknolojilerin yasal iddialar ve savunmalarla kesişme noktalarını belirleyebilmek ve geçerli yasal çerçeveleri anlayabilmek olduğunu belirtmektedir. Örneğin, raporda, bir müşterinin kredi puanının düşük olması nedeniyle yaptığı konut başvurusunun reddedilmesi durumunda, avukatının ilk olarak başvuranlar için puanlama yapan yapay zekanın -algoritmanın- doğru veri setleriyle eğitilip eğitilmediğinin kontrol etmesi/ettirmesi önerilmektedir. Bu noktada, avukatların teknik uzmanlar kadar bilgi birikimine sahip olması aranmamışsa da, bu teknolojilerin nerede ve nasıl çalıştığını anlamanın yapacakları savunmaları daha güçlü kılacağı ifade edilmiştir. Veri merkezli teknolojik sistemlerdeki hatalar dolayısıyla mağduriyet yaşayanlar için avukatlara itirazda bulunmaları yönünde tavsiye verilmiştir. Her ne kadar bu yönde bir tavsiye verişmişse de Amerikan yasalarının bir yere kadar çözüm sunduğu, yasalarda birtakım boşluklar olduğu vurgulanmıştır.

Kaynak: Axis Communications

Rapor , veri merkezli teknolojilerin düşük gelirli kimseler için yol açtığı sorunlar karşısında onlara, avukatlara ve politika belirleyicilere dört öneride bulunmaktadır. Buna göre ilk olarak, devletler teknolojinin olumsuz etkilerine karşı alacağı önlemlerde, çıkaracağı yasalarda mağdurları göz önüne alarak ve avukatlarının tavsiyelerini dinleyerek düzenleme yapmalıdırlar. Zira onların görüşlerinin, bu sistemlerin doğruluğunu ve etik kullanımını iyileştirme noktasında etkileri olacaktır. İkinci olarak, uygulanacak devlet politikalarının sadece hayat standartları yüksek olan kişilerin çıkarlarını değil tüm toplumun çıkarını gözetmesi gerektiği üzerinde durulmuştur. Bunun sağlanması için mağdur olan kişiler ile avukatlarının tecrübelerini paylaşmasının önemine dikkat çekilmiştir. Bu doğrultu da, raporun editörlerinden Michele Gilman, ileride karşılaşacağımız her problemin bir şekilde algoritma vakasına dönüşeceğini belirterek hukukçuların karşılaştıkları vakalara birlikte çözüm aramaları gerektiğini belirtmiştir. Üçüncü olarak, avukatların algoritmik sistemleri anlayarak onların yarattığı sorunlara karşı savunma yapabilmeleri için hukuk bilgisinin yanı sıra teknik bilgiye de sahip olmaları gerektiği ifade edilmiştir. Bu ihtiyacı karşılamak için de teknoloji uzmanları ile hukukçuların bir araya getirerek bilgi alışverişi yapmaları gerektiği vurgulanmıştır. Son olarak, raporda vurgulanan sorunların ve çözümlerin özellikle küçük ölçekli hukuk bürolarına ile ücretsiz hukuki destek sunan ofislere yönelik olduğu belirtilmiştir.

Bu raporun bir başka soruya da cevap verdiği kanaatindeyim. Teknoloji gelişmeye devam ederek hayatımıza her geçen gün biraz daha dahil olmaktadır. Ancak görüldüğü üzere, yapay zeka halen yanılabilmekte ve kötü uygulamalara sebebiyet verebilmektedir. Bu duruma neyin yol açtığını da henüz net olarak ortaya koyamamaktayız. Öyleyse, yapay zekanın avukatlar da dahil yargı mensuplarının mesleklerini tamamen elinden alacağını söylemek için henüz erken olduğunu söyleyebiliriz.

İlgili rapora buradan ulaşabilirsiniz.

2 comments

  1. Öncelikle luddist gibi görünmek istemem bunu belirteyim de 🙂 Teknoliji benim de iş alanım sonuçta. Ancak ayni yapay zeka uygulamaları ABD’de siyahi kişilerin davalarında karar verirken siyahilere karşı daha ön yargılı olduğu ortaya çıktı. Düşük gelirli kişilerin veya azınlıkların temsil edilme veya hak ediş noktasında yapay zeka ile nüfuzlu kişilerle veya toplum önünde olan kişilerle yada bir ülke lideri ile aynı haklara sahip olmasını sağlamaya çalışmak, göçmenlere,alt tabadaki kişilere haklarını teslim etmeye çalışmak bunun yapay zeka ile yapılabilir olduğunu göstermeye çalışmak biraz hayalci geliyor bana. Açıkçası sanayi devriminden beri gelen sömürgeleşme düzeni,,ABD’nin 3.dünya ülkelerine bakışı, ticaret savaşları, eşitsizlik vs insana ait olan her olgu yapay zekayi beslediğimiz veri kaynağının niteliğini etkileyecek. Bu önyargılı ve subjektif veri setleri ile beslenen yapay zeka uygulamaları yüzünden ulus-sirketler büyük tazminatlara mahkum olacaklarini düşünüyorum ilerleyen yıllarda. Bence ilerleyen yillarda yapay zekanin etiği üzerine birçok denetleyici kurum çıkacak. Çünkü şuan da büyük bir etik sorunu olduğunu düşünüyorum. Bu bir şekilde çözülmeden yapay zeka birçok sorunu çözeceği gibi yeni sorunlara da yol açacaktir

    Like

  2. Yapay zeka tabanlı teknolojiler şuan için oldukça kısıtlı alanda kullanılabiliyor ancak çok verimli ve başarılı olsalar dahi insana birebir dokunan alanlarda (adalet,sağlık,eğitim vs.) tüm işi yapay zekalara bırakılmaması gerektiği kanaatindeyim. Futbol maçlarında bile -ki YZ’nın en başarılı olabileceği alanlardan- insan faktörünün tamamen denklem dışı bırakılmasını kimse istemiyor. Burada sorun güvensizlikten ziyade insanların, insan faktörünü ve onun doğallığı talep etmeleri. Yani yapay zekadan kısa vadede korkmaya gerek yok.

    Like

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.

%d bloggers like this: