Yapay zeka (YZ) etiği konusunda Avrupa Birliği’nin (AB) yayımladığı ilke ve rehberler pek çok ülkede YZ sistemlerini geliştirenler bakımından dikkate alınmakta ve projelerine yansıtılmaktadır. AB’nin bu konudaki öncü çalışmalarının yanı sıra Amerika Birleşik Devletleri (ABD) de YZ etiğine ilişkin geçtiğimiz yıl çalışmalara başlamış ve Savunma Bakanlığı tarafından YZ etik ilkelerine ilişkin bir kılavuz hazırlanmıştır. Söz konusu etik ilkelerin uygulanmasına ilişkin rapor geçtiğimiz günlerde yayımlanmıştır. Bu blog yazımızda önce AB’nin “Güvenilir YZ” kapsamında belirlediği etik ilkelere kısaca yer verilecek, ardından Bakanlık tarafından “Sorumlu YZ” başlıklı rehber altında sıralanan etik ilkeler açıklanacaktır.
A. Güvenilir Yapay Zeka
AB’de Yüksek Düzey Yapay Zeka Uzman Grubu (AI HLEG) tarafından 2019 yılında Güvenilir Yapay Zeka (Trustworthy AI) için Etik İlkeler Rehberi yayımlanmıştır. Buna göre Güvenilir YZ sistemlerinde bulunması gereken üç esas şu şekilde sıralanmıştır:
- Yürürlükteki yasa ve yönetmeliklere uygunluk
- Etik ilke ve değerlere bağlılık
- Hem teknik hem de sosyal açıdan sağlamlık
Etik ilkelere uygunluk güvenilir YZ sistemlerinin vazgeçilmez bir unsurudur. Rehbere göre bu unsur; (i) insan iradesine saygı, (ii) zararı önleme, (iii) adalet ve (iv) açıklanabilirlik prensiplerini kapsamalıdır.
B. Sorumlu Yapay Zeka
ABD Savunma Bakanlığı, askeri süreçler için YZ Stratejisi belirlemiş, etik ilkelerin önemine binaen Strateji’nin yanı sıra YZ Etik İlkeler Kılavuzu (Kılavuz, Responsible AI) hazırlamıştır. Şubat 2020’de yayımlanan Kılavuz’da YZ sistemlerinin askeri amaçlı (i) planlanması, (ii) geliştirilmesi ve (iii) yayılması aşamaları için beş etik ilke belirlenmiştir. Buna göre YZ sistemleri sorumlu, adil, izlenebilir, güvenilir ve yönetilebilir olmalıdır.
- Sorumlu: Bakanlık personeli, YZ’nin planlanması, geliştirilmesi ve kullanılması sürecinde uygun düzeyde değerlendirme yapıp ve gerekli özen göstermeli, bununla beraber söz konusu süreçlerde YZ sistemlerinden sorumlu olmaya devam etmelidir.
- Adil: Bakanlık, YZ’de istenmeyen ön yargıları minimuma indirmek için gerekli adımları atılmalıdır.
- İzlenebilir: Bakanlık YZ mühendislik disiplini; teknik uzmanların şeffaf, denetlenebilir metodolojiler, veri kaynakları, tasarım prosedürü ve dokümantasyonu dahil olmak üzere YZ sistemlerinin geliştirilme ve operasyonel yönetimini uygun şekilde anlaması için gelişmiş olmalıdır.
- Güvenilir: Bakanlık YZ sistemleri açık ve iyi tanımlanmış bir kullanım alanına sahip olmalı ve bu tür sistemlerin emniyeti, güvenliği ve sağlamlığı kullanım alanı içerisinde tüm yaşam döngüleri boyunca test edilmeli ve güvenceye tabi olmalıdır.
- Yönetilebilir: Bakanlık istenmeyen davranışlar sergileyen veya sonuçlara yol açan YZ sistemlerinden kaçınmalı ve bu tür sistemleri tespit ettiğinde devre dışı bırakmalıdır.
Hazırlanan Kılavuz’da, YZ sistemlerinin planlanması, geliştirilmesi ve uygulanması olmak üzere üç aşamada nasıl etik değerlere uygun olacağı sorularla ve iş akış şeması ile gösterilmeye çalışılmıştır. Söz konusu sorular ve şemalar Bakanlık bünyesindeki YZ çalışmalarına ilişkin olsa da diğer sektörlerde faaliyet gösteren YZ sistemlerini geliştirenler de bu Kılavuz’dan yararlanabilir. Örneğin Kılavuz’daki etik ilkelerin uygulanmasına ilişkin 10 Aralık’ta yayımlanan raporda Bakanlık bünyesinde yürütülen 2 vaka çalışmasından biri sağlık alanına diğeri ise savunma/kolluk faaliyetlerine ilişkindir. İlk projenin amacı, askeri sağlık birimlerinin tıbbi görüntü analizi için makine öğrenmesi modelinden yararlanmasını sağlamaktır. Diğer projede ise, kimliklerini ve faaliyetlerini saklamaya çalışan ulus ötesinde bulunan suç gruplarının belirlenmesi, izlenmesi ve suça konu olacak eylemlerinin önlenmesi için ticari ve kamuya açık verilerden analizler yapılıp Bakanlığın yürüttüğü çalışmaların desteklenmesi amaçlanmıştır.
Söz konusu etik değerler olduğunda, dünyanın her yerinde kabul gören yeknesak ilkelerden bahsetmek zordur. Bununla birlikte AB ve ABD perspektifinin etik ilkeler konusunda yakın olduğu fakat algoritmalarda hangi verinin, hangi kurallara tabi olarak kullanılacağı konusunda farklılık gösterdiklerini ifade edebiliriz. YZ sistemlerine ilişkin hukuki düzenlemelerin yapılması kadar etik ilkelerin belirlenmesi önemlidir. Zira etik ilkeler toplumların bu sistemlere olan güveninin artmasını ve kullanımının yaygınlaşmasını sağlayacaktır. AB’nin yanı sıra ABD’nin etik ilkeleri belirlemesi ise pek çok teknolojik yeniliğin, gelişmenin oradan dünyaya yayılması ve veri ihlali skandallarının orada daha sık yaşanması nedeniyle olumludur.
Yukarıda bahsedilen rapor Bakanlık bünyesindeki Savunma İnovasyon Birimi tarafından yayımlanmış olup, çeşitli aşamalara ilişkin soru ve iş akış şemalarını ve bahsedilen vaka çalışmalarını içermektedir. Rapora buraya tıklayarak ulaşabilirsiniz.
*Kapak görseli Araya Peralta’ya aittir.
CODEƎRA 