Yapay Zekâ Çerçeve Sözleşmesi
Giriş
Yapay Zekâ Çerçeve Sözleşmesi[1] (Çerçeve Sözleşme), Avrupa Konseyi tarafından önerilen ve yakın zamanda imzaya açılan uluslararası bir anlaşmadır[2] . Anılan sözleşme, yapay zekâ sistemlerinin tüm yaşam döngüsünü düzenleyen ilk uluslararası sözleşmedir. Çerçeve Sözleşme, yapay zekâ sistemlerinin insan hakları, demokrasi ve hukukun üstünlüğü gibi temel ilkelerle uyumlu olmasını sağlarken, güvenli ve yenilikçi teknolojik büyümeyi de teşvik eder.
Arka plan
Yapay zekâ sistemleri her geçen gün hayatımızı daha da etkilediğinden, veri ve gizlilik ihlalleri, ayrımcılık ve bunun gibi potansiyel risklerin en aza indirilmesi zorunlu hale gelmiştir. Avrupa Konseyi, teknolojik gelişmeleri teşvik ederken etik standartları koruyan bir yaklaşım ile çalışmalarını sürdürmüş, kapsamlı bir sözleşmeye ön ayak olmuştur. Çerçeve Sözleşme, Avrupa Konseyi'nin teknoloji yönetişimi ve insan hakları alanındaki çalışmalarının bir ürünüdür[3] .
Devletler için Öngörülen Yükümlülükler
Sözleşmeyi imzalayan ülkelerde yapay zekâ sistemlerinin şeffaf, hesap verebilir, gizlilik ve kişisel verilerin korunmasına ilkelerine uygun politikalara tabi olması gerekir. Çerçeve Sözleşme, algoritmik önyargı ve ayrımcılığa karşı önlem çağrısında bulunarak, karar verme süreçlerinde kullanılan yapay zekâ sistemleri için adaleti sistemsel bir gereklilik haline getirmeyi hedefler.
Sözleşme’de yapay zekânın sorumlu bir şekilde kullanılması için devletlerin aşağıda özetlenen temel yükümlülüklerine değinilir:
Temel İlkeler
Devletler, yapay zekâ kullanımının insan haklarına uygunluğunu teminat altına almalıdır. Bu konu özellikle veri gizliliği, ayrımcılık yasağı ve şeffaflık gerekliliği gibi konularda öne çıkar. Taraf devletler, yapay zekâ sistemlerinin karar verme ve algoritmik sonuçları bakımından hesap verebilirliği ve sorumluluğunu garanti etmelidir.
Risk Denetimi
Devletler, yapay zekâ sistemleri üzerinde düzenli risk denetimi yapmalı, sakıncalı sistemleri yasaklayarak potansiyel zararları en aza indirmelidir.
Usuli Güvenceler
Devletler, ilgili kişilerin sistem aracılığıyla alınan kararlara itiraz edebilmesine veya bu sistemlerin kullanımına karşı çıkabilmesine imkân tanıyacak yeterli şeffaflığı ve bilgilendirme yükümlülüklerini garanti etmelidir. Devletler ayrıca, sistemlerle ilgili şikayetleri kabul edecek yetkili makamların kurulduğundan emin olmalı, insan hakları ve özgürlüklerine saygı gösterilmesi için etkin usul güvenceler sağlamalıdır.
Kapsam
Sözleşmede özetlenen ilkeler ve yükümlülükler, kamu makamları veya onlar adına çalışan özel kuruluşlar tarafından yürütülen yapay zekâ faaliyetlerini kapsar. Özel sektör aktörleri de Sözleşme yükümlülüklerine uymakla yükümlüdür. Ancak özel sektör aktörleri, yapay zekâ sistemleriyle ilgili risk ve etkileri Sözleşme hedefleri doğrultusunda yönetirken, aynı hedeflere ulaşan alternatif önlemler alma esnekliğine sahiptir.
Sözleşme, devletlere ulusal güvenliğin yanı sıra araştırma ve geliştirme faaliyetleri bakımından muafiyet imkânı tanır.
Yürürlüğe Girme
Bu makalenin yazıldığı tarih itibarıyla Çerçeve Sözleşme Andorra, Gürcistan, İzlanda, Norveç, Moldova Cumhuriyeti, San Marino ve Birleşik Krallık'ın yanı sıra İsrail, Amerika Birleşik Devletleri ve Avrupa Birliği tarafından imzalanmıştır.
Sözleşme, Arjantin, Avustralya, Kanada, Kosta Rika, Japonya, Meksika, Peru ve Uruguay gibi üye olmayan ülkelerin katkılarıyla müzakere edilmiştir.
Sözleşme Avrupa Birliği hukuku ve özellikle Avrupa Birliği Yapay Zekâ Yasası ile uyumlu olduğu için[4] uluslararası düzeyde etkin sonuçlar doğurması beklenir.
Sözleşme, aralarında üç Avrupa Konseyi ülkesinin de bulunduğu en az beş imzacı ülke tarafından onaylandıktan sonra yürürlüğe girecektir. Sözleşme küresel katılıma açık olduğundan, geniş bir uygulama alanı olacağı öngörülür.
Sonuç
Yapay Zekâ Çerçeve Sözleşmesi, yapay zekâ sistemlerinin etik gelişimi ve dağıtımı için küresel bir çerçeve oluşturmaya yönelik önemli bir adımdır. İnsan hakları, demokrasi ve hukukun üstünlüğüne odaklanan Sözleşme, yapay zekâ ile artması gündeme gelen ayrımcılık, şeffaflık ve hesap verme eksikliği, veri güvenliği ihlalleri ve benzeri endişeleri azaltmayı hedefler. Hem kamu hem de özel sektör aktörlerini kapsayan Sözleşme, yapay zekânın sorumluluk bilinciyle geliştirilmesini ve devletlerin bunun kontrolünde rol almasını sağlar.
Sözleşme yapay zekânın geleceğine ve teknolojik gelişmelere yön verirken temel insan haklarına saygının korunması için uluslararası alanda atılan önemli adımlardan biridir.
- Avrupa Konseyi Yapay Zeka ve İnsan Hakları, Demokrasi ve Hukukun Üstünlüğü Çerçeve Sözleşmesi, (Erişim Tarihi: 20.09.2024), Erişim için: https://rm.coe.int/1680afae3c
- Ayrıntılar için lütfen bakınız: https://www.coe.int/en/web/portal/-/council-of-europe-opens-first-ever-global-treaty-on-ai-for-signature
- Avrupa Konseyi'nin YZ konusundaki çalışmaları hakkında genel bilgi için bakınız: https://rm.coe.int/brochure-artificial-intelligence-en-march-2023-print/1680aab8e6
- Ayrıntılar için bakınız: https://digital-strategy.ec.europa.eu/en/news/commission-signed-council-europe-framework-convention-artificial-intelligence-and-human-rights
Bu makalenin tüm hakları saklıdır. Kaynak gösterilmeksizin veya Erdem & Erdem’in yazılı izni alınmaksızın bu makale kullanılamaz, çoğaltılamaz, kopyalanamaz, yayımlanamaz, dağıtılamaz veya başka bir suretle yayılamaz. Kaynak gösterilmeksizin veya Erdem & Erdem’in yazılı izni alınmaksızın oluşturulan içerikler takip edilmekte olup, hak ihlalinin tespiti halinde yasal yollara başvurulacaktır.