Müdürün Mesajı

Yapay zekâ, hukuk, etik, insan hakları, güvenlik, demokrasi ve toplumsal yaşamın geleceğine ilişkin köklü bir değişimin merkezinde yer almaktadır. Giderek daha yetenekli ve özerk hale gelen yapay zekâ sistemlerinin hangi değerler ve ilkeler doğrultusunda geliştirileceği, kullanılacağı ve yönetileceği bu sistemler üzerindeki insan kontrolünün nasıl korunacağı üzerine düşünülmesi ve cevaplanması gereken sorulardır.

Bahçeşehir Üniversitesi Yapay Zekâ Hukuku ve Etiği Uygulama ve Araştırma Merkezi (YETİ) olarak çalışmalarımızı bu temel sorulardan hareketle yürütüyoruz.

Yapay zekânın sunduğu olağanüstü imkânlardan yararlanırken insan onurunun, temel hak ve özgürlüklerin, hukukun üstünlüğünün ve demokratik değerlerin korunmasının vazgeçilmez olduğuna inanıyoruz. Teknolojik ilerleme ile insan hakları arasında bir tercih yapmak zorunda olmadığımızı; aksine gerçek ve sürdürülebilir ilerlemenin ancak bu iki alanın birlikte düşünülmesiyle mümkün olabileceğini savunuyoruz.

Bununla birlikte, yapay zekânın geleceğine ilişkin tartışmanın yalnızca mevcut sistemlerin doğurduğu hukuki ve etik sorunlarla sınırlandırılamayacağı kanaatindeyiz. Yapay zekâ sistemlerinin yetenekleri ve özerklik düzeyleri arttıkça güvenlik, kontrol ve insan değerleriyle uyum (alignment) sorunları da giderek daha temel hale gelmektedir. Özellikle ileri düzey yapay zekâ sistemlerinin amaçlarının insan değerleriyle uyumlu tutulması, öngörülemeyen davranışların ve kötüye kullanımın önlenmesi, sistemlerin gerektiğinde güvenli biçimde sınırlandırılabilmesi veya durdurulabilmesi ve nihai karar ve kontrol yetkisinin insanda kalmasının nasıl güvence altına alınacağı, çağımızın en önemli disiplinlerarası araştırma problemleri arasındadır.

“AI safety”, “AI security”, “alignment” ve “AI control” alanlarında yürütülen çalışmaların hukuk, etik ve yönetişim araştırmalarıyla birlikte ele alınması gerektiğine inanıyoruz. Düşük olasılıklı fakat etkisi son derece yüksek riskler dâhil olmak üzere, ileri yapay zekâ sistemlerinin doğurabileceği sistemik ve uzun vadeli risklerin bilimsel ciddiyetle araştırılması gerektiğini düşünüyoruz.

Bu yaklaşım aynı zamanda insan kontrolü meselesini Merkezimizin çalışmalarında özel bir konuma yerleştirmektedir. Yapay zekâ sistemlerinin yetenekleri ne ölçüde gelişirse gelişsin, insanın yalnızca sistemin dışında sembolik bir onay makamına dönüşmediği gerçek, etkili ve anlamlı insan kontrolünün korunabildiği hukuki ve teknik yapıların geliştirilmesini önemli görüyoruz. İnsan iradesinin, sorumluluğunun ve karar verme kapasitesinin korunması, yapay zekâ çağında insan onurunun ve hukukun üstünlüğünün korunmasıyla doğrudan bağlantılıdır.

Amacımız, inovasyonu mümkün kılan; ancak aynı zamanda insanı, insan iradesini ve insan sorumluluğunu merkeze alan güvenli ve hesap verebilir bir yapay zekâ yönetişimi anlayışının gelişmesine katkı sunmaktır.

Merkezimizin temel yaklaşımı disiplinler arasıdır. Yapay zekânın doğurduğu sorunların yalnızca hukukçuların, mühendislerin veya etik alanında çalışan araştırmacıların tek başına çözebileceği sorunlar olmadığına inanıyoruz. Hukuktan bilgisayar bilimlerine ve mühendisliğe, felsefeden siyaset bilimine, uluslararası ilişkilerden iletişime ve sosyal bilimlerin farklı alanlarına uzanan gerçek bir akademik diyaloğa ihtiyaç vardır. Özellikle yapay zekâ güvenliği ve kontrolü gibi meselelerde teknik araştırma ile normatif araştırmanın birbirinden kopuk yürütülemeyeceğini düşünüyoruz.

Akademik bilginin kendi sınırları içerisinde kalması da yeterli değildir. Üniversitelerin temel sorumluluklarından biri, ürettikleri bilgiyi toplumla buluşturmak ve yaşanan dönüşümlere yön verebilecek düşünsel zemini oluşturmaktır. Bu nedenle Merkezimizi akademi, kamu, özel sektör, sivil toplum ve uluslararası kuruluşlar arasında bir buluşma noktası olarak konumlandırmayı amaçlıyoruz.

Araştırmalarımız, eğitim programlarımız, yayınlarımız, ulusal ve uluslararası projelerimiz ve iş birliklerimiz aracılığıyla yalnızca mevcut tartışmaları takip eden değil, bu tartışmalara yön veren bir merkez olmayı hedefliyoruz.

Bu hedefin doğal olarak uluslararası bir boyutu bulunmaktadır. Yapay zekâ ulusal sınırlarla sınırlı olmayan bir dönüşüm yaratmaktadır ve bu dönüşümün ortaya çıkardığı hukuki, etik ve güvenlik sorunları küresel akademik iş birliğini gerekli kılmaktadır. Merkezimizin dünyanın önde gelen üniversiteleri, araştırma merkezleri ve uluslararası kuruluşlarıyla kalıcı araştırma ağları oluşturmasını; Bahçeşehir Üniversitesinin bu alandaki akademik birikimini uluslararası tartışmalara daha güçlü biçimde taşımasını önceliklerimiz arasında görüyorum.

Bununla birlikte, uluslararasılaşmayı tek yönlü bir bilgi aktarımı olarak değerlendirmiyoruz. Türkiye'nin hukuk geleneğinin, akademik birikiminin, toplumsal tecrübesinin ve bulunduğu coğrafyanın yapay zekânın küresel yönetişimine sunabileceği özgün katkılar olduğuna inanıyoruz. Hedefimiz yalnızca dünyadaki gelişmeleri Türkiye'ye taşımak değil, Türkiye'de üretilen nitelikli akademik bilgiyi de uluslararası tartışmaların bir parçası haline getirmektir.

Önümüzdeki dönemde Merkezimizin özellikle yapay zekâ hukuku ve etiği, yapay zekâ güvenliği, “AI alignment” (uyumlama) ve kontrol problemi, insan hakları, hukukun üstünlüğü, algoritmik karar alma, insan denetimi, sorumluluk ve yapay zekâ yönetişimi alanlarında güçlü ve özgün bir akademik kimlik geliştirmesini ulusal ve uluslararası düzeyde referans gösterilen araştırmalar üretmesini hedefliyoruz.

Uzun vadeli hedefimiz iddialıdır: Bahçeşehir Üniversitesi Yapay Zekâ Hukuku ve Etiği Uygulama ve Araştırma Merkezini Türkiye'nin bu alandaki öncü merkezlerinden biri olmanın ötesine taşıyarak, uluslararası düzeyde tanınan ve dünyanın önde gelen yapay zekâ araştırma merkezleri arasında yer alan bir akademik yapı haline getirmek.

Bu hedefe ulaşmanın bireysel değil, kolektif bir çabayla mümkün olduğunun bilincindeyiz. Akademisyenlerimizi, öğrencilerimizi, araştırmacıları, kamu kurumlarını, özel sektörü, sivil toplum kuruluşlarını ve uluslararası paydaşlarımızı bu düşünsel yolculuğun parçası olmaya davet ediyoruz.

Yapay zekânın geleceği, insanın ve toplumun geleceğine ilişkin vereceğimiz kararların bir yansıması olacaktır.

Bu geleceğin insan onurunu, özgürlüğü, adaleti, güvenliği, sorumluluğu ve hukukun üstünlüğünü merkeze alan; yapay zekânın insan değerleriyle uyumunu ve insanın teknoloji üzerindeki anlamlı kontrolünü güvence altına alan bir anlayışla şekillenmesine katkı sunmak, Merkezimizin en temel amacı ve sorumluluğudur.

Dr. Öğr. Üyesi Mert Nomer
Müdür
Bahçeşehir Üniversitesi
Yapay Zekâ Hukuku ve Etiği Uygulama ve Araştırma Merkezi (YETİ)