UTKU ÇAKIRÖZER (Eskişehir) - Teşekkür ederim Sayın Başkan.

Merve Hanım, size de çok teşekkür ediyoruz, hem sunumunuz hem de bu alanda gösterdiğiniz başarılar nedeniyle ayrıca tebrik ediyoruz.

Ömer Bey'in sorusunda belki ben eksik duymuş olabilirim ya da kaçırmış olabilirim. Aynı, kitlesel imha silahlarında olduğu gibi ya da nükleer silahlarda olduğu gibi, küresel, herkesi bağlayacak bir uluslararası anlaşma arayışı noktasında -siz bulunduğunuz ortamlarda çünkü sunumunuzda görüyorum, Birleşmiş Milletlerden tutun da OECD, UNESCO, Avrupa Birliği, her türlü yapay zekâyla ilgilenen uluslararası oluşumun içindesiniz ya da o tartışmaların içindesiniz- böyle bir noktaya varma şansımız var mı? Buna biz ihtiyaç olduğunu düşünüyoruz ama genelde küresel oyuncular da düşünüyor mu ya da böyle bir sınırlandırıcı yani hep o arzu ettiğimiz, sizin de sunumunuzda vurguladığınız, insani değerler odaklı, güvenilir yapay zekâyı sadece bireylerin, ülkelerin vicdanına ya da kendi etik sınırına değil de daha hepimizi bağlayıcı bir uluslararası anlaşmaya çevirme inisiyatifleri nelerdir? Bu konuda bilgi verebilir misiniz?

Bir de biz Komisyon olarak uzmanları, bu alanı bilenleri dinlerken bu açık kaynak-kapalı sistem tartışmalarını hep dinliyoruz. Açık kaynak hep böyle çok avantajlı gibi gözüküyor baktığınızda. Bu, yapay zekâ yarışında bir avantaj mıdır yoksa riskleri de beraberinde mi getirmektedir?

Son olarak da -aslında yine az önce milletvekilimiz sormuştu ama- belki daha pratik olarak bu sizin endeksinizde daha yukarılara yükselmek için sadece -Avrupa Birliği- o şeyi imzalamak yetecek düşüncesinde değilim yoksa işte Güney Kore, Kolombiya gibi ülkeleri görüyorum daha üstümüzde, o sözleşmenin dışında olan Arjantin'i görüyorum, farklı ülkeleri görüyorum. Acaba devletin inisiyatif alması gereken ya da özel sektörün inisiyatif alması gereken, akademinin inisiyatif alması gereken eksikliklerimiz neler Türkiye olarak siz oradan baktığınızda küresel olarak? Pratik olarak "Şunları, şunları daha güçlendirmemiz lazım." dediğiniz hususlar varsa, paylaşırsanız sevinirim.

Çok teşekkür ediyorum.

YAPAY ZEKÂ VE DİJİTAL POLİTİKA MERKEZİ BAŞKANI MERVE HICKOK - Ben çok teşekkür ediyorum sorularınız için.

İlk sorudan başlayayım. Kitlesel imha silahları gibi, o konvansiyonlar gibi uluslararası anlaşma ihtimali var mıdır? Bu ihtimal gittikçe artıyor. Evet, şu anda farklı bölgelerde İsrail-Filistin arasında olsun, Rusya-Ukrayna arasında olsun ya da Amerika'nın yeni yaklaşımları bunu pozitif etkilemese de genel olarak dünya çapındaki diğer ülkeler yavaş yavaş bu ortak anlaşma ihtimali üzerine ilerliyorlar. Şu andaki durumu bundan dört beş sene önceki tartışmalarımızla karşılaştırırsanız çok ciddi bir ilerleme kaydetmiş durumdayız. Bu, bu sene olur mu? Muhtemelen hayır ama yakın zamanda olma ihtimali de var. Burada önemli olan, ülkelerin, aynı fikirde olan ülkelerin çok ciddi bir şekilde beraber çalışması ve baskı üretmesi gerekiyor ama bence olasılık var. Buna bir örnek vermek gerekirse: Biz insan hakları ve demokratik değerleri ön plana çıkaran bir sivil toplum kuruluşu olarak bu çeşitli forumlarda katkıda bulunduğumuzda ya da tartıştığımızda ön plana çıkardığımız, yasaklanmasını tavsiye ettiğimiz bazı sistemler var. Mesela bunlardan bir tanesi "biometric categorisation" dediğimiz; biyometrik bilgilerinizi -bu, yüzünüz olabilir; göz, parmak, yürüyüş şekli vesaire- bedeninizle ilgili herhangi bir biyometrik veriyi alarak sizin hakkınızda politik, sosyoekonomik, dini, etnik, aklınıza gelebilecek türlerde kararlar veren sistemler var. Bunun en bilinen uygulaması Çin'in Uygur vatandaşları üzerinde kullandığı "biometric categorisation" sistemleri. Yüz verilerine, hareket verilerine bakarak Uygur mudur değil midir, tehlikeli midir değil midir, Çin'e karşı mıdır değil midir, hani politik şeyi nedir gibi, bu tarz kararlar veren sistemler var. Biz bunun yasaklanması gereken bir sistem olduğunu düşünüyoruz mesela. Ya da benzeri şekilde "emotion analysis" dediğimiz, yüz verilerinize bakarak, fiziksel verilerinize bakarak sinirli misiniz, agresif misiniz, mutlu musunuz, aklınıza gelebilecek herhangi bir duyguyu analiz etmeye çalışan sistemler var. Her iki sistem, "biometric categorisation" olsun, duygu analizi sistemleri olsun, bilimsel bazı olmayan sistemler, tamamen şirketlerin ya da devletlerin kötü niyetle kullanılabileceği, insanları baskı altında tutmak için kullanabileceği sistemler. Mesela biz senelerdir bu sistemler yasaklansın diyoruz. Şimdi, Avrupa Birliğinin bu yapay zekâ kullanımına baktığımızda, yasaklanan, ciddi şekilde engellenen iki sistem bunlar. Aynı şekilde, UNESCO tavsiyelerimize baktığımızda benzer yasaklar öne plana çıkıyor. Eğer bize dört beş sene önce "Yasaklar hakkında uluslararası bir konsensüs olacak mı?" diye sorsaydınız, "Hayır." derdik ama insanlar yapay zekâ sistemlerinin nasıl negatif etkisi olduğunu görüyor, şirketlerin ve bazı ülkelerin bunları nasıl kötü amaçlı kullanabileceğini görüyor. O yüzden, şimdi bu yasaklarla ilgili daha fazla ortak anlayış var. Aynı şekilde, dediğim gibi, bu silah sistemleriyle de uluslararası antlaşma ihtimalinin olacağını düşünüyorum.

"Açık kaynak avantajlı mıdır?" dediğinizde bence kesinlikle avantajlı. Bunu burada da paylaşıyorum, Japonya'daki kanun koyucuların da sorduğu sorulardan bir tanesi bu. Açık kaynak kesinlikle avantajlı çünkü belirli şirketlere bağlılığınızı azaltıyor; bir. İkincisi: Mesela, şu anda baktığımızda -örnek veriyorum- OpenAl olsun Anthropic olsun, ürettiklerinin, ön plana çıkardıkları ürünlerin detaylarını bilmiyorsunuz, her şey ticari sır. Bu ürünleri üretmek için nasıl veri kullanılmış, o veriler nereden geliyor, veriler kaliteli midir, tescil haklarını nasıl etkiliyor, ne tür kararlar, dizayn kararları verilmiş, performansına nasıl bakıyorlar, nasıl kontrol ediyorlar; bu bilgilerin hiçbirini görmüyoruz. Şirket diyor ki: "Ben bunu ürettim ama hiçbir bilgi vermeyeceğim, bana güvenin." Ama sonrasında negatif etkilerini görüyoruz. Açık kaynak sistemlere baktığınızda bütün detayları -verisi olsun, dizayn detayları olsun, performansı olsun- görebiliyorsunuz ve değiştirebiliyorsunuz. Burada tek şey açık kaynak sistemler; her açık kaynak sistem hâlihazırda güvenli değil, açık kaynak sistem kullanacaksınız yine bir yetkinlik gerektiriyor, sistemin siber güvenlik altyapısını kontrol etmek gerekiyor, güvenli bir şekilde korumak gerekiyor. Önyargılı kararlar verebilir. Mesela, şeyi biliyoruz, "DeepSeek" modellerinin açık kaynak versiyonu çok başarılı ama aynı zamanda Çin'in politik ve sosyal değerlerini ön plana çıkaran cevapları var. Mesela, kullanılmalı mı? Aplikasyondan, "download" ettiğiniz aplikasyondan bahsetmiyorum, açık kaynak versiyonu bence kullanılmalı ama aldığınız şekilde değil, hani sıfırdan aldığınız gibi değil, onun güvenlik şeyleri nelerdir, korumaları ne olmalı, bu sistemi nasıl daha da geliştirilebilirsiniz, bu yetkinliğiniz varsa açık kaynak kullanmak çok daha avantajlı ama dediğim gibi, her açık kaynak sistem sıfırdan hâlihazırda çok güvenli de olmayabilir. Eğer yetkinlik varsa kesinlikle daha avantajlı olduğunu düşünüyorum.

Son olarak da "Endekste yukarı çıkmak için neler olabilir?" demiştiniz. Dediğim gibi, ağırlıklı olarak uygulama, Türkiye'nin yapay zekâ stratejisi, eylem planı ve veri mahremiyeti kanununa vesaireye baktığımızda güzel prensipler var, güzel amaçlar var ama uygulamaya geçti mi? Henüz birçoğu geçmiş durumda değil. Dediğim gibi, en son slaytta gösterdiğim, hâlihazırda olan insan hakları, tüketici hakları ve veri mahremiyeti kanununu nasıl ileriye taşıyabiliriz? Burada amaç Avrupa Birliğiyle uyumlu olması değil. Olursa o tabii ki sizin kararınız, devletin kararı ama bizim amacımız yani bizim analiz ettiğimiz, Türkiye Avrupa Birliğiyle uyumlu değil, uyumluluğa bakmıyoruz, Türkiye kendi verdiği sözleri, kendi stratejisinde "Ben bunu yapacağım." diye verdiği kararları uygulamaya geçiriyor mu? Burada başka neler olabilir? Bunlar içinde de en önemlileri: Şeffaflık sağlayacak, algoritmik şeffaflık dediğimiz, insanlar bir yapay zekâ sistemi kullanılıyorsa kullanıldığını biliyor mu, biliyorsa bu yapay zekâ sistemlerinin mantığını anlayabiliyor mu, şirketlerin bunu paylaşması için bir zorunluluk var mı, verilerini nasıl kontrol edebiliyorlar gibi prensipler var. Dilerseniz ben bunu daha detaylı olarak da şey yapabilirim hem endeksin linkini hem de aradaki farkı gösteren, konuları da daha detaylı bir şekilde, sonradan... Gelecek hafta değil, aslında endeksimizin, dediğim gibi, 3 Nisanda yeni versiyonu çıkacak, ben de sonuçları şu anda bilmiyorum, ekibimiz çalışıyor. 3 Nisan sonrası hâlâ talep ederseniz paylaşabilirim, "Çok geç." derseniz şu andaki hâliyle de paylaşabilirim.