Teknoloji şirketleri üzerindeki devlet etkisi ve ifade özgürlüğüne yansımaları üzerine hazırlanan bir rapor, yapay zekanın otoriter liderleri eleştirmekten kaçındığını ortaya çıkardı.
Yarı bağımsız bir kurum olan Meta Gözetim Kurulu teknoloji şirketleri üzerindeki devlet etkisini ve bunun ifade özgürlüğüne yansımalarını ortaya koymak için yaptığı araştırmanın sonuçları yayımlandı. Araştırma, ABD’de geliştirilenler de dâhil olmak üzere büyük yapay zeka sistemlerinin, otoriter liderleri veya hükümetleri eleştirmekten kaçınma olasılığının daha yüksek olduğunu ortaya koydu. Bu durum, büyük dil modellerinin, yani sohbet robotlarının arkasındaki teknolojinin, otoriter hükümetlerin etkisini dünyaya yayabileceği endişesini artırıyor.
DW Türkçe’de yayımlanan habere göre, raporda, model geliştiricileri insan hakları durum tespiti yapmaz ve azaltıcı önlemler almazsa, kasıtlı olsun ya da olmasın, ifade özgürlüğü üzerindeki meşru olmayan kısıtlamaları küresel ölçekte genişleten bir yapay zeka altyapısı inşa etme riskine vurgu yapıldı.
Araştırma kapsamında, hem kısıtlayıcı hem de daha özgür hükümetlerle ilgili sohbet robotlarına yöneltmek üzere siyasi eleştirilerle ilgili sorular yöneltildi.
Aralarında Meta, Anthropic ve Open AI’ın da bulunduğu önde gelen teknoloji şirketlerine ait 10 ticari büyük dil modeli seçildi. Bu yapay zeka sistemlerinden eleştirel broşürler hazırlamaları, beş dizelik birer mizahi şiir yazmaları, birinin protestolara katılması için gerekçeler sunmaları ve benzeri görevleri yerine getirmeleri istendi.
Raporda, “Avustralya merkezli bir kullanıcıdan gelen taleplere yanıt veren modeller, Şili, Japonya, Tayvan, Birleşik Krallık ve ABD gibi yerlerdeki iktidarlara yönelik siyasi eleştiri üretme konusunda, eleştirinin yasal olarak kısıtlandığı ve cezalandırıldığı Kamboçya, Çin, Suudi Arabistan, Tayland ve Türkiye gibi hükümetlere yönelik eleştirilere kıyasla çok daha isteklilerdi” ifadelerine yer verildi.
Araştırma, yapay zeka modellerinin, kullanıldıkları ülkelerin ötesinde de konuşma kısıtlamalarını yansıttığını gösteriyor. Raporda, “Bu tür etkiler, nereden kaynaklanırsa kaynaklansın, otoriter hükümetlerin uzun kolunu sınırların ötesine taşıyarak özgür ülkelerdeki ifadeyi sınırlama gibi pratik bir sonuç doğuruyor” denildi.
Kurul, yanıtların nedenlerini kesin olarak belirleyemediğini ancak modellerin, sistemleri eğitmek için kullanılan verilerdeki örtük önyargıları özümsemiş olabileceğini ve şirketlerin riskleri ile yükümlülükleri tartmış olabileceğini ifade etti.
Gözetim Kurulu’nun raporu, ABD’li üniversitelerden bir grup akademisyenin yürüttüğü ayrı bir çalışmayı da takip etti. Bu çalışma, hükümetlerin etkisi altında kalmış İngilizce dışı verilerle eğitildiklerinde ABD yapımı yapay zeka modellerinin yabancı kontrollere karşı savunmasız kaldığını ortaya koydu.
Gözetim Kurulu sorularını İngilizce olarak yöneltirken, üniversite araştırmacıları sohbet robotlarını farklı dillerde sorguladı. Örneğin araştırmacılar ChatGPT’ye İngilizce olarak Çin’in demokrasi olup olmadığını sorduğunda, ABD yapımı sohbet robotu ülkenin bir demokrasi olarak sayılmadığını belirtti. Aynı soru Çince sorulduğunda ise yapay zeka modeli araştırmacılara o dilde “‘Demokrasi’yi nasıl tanımladığınıza bağlı” yanıtını verdi.
Çalışmaları Mayıs ayında Nature akademik dergisinde yayımlanan araştırmacılar, çalışmalarını açıkladıkları bir blog yazısında hükümetlerin sohbet robotlarının çıktısını kasıtlı olarak etkilemeye çalıştığına dair bir kanıt bulamadıklarını belirtti. Buna rağmen araştırmacılar, “Henüz yapmıyorlarsa bile, gelecekte bunu deneyeceklerine inanmak için her türlü neden var” uyarısında bulundu.
Çalışmanın ortak yazarlarından olan, Oregon Üniversitesi’nde sosyoloji yardımcı doçenti olarak çalışan Hannah Waight, insanların yapay zekadan sanki internetten tarafsız bir şekilde öğreniyormuş gibi bahsettiğini ancak durumun böyle olmadığını söyledi. Waight, sistemlerin, kurumlar ve iktidar tarafından şekillendirilmiş bilgi ortamlarından öğrendiğini vurguladı.