Avrupa'daki aşırı sağ partiler siyasi mesajları yaymak için yapay zekayı kullanıyor: Rapor

Bu haberin ilk yayınlandığı dil İngilizcedir.

İki yeni rapor, Avrupa'daki aşırı sağ partilerin siyasi mesajlarını desteklemek için yapay zeka tarafından oluşturulan görselleri kullandığını ortaya çıkardı. Ancak bu görüntülerin son Fransa ve Avrupa Parlamentosu (AP) seçimlerini nasıl etkilemiş olabileceği konusunda tartışmalar sürüyor.

Kâr amacı gütmeyen kuruluş AI Forensics, Avrupa seçimleri kampanyası ve ilk seçim turu sırasında ülkedeki 31 siyasi partinin sosyal medya sayfalarını inceleyerek 1 Mayıs – 28 Haziran tarihleri ​​arasında üretilen içeriklerdeki yapay zeka içeriğini tespit etmeye çalıştı. Fransa'da genel seçimler.

Ekip, bu görsellerin yapay zeka tarafından oluşturulduğunu doğrulamak için arama motorlarını kullandı.

Yapılan arama sonucunda tarafların kullandığı içeriklerde 51 adet yapay zeka görseli tespit edildi. Araştırmalarda yapay zekayı en çok kullanan partiler arasında aşırı sağcı National Rally (RN), Reconquête ve Les Patriotes yer alıyor.

AI Forensics araştırmacısı Salvatore Romano euronews Next'e şunları söyledi: “Bu seçim sürecinde yapay zekanın kullanımı yeni, ancak gelecekte daha yaygın olarak kullanılacağından eminiz.”

Romano, “Bunu bu kadar küçük ölçekte bile yapamazsak, teknoloji gerçek içerikten ayırt edilemez hale geldiğinde işimiz daha da zor olacak” diye ekledi.

Fransa'da geçtiğimiz pazar günü yapılan genel seçimlerin ilk turunda aşırı sağcı RN partisi yüzde 33 oy alarak lider parti olurken, Haziran ayında yapılan AP seçimlerinde yüzde 31,5 oy almayı başardı.

Yapay zeka içeriği nerede yayınlanıyor?

AI Forensics raporuna göre Fransız partilerin kullandığı ve yapay zeka tarafından üretilen kampanya görsellerinin çoğu; Göç karşıtlığı, Fransa'daki güvenlik duygusunun zayıflığı, ifade özgürlüğünün kısıtlanması, çöken adalet sistemi gibi alt metinlerle dolu.

Yapay Zeka Adli Tıp araştırmacısı Miazia Schüler, görüntülerin korkutma tekniği olarak kullanıldığını, Fransa'nın AB içinde güvensiz olduğunu iddia ettiğini ve toplumun savunmasız kesimlerini hedef aldığını söyledi.

Schüler ayrıca, bu görüntülerin yapay zeka tarafından üretildiğinin çoğu zaman hiper-gerçekçi detaylarda açıkça görülebildiğini belirtti.

Reconquest gibi bazı aşırı sağ partiler, üretken yapay zekayı kullanarak Fransa Cumhurbaşkanı Emmanuel Macron ve Avrupa Komisyonu Başkanı Ursula Von Der Leyen'in resimlerini oluşturdu.

AP'nin Dijital Adli Araştırma Laboratuvarı (DFRLabs) tarafından yapılan bir araştırmaya göre, AP kampanyası sırasında RN, Macron ve Von Der Leyen'in liderlik pozisyonlarını benzer şekilde sorgulayan “Onlar Olmayan Avrupa” adlı bir web sitesi oluşturdu.

Rapora göre halen aktif olan bu sitede yapay zeka tarafından oluşturulmuş en az üç görsel bulunuyor. Bu görüntülerde AB'nin insanları küçümsemesine, kitlesel göçe ve başörtüsüne karşı dilekçe ve mesajlar yer alıyor.

“Buzdağının sadece görünen kısmı”

Atlantik Konseyi'nde araştırmacı olan Valentin Chatelet, yapay zeka tarafından oluşturulan bu tür içeriğin RN'nin hem Avrupa Birliği (AB) hem de Fransa seçimlerindeki başarısı üzerindeki etkisinin boyutunu belirlemenin “zor” olduğunu söyledi.

Chatelet, “Bunun, Bardella'nın (Ürdün Ulusal Lig lideri) bir konu hakkındaki özel tutumu gibi, partinin belirli bir fikri iletmek için kullandığı materyaller üzerinde olumlu bir etkisi olduğunu düşünüyorum” dedi.

“(Yapay zeka tarafından oluşturulan) görüntüler aynı zamanda insanları şok etmek için de kullanılıyor… ta ki ana akım haline gelene kadar” diye ekledi.

Ancak siyasi partiler National Rally (RN), Kimlik ve Demokrasi grubu, Patriots ve Reconquete'nin raporları hakkında yorum yapılmadı.

Ulusal Birlik adayları yapay zeka konusunda eğitim aldı

Fransız yayıncı BFMTV'ye göre, RN adayları Ocak 2024'ten bu yana ChatGPT'nin nasıl kullanılacağı da dahil olmak üzere yapay zeka eğitimi alıyor. Eğitim kitapçığı, yapay zekanın siyasi adaylara, örneğin seçim posterleri oluşturarak ve tartışmalar için argümanlar sunarak, yayıncıya nasıl yardımcı olabileceğine dair örnekler sunuyor. bildirdi.

Ne AI Forensics çalışması ne de Atlantic Council'in DFRLab'ları adayların kişisel gönderilerini veya parti destekçileri tarafından oluşturulan içerikleri incelemedi.

Romano, çalışmanın sosyal medya platformlarında dolaşan yapay zeka seçim içeriğine ilişkin bulgularının “buzdağının görünen kısmı” olduğuna inanıyor.

Teknoloji Şirketlerinin “Kritik İhmali”

AI Adli Tıp raporu, AI tarafından oluşturulan görüntülerin hiçbirinin bu şekilde etiketlenmediğini tespit etti.

Raporda, “Bulgularımız, siyasi partilerin ve platformların her iki tarafının da siyasi kampanyalarında yapay zeka tarafından oluşturulan görselleri etiketleme konusundaki taahhütlerini yerine getirme konusunda ciddi başarısızlıklar ortaya çıkardığını ve acil şeffaflık ihtiyacını vurguladığını ortaya koyuyor” dedi.

Aralarında Google, OpenAI, Meta ve TikTok'un da bulunduğu büyük teknoloji şirketleri, Avrupa Parlamentosu seçimleri öncesinde geçtiğimiz Şubat ayında, platformlarında “yanıltıcı AI seçim içeriğinin ne kadar denetleneceğine ilişkin beklentileri belirleyen” bir açık teknoloji anlaşması imzaladı.

Teknoloji şirketleri ayrıca, “sunabilecekleri riskleri anlamak” için yanıltıcı içeriğe ilişkin yapay zeka modellerini gözden geçirme sözü verdi.

Bazı siyasi partiler bu anlaşmanın kendi versiyonlarını Avrupa Komisyonu ile imzalayarak “yapay zeka kullanımı da dahil olmak üzere kamuoyunun kasıtlı olarak aldatılmasını engellemeye kararlı olduklarını” belirttiler.

RN'nin de parçası olduğu Avrupa Parlamentosu'nun Kimlik ve Demokrasi (ID) grubu bu davranış kurallarını imzalamış olsa da, diğer Fransız ulusal partileri bunu imzalamamıştır.

Romano, AI Forensics'in raporunu Avrupa Komisyonu'na göndereceğini ve bu davranış kurallarını ihlal eden kişilere bir tür yaptırım uygulanacağını umuyor.