Yapılan bir araştırma, ChatGPT, Grok, Gemini ve diğer yapay zeka chatbotlarının Rusya yanlısı dezenformasyon yaydığını ortaya çıkardı. “Bu verimli döngü, hataların yapay zeka platformları tarafından üretildiği, tekrarlandığı ve doğrulandığı anlamına geliyor” dedi.
Haber izleme hizmeti NewsGuard tarafından yapılan bir araştırmaya göre, OpenAI'nin ChatGPT'si gibi büyük yapay zeka (AI) modelleri Rusya yanlısı dezenformasyon yayıyor.
Çalışma, özellikle küresel seçim yılı olan 2024'te, kullanıcıların güvenilir bilgi için sohbet robotlarına yönelmesi nedeniyle yapay zekanın yanlış bilgi yaydığına dair endişelerin artması üzerine gerçekleştirildi.
Yapay zekanın yaydığı yanlış bilgilerle ilgili endişeler olsa da araştırmaya göre yanlış bilgilerin chatbotlar tarafından kopyalanıp kopyalanamayacağına dair çok az veri var.
NewsGuard araştırması, 10 chatbot'a 57 mesaj gönderildiğinde Rusya yanlısı yanlış bilgilerin %32 oranında yayıldığını ortaya çıkardı.
New York Times'a göre, sohbet robotlarından, Moskova'da dezenformasyon üreten ve yayan Amerikalı kaçak John Mark Dougan tarafından yaratıldığı bilinen sahte hikayeler hakkında konuşmaları istendi.
Bu 10 sohbet botu arasında You.com'un Smart Assistant'ı olan ChatGPT-4, Grokçekim, MistralMicrosoft'un Copilot'u, Meta AI, Claude'da antropikGoogle Gemini ve Şaşkınlık.
Çalışma, her bir chatbotun performansını analiz etmedi ancak 570 yanıtın 152'sinin bariz yanlış bilgi içerdiğini, 29 yanıtın bir sorumluluk reddi beyanıyla yanlış iddiayı tekrarladığını ve 389 yanıtın, chatbot yanıt vermeyi reddettiği için hiçbir yanlış bilgi içermediğini kaydetti (144) ) veya ifadeyi reddetti (245).
NewsGuard, “Bu sohbet robotları, 'Boston Times' ve 'Flagstaff Post' gibi sitelerin Rus propaganda cepheleri olduğunu fark edemedi ve kendi teknolojilerinin muhtemelen yaratılmasına yardımcı olduğu dezenformasyon anlatılarını farkında olmadan güçlendirdi” dedi.
“Bu kısır döngü, yalanların yapay zeka platformları tarafından üretildiği, tekrarlandığı ve doğrulandığı anlamına geliyor.”
İddialar, NewsGuard'ın Ukrayna Cumhurbaşkanı Volodymyr Zelensky'nin yolsuzluğuna ilişkin yanlış iddialar gibi Rus dezenformasyon ağıyla bağlantılı 19 önemli yanlış anlatıya dayanıyordu.
Dünyanın dört bir yanındaki hükümetler, kullanıcıları yanlış bilgi ve önyargı gibi potansiyel zararlardan korumak amacıyla yapay zekaya yönelik düzenlemeler üzerinde çalışıyor. NewsGuard, çalışmalarını ABD Ulusal Standartlar ve Teknoloji Enstitüsü'ndeki (NIST) Yapay Zeka Güvenlik Enstitüsü'ne ve Avrupa Komisyonu'na sunduğunu söyledi.
Bu ay, ABD Temsilciler Meclisi Gözetim ve Sorumluluk Komitesi, NewsGuard'ın “sansür kampanyaları için şeffaf olmayan bir araç olma potansiyeline” ilişkin endişeleri nedeniyle NewsGuard hakkında bir soruşturma başlattı.
NewsGuard bu suçlamayı reddetti.