Job Search
İspanya’nın bölgesel seçimlerine hala neredeyse dört ay kaldı, ancak Irene Larraz ve Newtral’daki ekibi zaten yürürlüğe girmeye hazır. Her sabah, Madrid merkezli medya şirketindeki Larraz’ın ekibinin yarısı, siyasi konuşmalar ve tartışmalardan oluşan bir program belirliyor ve politikacıların açıklamalarını kontrol etmeye hazırlanıyor. Dezenformasyonu çürüten diğer yarısı, web’i viral yalanlar için tarar ve yalanlar yayan gruplara sızmak için çalışır. Mayıs seçimleri yoldan çıktıktan sonra, yıl sonundan önce ulusal bir seçim çağrısı yapılmalıdır, bu da muhtemelen çevrimiçi yalanların seline neden olacaktır. “Oldukça zor olacak,” diyor Larraz. “Zaten hazırlanıyoruz.”
Çevrimiçi dezenformasyon ve propagandanın yaygınlaşması, Rusya’nın Ukrayna’yı işgali, -19 salgını veya seçim kampanyaları gibi karmaşık veya hızlı hareket eden durumlar sırasında büyük miktarda bilgiyi elemek ve doğrulamak zorunda olan dünya çapındaki doğruluk denetleyicileri için yokuş yukarı bir savaş anlamına geliyordu. Bu görev, OpenAI’nin ChatGPT’si gibi büyük dil modellerini kullanan chatbotların ortaya çıkmasıyla daha da zorlaştı; bu, bir düğmeye tıklayarak doğal ses çıkaran metinler üretebiliyor ve esasen yanlış bilgi üretimini otomatikleştiriyor.
Bu asimetri ile karşı karşıya kalan kuruluşların, gerçekleri kontrol eden kuruluşların, çalışmalarını otomatikleştirmeye ve hızlandırmaya yardımcı olmak için kendi AI destekli araçlarını oluşturmaları gerekir. Tam bir çözümden çok uzak, ancak doğruluk kontrolcüleri, bu yeni araçların en azından sosyal medya şirketlerinin kendi moderasyon operasyonlarını küçülttüğü bir anda rakipleriyle aralarındaki boşluğun çok hızlı bir şekilde genişlemesini önleyeceğini umuyor.
“Teyitçiler ve kontrol ettikleri kişiler arasındaki dev yarış eşit değil” diyor Tim Gordon, bir yapay zeka stratejisi ve yönetim danışmanlığı firması olan Best Practice AI’nın kurucu ortağı ve İngiltere’deki bir hayır kurumu doğruluk denetleyicisinin mütevellisi.
Gordon, “Teyitçiler genellikle dezenformasyon üretenlere kıyasla küçük organizasyonlardır” diyor. “Ve üretken AI’nın üretebileceği şeyin ölçeği ve bunu yapabileceği hız, bu yarışın sadece daha da zorlaşacağı anlamına geliyor.”
Newtral, 2020 yılında HBO ve Netflix için bir şov, gerçekleri kontrol eden politikacılar ve belgeseller üreten TV kanadının karlarıyla finanse edilen çok dilli AI dil modeli ClaimHunter’ı geliştirmeye başladı.
Microsoft’un BERT dil modelini kullanan ClaimHunter’ın geliştiricileri, sistemi veri, sayı veya karşılaştırma gibi gerçek ifadeleri içeriyor gibi görünen cümleleri tanıyacak şekilde eğitmek için 10.000 ifade kullandı. “Makineye doğruluk denetleyicisi rolünü oynamayı öğrettik,” diyor Newtral’ın baş teknoloji sorumlusu Rubén Míguez.
Siyasi figürlerin ve sosyal medya hesaplarının kontrol edilmesi gereken iddialarını belirlemek zahmetli bir iştir. ClaimHunter, Twitter’daki siyasi iddiaları otomatik olarak algılarken, başka bir uygulama politikacıların video ve ses yayınlarını metne dönüştürür. Hem kamusal yaşamla ilgili kanıtlanabilecek ya da çürütülebilecek bir iddia içeren ifadeleri tanımlar hem de vurgular – belirsiz olmayan ifadelerde, sorularda veya görüşlerde olduğu gibi – ve bunları gözden geçirilmek üzere Newtral’ın doğruluk denetleyicilerine işaretler.
Sistem mükemmel değildir ve bazen görüşleri gerçekler olarak işaretler, ancak kusurları kullanıcıların algoritmayı sürekli olarak yeniden eğitmelerine yardımcı olur. Míguez, bunun kontrol edilmeye değer ifadeleri belirlemek için gereken süreyi yüzde 70 ila 80 oranında azalttığını söyledi.
