TikTok Ulusal Güvenliğe Tehdit Oluşturuyor, Ancak Düşündüğünüz Nedenle Değil

Yaklaşık 170 milyon Amerikalı TikTok kullanıyor ve birçoğu en sevdikleri sosyal medya uygulamasına erişimlerini kaybederlerse inanılmaz derecede üzülecekler. Bu yılın başlarında, hükümet şirketin ABD operasyonlarını elden çıkarmasını veya yasaklanması gerektiğini zorlayan bir yasa çıkardı ve yasaya karşı protesto amacıyla gelen çağrıların yoğunluğu nedeniyle kongre telefon hatları dolup taştı . Uygulamanın ulusal güvenlik etkileriyle ilgili söylem, kritik bir tehdidi göz ardı ediyor: gelişmiş deepfake üreten AI sistemlerini eğitmek için ideal olan benzeri görülmemiş bir video topluluğu. Yasak ve kaçınılmaz yasal işlem hakkındaki ılımlı kamuoyu görüşü karşısında, ABD kanun koyucularının bu riski anlamaları ve vurgulamaları çok önemlidir.

2024'ün başlarında, Hong Kong merkezli bir İngiliz mühendislik şirketinde çalışan bir çalışan, birkaç rutin Zoom toplantısında CFO'sundan sözlü onay aldıktan sonra 25 milyon dolardan fazla parayı yabancı hesaplara aktardı. Bu standart bir prosedür olurdu, ancak CFO ve görüşmelerdeki diğer tüm çalışanlar, yapay zeka (AI) kullanan dolandırıcılar tarafından yaratılan taklitlerdi .

Bu büyüklükteki "Deepfake" dolandırıcılıkları hala nadirdir ve dikkatli bir göz genellikle AI tarafından üretilen videoları gerçeklikten ayırt edebilir. Haber kuruluşları, New Hampshire'da oy kullanmayı engellemek için kullanılan Başkan Biden'ın deepfake'ini ve Dışişleri Bakanlığı sözcüsü Matthew Miller'ın Ukrayna'nın ABD silahlarını kullanması için bir Rus şehrinin meşru bir hedef olduğunu belirttiği deepfake'i ifşa etmekte hızlı davrandılar.

Ancak AI sistemleri hızla ölçeklendikçe, bu uydurmaları ayırt etmek giderek zorlaşıyor. Çok uzak olmayan bir gelecekte, gözler ve kulaklar artık güvenilir gerçeklik sensörleri olmayabilir. Bir düşmanın Amerikalıların istedikleri her şeyi yapıp söylediği videoları yapay olarak üretmesinin ulusal güvenlik üzerindeki etkilerini hayal etmek kolaydır.

Bir düşmanın Amerikalıların istedikleri her şeyi yapıp söylediklerini gösteren yapay videolar üretmesinin ulusal güvenlik üzerindeki etkilerini hayal etmek kolaydır.

Bu ve diğer tehlikeli AI yeteneklerinin yabancılar tarafından geliştirilmesini engellemek için hükümet, AI'nın fiziksel temeli olan yarı iletkenlerin ihracatını kontrol ediyor. Ancak, üretken AI sistemlerinin yakıtı olan büyük veri kümelerinin veya toplu verilerin sınır ötesi transferlerine eşit derecede vurgu yapılmalıdır . Bu, özellikle TikTok olmak üzere yabancı kontrollü veri toplama platformlarının yeniden incelenmesi anlamına gelir.

ABD hükümeti, TikTok'un esas olarak Amerikalı kullanıcıların hassas kişisel bilgilerine odaklanan veri toplama uygulamalarına yönelik çeşitli itirazlarda bulundu. TikTok, bu endişelere, e-postalar, doğum günleri ve davranışsal veriler gibi "korunan ABD kullanıcı verilerini" ABD merkezli Oracle sunucularında depolamak için bir girişim olan Project Texas'ı oluşturarak yanıt verdi .

Bu tür verileri korumak önemlidir, ancak kamuya açık olarak yayınlanan videoların selinden eşit derecede önemli ulusal güvenlik riskleri ortaya çıkar . TikTok , "TikTok platformunun ABD kullanıcıları, tutarlı bir küresel deneyim için küresel kullanıcılarla iletişim kurabilir ve etkileşimde bulunabilir." diyor . Sorun budur. Kullanıcıların kamuya açık olarak yayınladığı videolar Project Texas kısıtlamalarına tabi değildir ve yine de yabancı sunucularda sonlanabilir.

Amerikalıların sosyal medya platformlarında paylaştığı bireysel videoların çoğu ilk bakışta zararsız olsa da, TikTok'ta her gün paylaşılan 34 milyon video, büyük çaplı jeneratif AI modelleri için ideal eğitim materyali haline geliyor. Bu modeller şaşırtıcı derecede ikna edici deepfake'ler yaratabilecek ve gizli, büyük ölçekli ve oldukça hedefli etki operasyonları başlatmak için kullanılabilir. Bu soyut bir gelecek tehdidi değil. Politika yapıcıların, jeneratif AI çağında, toplu görsel-işitsel verilerin kullanıcıların TikTok gibi uygulamalara kaydolmak için kullandıkları doğum günlerinden ve e-posta adreslerinden daha değerli olabileceğini anlamaları gerekiyor.

Çinli aktörler dezenformasyon yaymak için zaten üretken yapay zekayı kullandılar . Ayrıca Amerika Birleşik Devletleri içinde Amerikan karşıtı propaganda yaymak için TikTok'u kullandılar. TikTok, uygulamada ortaya çıkarılan gizli etki operasyonlarının aylık listelerini yayınlıyor ve Mayıs 2024'te yüz binlerce takipçisi olan bir ağın "Çin'den faaliyet gösterdiğini ve ABD'li bir kitleyi hedef aldığını" gösterdiler. Bu ağın arkasındaki kişiler, ABD'nin yozlaşmış ve güvenli olmadığı yönündeki anlatıları yapay olarak güçlendirmek için sahte hesaplar oluşturdular.

TikTok, kullanıcıları 9:16 en boy oranına sahip dikey videolar yayınlamaya teşvik ediyor. Yapıdaki bu tekdüzelik ve gönderilerin çeşitli içerikleri, onları derin öğrenme modellerini eğitmek için mükemmel hale getiriyor. Ayrıca, TikTok'un tüm yüklenen videolara eklediği dinamik filigranlama, diğer aktörlerin bu videoları AI eğitim amaçları için taramasını zorlaştırıyor ( PDF ) , yani TikTok ve dolayısıyla ana şirketi ByteDance, eğitim materyaline esasen tek erişime sahip.

ByteDance, büyük ölçekli üretken AI sistemleri yaratmaya yabancı değil. Çin'in en gelişmiş büyük dil modellerinden biri olan MegaScale'den sorumlular . Bu altyapı, çok çeşitli faaliyetlerde bulunan Amerikalıların giderek daha büyük bir görsel-işitsel bilgisine özel erişimle birleştiğinde, dünyadaki en gelişmiş deepfake'lerden bazılarını yapmak için kaynaklar sağlıyor. Bu, ABD ulusal güvenliği için ciddi bir tehdit oluşturuyor.

24 Nisan 2024'te, TikTok'un ABD'deki operasyonlarını yasaklama veya elden çıkarma yönündeki birkaç başarısız girişimin ( PDF ) ardından Başkan Biden, "21. Yüzyılda Güçle Barış Yasası"nı yasalaştırdı. Yasa tasarısı Rusya ve İran'a yeni yaptırımlar getiriyor, ancak aynı zamanda ABD'de "yabancı düşman kontrollü uygulamaları" yasaklayan bir bölüm de içeriyor. Yasa uyarınca, ByteDance, TikTok platformunu Ocak 2025'e kadar bir Amerikalı alıcıya satmalı, aksi takdirde tam bir yasakla karşı karşıya kalacak. Uyulmaması durumunda ABD'li kullanıcı başına 5.000 dolar, toplamda yaklaşık 1 trilyon dolar para cezası verilecek. Buna karşılık TikTok, hükümete Birinci Değişiklik gerekçesiyle dava açıyor ( PDF ) ve milyonlarca kullanıcısını yasaya itiraz etmeye çağırıyor. Davanın nasıl sonuçlanacağı belirsiz, ancak konuşmada uygulamanın oluşturduğu tüm ulusal güvenlik tehditleri dikkate alınmalı. Deepfake sistemleri için toplu eğitim verilerinin toplu olarak toplanması şu anda diyaloğun bir parçası değil ve ön planda olması gerekiyor. TikTok yasağı anayasaya uygun görülse bile, toplu görsel-işitsel verilerin yurtdışına satışını yasaklayan bir yasa bulunmuyor.

Kapsamlı görsel-işitsel veri toplamanın gelişmiş deepfake yaratımını kolaylaştırma potansiyeli, TikTok gibi yabancı kontrollü uygulamaları incelemek için zorlayıcı ve acil bir nedendir.

Sosyal medya platformları artık kendini ifade etme ve fikir ve bilgi yayma için olmazsa olmaz olarak görülüyor, ancak aynı konuşma için bir çıkış noktası olabilecek TikTok'a birden fazla Amerikan sahibi alternatif var. Instagram, Facebook ve YouTube kısa biçimli dikey videoları destekliyor ve daha fazla platform da bu yolu izliyor. TikTok'taki sorun uygulamada söylenenler değil; endişe duyulan ülkelere eğitim verilerinin iletilmesi.

Granüler düzeyde belirgin olmayan önemli ulusal güvenlik riskleri toplu verilerden ortaya çıkabilir. Gelişmiş deepfake oluşturmayı kolaylaştırmak için kapsamlı görsel-işitsel veri toplama potansiyeli, TikTok gibi yabancı kontrollü uygulamaları incelemek için zorlayıcı ve acil bir nedendir. Amerika'nın rakiplerinin araç seti gelişti ve risk analizi de gelişmelidir. Yasak ve yaklaşan yasal zorluklar konusundaki ılımlı kamuoyu görüşü ortasında, hükümet bu açıyı kabul etmeli ve vurgulamalıdır. Küresel bilgi akışları önemlidir, ancak toplu olarak veriler tehlikeli üretici sistemler için yakıt olarak kullanılabilir.

Çin, TikTok verilerinin külliyatına erişimini kaybetse bile, yine de Amerikan AI platformlarını kötü niyetli amaçlar için kullanabilir. Hem Rusya hem de Çin, kötü amaçlı içerik üretmek için ChatGPT'yi kullandı . Ancak OpenAI ve Meta gibi şirketler Amerikan düzenlemelerine tabidir.

Temmuz 2024'te Kongre, yerli üretici AI şirketlerinin modellerinin AI tarafından üretilen içeriklerine filigran eklemesini zorunlu kılacak bir yasa tasarısı ( PDF ) sundu. Bu, rakiplerin Amerikan modellerini kötü niyetli amaçlar için etkili bir şekilde kullanma yeteneğini sınırlayacaktı çünkü üretilen çıktılar kalıcı olarak bu şekilde işaretlenecek ve bu nedenle gerçeklik olarak sunulması zor olacaktı. Öte yandan Çin yapımı modeller bu kurallarla kısıtlanmayacak. TikTok tarafından sağlanan toplu veriler, Çin'in bunları oluşturmasını kolaylaştıracak.

Amerika Birleşik Devletleri, üretken yapay zeka ve eğitildiği veriler tarafından oluşturulan yeni tehditlerin önünde kalmaya devam etmelidir, aksi takdirde daha fazla Amerikalı deepfake'lere maruz kalacaktır. Sonuçlar, yabancı fonların yasadışı transferinden çok daha ciddi olabilir.

• 
  
•