Yapay zekâ, yeni bir siber zorbalık dalgası mı oluşturuyor?

Günümüzün dijital çağında çocuklar sadece teknolojinin ortasında değil aynı zamanda sürekli genişleyen yapay zekâ (AI) alanında da büyüyorlar. AI, kolaylık ve verimlilik sunarken çocukların hayatındaki yaygın varlığı, özellikle toplumumuzun en genç üyelerini hedef alan dijital gasp planlarının ortaya çıkması gibi yeni bir dizi endişeyi de beraberinde getirdi. Sosyal medya platformlarından çevrimiçi oyun topluluklarına kadar yapay zekâ araçları çocukların hayatlarının büyük bir parçası haline geldi, bu da onları kötüye kullanmanın yeni yollarına zemin hazırladı ve çocuklara birbirlerine karşı kullanabilecekleri yeni bir araç verdi.

FBI'ın yakın zamanda yaptığı bir uyarıya göre yapay zekâ destekli sextortion trendi giderek artıyor. Deepfakes ve ses klonlama gibi yeni araçlar ve teknolojiler, suçlulara ve zorbalara başkalarını gasp etmenin ve incitmenin yollarını bulmaları için yeni bir fırsat veriyor.

“Seks şantajı, bir kişinin başkalarını kendileri hakkında utanç verici bilgileri ifşa etmekle tehdit ederek cinsel içerikli şeyler yapmaya veya müstehcen resim ya da videolar paylaşmaya zorlamasıdır.”

Siber suçlular, deepfake modellerini kullanarak yeni videolar oluşturabileceğini, bu videoları birilerine benzetebileceğini ve daha sonra bu kişileri yapmayacakları bir şeyi yapmaya zorlayabileceğini fark ettiler. Yapay zekâ modellerinin kötüye kullanımları çok kolaydır. Bunlarla hazırlanan sahte video ve fotoğraflar iddia ettikleri kişi değildir ancak kurbanı utandırmaya ve dolayısıyla daha savunmasız hale getirmeye yeterlidir. Bu da suçlunun para ya da bilgi talep etmek için sahte videoyu kullanması için bir alan yaratır.

Ondrej Kubovic ile yapay zekâ ve siber zorbalıkta kullanımı hakkındaki endişeler üzerine yapılan video röportaja göz atabilirsiniz.

Çocuklar deepfake porno mu yaratıyor?

Evet, doğru okudunuz. Çocuğunuzun yüzü çalınabilir ve suçlular tarafından her türlü müstehcen içerik oluşturmak için kötüye kullanılabilir. İşin kötü tarafı günümüzde çocuklar yapay zekâ kullanarak bunu birbirlerine yapıyorlar.

Deepfake'lerin nasıl yaratılacağını bulmak oldukça kolay ve teknoloji meraklısı çocuklar için hiç de zor değil. Ve böylece ne yazık ki yeni bir siber zorbalık dalgası oluşuyor. Çocuklar (çoğunlukla daha büyük olanlar) müstehcen içeriğin akranlarına karşı kullanılabileceğini fark ettiler. Ayrıca yeni teknolojinin tüm inceliklerine hakimler ve şimdi bunu birbirlerine zarar vermek için kullanıyorlar.

Duygusal etki

Bazı çocuklar bunu eğlence için bazıları meraktan, bazıları da sınıf arkadaşlarına zarar vermek için yapıyor olabilir. Ancak kesin olan bir şey var ki bir sextortion dolandırıcılığının kurbanı olmak duygusal olarak yıpratıcıdır ve üstesinden gelmek çok zordur.

Siber zorbalığın bu yeni biçimi, ebeveynler, eğitimciler ve BT uzmanları için yepyeni bir endişe düzeyini beraberinde getiriyor. Bir çocuk için sonuçları tahmin edebileceğinden çok daha ciddidir. Yıllarca sürebilecek travmadan güven kaybına, gelecekteki işverenlerin ve aşk ilişkilerinin bunu öğrenmesine kadar uzun vadeli sonuçların listesi uzayıp gidiyor.

Siber zorbalık için çözüm daha sıkı sınırlamalar mı?

Bazıları, elimizdeki gibi yayılan bir soruna yardımcı olabilecek tek şeyin daha katı kurallar ve düzenlemeler olduğunu söylüyor. Bazıları sosyal medya hesabı açabilecek çocuklar için daha yüksek bir yaş şartı getirilmesini, bazıları da içerik denetimi konusunda daha katı kurallar getirilmesini talep ediyor.

Ebeveynler ne yapabilir?

1. Çocuklarınızın içinde yaşadığı dünyayı anlayın. Siz onların yaşındayken sosyal medya yoktu ama çocuklarınız tamamen yeni bir çağda büyüyor. Onları çevreleyen dünyayı anlamak her türlü ilerlemenin anahtarıdır.
2. Açıklayın, açıklayın, açıklayın… Teknoloji kullanımına ilişkin katı kuralların işe yaramadığı uzun zamandır kanıtlanmıştır. Çocuklar her zaman bir yolunu bulur. Bu nedenle daha iyi bir yol onlarla konuşmak ve sosyal medyanın veya internet etiğine uymayan davranışların ve çevrimiçi ortamda başkalarına zarar vermenin risklerini ve olumsuz yanlarını açıklamaktır.
3. Onların güvenli yeri olun; hem failin hem de mağdurun konuşacak birine ihtiyacı vardır. Çocuklarınız için güvenli, yargılamayan bir kişi olmak, çevrimiçi ve çevrimdışı ortamda çocuklarınızın başına gelebilecek pek çok zararı önleyebilir.
4. Onlara değerlerini gösterin; sağlıklı öz saygı evde başlar. Eğer buna sahip olurlarsa başka bir yerde onay aramaya ihtiyaç duymayacaklardır.
5. Çocuklarınız teknolojiyi öğrenmeye başlamak için asla çok küçük değildir. Onlara ne kadar çok şey anlatırsanız, kötü bir şey olduğunda o kadar hazırlıklı olurlar. Doğru internet kullanımı için örnek ve rehber olmalısınız.

Yapay zekâ araçlarıyla kolaylaştırılan siber zorbalığın yükselişi, günümüzde ve çağımızda bir sorun teşkil etmektedir. Teknoloji ilerledikçe ebeveynlerin ve eğitimcilerin uyanık ve bilgili kalmaları gerekiyor. Seks şantajı ve siber zorbalık gibi bir sorunla mücadele etmek hiçbir zaman kolay olmamıştır ancak başarılı olmak için çocuklarımızla konuşmalı ve internetin iyi ve kötü yanlarını anladıklarından emin olmalıyız. Etik yapay zekâ oluşturmak ve doğru kullanımını sağlamak önemlidir ancak empati, saygı ve sorumlu çevrimiçi ve çevrimdışı davranış kültürü oluşturmak başka bir büyük görevdir. Çocuklarınıza bu konuda örnek olun ve onlar için çevrimiçi ortamda daha güvenli bir alan yaratın.