SPOT: Teknoloji devi, mağaza uygulama yönergelerini güncelleyerek gerçek kişilerin rızası olmadan sahte çıplak ve mahrem görüntüler (deepfake) oluşturan yapay zekâ yazılımlarını yasaklama kararı aldı. Platform kurallarını ihlal eden uygulamalara ve geliştirici hesaplarına yaptırım uygulanacağı duyuruldu. İşte alınan kararın tüm detayları...

Rızasız İçerik Üretimine Karşı Sıfır Tolerans

Uygulama mağazası inceleme kılavuzunda gerçekleştirilen kapsamlı güncellemeyle birlikte, kişilerin izni veya rızası olmadan cinsel içerikli ya da sahte çıplak görseller üreten yapay zekâ tabanlı uygulamalara yönelik kurallar sıkılaştırıldı. Yapılan yeni düzenlemede, kullanıcıların mağazada yer alan araçları kullanarak bu tür mahrem içerikler üretmesini engellemeyen geliştiricilerin ağır yaptırımlarla karşılaşacağı belirtildi.

Geliştiricilere aktif moderasyon ve filtreleme zorunluluğu getirilirken, gerekli güvenlik mekanizmalarını kurmayan veya ihlal bildirimlerine rağmen işlem yapmayan yazılımlar doğrudan erişime kapatılacak.

Gizli Özellik Ekleme ve Arayüz Manipülasyonuna Son

Güncellenen kılavuzda dikkat çeken bir diğer unsur ise onay sürecinden geçtikten sonra güncelleme veya sunucu tarafı müdahalelerle zararlı içerik üreten sistemlerin hedeflenmesi oldu.

Mağaza yönetiminin vurguladığı ana başlıklar şu şekilde sıralandı:

  • Manipülasyon Engeli: İnceleme aşamasını tamamladıktan sonra gizlice yapay zekâ görsel oluşturma veya rızasız içerik üretme aracı aktif eden uygulamaların geliştirici hesapları kalıcı olarak kapatılacak.

  • Geliştirici İhlalleri: Şartlara uymayan ve zararlı içerik filtrelerini devre dışı bırakan yazılımcı hesapları ekosistemden tamamen ihraç edilecek.

  • Genişletilmiş Kapsam: Yalnızca ana mağazada değil, bölgesel olarak izin verilen alternatif uygulama dağıtım kanallarında da benzer ihlalleri yapan yazılımlara kısıtlama getirilecek.

Dijital Güvenlik ve Etik Standartlar Güçlendiriliyor

Kullanıcı mahremiyetini ve kişisel hakları koruma amacıyla atılan bu adımın, son dönemde dijital platformlarda yaygınlaşan yapay zekâ suiistimallerinin önüne geçmesi hedefleniyor. Alınan kararla birlikte, dijital içerik mağazalarındaki yapay zekâ araçlarının güvenlik ve içerik denetim süreçlerinin daha sıkı takip edileceği bildirildi.

Kaynak: teknopat