Yapay zekâ şirketi OpenAI, yapay zekâ tarafından üretilenler de dahil olmak üzere çocuk istismarına ilişkin çevrim içi görüntüleri tespit edebilen “yeni bir sınıflandırma aracı” geliştirdiğini duyurdu; şirketin internet sitesinde yayımlanan açıklamaya göre araç, çocuk istismarı içeren ve daha önce tespit edilmemiş görselleri belirlemek için görsel işaretleri analiz ediyor; inceleme ekiplerine hangi görüntülerin öncelikle değerlendirilmesi gerektiğini gösteren puanlar sunuyor; OpenAI, yapay zekâ tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği sistemi onaylanmış kuruluşların kullanımına ücretsiz sunacak; ChatGPT'de zararlı davranışlara yönelik uyarıların devreye gireceğini belirten şirket, mevcut güvenlik önlemlerine ek olarak çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak yeni uyarı mekanizmaları uygulayacağını açıkladı; bu kapsamda kullanıcıya, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zekâ tarafından üretilmiş olsa dahi zarara yol açtığı açıklanacak; işaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT'ye erişimi 24 saatliğine durdurulacak. Bu süreçte zararlı davranışları sonlandırmaya yönelik uzman desteği de sunulacak; ihlallerin tekrarlanması halinde daha uzun süreli kısıtlamalar uygulanabilecek, hesabın kapatılması veya durumun yetkililere bildirilmesi söz konusu olabilecek; şirket, bu yaklaşımı çocuk istismarını önlemeye yönelik çalışmalar yürüten kuruluşların ve akademik danışmanların katkısıyla geliştirdiğini bildirdi.