Şirketin iPhone'ları çocuk istismarı görüntüleri için tarayan bir araç oluşturmak için yaptığı çalışma hakkında bir raporun ardından Apple, çocuk güvenliği ile ilgili çabalarıyla ilgili daha fazla ayrıntı sağlayan bir gönderi yayınladı. iOS 15, watchOS 8 ve macOS Monterey'in bu yılın sonlarında piyasaya sürülmesiyle şirket, Mesajlar, Fotoğraflar ve Siri'de çeşitli çocuk güvenliği özellikleri sunacağını söylüyor.

Başlamak için, Mesajlar uygulaması, cinsel içerikli fotoğraflar gönderdikleri veya aldıklarında çocukları ve ebeveynlerini uyaracak yeni bildirimler içerecek. Birisi bir çocuğa uygunsuz bir resim gönderdiğinde, uygulama onu bulanıklaştıracak ve birkaç uyarı gösterecektir. Apple'ın paylaştığı bir ekran görüntüsüne göre bildirimlerden biri, "Bu sizin hatanız değil, ancak hassas fotoğraflar ve videolar size zarar vermek için kullanılabilir" diyor.

Ek bir önlem olarak şirket, çocukları devam etmeye ve hassas bir görüntü izlemeye karar verirse Mesajların ebeveynleri de bilgilendirebileceğini söylüyor. Apple'a göre, "Bir çocuk müstehcen fotoğraflar göndermeye çalışırsa benzer korumalar mevcuttur". Şirket, bir fotoğrafın müstehcen olup olmadığını belirlemek için özelliğin cihaz üzerinde makine öğrenimi kullandığını belirtiyor. Ayrıca, Apple'ın mesajlara erişimi yoktur. Bu özellik, aile iCloud hesaplarında kullanılabilecektir.

Apple ayrıca iOS ve iPadOS'ta, birinin iCloud'a cinsel içerikli eylemlerde bulunan çocukları gösteren bir içerik yüklediğini şirketin algılamasını sağlayacak yeni yazılım araçlarını tanıtacak. Şirket, teknolojiyi Ulusal Kayıp ve İstismara Uğrayan Çocuklar Merkezi'ni (NCMEC) bilgilendirmek için kullanacağını ve bu merkezin de ABD genelinde kolluk kuvvetleriyle birlikte çalışacağını söylüyor. Şirket, "Apple'ın bilinen CSAM [Çocukların Cinsel İstismarı Malzemesi]'ni tespit etme yöntemi, kullanıcı gizliliği göz önünde bulundurularak tasarlanmıştır" iddiasında bulunuyor.

Sistem, buluta yüklendiklerinde fotoğrafları taramak yerine, NCMEC ve diğer kuruluşlar tarafından sağlanan "bilinen" görüntülerden oluşan bir cihaz veri tabanını kullanacak. Şirket, veritabanının fotoğraflara bir tür dijital parmak izi görevi gören bir karma atadığını söylüyor.

Özel küme kesişimi adı verilen bir şifreleme teknolojisi, Apple'ın işlemin sonucunu görmeden bir eşleşme olup olmadığını belirlemesine olanak tanır. Bir eşleşme olması durumunda, bir iPhone veya iPad, yüklemeyle ilgili ek verilerle birlikte yüklemeyi şifreleyecek bir kriptografik güvenlik kuponu oluşturacaktır. Eşik gizli paylaşımı adı verilen başka bir teknoloji, birisinin belirtilmemiş bir CSAM içeriği eşiğini geçmediği sürece şirketin bu kuponların içeriğini görememesini sağlar. Şirkete göre, "Eşik, son derece yüksek bir doğruluk düzeyi sağlayacak şekilde ayarlanmıştır ve belirli bir hesabın yanlış bir şekilde işaretlenmesi için yılda bir trilyonda birden daha az şansı garanti eder".

Apple'ın uygulamayı planladığı teknoloji ancak bu çizgi aşıldığında şirketin kuponların içeriğini gözden geçirmesine izin verecek. Bu noktada teknoloji devi, bir eşleşme olduğunu doğrulamak için her raporu manuel olarak inceleyeceğini söylüyor. Varsa, kişinin iCloud hesabını devre dışı bırakır ve NEMEC'e bir rapor iletir. Kullanıcılar, hesaplarının yanlışlıkla işaretlendiğini düşünürlerse askıya alma işlemine itiraz edebilirler.

Son olarak, iOS ve macOS'ta bulunan yerleşik arama özelliğinin yanı sıra Siri, kullanıcıları çocuk güvenliği kaynaklarına yönlendirecek. Örneğin, şirketin dijital asistanına çocuk istismarını nasıl bildireceğini sorabileceksiniz. Apple ayrıca, birisi CSAM ile ilgili herhangi bir arama yapmaya çalıştığında müdahale edecek şekilde Siri'yi güncellemeyi planlıyor. Asistan, "bu konuya ilginin zararlı ve sorunlu olduğunu" açıklayacak ve kişiyi konuyla ilgili yardım sunan kaynaklara yönlendirecektir.

Apple'ın kolluk kuvvetleriyle etkin bir şekilde çalışma kararı, şirket için bir tür yüz yüze olarak görülecek gibi görünüyor. 2016 yılında, FBI'ın San Bernardino terör saldırısının arkasındaki adama ait olan iPhone'un kilidini açmasına yardım etmeyi reddetti. Hükümet sonunda cihaza erişmek için bir dış firmaya başvursa da, Tim Cook bölümü "korkunç" olarak nitelendirdi ve yolun daha fazla hükümet gözetimi için bir arka kapı oluşturabileceği konusunda uyardı.