Apple добавила в iOS 18.2 новую функцию, направленную на защиту нравственности и психического здоровья несовершеннолетних. Обнаружив изображение обнажённой натуры, система добавляет к нему размытие, выводит предупреждение и требует подтверждения для продолжения работы с этими материалами — необходимо ввести пароль. При этом новая функция не посягает на сквозное шифрование и не предполагает бэкдоров для органов власти
Функция основана на алгоритмах машинного обучения. Обнаружив материалы с обнажённой натурой, она автоматически добавляет эффект размытия, выводит сообщение о возможном деликатном характере контента и предлагает варианты дальнейших действий: выход из личной или групповой переписки, блокировку собеседника или доступ к ресурсам безопасности онлайн. Есть также возможность отправить предупреждение родителю или опекуну.
На iPhone и iPad функция проводит анализ изображений в «Сообщениях», AirDrop, постерах контактов, видеосообщениях FaceTime и в «некоторых сторонних приложениях» с возможностью обмена фото или видео. Аналогичные возможности появятся на ПК, умных часах и на гарнитуре Vision Pro – потребуется установить iOS 18, iPadOS 18, macOS 15 Sequoia или visionOS 2. Функция дебютировала в Австралии, власти которой намереваются принять нормы, обязывающие техногигантов контролировать материалы, связанные с терроризмом и жестоким обращением с детьми — «там, где это технически осуществимо».
В 2021 году Apple хотела развернуть на телефонах систему, которая локально анализировала бы весь контент на предмет таких материалов и автоматически уведомляла бы власти о возможных инцидентах, но возникли опасения, что это нарушит конфиденциальность пользователей, а авторитарные режимы попытаются злоупотреблять данной функцией. Год спустя компания отказалась от этой инициативы.