Instagram✴ внедряет новую систему на основе искусственного интеллекта, которая сможет выявлять подростков, пытающихся скрыть свой настоящий возраст. Алгоритм будет анализировать фотографии, подписки и публикации друзей, чтобы определить реальный возраст пользователя.
Как пишет Bloomberg, это решение связано с давлением со стороны родителей и законодательных органов, обеспокоенных влиянием платформы на психическое здоровье подростков. С помощью нового ИИ-инструмента под названием Adult classifier (идентификатор возраста) Meta✴ будет автоматически переводить пользователей младше 18 лет в аккаунты с более строгими настройками конфиденциальности, независимо от того, какие данные они указали при регистрации.
Ранее Meta✴ уже начала переводить пользователей на подростковые аккаунты на основании их заявленного возраста. Однако новый алгоритм, который будет запущен в начале следующего года, призван выявлять тех, кто пытается обойти правила. При этом пользователи в возрасте 16 и 17 лет смогут изменять настройки конфиденциальности самостоятельно, но для подростков младше 16 лет потребуется согласие родителей на отключение разного рода ограничений. Это решение было положительно воспринято сторонними экспертами, которые давно призывали компанию к более существенным изменениям для защиты молодых пользователей.
В последние годы Meta✴ столкнулась с многочисленными обвинениями в том, что все её платформы способствуют ухудшению психического здоровья подростков. В частности, против компании подали иск десятки генеральных прокуроров в разных штатах США, утверждающих, что Meta✴ сознательно «подсаживала» детей на свои сервисы, что привело к кризису психического здоровья среди подростков. На компанию также ополчились родители, которые утверждают, что их дети умерли от наркотиков или совершили самоубийство из-за контента, который они видели, или разговоров, которые они вели с использованием продуктов Meta✴. Также в 2021 году бывший сотрудник компании Фрэнсис Хауген (Frances Haugen) раскрыла внутренние документы, которые показали, что Instagram✴ может негативно влиять на психику девочек-подростков.
В связи с таким серьёзным набором претензий Meta✴ решила усложнить процесс определения возраста при его указании. Например, будет проверяться совпадение электронной почты или уникального идентификатора устройства, с которого подросток попытается создать новый аккаунт. Для подтверждения возраста также придётся предоставить официальные документы или пройти проверку через видеоселфи с помощью приложения Yoti — инструмента для цифровой идентификации личности по фотографии. В случае ошибки можно будет подать апелляцию, правда, эта возможность пока находится на стадии разработки.