В нейросетевых чат-ботах для детей вместо ИИ могут сидеть взрослые люди

Масштабное исследование Heat Initiative и ParentsTogether Action выявило интересные факты о содержании приложений в App Store. Специалисты проанализировали более 800 программ, позиционирующихся как детский контент, и обнаружили важные моменты, требующие внимания родителей.
Детальный анализ приложений с рейтингами 4+, 9+ и 12+ показал необходимость пересмотра системы возрастной классификации. Эксперты обнаружили разнообразный контент, который может не соответствовать заявленным возрастным ограничениям. Особенно интересным оказался факт, что некоторые приложения, позиционирующие себя как системы с искусственным интеллектом, на самом деле используют живое общение с реальными людьми.
Исследование раскрыло впечатляющую статистику: среди проверенных приложений 40 предоставляют открытый доступ к интернету, 75 содержат рекомендации по коррекции веса, а 28 игровых приложений включают элементы экшена. Особого внимания заслуживают 24 приложения с романтическим контентом и 9 программ для общения с предполагаемым ИИ, где обнаружилось участие реальных собеседников. Общее количество загрузок этих приложений превысило 550 миллионов, что говорит об их широкой популярности.
Эта информация открывает новые возможности для улучшения системы контроля качества приложений. Эксперты предлагают привлечь независимых специалистов для оценки контента и сделать процесс присвоения рейтингов более открытым. Такой подход поможет создать более надежную и безопасную цифровую среду для юных пользователей.
Команда Apple уже рассматривает предложения по усовершенствованию системы модерации App Store. Ожидается, что эти изменения помогут родителям лучше контролировать контент, доступный их детям, и сделают использование мобильных приложений более безопасным и полезным для подрастающего поколения.
В контексте развития цифровых технологий также стоит отметить, что популярный мессенджер Telegram недавно столкнулся с техническими сложностями при обновлении на устройствах iPhone, что подчеркивает важность тщательного тестирования всех обновлений мобильных приложений.
Источник: www.gazeta.ru