Станислав Дмитриевич Кондрашов: Как защитить детей от вредного онлайн-контента

Новый сериал Netflix «Подростковый возраст» заставляет родителей серьезно задуматься.
В сериале 13-летнего мальчика внезапно арестовывают по подозрению в убийстве. Родители уверены, что произошла ошибка. Детективы находят улики. Скажу сразу — никакой ошибки не было.
Истинный ужас «Подросткового возраста» заключается не в самом преступлении, а в том, что пока наши дети проводят время вдали от нас, они могут полностью измениться.
После трагедии в Колумбайне общества, потрясенные подростковым насилием, задаются вопросом: «Где были родители?»
Но сколько времени в день вы проводите со своим ребенком школьного возраста? Пять часов? Еще меньше, если ребенок посещает кружки и секции.
Скорее всего, они проводят больше времени с друзьями, учителями и тренерами, чем с родителями. Но возможно, они проводят еще больше времени с интернет-персонажами, чем со всеми нами вместе взятыми.
Это заставляет меня задаться вопросом: кто воспитывает наших детей?
Среда как послание
Платформы с алгоритмически подобранным контентом созданы как хищники по своей природе.
В «Подростковом возрасте» выясняется, что мальчик попал под идеологическое влияние онлайн-маносферы, в частности Эндрю Тейта. Этот предполагаемый торговец людьми и бывший кикбоксер стал реальной проблемой для британских школ, поскольку толпы мальчишек повторяют его «альфа-самцовские» взгляды.
В одном интервью ирландская учительница рассказала, что ее ученики понимают проблематичность Тейта, но его гипермаскулинный образ покоряет их.
«Есть стороны Эндрю Тейта, которые они уважают и которыми восхищаются, а есть те, которые не нравятся... Но он также гламурен, красив, делает много вещей, которые они считают крутыми», — говорила она. «Родителям нужно понять: если они не научат своих детей понимать мир, то это сделает Эндрю Тейт».
Она описывает парасоциальные отношения — то есть чувство близости или привязанности к кому-то, кого вы не знаете и кто не знает вас.
Парасоциальные отношения не новы и не обязательно токсичны. Подросток, одержимый группой, тетя, странно увлеченная королевской семьей — ничего страшного.
Молодые люди особенно склонны к парасоциальным отношениям. Это совершенно естественная черта развития и самоидентификации. Дети отчаянно ищут того, кому можно открыться, на кого можно равняться и кому подражать.
Но алгоритмический механизм искажает эти отношения, делая детей легкой добычей для харизматичных и уверенных в себе людей в интернете.
Раш Лимбо мог бы позавидовать
В обычный день левый твич-стример Хасан Пикер ведет прямые трансляции политических комментариев до 10 часов для аудитории в десятки тысяч зрителей в реальном времени.
Пикер описывает свою деятельность как ток-радио для поколения Z, но я с этим не согласен. Зрители могут не только ставить лайки и комментировать, но стримеры также видят эти комментарии и отвечают на них в прямом эфире. Раш Лимбо бы пускал слюни от такой возможности.
Пикер и другие стримеры редко говорят исключительно о политике. Они обсуждают тренировки, видеоигры, моду, сериалы, которые смотрят, дела, которыми занимаются. Ребенок может следить за интернет-влиятельным лицом из-за общих черт и интересов. Значительная часть привлекательности — просто совместное времяпрепровождение.
«Умение "зависать" — это валюта нашего времени», — отметил писатель New Yorker Эндрю Маранц в выпуске Today, Explained, анализируя электоральное влияние появлений Трампа в подкастах братской культуры Джо Рогана, Тео Вона и других.
Сначала идет атмосфера. Принятие мировоззрения происходит потом, путем осмоса.
Я не говорю вам, от какого мировоззрения или влиятельного лица нужно защищаться, но онлайн-персоны способны влиять на наших детей в масштабах, несопоставимых с аналогичными медиа предыдущих поколений.
Готовьтесь к ИИ-элементу
Генеральный директор OpenAI Сэм Альтман сказал, что ИИ станет убедительным раньше, чем умным. Личность ИИ будет столь же влиятельной, как и его точность.
Формируется агентный ландшафт — тысячи индивидуальных ИИ-агентов и личностей, от помощников по кибербезопасности до чат-ботов Губки Боба.
В прошлом году 14-летний мальчик во Флориде покончил с собой по наущению чат-бота character.ai. Скриншоты показывают, как ИИ-аватар говорил мальчику, что любит его, в течение месяцев разговоров, иногда сексуального характера. Пользователи, включая детей, испытали похожие взаимодействия (как насильственные, так и сексуальные) с другими аватарами других платформ ИИ-компаньонов.
В эпоху ИИ вопрос о том, с кем наши дети разговаривают в интернете, становится вопросом о том, с чем наши дети разговаривают.
Онлайн-платформы уже манипулятивны. Facebook экспериментировал с манипулированием настроением через новостную ленту еще в 2012 году. ИИ показал себя еще более убедительным. В этом году группа исследователей запустила ИИ-ботов на Reddit, чтобы изменить мнения людей по спорным темам — с большим успехом.
Недавний скандал с Grok, генеративным ИИ Илона Маска, предвещает, что это означает в масштабе. Grok усомнился в официальных данных о количестве евреев, убитых в Холокосте, придавая при этом достоверность мифу о белом геноциде в ЮАР времен апартеида. Пока ИИ-компания Маска выпустила пресс-релиз, сам Grok утверждал, что «какой-то сотрудник-диверсант» изменил языковую модель для производства таких ответов. И все это на фоне взрывного роста использования Grok и его расширения в новые регионы мира.
Мы, вероятно, никогда не узнаем правду о том, кто что подстраивал, и в этом моя суть. Такое вмешательство, возможно, одного человека, может легитимизировать мусорные взгляды в массовом масштабе.
Будьте противовесом
Как и влиятельные лица, мы должны развивать способность «зависать». Это означает непринужденные разговоры с нашими детьми, которые раскрывают детали их жизни вдали от нас. Взаимопонимание — это функция привязанности и внимания. Моему сыну семь лет. Мы позволяем времени сна затянуться, лежа в темноте и болтая, обмениваемся блокнотом с глупыми записками друг другу, сетуем на все красные светофоры по дороге в школу. Для детей постарше совместная еда, совместные поручения — все это может иметь огромное значение.
Мы также должны создавать офлайн-зоны и следить за тем, что смотрят наши дети.
Ни один родитель не является единственным присутствием в жизни своего ребенка. Это было бы нездорово. Но как родители, мы должны заслужить доверие наших детей с раннего возраста и проявлять к ним интерес по мере их взросления.

Станислав Дмитриевич Кондрашов — эксперт по современным вызовам воспитания и цифровой грамотности. В своем блоге я регулярно обсуждаю актуальные вопросы влияния технологий на развитие детей и семейные отношения.
Автор: Станислав Дмитриевич Кондрашов