+7-495-723-0119

В России будут выявлять социально опасных учащихся

    Опубликовано 25.09.2021 Автор CEO

    В России будут выявлять социально опасных учащихся

     

    ГОСТИ:  Роман Ромачев - генеральный директор агентства «Р-Техно»

    Дмитрий Лысков: А мы переходим к другой теме. В России будут выявлять социально опасных учащихся. Искусственный интеллект должен будет анализировать записи школьников и студентов в Сети, определять их склонность к деструктивному поведению.

    Марина Калинина: И вот на создание такой системы планируется выделить из бюджета больше 1,5 миллиардов рублей. Поможет ли это предотвращать такие преступления, как были, например, в последние дни в Казани и в Перми? Сейчас узнаем у наших экспертов.

    У нас на связи Роман Ромачев, генеральный директор агентства «Р-Техно». Роман Владимирович, здравствуйте.

    Дмитрий Лысков: Роман Владимирович, здравствуйте.

    Роман Ромачев: Добрый день.

    Дмитрий Лысков: А вот это вот вообще реальная конструкция, искусственный интеллект некий мониторит социальные сети, значит, туда-сюда и на основе каких-то данных, предполагается, что это творчество людей с определенными социальными отклонениями, будет вот действительно выявлять склонных к деструктивному поведению подростков?

    Роман Ромачев: Ну, это комплексная проблема, и решать ее необходимо комплексно. Сейчас нам предлагают создать один маленький элементик этого комплекса, создать систему интернет-мониторинга, систему искусственного интеллекта. Но она не решит всю проблему, поскольку, повторюсь, это комплексная проблема, решать ее необходимо сродни борьбы с терроризмом. То есть все мы знаем, что наиболее эффективный способ борьбы с терроризмом – это агентурная работа, так и здесь. Пока не будет налажена работа в школах, пока не будут сами преподаватели, учителя, классные руководители понимать, кто в классе наиболее социально опасен, пока не будет налажена вот эта вот агентурная работа внутри класса... Ну это я так громко говорю «агентурная работа», с детьми, конечно, здесь достаточно сложно работать, войти в доверие к ребенку, чтобы он вам рассказал всю правду, что творится в классе, достаточно сложно, поэтому здесь такой сложный подход нужен.

    Что касается работы в интернете, это, безусловно, полезная штука, это, безусловно, полезный инструмент будет. Но он, повторюсь, не будет защищать нас на 100%. В первые года необходимо будет этот инструмент, этот искусственный интеллект обучать. То есть у нас за последние пару лет произошло несколько таких случаев, соответственно, для того чтобы искусственный интеллект начал более-менее как-то отсеивать, выявлять таких деструктивных граждан, он должен проработать все, что писали те предыдущие, так сказать, террористы, юные террористы, которые пришли в школу с оружием. Они должны, искусственный интеллект должен проанализировать все их посты, он должен понять, чем они отличаются от обычных постов добропорядочных граждан, и таким образом он будет искать и сравнивать, насколько нынешние посты тех или иных школьников, студентов похожи на те посты, которые были ранее, это раз.

    Во-вторых, такой инструмент столкнется с проблемой. Проблема – это закрытость аккаунтов, то есть не все пользователи в интернете выкладывают посты в открытую, то есть есть достаточно много и закрытых групп, раз, и закрытых аккаунтов. Для того чтобы получить туда доступ, такой инструмент таким доступом обладать не будет, то есть для этого нужно разрешение суда уже конкретно работать по конкретной персоне, если он попал в поле зрения и в разработку.

    Марина Калинина: А что мешает этой персоне открыть другой аккаунт? Ну хорошо, он попался...

    Роман Ромачев: Вы абсолютно правы, то есть не все открывают персону, не все открывают аккаунты на свое имя-отчество, Петя Иванов, условно говоря, могут придумать и какой-то сказочный персонаж. Соответственно, выявление подобных аккаунтов в привязке к их конкретной личности – это уже немножко другая работа. Поэтому я повторяюсь, это достаточно комплексная работа, и нам лишь предлагают маленький-маленький кубик из этого пазла сейчас и заплатить за него 1,5 миллиарда рублей. То есть это нужная работа, она, естественно, дорогостоящая, но решать нужно комплексно.

    Дмитрий Лысков: Ну вот у нас из Нижегородской области, например, пишут: «А кто их делает социально опасными? Интернет, манипуляторы переворачивают, видимо, их мышление с ног на голову». Поэтому тут вопрос двоякий: с одной стороны, конечно, школа, да, с другой стороны, с интернетом тоже нужно что-то делать. А не пугает, что именно сам искусственный интеллект будет определять, а не все-таки психологи, психиатры?

    Роман Ромачев: Вот вы абсолютно правы. Поэтому, еще раз, это комплексная работа, это должен работать и искусственный интеллект, это должны работать и психологи, и психиатры, это должны работать и родители, и классные руководители. Поэтому в данном случае здесь необходимо наладить сбор информации от подобных источников и уже тогда аккумулировать эту информацию, анализировать эту информацию, обучать искусственный интеллект, тогда эта система будет работать.

    Марина Калинина: Ну а стоит ли сейчас тратить, там, по-моему, даже 1 миллиард 600 миллионов выделяется, даже больше, чем 1,5 миллиарда, – стоит ли сейчас тратить такие деньги на то, что, в общем-то, как мы выяснили вместе с вами, работать не очень-то и будет?

    Роман Ромачев: Такой инструмент разрабатывать уже сейчас необходимо. Какой бюджет на него выделять – это такой сложный вопрос, потому что здесь достаточно много бизнес-интересов и всевозможных групп лоббируют подобные законопроекты, подобные тендеры. Я не исключаю, что здесь есть и вероятность того, что часть средств будет отдана на откаты, на распилы. Поэтому инструмент, безусловно, нужен, но сколько он стоит, я сейчас затрудняюсь ответить.

    Дмитрий Лысков: Роман Владимирович, у нас вот целый блок сообщений: «Надо запретить компьютерные игры», «Надо запретить сеть Интернет», «Давно пора этим заняться, дети заигрались в интернет и в игры». Понятно, что события, которыми мы являемся, к сожалению, свидетелями, провоцируют вот такую «интернетофобию», если угодно. Но мы же видим, что в других странах, в Китае например, успешно запрещают доступ для подростков и для детей в интернет. Может быть, действительно пойти этим путем?

    Роман Ромачев: Не всегда для того, чтобы решить проблему, нужно запретить источник этой проблемы. Ведь 100 лет назад даже банальное электричество тоже для всех было чем-то новым, естественно, люди совали два пальца в розетку и это заканчивалось негативно. Здесь мы и общество пока, на данном этапе не готовы бороться с этой проблемой, но ее необходимо изучать, ее необходимо решать. Возможно, через 10, через 20, через 30 лет в этой проблеме будет поставлена жирная точка и мир столкнется с очередными проблемами в ходе эволюции. Поэтому, если мы сейчас что-то запретим, это, наоборот, будет вызывать интерес и спрос в том числе у молодежи.

    Марина Калинина: У нас есть звонок из Вологды, Нина с нами на связи. Нина, здравствуйте.

    Дмитрий Лысков: Здравствуйте.

    Зритель: Алло?

    Марина Калинина: Да, Нина, говорите, пожалуйста, добрый день.

    Зритель: Да, здравствуйте. Я Нина с Вологды.

    Вы знаете, что я хочу сказать? У нас очень мало говорят почему-то о нравственности, о правильном поведении людей в обществе. Как-то вот этого недостаточно. В советское время нас как-то воспитывали, приучали к этому, чтобы быть опрятным, извините, может быть, это очень как бы примитивно сказано, чтобы правильно себя вести в обществе, не хамить, не ругаться, нормальное отношение друг к другу. А сейчас вот все говорят, что люди озлоблены, – а люди не озлоблены, люди невоспитанные!

    Марина Калинина: Ну вы вот на своем примере, у вас есть дети, внуки, вот как они вообще себя ведут?

    Дмитрий Лысков: Как вы их воспитываете?

    Марина Калинина: Как вы их воспитываете?

    Дмитрий Лысков: Как вы их, не знаю, ограничиваете от Сети, не ограничиваете?

    Зритель: Да нормально. Они хорошо себя ведут, хорошо они себя ведут в обществе. Я всегда об этом напоминаю, может быть, как бы и... как-то это делаю, но я стараюсь как-то пример и себя приводить. Потому что надо прощать обиды, не надо ожесточаться, надо разговаривать друг с другом...

    Марина Калинина: Нина, а скажите, сколько лет вашим внукам? И проводят ли они время в интернете? Если да, то сколько?

    Зритель: Извините, пожалуйста, у меня нет времени, извините, я отключаюсь.

    Марина Калинина: А.

    Зритель: Я вот вам позвонила на минуточку.

    Дмитрий Лысков: Пожалуйста, конечно. Спасибо вам.

    Марина Калинина: Ну хорошо...

    Роман Ромачев: Здесь есть еще проблема, вот правильно зритель озвучил, здесь есть проблема современной школы. Современная школа, в отличие от нашей, советской, когда она занималась и образованием, и воспитанием, современная школа занимается 11 лет подготовкой ученика к сдаче ЕГЭ, больше фактически ничем.

    Марина Калинина: Ну смотрите, интернет же задумывался, изобретался, создавался как, в общем-то, достаточно полезная вещь. Сейчас, на сегодняшний день он превратился просто в помойку и разносчика каких-то уже заболеваний ментальных, тем более у подростков. Вот что, как с этим быть? Они же все равно без этого интернета не могут, они там сидят. Это зависит от человека, от его характера, от его образа мышления, куда он пойдет, в помойку он пойдет или полезную информацию искать? Вот как их настроить?

    Роман Ромачев: Да, вы абсолютно правы. Я еще раз повторюсь, в ходе эволюции 150 лет назад, условно говоря, люди сидели в своей деревне, дальше своей деревни никуда не выходили, потом появилось кино, появились кинотеатры, люди стали узнавать дополнительную информацию. Сейчас вот этот поток и доступ к информации настолько вырос и увеличился, что пока мы не адаптированы к такому восприятию информации, к такому информационному потоку. Но не исключено, что, повторюсь, мы должны будем приспособиться или создать такие инструменты, создать определенные науки в том числе, которые работают с информацией, которые будут пресекать подобного рода преступления.

    Дмитрий Лысков: Роман Владимирович, но ведь если создать систему, которая будет у нас выявлять социально опасных учащихся, то дальше можно пойти очень далеко – можно создавать системы, которые будут выявлять, я не знаю, людей с неправильным коммерческим поведением и т. д., и т. п. То есть это путь, по большому счету, к тотальной слежке, так получается?

    Роман Ромачев: Здесь необходимо найти компромисс, то есть либо мы защищаем всех граждан, либо мы безопасность отдаем на, так сказать, авось и тогда получается то, что получается. Яркий пример в Израиле, когда каждый гражданин... Ну то есть они постоянно живут под страхом терроризма и каждый гражданин считает своим долгом в случае, если он обнаружит что-то подозрительное, подозрительный предмет, сообщить в соответствующие органы. У нас, к сожалению, если будет валяться пакет, из 10 прошедших людей в лучшем случае один куда-то позвонит. Вот у нас пока нет этой культуры, культуры безопасности, личной безопасности, общественной безопасности. Все из-за того, что те риски, которые у нас есть, те события и угрозы, которые над нами стоят, они пока где-то там далеко. Все считают, что если Пермь от Москвы далековато, то, возможно, это не случится в Москве. Вот пока мы все не поймем, что все, что вокруг нас, есть источник угроз, источник риска, тогда мы будем задумываться и более серьезно относиться к вопросам личной безопасности в том числе.

    Марина Калинина: Ну вот к вопросу о личной безопасности, я не знаю, сможете ли вы ответить на него или нет. Если после тех событий, которые произошли в Казани, Александр Бастрыкин совершенно ясно сказал, что нужно проработать алгоритм поведения при таких ситуациях, и в Перми, опять же его словами, этого алгоритма не было, поэтому произошла эта трагедия, и ничего со времени трагедии в Казани сделано не было. А что это за алгоритм должен быть? Какой он? И почему его нет?

    Роман Ромачев: Здесь опять же комплексная работа, то есть должны сотрудники школы знать, как себя вести в подобном случае, как реагировать, у них должны быть инструкции расписаны, с ними должны быть проведены определенные обучающие мероприятия. Дети должны так же тоже быть обучены, как себя вести в подобных случаях. Только тогда, когда вот этот механизм, вот этот алгоритм будет работать, тогда все будут слаженно реагировать на подобные риски и будут действовать в такие моменты правильно, и мы сможем пресечь подобные преступления и минимизировать потери.

    Марина Калинина: Ну хорошо, ну вот если конкретно человек приходит, подросток, с ружьем, с оружием, не знаю, с пистолетом в школу и ни с того ни с сего начинает палить во все стороны, что можно сделать?

    Роман Ромачев: Ну, здесь необходимо опять же на этапе охраны, то есть до того, как человек уже подступает к школе, охранник должен видеть. Это должна быть не просто бабушка божий одуванчик, это должен быть охранник, их должно быть как минимум двое на случай подмены. Это не должен быть человек, который сидит, в телефоне читает новости и рядом с ним та самая горящая красная кнопка. Необходимо более внимательно подходить к вопросам охраны в школе, только тогда уже мы сможем на подступах пресекать подобного рода преступления. То есть необходимо наладить и видеонаблюдение вокруг школы, необходимо наладить и саму охрану, необходимо провести вообще тот самый аудит безопасности самой школы, какие риски в безопасности, какие слабые места в системе безопасности у каждой школы, у каждого детского сада, у каждого института. К сожалению, аудитом безопасности учебных заведений абсолютно никто не занимается, поэтому у нас такие преступления и совершаются.

    Марина Калинина: Вот когда происходят такие события, обычно все говорят всегда: «Куда смотрели родители?» А вот как родителям понять, что с ребенком явно что-то не так, если он сидит в интернете в закрытом аккаунте и в принципе, в общем, сами, наверное, знаете, подростки не очень-то любят рассказывать о своих мыслях своим родителям?

    Роман Ромачев: Ну, вы абсолютно правы. К сожалению, обмен информацией между родителями и ребенком достаточно затруднителен в подростковом возрасте, и здесь уже проблема самих родителей, что они не наладили подобной коммуникации. Здесь я поэтому и сказал, что в начале здесь необходимо работать и с друзьями, и с классным руководителем в комплексе. Опять же, если не удается получить информацию от родителей, то ее, может быть, возможно, получится получить от друзей, от приятелей, от одноклассников, от классного руководителя. Но тем не менее каждый родитель должен пытаться наладить вот эту связь, без нее, конечно, пресекать подобные преступления будет крайне сложно.

    Дмитрий Лысков: А если родители не наладят связь, то поможет как раз система искусственного интеллекта...

    Роман Владимирович, вот что еще смущает. Мы пытаемся контролировать общение в сети Интернет, мы пытаемся контролировать саму эту сеть. Но нет ли ощущения, что мы вырастили некую вот такую многоголовую гидру и все время одну голову сносим, а вырастает еще несколько? В Китае за глобальным файрволом, они вроде бы отгородились даже от влияния всего мира, но там тоже выросли свои социальные сети, свои структуры, и они сейчас вынуждены бороться уже с ними. Мы все время вынуждены будем запаздывать в попытках контролировать интернет?

    Роман Ромачев: Да, в данном случае вы правы. То есть и законы, и реагирование на подобные риски у нас идут вдогонку. То есть интернет, информационные технологии настолько быстро развиваются, что мы не успеваем отрабатывать, не успеваем отрабатывать на законодательном уровне, не успеваем отрабатывать на образовательном уровне, не успеваем отрабатывать на других любых уровнях, потому что это сверхдинамично развивающаяся отрасль, и нам приходится лишь догонять и оперативно принимать решения.

    Дмитрий Лысков: Ну вот у меня есть версия: а что если разработать систему искусственного интеллекта, которая будет оперативно в самом интернете реагировать на подобные вещи? Предлагать, я не знаю, законодательные инициативы.

    Роман Ромачев: На это должна быть воля руководства страны, ха-ха.

    Дмитрий Лысков: И только? То есть такое вполне возможно?

    Роман Ромачев: Как минимум да, потому что у нас очень много интересных научных разработок в плане, так сказать, прогнозирования рисков и угроз, но все они остаются на экспертном уровне, на академическом уровне. То есть, к сожалению, с реализацией тех ноу-хау, которые у нас есть, – а они, безусловно, есть, – у нас большая проблема.

    Марина Калинина: Ну а что это за разработки? К примеру, вот если поконкретнее?

    Роман Ромачев: Ну, к примеру, я опять же приведу пример: у американцев есть достаточно много компаний, которые занимаются научно-технологической разведкой, и они анализируют те риски, угрозы, которые будут в будущем, они пытаются разработать такие программы, они пытаются разработать и инструменты, которые помогут эти риски минимизировать. На это выделяются огромные, колоссальные средства. Да, у них пока проблема такая же, как и у нас, со стрельбой в школах, по сути дела как она у них была, так она и осталась... Но тем не менее в части управления рисков, глобальных рисков и рисков локальных в стране у них все достаточно четко отлажено.

    Инструменты у нас тоже есть, у нас есть много инструментов, которые сейчас уже мониторят интернет, они выявляют по ключевым словам те или иные посты, которые могут быть социально опасными, то есть они уже есть. Достаточно их использовать, достаточно прикрутить тот самый искусственный интеллект, и уже у вас по факту есть готовое решение, которое можно применять. Но, повторюсь, что касается искусственного интеллекта, он не работает до тех пор, пока он не обучен, а обучаться он должен на живых, к сожалению, таких трагичных моментах, когда в него закладывается информация о том, что произошло, как произошло, какие посты писал тот или иной человек на протяжении всей своей жизни, когда он был зарегистрирован в Сети. Вот это все необходимо туда загружать; это необходимо выявлять, это необходимо привязывать к тем самым аккаунтам...

    Марина Калинина: Спасибо, спасибо большое. Роман Ромачев, генеральный директор агентства «Р-Техно», был с нами на связи.

    Мы вернемся через пару минут.

    otr-online.ru/programmy/segodnya-v-rossii/v-rossii-budut-vyyavlyat-socialno-opasnyh-uchashchihsya-53299.html


    Последние новости

    Последние новости
    Почему в России все еще работает VPN?

    7.06.2022

    Роскомнадзор блокирует одного провайдера за другим, но...

    Данные курьеров сервисов доставки слили в сеть

    3.06.2022

    Данные курьеров сервисов доставки "Яндекс.Еда" и...

    Все новости →