Опасных школьников вычислят по сочинениям с помощью ИИ

2021: Опасных школьников вычислят по сочинениям с помощью ИИ

Учащихся со склонностями к социально опасному и деструктивному поведению начнут выявлять путем анализа их письменных работ. Об этом стало известно 23 сентября 2021 года. На создание программного обеспечения для такого анализа в бюджете нацпроекта «Образование» предусмотрено 1,7 млрд руб., следует из пояснительной записки к проекту федерального бюджета на 2022 г. и на плановый период 2023–2024 гг..

Проект бюджета утвержден правительством 21 сентября, его внесение в Госдуму планируется до 1 октября 2021 года. Расходы на создание ПО включены в федеральный проект «Социальная активность». В 2022–2023 гг. на разработку технологии анализа письменных работ учащихся планируется направить по 551,1 млн руб. ежегодно, в 2024 г. – 555,7 млн руб.

В пресс-службе Минпросвещения, ответственного за реализацию нацпроекта «Образование», вопросы о программном продукте переадресовали в Росмолодежь. В пресс-службе последней не предоставили комментарии. В пресс-службе правительства не ответили на запрос источника о деталях создания ПО и планах по срокам его внедрения в российских учебных заведениях.

Толчком для создания проекта по разработке подобного ПО послужили участившиеся случаи насилия в учебных заведениях, считает первый заместитель председателя комитета по образованию и науке в Госдуме VII созыва Олег Смолин. 20 сентября 2021 года 18-летний молодой человек совершил вооруженное нападение на Пермский госуниверситет, убив восемь человек и многих ранив. 11 мая 2021 года в казанской гимназии № 175 один из школьников совершил нападение на учеников и учителей, его жертвами стали семь детей и две учительницы.

Детский психиатр Европейского медицинского центра Павел Зайцев рассказал, что ему неизвестно о существовании в России или за рубежом доказательного ПО по психологическому анализу письменных работ:

Определенные паттерны мышления действительно проявляются в устной и письменной речи, и алгоритмы могут позволить выявить те из них, что настораживают. Однако непонятно, как будет использоваться результат этой разработки», — Зайцев отметил , что анализ даст эффект, только если речь идет о текстах на свободную, а не на заданную тему. — По такому принципу работают лингвисты-психологи, которые проводят судебную экспертизу. Для выявления психологических особенностей и наклонностей человека они собирают большой массив его писем, постов в соцсетях, литературных трудов.

Выявить изменения в поведении человека можно при анализе больших данных, например сочинений за несколько лет, — пояснил Игорь Ашманов, президент компании «Крибрум». — Велика вероятность, что созданная за средства бюджета программа будет выдавать случайный результат, который предстоит интерпретировать учителю или школьному психологу. Технические средства для определения уровня стресса и наличия склонностей действительно существуют, однако они применяются для анализа больших групп людей, а не конкретного человека.

Ашманов сомневается, что в создании подобного программного обеспечения есть смысл, а заявленную в пояснительной записке смету проекта в 1,7 млрд руб. называет завышенной в 2–3 раза.

У подобного отбора могут быть непредсказуемые последствия, — добавил юрист BMS Law Firm Дмитрий Лесняк. — Учитель начнет косо смотреть на ребенка, расскажет об этом окружающим его детям. Родители могут начать присматривать за ребенком, а могут начать отдаляться. Кроме этого школьника могут перевести в специальную группу или поставить на учет в психдиспансер.

Если разработка ПО будет завершена успешно, потребуются изменения в действующее законодательство и только после этого программный продукт можно будет использовать, считает член Ассоциации юристов России Дмитрий Уваров. Он затруднился ответить на вопрос, какие именно изменения потребуется внести.

Для исследования работ учащихся и любых всех последующих действий потребуется как минимум согласие тестируемого или его законного представителя, – уверен детский психиатр Зайцев[1].

Примечания