В ОАЭ рассказали о скрытых угрозах, которые искусственный интеллект может представлять для детей. К таким угрозам относятся фейковые изображения, чат-боты, используемые для груминга, публикация личных данных и вредный контент.
Одним из самых тревожных рисков являются дипфейки — созданные или обработанные нейросетью медиа, которые могут выглядеть вполне реальными. Эти измененные изображения или видео могут использоваться для создания фальшивого откровенного контента с участием учащихся, который затем может распространяться на платформах социальных сетей.
Исследование, проведенное британской благотворительной организацией Internet Matters показало, что более половины подростков считают, что публикация в сети их фейкового обнаженного изображения будет хуже, чем публикация настоящей фотографии.
Чат-боты на базе искусственного интеллекта могут использоваться преступниками для груминга детей. Они притворяются сверстниками, чтобы завоевать доверие и манипулировать эмоциями. Эти чат-боты могут направлять учеников на платформы для обмена личными сообщениями, такие как WhatsApp или Telegram, где, казалось бы, невинные диалоги могут быстро перерасти в опасные.
Доксинг, или публичный обмен личной информацией, может спровоцировать травлю или мошеннические действия по отношению к учащимся. Дети часто делятся личной информацией в Интернете, не полностью осознавая риски.
Это происходит, когда ученики загружают документы, селфи или номера телефонов на случайный «бесплатный» сайт ИИ. Сайт собирает все это и сохраняет неизвестно где.
Непроверенные платформы ИИ могут давать учащимся вредные советы по самоповреждению или давать ссылки на радикальный контент.
Например, дети вводят высказывания по типу «Я ненавижу свою жизнь», а бот отвечает пошаговыми методами селфхарма или ссылками на вербовку экстремистов. Поскольку это выглядит как «помощь», это может показаться более убедительным, чем случайный пост на форуме.
ОАЭ являются мировым лидером по интеграции ИИ в свою систему образования. Обязательное изучение искусственного интеллекта гарантирует, что будущие поколения поймут не только его потенциал, но и риски.
