Робот против классиков: ИИ запретил писателя Драгунского, сочтя его фамилию "наркотической"

Российские издательства столкнулись с абсурдной ситуацией: нейросети начали массово блокировать книги из-за фамилий авторов и обычных слов.

Под запрет за «пропаганду наркотиков» попал классик Виктор Драгунский и его сын Денис.

Искусственный интеллект увидел в их фамилии английское слово «drug».

Проблемы возникли и у писателя Коноплева, а также у всех авторов,

использующих слово «героиня».

Алгоритмы не вникают в смысл и просто ищут опасные сочетания букв.

В итоге редакторы вынуждены вручную проверять огромные массивы текстов, чтобы избежать штрафов.

Суммы за нарушения по новому закону, вступившему в силу 1 марта, доходят до 600 тысяч рублей.

Гендиректор «Эксмо» Евгений Капьев подтвердил, что за нейросетями нужен постоянный контроль.

Были случаи, когда медицинскую литературу об опорно-двигательном аппарате помечали как порнографию.

Книжные магазины, перестраховываясь, убирают из продажи всё подозрительное «от греха подальше».

Сам Денис Драгунский иронизирует над ситуацией. Он сравнил ИИ с одарённым ребёнком, который умеет перерабатывать горы данных, но совершенно не понимает контекста.

Писатель напомнил анекдот о девочке, которая спутала фразу «о борт корабля» с медицинским термином.

По его мнению, нейросеть работает не со смыслами, а с паттернами.

Из-за этого в обычном описании леса она может разглядеть запрещённую пропаганду, а в ответах на вопросы — выдумать несуществующие факты.