Ученые обучили нейросеть создавать фейковые новости

Ученые Вашингтонского университета совместно с партнерами создали программу, которая способна создавать фейковые новости, трудно отличимые от реальных, пишет «Коммерсантъ».

В рамках теста программа проанализировала один из текстов Wall Street Journal и на ее основе написала новость о создании в США компании по добыче полезных ископаемых на Луне. Специалисты сделали выводы:

• Качество текста высокое – неправду можно распознать только при детальном анализе. Например, нейросеть упомянула в тексте выдуманное устройство – «гравитационный трактор/тягач» – теоретический вид космического аппарата, о возможном появлении которого часто пишут СМИ;
• Упомянутые в тексте наименования оказались перестановкой слов из названий настоящих компаний и имен людей;
• Хотя текст получился неидеальным (в нем были смысловые, логические и грамматические неточности), его недостатки окупились бы дешевизной и простотой создания фейковых новостей для массового потребителя.

Кстати, в феврале ученые из сан-францисского исследовательского института OpenAI создали генератор вымышленных текстов. Он сочинил грамотный со стилистической точки зрения текст о том, как Россия объявила войну США после того, как Дональд Трамп случайно запустил в воздух ракету. По мнению директора OpenAI Джека Кларка, есть опасения, что подобные программы начнут использовать для дезинформации и пропаганды.

Напомним, что в России за фейковые новости предусмотрены штрафы и внесудебная блокировка. 15 октября Мировой суд Хорошевского района Москвы впервые в стране назначил штраф СМИ за распространение фейков. Сетевое издание «Момент истины» оштрафовали на 200 тыс. руб., а его главного редактора Евгения Гнеушева – на 60 тыс. Поводом для административного дела стали опубликованные в августе видеоролики. Один из них назывался на YouTube «Срочно! В России готовит революцию Майдан».