Нейросеть, рецензирующая научные статьи, забраковала работу о самой себе. И не понравился ей внешний вид
Разработчик из США представил миру практически идеальную нейросеть-рецензента, которая может оценивать научно-исследовательские работы. Парень отлично постарался над созданием своего детища, ведь первые тесты оно прошло прекрасно. Но это до того момента, пока ему не предстояло оценить научную работу о самом себе.
Американский разработчик Цзя-Бинь Хуан (Jia-Bin Huang) из Политехнического университета, Виргиния, представил нейросеть ResNet-18, способную рецензировать научные работы с точностью до 97 процентов, пишет N+1. Идея пришла к нему, когда он осознал, какое колоссальное количество работ поступает для различных конференций, однако процесс допуска по сей день слишком сложный именно из-за рецензирования.
Во-первых, в мире существуют относительно молодые науки, в которых ещё недостаточно специалистов, способных адекватно оценить тему. Во-вторых, иногда банально не хватает таких людей из-за несоразмерности количества рецензентов и работ.
Охватить весь спектр научных работ невероятно сложно, поэтому остановиться Хуан решил на ислледованиях в области по компьютерному зрению. Суть нейросети проще, чем может показаться на первый взгляд. Её задача — определять качество статьи по внешнему виду. В подобных работах очень много или превалирующее число визуальной информации.
После тщательной проверки нейросеть показала себя прекрасно: она с лёгкостью смогла верно отвергнуть 50 процентов плохих работ, при этом показатели «сбоя» минимальны — всего 0,4 процента. Однако не смогла справиться с одной очень важной задачей — оценить научную статью про саму себя. И забраковала её.
Напомним, что нейросеть оценивает работы исключительно визуально, то есть в тексте можно указать абсолютно любую чушь и она может получить хорошую оценку от разработки. Такие критерии связаны с тем, что, как уже было указано выше, Хуан разработал нейросеть для ислледований в области компьютерного зрения, а одними из главных отличий таких работ обычно бывают яркие иллюстрации, графика и математические расчёты.
Но не только технологии могут давать такие сбои. Американский писатель Марк Лейднер рассказал, как высмеял один из рассказов, пришедших к нему на редактуру. Он даже опубликовал позорные строки в своих соцсетях, пока не вспомнил, что рассказ принадлежит ему.
А Тейлор Свифт недавно обвинили в плагиате. Группа 3LW из нулевых нашла в одной из новых песен певицы идентичные строки из своего хита Playas Gon’ Play. Дело дошло даже до суда, однако иск был отклонён из-за банальности текста.
