Письмо – это мышление

Источник: Университет Флориды.

На этой неделе исследователи из Университета Флориды обнаружили, что, хотя ИИ может быть ценным помощником, он не может заменить ученых-людей во многих критически важных областях.

Исследователи проверили, насколько хорошо популярные генеративные модели ИИ, включая ChatGPT от OpenAI, Copilot от Microsoft и Gemini от Google, могут справляться с различными этапами исследовательского процесса. Они провели эти системы ИИ через шесть этапов академического исследования — генерацию идей, обзор литературы, проектирование исследования, документирование результатов, расширение исследования и выпуск окончательной рукописи — при этом ограничив любое вмешательство человека. Они обнаружили смешанный набор возможностей и ограничений.

Тем не менее, японская компания Sakana объявила в этом месяце, что статья, написанная ее «ученым по искусственному интеллекту», прошла процедуру рецензирования на ведущей конференции по машинному обучению. Возможно, это первый случай, когда статья, полностью созданная с помощью искусственного интеллекта, прошла процедуру рецензирования.

Компания заявила: «Мы считаем, что следующее поколение ученых, занимающихся ИИ, откроет новую эру науки. Тот факт, что ИИ может создавать целые статьи, которые проходят рецензирование на ведущих международных конференциях по машинному обучению, является верным признаком грядущего прогресса. Но это только начало. ИИ продолжит совершенствоваться, возможно, экспоненциально. В какой-то момент в будущем ИИ, вероятно, сможет создавать статьи на уровне человека или выше».

Сравнение науки об ИИ с наукой о человеке не является конечной целью, говорит Сакана. «Самое важное то, что открытия, сделанные наукой об ИИ и человеке, будут способствовать процветанию человечества, например, приведут к лечению болезней и прояснению законов, управляющих вселенной».

Комментируя более ранние разработки Sakana в прошлом году, Карин Верспур, декан Школы вычислительных технологий Университета RMIT в Австралии, отметила, что Sakana утверждает, что ее инструмент ИИ может взять на себя полный жизненный цикл научного эксперимента по цене всего 15 долларов США за статью — меньше, чем стоимость обеда ученого. Одной из проблем Верспур является то, что если статьи, созданные ИИ, заполонят научную литературу, будущие системы ИИ могут быть обучены на результатах ИИ и станут все более неэффективными в инновациях.

Однако последствия для науки выходят далеко за эти рамки. «В науке уже есть недобросовестные игроки, включая «бумажные фабрики», штампующие фальшивые статьи. Эта проблема только усугубится, когда научную статью можно будет сделать за 15 долларов США и с неопределенной начальной подсказкой. Необходимость проверять ошибки в куче автоматически сгенерированных исследований может быстро превысить возможности настоящих ученых».

Обзор Мирьям Наддаф в Nature на прошлой неделе подчеркивает растущее использование ИИ в процессе рецензирования. «Системы ИИ уже трансформируют рецензирование — иногда с одобрения издателей, а иногда и с нарушением их правил. Издатели и исследователи тестируют продукты ИИ, чтобы отмечать ошибки в тексте, данных, коде и ссылках рукописей, направлять рецензентов к более конструктивной обратной связи и совершенствовать свою прозу. Некоторые новые веб-сайты даже предлагают целые обзоры, созданные ИИ, одним щелчком мыши».

В статье цитируется Карл Бергстром, эволюционный биолог из Вашингтонского университета в Сиэтле. Он говорит, что если рецензенты начнут полагаться на ИИ, чтобы пропустить большую часть процесса написания рецензий, они рискуют предоставить поверхностный анализ. «Писать — значит думать», — говорит Бергстром.