В журнале Nature опубликована статья ученых из Принстона, в которой исследователи высказывают опасения относительно растущей тенденции использования искусственного интеллекта в науке. Вместо того чтобы служить инструментом для совершения прорывов и открытий, ИИ все чаще применяется для создания иллюзии научного прогресса.
По словам ученых, за период с 2012 по 2022 годы интерес к исследованиям в области искусственного интеллекта значительно возрос в различных научных областях, особенно в медицине и компьютерных науках. Однако, параллельно с увеличением интереса к ИИ, увеличивается и количество серьезных методологических погрешностей.
Основная сложность заключается в том, что предсказание подменяет собой понимание. Зачастую вместо объяснения сути явлений модели просто повторяют закономерности, извлеченные из обучающих данных, причем с неточностями. Распространенным примером является «утечка данных», когда модель случайно получает доступ к информации из тестовой выборки заранее.
Это ведет к ошибочным заключениям: например, некоторые ИИ-системы, якобы определяющие COVID-19, на самом деле различали возрастные категории пациентов.
Исследователи настаивают на необходимости пересмотра подходов к подготовке научных кадров, внедрении стандартов проверки и использовании скрытых тестовых наборов для предотвращения подгонки результатов. В противном случае, научное сообщество рискует прийти к ложному представлению об открытиях.
Ранее соучредитель Microsoft, миллиардер-филантроп Билл Гейтс заявил, что существует вероятность того, что в течение последующих 10 лет искусственный интеллект полностью заменит всех врачей и учителей. По его словам, в будущем люди в принципе не будут нужны для большинства вещей.
