Ученые обнаружили серьезную ошибку в работе искусственного интеллекта.

Современные нейросети уже умеют точно прогнозировать погоду на короткий срок. Однако новое исследование учёных из университетов Чикаго, Нью-Йорка и Калифорнии в Санта-Крузе выявило их критическое ограничение: такие модели не способны предсказывать погодные катастрофы. Работа опубликована в журнале Proceedings of the National Academy of Sciences (PNAS).

Авторы показали, что ИИ, обученный на исторических данных, "слеп" к событиям, которых не было в его обучающем наборе. В результате нейросети могут не распознать редкие, но разрушительные явления - такие как ураганы 5-й категории, экстремальные засухи или рекордные наводнения.

"Модели ИИ - это научный прорыв, но не магия", - отметил Педрам Хассанзаде, доцент геофизики из Университета Чикаго. - "Мы только начали использовать их, и впереди - долгий путь развития".

Подобно ChatGPT, погодные ИИ-модели обучаются на больших массивах данных, выявляют закономерности и формируют прогнозы. Они работают значительно быстрее и эффективнее традиционных моделей, которые требуют суперкомпьютеров. Однако ключевой недостаток - неспособность предсказывать то, чего они "не видели" ранее.

Чтобы проверить это, исследователи обучили ИИ без данных об ураганах выше 2-й категории, а затем дали ему задачу - предсказать развитие событий, ведущих к урагану 5-й категории. Результат: модель стабильно занижала силу шторма, что может привести к катастрофическим последствиям в реальной жизни.

"Она фиксировала приближение шторма, но каждый раз ограничивалась прогнозом максимум 2-й категории", - пояснил соавтор исследования Юнцян Сун из UChicago.

Тем не менее, исследование даёт и поводы для оптимизма. Если модель ранее сталкивалась с подобными событиями - пусть даже в других регионах - она способна точно предсказать развитие аналогичной ситуации. Например, опыт анализа тихоокеанских штормов помогает ИИ предсказывать атлантические ураганы.

"Это обнадёживает: нейросети могут узнавать редкие явления, даже если они происходят в другом уголке планеты", - добавил Хассанзаде.

Учёные считают, что для надёжного прогноза катастроф необходимо сочетать ИИ с физическими моделями. Один из перспективных путей - активное обучение, при котором ИИ помогает создавать сценарии экстремальных ситуаций для собственного же обучения.