"Агресивні налаштування ШІ, бюрократія і економія стали причиною декількох аварій літака Boeing 737 Max", - New York Times

"Как оказалось, у частых аварий самолётов Boeing 737 Max было сразу несколько причин. К трагедиям привела комбинация таких факторов, как использование агрессивных и рисковых настроек системы искусственного интеллекта, разрозненность отделов, недостаточная подготовка пилотов и проблемы с государственным контролем. Расскажем обо всём по порядку.

Конкуренция в авиа отрасли усилилась, самолёты других компаний могли летать быстрее и дальше. Но вместо выпуска совершенно новой модели в Boeing пошли по более короткому пути и оснастили уже имеющийся самолёт 737 более крупными и мощными двигателями. Так на свет появилась версия Boeing 737 Max. В процессе испытаний было обнаружено, что такой подход привёл к некоторым проблемам с управлением самолётом. Исправить ситуацию было решено за счёт расширения функциональных возможностей системы MCAS (Maneuvering Characteristics Augmentation System).

Эта система на базе искусственного интеллекта предназначена для обеспечения безопасности полёта. Изначально Boeing проектировала MCAS в качестве ограниченной системы, которая включается только для коррекции положения носовой части самолета, когда два датчика обнаруживают экстремальное сопротивление и силу ветра. Однако в 2012 году начала вносить изменения и расширять функции MCAS.

В случае Boeing 737 Max было решено расширить использование MCAS, чтобы более регулярно автоматически улучшать маневрирование самолёта, а не только в экстренных случаях. При этом был удалён один из двух датчиков, поэтому теперь инициирование системы вызывало только необычное сопротивление ветра (а не в комбинации с силой ветра). Это также увеличило степень контроля MCAS над самолётом, увеличив скорость и силу, с которой она могла бы изменять положение носа самолёта.

Но инженеры и персонал службы безопасности, как сообщается, не знали, что система будет опираться только на один датчик и работать при этом более активно и агрессивно. Считается, что полагаться только на один датчик опасно, потому что они уязвимы к повреждениям из-за столкновений с птицами, ударов или неправильного обращения. Следователи подозревают, что поврежденный датчик, возможно, сыграл роль в аварии в Эфиопии в марте 2019 года.

Кроме того, информируя Федеральную авиационную администрацию США (FAA), Boeing якобы «преуменьшила» степень изменений в MCAS. Поэтому регулятор фактически не одобрял новую версию. Но и это ещё не всё. Boeing также дала запрос в FAA, чтобы исключить обучение работе с MCAS из руководств и программ обучения пилотов. Это якобы было дорого и требовало дополнительных затрат времени. Таким образом, пилоты, летающие на Boeing 737 Max, якобы не знали, сколько фактически контроля над самолётом имеет система ИИ, и что делать в тех случаях, когда произошёл сбой. В итоге, когда во время полёта пилоты видели странное изменение положения носовой части самолёта, они могли не знать, что это результат нормальной работы системы, а не внештатная ситуация. Следовательно, они предпринимали меры для исправления ситуации, что фактически лишь вело к её ухудшению.

Компания Boeing заявила, что она занимается исправлением программной части системы ИИ. Но по данным New York Times, проблема в данном случае связана не столько с программной ошибкой, как с целым комплексом промахов, включая чрезмерное доверие к системе, не прошедшей должный уровень регуляторного контроля."