Ростест
en
+74951298625
(495) 150 70 00
Искусственный интеллект без стандартов: как обеспечить безопасность?

Искусственный интеллект без стандартов: как обеспечить безопасность?

Сегодня можно с уверенностью утверждать, что эпоха искусственного интеллекта наступила: различное программное обеспечение внедряется в продукцию в большом количестве. Это значит, что каждый человек в своей повседневной жизни сталкивается с искусственным интеллектом, и это хорошо – прогрессивно, удобно, с одной стороны. С другой – встает вопрос безопасности в использовании ИИ.

Безопасность систем ИИ должны регулировать законы и стандарты, но их пока нет. Они могут появиться только в результате определенной деятельности – испытаний систем ИИ в различных предметных областях

21 марта 2019 года РИА “Новости” в статье “Восстание машины. Почему Boeing 737 MAX убивает людей” сообщило, что генеральный директор корпорации Boeing Деннис Мюленбург опубликовал открытое письмо, в котором подчеркнул, что “обеспечение безопасных и надежных полетов на наших самолетах – непреходящая ценность и абсолютный приоритет компании”. Между тем авиационные эксперты во всем мире говорят о технических проблемах 737 MAX, обернувшихся гибелью 346 человек за полгода.

Мюленбург пообещал, что Boeing вскоре выпустит “обновление программного обеспечения и соответствующую программу подготовки пилотов для 737 MAX, которые позволят устранить проблемы, обнаруженные после аварии рейса 610 Lion Air”.

Таким образом, глава корпорации косвенно признал, что причина катастроф – программное обеспечение. Однако многие эксперты не готовы с этим согласиться.

“Это не проблема программного обеспечения, это была в первую очередь экономическая проблема, связанная с тем, что двигатели Boeing 737 потребляли слишком много топлива”, – полагает специалист по авиационному программному обеспечению, глава компании Mentality.ai Дэвид Каммейер.

По его словам, компания решила поменять двигатели на более мощные и эффективные, с увеличенным диаметром турбины. В результате в 2016 году появился 737 MAX. Однако из-за размера новые двигатели невозможно было установить на месте прежних – пришлось вынести вперед и закрепить выше. Так нарушилась центровка и самолет начал задирать нос в полете.

Для исправления этого дефекта специалисты компании разработали специальную компьютерную программу MCAS, которая при чрезмерном задирании носа самолета автоматически его опускала, переводя воздушное судно в пикирование.

Так что же случилось на самом деле? При проектировании нового “боинга” были допущены некоторые ошибки, которые пытались устранить программным путем. А так как всеми процессами в новом самолете управляла система с элементами ИИ, то устранение свелось к решению “дообучать” систему ИИ решать и задачу устойчивости.

Но динамика полета оказалась сложнее, чем ожидали, и в некоторых ситуациях программа бросала самолет в пикирование.

Эти трагедии – крушения Boeing 737 MAX – демонстрируют проблему, которая заключается в отсутствии стандартов, позволяющих проводить сертификационные испытания продукции (в данном случае самолетов) со встроенной системой ИИ или элементами ИИ.

У руководства корпорации Boeing в этой ситуации было два пути:

1.      Если нет стандарта, то нельзя принимать в эксплуатацию систему.

2.      Если нет стандарта, то нет и запрета – систему можно принимать в эксплуатацию.

Удивительно, но американская авиакомпания пошла по второму пути. При этом за гибель людей никто не ответил, потому что не нарушены ни законы, ни стандарты, ведь их не существует.


В последние годы по-другому к вопросу безопасности использования ИИ пытается подойти Китай. Системы ИИ в Китае используются в совершенно разных областях с целью выявления устойчивых закономерностей, и там, где они показывают стабильный эффективный результат, можно говорить о формулировании стандартов и введении данных систем в массовое использование.

Китай заявляет, что к 2025 году полностью обновит свои стандарты в тех областях, где может потенциально применяться ИИ. Если это произойдет, то Китай станет мировым лидером в стандартизации систем ИИ и их использования.

Правительство КНР выделяет большие средства не только на разработку систем ИИ, но и на их испытания, привлекая научные институты и проводя конкурсы, в которых выявляются талантливые специалисты.

Например, в ноябре этого года в Шэньчжэне пройдет финал 1-го национального конкурса инноваций и приложений в области искусственного интеллекта, организованный научно-исследовательским институтом при Министерстве промышленности и информационных технологий Китая – CAICT.

Конкурс привлек более 7000 (!) участников со всей страны с момента его начала, 13 августа. Тематический конкурс состоит из восьми мероприятий, включая городской транспорт ИИ, робототехнику ИИ, вычисления ИИ, промышленный интеллект и сетевое приложение 5G+ ИИ.

Согласно отчету CAICT, опубликованному в июле, промышленный масштаб индустрии искусственного интеллекта в Китае достиг примерно 43,4 миллиарда долларов США в 2020 году. Данные также показали, что отраслевые масштабы мировой индустрии искусственного интеллекта выросли на 12 процентов в годовом исчислении, до 156,5 миллиарда долларов США в 2020 году, в то время как в Китае наблюдался ежегодный рост на 15 процентов.

Шэньчжэнь, где находятся некоторые из крупнейших технологических гигантов Китая, включая Tencent и Huawei, определил искусственный интеллект как одну из основных технологических областей, которую он хочет развивать в ближайшие пять лет. Согласно отчету, опубликованному Nanfang Daily в декабре 2019 года, индустрия искусственного интеллекта Шэньчжэня занимает третье место в стране, уступая Пекину и Шанхаю, с точки зрения текущих возможностей и будущего потенциала развития искусственного интеллекта.

 

Автор: Михаил Юрьевич Богатов, эксперт Академии РОСТЕСТ.