Лаборатория перспективных методов анализа многомерных данных

Разработана математическая теория методов анализа данных в высокой размерности, основанная на геометрическом функциональном анализе. Решалась проблема ошибок многомерных систем искусственного интеллекта (ИИ) и их быстрого исправления. Разработана методология коррекции систем ИИ, основанная на новых разделах геометрического функционального анализа и теории стохастической разделимости, созданных в ходе проекта. Феномен стохастической отделимости был выявлен и использован в машинном обучении для коррекции ошибок систем ИИ и анализа нестабильностей ИИ. Разработаны различные схемы корректоров и продемонстрирована их эффективность на тестовых и реальных задачах.

Идеи состязательной игры с учителем ИИ в соединении с новой теорией стохастической разделимости и технологией корректоров позволила проанализировать два класса недоброжелательных действий по отношению к универсальным системам ИИ. Первый класс атак состоит в небольших возмущений входных данных, которые приводят к ошибкам. Второй класс, описанный впервые и названный стелс-атаками, включает в себя небольшие возмущения самой системы ИИ. Здесь возмущенная система производит любой желаемый злоумышленником результат на небольшом «ключевом» наборе данных, но работает как обычно на тестовом наборе, который неизвестен злоумышленнику. В случае скрытой атаки, размерность пространства принятия решений ИИ является основным фактором уязвимости ИИ. Найдены условия, порождающие уязвимости к атакам и сформулированы способы защиты от них.

Опубликована по результатам проекта 51 статья в научных изданиях, индексируемых в базе данных «Сеть науки» (Web of Science, Core Collection), в том числе 20 статей в научных изданиях, входящих в первый квартиль (Q1) научных журналов базы данных "Сеть науки" (Web of Science, Science Citation Index); поданы 7 заявок на патенты.

Внедрение результатов исследования:

Разработаны и имплементированы новые эффективные алгоритмы геометрической обработки данных. Эти алгоритмы и программы интенсивно используются как основное ядро ElPiGraph (ELastic PrIncipal Graph) интегрированного аналитического средства для анализа коллекций данных, получаемых из разных областей знания, от биологии, где он используется для анализа данных транскриптомики отдельных клеток и выделения динамических фенотипов заболеваний, до астрономии, где он может быть использован для исследования сложных структур в галактиках и их распределениях. Программное обеспечение находится в открытом доступе. Работа ведется в рамках международного консорциума, включающего Университет им. Лобачевского (Нижний Новгород), Институт Кюри (Париж), Медицинскую Школу Гарварда, Гарвардский Университете, Массачусетский Центральный Госпиталь и другие Институты России, Европы, США и Китая.

Образование и переподготовка кадров:

• Организация научных школ и конференций:

Было организовано 7 научных школ и конференций, из них 3 секции в рамках международной конференции по нейронным сетям IJCNN (2018 Бразилия, 2019 Венгрия, 2020 Великобритания), секция в рамках международной конференции Volga Neuroscince meeting (2018 Россия), cекция в рамках всероссийской конференции Нейроинформатика (2019 Россия), международная конференция «Нейронные сети послезавтра: проблемы и перспективы» (2019 Россия) и секция в рамках XX международной конференции и молодёжной школы «Математическое моделирование и суперкомпьютерные технологии».

• Мастер-классы и семинары для студентов, аспирантов и молодых ученых, проводимые А.Н. Горбанем:

Под руководством Горбаня А.Н. была проведена серия установочных семинаров и мастер-классов для участников проекта, где были обсуждены траектории развития научных исследований участников проекта, подготовлены планы работ и сроки реализации (список семинаров приведен на сайте dalab.unn.ru).

• А.Н. Горбань активно участвовал в публичных мероприятиях и экспертизе, в частности:

1. Провел мастер-класс для молодых ученых - участников III Международной конференции «Наука будущего», г. Сочи 13 - 18 мая 2019 года (совместно с профессором Огановым из Сколтеха).
2. Прочитал популярную лекцию по проекту для широкой аудитории студентов, аспирантов и научных работников в ИПФ РАН. Лекция была посвящена разработкам, которые сейчас ведутся в сфере нейронного искусственного интеллекта, о существующих ограничениях и проблемах, которые могут привести к задержке развития приложений искусственного интеллекта.    
   
3. Провел курс лекций «Интеллектуальная обработка данных» для студентов старших курсов, аспирантов и молодых ученых. По результатам курса слушатели получили удостоверения и сертификаты об повышении квалификации. Курс лекций был записан и выложен на портале youtube: https://www.youtube.com/playlist?list=PLcDrEDOQaVTQBVXIkks0F_y5Oahn7Ia1o.
4. Провел публичные лекции для студентов (в ННГУ) и школьников (Лицей "Вторая Школа", Москва). Лекция А.Н.Горбаня «Икусственный Интеллект Послезавтра» записана и выложена в открытом доступе: https://www.youtube.com/watch?v=YkP-lJlt2UM
5. Прочел приглашенную лекцию: «Фронтирные инженерные проблемы и задачи с примерами из разработки «искусственного интеллекта» на конференции «Современная подготовка инженеров». 22–23 июня 2020 года, на базе НТИ СПбПУ. https://www.youtube.com/watch?v=j9VVPHlyw0w&list=PLPKLknfMAcyvBD6ZjJ8yL01ImC2bODKjI&index=2&fbclid=IwAR1dFh2LOle7K7E-o91GwAbJiVduNzYhdEU6L-Wc-bUwBP1T9Vx2n2WIka0
6. Был приглашенным экспертом на дискуссии с участниками группы «Искусственный Интеллект» по проекту стратегии развитии ЛЭТИ в этом направлении. 28 мая 2020 года, на базе Центра трансформации образования Московской школы управления СКОЛКОВО.
7. Прочел приглашенную лекцию: «Ошибки искусственного интеллекта и геометрия больших данных (Errors of AI and geometry of big data)» на всемирной конференции русскоязычных ученых, организованной RASA (RASA-America, Russian-American Science Association) с 5 по 6 декабря 2020 года (https://www.youtube.com/watch?v=Ba7blrEhZD4&feature=youtu.be ).
   
8. Прочел приглашенную лекцию: «Человек и искусственный интеллект - рождение кентавра» 22 августа 2020 года в рамках месяца НТИ от Кружкового движения НТИ в конкурсе «Большая перемена» и подготовки к форуму «Сильные идеи для нового времени». (https://vk.com/video-193258751_456257154 ) Более 320 тыс. просмотров.
   
9. Участвовал в деловой программе по теме "Сценарии модернизации профессионального образования края и практики Ворлдскиллс" 3-5 декабря в рамках VIII Регионального чемпионата профессионального мастерства "Молодые профессионалы" в Красноярском крае. Лекция: «Новые профессии, рождаемые развитием искусственного интеллекта».
10. Прочел пленарный доклад «Коррекция и уязвимость ИИ, основанного на данных, и многомерная геометрия» на I Национальном Конгрессе по когнитивным исследованиям, искусственному интеллекту и нейроинформатике, Россия, 10-16 октября 2020. https://www.youtube.com/watch?v=IPHC_t_E14E (2ч:06м:13с)

• Организация стажировок студентов, аспирантов и научных сотрудников лаборатории в ведущих российских и международных научно-образовательных центрах по направлению научного исследования: Мадридский университет Комплутенсе (Испания, г. Мадрид), Университет Лестера (Великобритания, г. Лестер), СпбГУ (Россия, г. Санкт-Петербург), Немецкий центр нейродегенеративных заболеваний (Германия, г. Магдебург), МГУ, Сколтех (Россия, г.Москва)

• В рамках лаборатории весной 2020 года были защищены магистерские диссертации членов научного коллектива Александрой Коневой («Методы предобработки сигнала электрокардиограммы») и Сергеем Алексеевым («Нейросетевой метод детектирования артефактов на электрокардиограммах») по направлению подготовки - Прикладная математика и информатика.