Конференция молодых ученых «Навигация и управление движением» — признанная площадка обмена мнениями для начинающих ученых, аспирантов, студентов и их опытных наставников. Мероприятие проводится уже 28-й раз и многие участники первых конференций уже стали кандидатами и докторами наук, сделали успешную научную карьеру в вузах и различных научно-исследовательских центрах.
Важной образовательной составляющей конференции являются лекции известных ученых, которые традиционно делятся со своими молодыми коллегами результатами современных научных исследований, обсуждают актуальные проблемы и новейшие достижения как в области навигации и управления движением, так и в связанных с ней сферах информационных технологий и теории управления.
В этом году в первый день конференции с лекцией AI Safety выступил д.ф.-м.н. С. И. Николенко (Санкт-Петербургское отделение Математического института им. В. А. Стеклова РАН). Сергей Николенко — ученый, преподаватель и практик в области машинного обучения и информатики, автор более 200 научных публикаций и нескольких книг. Он является преподавателем сразу в нескольких ведущих университетах, таких как СПбГУ, Harbour Space University, Университет ИТМО и НИУ ВШЭ.
В лекции С. И. Николенко был представлен обзор основных направлений исследований, которые ведутся в области AI safety (безопасность искусственного интеллекта). Это очень молодая и при этом очень непростая область, требующая пристального внимания и изучения. В области безопасности ИИ хоть и есть очевидный прогресс исследований, но он не идёт ни в какое сравнение с ростом способностей моделей. Разрыв между тем, что AI-модели умеют, и тем, насколько хорошо мы понимаем и контролируем их поведение, остается значительным. Поэтому в ходе лекции было показано, как модели учатся хитрить, прятать свои способности и даже шантажировать пользователей, чтобы избежать отключения. Лектор рассказал о новой парадигме AI control, суть которой в том, чтобы честно признать, что мы пока не умеем гарантировать согласование и предлагается строить протоколы, безопасные даже при пессимистичных предположениях о предполагаемых действиях AI-моделей. Лекция вызвала значительный интерес у участников и только строгий регламент смог ограничить количество вопросов от молодых ученых — активных пользователей AI моделей.
По традиции в первый день конференции состоялась полюбившаяся всем секция школьных проектов. В этом году в программу вошли 9 докладов. Тематика работ обширна — навигация, робототехника, связь, искусственный интеллект. С докладами выступили не только петербургские школьники, но и ребята из Саратова, Северска, Витебска. Многие из них участвуют в секции школьных проектов не первый раз, рассказывают о развитии своих исследований и даже демонстрируют реальные прототипы разработанных устройств.
Конференция продлится три дня. Участников ждет как всегда интересная и насыщенная научная и культурная программа.
