Команда учёных из Нью-Йоркского университета разработала нейронную сеть, способную объяснить, как она делает свои предсказания. Эта работа проливает свет на принципы функционирования нейронных сетей, которые являются основой искусственного интеллекта и машинного обучения.
Основное направление исследования связано со специфическим применением нейронных сетей, активно используемым в последние годы – решением сложных биологических задач. Основой стало изучение процесса сплайсинга РНК, играющего ключевую роль в передаче информации от ДНК к функциональным РНК и белковым продуктам.
“Многие нейронные сети остаются черными ящиками, поскольку не могут объяснить свою работу, что вызывает опасения относительно их надежности,” – говорит Одед Регев, профессор по информатике из Института математических наук Куроно Нью-Йоркского университета. Он добавляет, что благодаря новому методу, который улучшает объем и качество данных для обучения машин, была разработана интерпретируемая нейронная сеть, которая может точно предсказывать сложные исходы и объяснять, как она приходит к своим предсказаниям.
Для создания своей модели Регев и его коллеги опирались на существующие данные о сплайсинге РНК. Их модель, в некотором роде эквивалент мощного микроскопа, позволяет ученым отслеживать и количественно оценивать процесс сплайсинга РНК.
Регев подчеркивает: “На основе подхода ‘разработанного для интерпретации’ мы создали модель нейронной сети, которая предоставляет понимание сплайсинга РНК”. Исследователи выявили, что небольшая структура в РНК, напоминающая заколку для волос, может уменьшать сплайсинг.
Эти выводы были подтверждены серией экспериментов: когда молекула РНК принимала форму заколки, процесс сплайсинга останавливался, и наоборот, при нарушении этой структуры сплайсинг возобновлялся.