Сооснователь OpenAI Илья Суцкевер, создавший лабораторию искусственного интеллекта Safe Superintelligence Inc., впервые за долгое время выступилпублично на конференции NeurIPS в Ванкувере. В ходе своего выступления Суцкевер сделал ряд резонансных заявлений о будущем развития технологий искусственного интеллекта.
Суцкевер заявил, что традиционная методика предварительного обучения моделей ИИ, когда они обучаются на огромных объемах немаркированных данных, подходит к концу. По его словам, объем человеческого контента в интернете, который можно использовать для обучения, практически исчерпан. Это сравнение было подкреплено аналогией с исчерпанием ископаемых ресурсов: “Как нефть является конечным ресурсом, так и объем контента в интернете ограничен. У нас есть только один интернет”. Суцкевер подчеркнул, что индустрии придется искать новые подходы к обучению моделей.
Говоря о перспективах, Суцкевер отметил, что следующие поколения моделей будут “агентными” и смогут принимать решения, выполнять задачи и взаимодействовать с программным обеспечением автономно. Кроме того, Суцкевер прогнозирует, что будущие ИИ-системы обретут способность рассуждать, что сделает их работу более схожей с процессом человеческого мышления. Это будет шаг вперед по сравнению с текущими моделями, которые в основном основаны на шаблонном сопоставлении информации.
Суцкевер сравнил непредсказуемость таких “рассуждающих” систем с поведением современных шахматных программ, которые ставят в тупик даже лучших игроков-человека. Он также подчеркнул, что такие системы смогут эффективно работать с ограниченными данными и избегать путаницы в сложных задачах.
Одной из ключевых идей выступления стала параллель между масштабированием ИИ и эволюционной биологией. Суцкевер привел данные исследований, показывающих зависимость между массой мозга и тела у различных видов животных, и отметил, что гоминиды имеют уникальную траекторию развития по сравнению с другими млекопитающими. Суцкевер предположил, что ИИ может найти аналогичные новые пути масштабирования, выходя за рамки традиционного подхода к обучению.
После выступления Суцкевер ответил на вопросы аудитории. Один из участников спросил, как ученые могут создать стимулы для разработки ИИ, способного разделять свободы людей. Суцкевер признал сложность вопроса, отметив, что для этого может потребоваться структурный подход на уровне правительств.
Также прозвучала идея использования криптовалюты как инструмента для подобных механизмов. Суцкевер не исключил такой возможности, добавив, что конечной целью может стать создание ИИ, который захочет сосуществовать с людьми и иметь свои права. Завершая, Илья отметил, что будущее крайне непредсказуемо, но такие рассуждения и спекуляции важны для дальнейших исследований.