Перед тем как генеральный директор OpenAI Сэм Альтман был отстранен, несколько исследователей компании направили письмо совету директоров, предупреждая об открытии в сфере искусственного интеллекта, который, по их мнению, “может представлять угрозу человечеству”. Об этом пишет Reuters.
Это письмо было указано в списке многочисленных жалоб совета директоров, что привело к увольнению Альтмана. Reuters не удалось связаться с авторами, чтобы получить комментарии от OpenAI. Однако в ответ на запрос компания уведомила своих сотрудников о существовании проекта под названием Q* (Q-Star).
Несколько сотрудников OpenAI видят в этом проекте потенциальный прорыв в области всеобщего искусственного интеллекта (AGI). Компания определяет его как автономную систему, способную превосходить человека в большинстве экономически важных задач.
По словам одного источника, на данный момент Q* может выполнять математические задания на уровне начальной школы, но успешное выполнение таких тестов внушает исследователям оптимизм по его будущему развитию.
Главное отличие такого ИИ в том, что он способен ставить цели, делить сложные процессы на мелкие, работать в широком диапазоне задач и находить решения с учетом контекста из разных областей. Проще говоря, такой интеллект теоретически может заменить высококлассного специалиста, обладающего знаниями, навыками и опытом.
Исследователи полагают, что математика является передовым этапом развития генеративного искусственного интеллекта. На данный момент он успешно выполняет задачи написания и перевода, статистически предполагая следующее слово, при этом ответы на тот же вопрос могут значительно отличаться.
Однако покорение математики, где существует только один правильный ответ, предполагает, что искусственный интеллект получит более широкие способности к размышлению, аналогичные человеческому интеллекту. Это, по мнению экспертов, можно применить, например, к новым научным исследованиям.
В своем письме совету директоров исследователи прониклись мощностью ИИ и потенциальной опасностью. Они также отметили работу особой группы “ученых по искусственному интеллекту”, существование которой подтвердили и другие многочисленные источники. По словам одного из них, эта команда изучает, как оптимизировать существующие модели ИИ, чтобы улучшить их рассуждения и, наконец, выполнять с их помощью научную работу.
Альтман руководил усилиями по трансформации ChatGPT в одну из быстро растущих программных приложений в истории. Он также привлек инвестиции и вычислительные ресурсы от Microsoft, необходимые для приближения к созданию такого общего искусственного интеллекта (AGI).