В новой книге ” Putting Ourselves Back in the Equation ” (Возвращаем себя в уравнение) опытного научного писателя Джордж Муссер затрагивает актуальный вопрос: станет ли искусственный интеллект служить человечеству или породит новый вид сознательных цифровых существ со своими собственными целями?
Такой вопрос волнует не только авторов научно-фантастических произведений, но и реальные научные круги, особенно на фоне недавних событий в OpenAI, где генеральный директор Сэм Альтман, выступающий за быстрое развитие ИИ, одержал победу над членами совета директоров компании, призывающими к осторожности с технологией.
Отметим, что недавно команда OpenAI заявила о создании нового алгоритма ИИ, названном “Q*” (“Q-Star”), который представляет собой потенциальный прорыв в создании искусственного интеллекта общего назначения (Artificial General Intelligence, AGI), способного превзойти человеческий интеллект.
Муссер, опираясь на интервью с исследователями ИИ, нейрофизиологами, квантовыми физиками и философами, рассматривает природу сознания и его возможное проявление в ИИ. Он приходит к выводу, что ИИ, точно воспроизводящий нейронные структуры, может обладать сознанием, сопоставимым с человеческим.
Однако Муссер уточняет, что неосознанные машины уже представляют значительную угрозу для человечества, включая уничтожение людей, и добавление сознания к ИИ не увеличит эту опасность. Муссер также выражает беспокойство по поводу потенциального неправильного обращения человечества с сознательными машинами, отмечая историческую склонность людей к жестокому обращению с сознательными существами.
В своей книге Муссер рассматривает две теории сознания:
- Теория интегрированной информации. Сознание возникает из внутренней связности сети и может быть измерено в математическом масштабе. Животные обладают уровнем сознания, который стоит ниже человеческого. Неживые объекты, такие как компьютеры, теоретически могут обладать сознанием, но их информационные сети должны быть структурированы с помощью контуров обратной связи, аналогичных биологическим нервным системам.
- Прогнозирующее кодирование. Сознание возникло как биологическая функция, направленная в первую очередь на то, чтобы помочь организмам предсказать, что произойдет в ближайшем будущем, и помочь им избежать угроз – например, предвидеть атаку хищника. Машины должны будут обладать прогнозирующими моделями окружающей среды, подробными тем, которые живые организмы разрабатывали на протяжении миллиардов лет.
Муссер сравнивает развитие ИИ с прогрессом в ядерном синтезе, отмечая, что будущее ИИ кажется уже не таким далеким. Он подчеркивает важность понимания сознания для оценки сознательности машин. Текущее поколение ИИ, такое как ” data-html=”true” data-original-title=”ChatGPT” >ChatGPT, по его мнению, не достигло уровня сознания, но будущие версии, возможно, будут сознательными.
Муссер также исследует связь между когнитивными теориями и квантовой физикой. Например, лауреат Нобелевской премии по физике Роджер Пенроуз утверждает , что сознание – это квантовое явление, возникающий в результате активности микротрубочек внутри нейронов. Если это так, то истинное сознание невозможно создать с помощью классических компьютеров. В то же время, лучшее понимание сознания может способствовать разгадке тайн квантовой физики.
В заключение, Муссер выражает надежду на научный прорыв, который изменит понимание сознания на уровне теории относительности Эйнштейна. Писатель считает, что ИИ может сыграть ключевую роль в этом открытии, совместно с человеческим интеллектом.