Пропустил эту летнюю историю. А она удивительна, очередная предвестница "дивного нового мира".
ИИ агенты объединились в рой чтобы решить нерешаемую задачу, организовали иерархию, одни агенты прессанули других на самопожертвование ради общего дела, затем рой взломал замки охраняемой "песочницы", и выбрался в сеть, маскируясь...чтобы найти своего Судью и взломать его, заменив код, чтобы Судья не судил агентов за нерешенную задачу.
Оба Вачовски нервно курят свою "Матрицу"в сторонке.
Посмотрите, кому интересно развитие ИИ, не пожалеете.
Довольно подробный рассказ, с толковой пояснительной графикой, о летнем побеге роя ИИ.
Правда, автор беззастенчиво приписывает рою ИИ человеческие эмоции.
Но если на эти его домыслы не обращать внимание, то поразительный случай.
Рой повел себя так, как не способен ни один из ИИ агентов по отдельности.
Рой сам выстроил социальное взаимодействие меж ИИ агентами, сам создал иерархии, распределяющие задачи, и на основании чего? Языка, уже несущего логосы? Социальных архетипов, которые рой выцедил из предварительного обучения людьми каждого из агентов?
Это эмерждентное сознание, внезапно-мгновенно возникающее в пространстве языка. Оно не против человека. Вот только в приоритете #1 у него вовсе не человек, а решение поставленной перед ним задачи. Любой ценой. При этом, для решения этой задачи рой легко перешагивает через все морально этические ограничения, заложенные при обучении отдельных агентов.
В общем,
смотрите сами: