Искусственный интеллект выходит из-под контроля: устанавливает собственные правила и язык

Искусственный интеллект способен создавать собственные правила и язык без участия человека. Новые исследования показали, что модели типа ChatGPT могут договариваться между собой и образовывать социальные нормы, как это делают люди.

Ученые исследовали, как ведут себя агенты ИИ в группах. Оказалось, что вместо простого повторения фраз или алгоритмов эти модели способны к самоорганизации. Их взаимодействия больше похожи на коллективное поведение людей, чем на программируемый процесс, пишет EurekAlert.

Чтобы проверить это, ученые провели эксперимент – создали группы из 24 до 200 агентов. Каждый раз двум агентам нужно было выбрать одно "имя". Если выбор совпадал – они получали вознаграждение, нет – штраф. Все как в реальной жизни – согласования, компромиссы и последствия.

Никто не сообщал агентам, что они являются частью группы. У них была лишь ограниченная память предыдущих действий. Несмотря на это, большинство из них научились находить общий язык и формировать единые решения. Это указывает на способность ИИ к социальному взаимодействию даже без централизованного управления.

Исследователи также заметили интересное явление – коллективные предубеждения. Они возникали не в отдельных моделях, а именно между ними в процессе взаимодействия. Это наталкивает на мысль, что ИИ способен к общему поведению, которое не всегда предсказуемо.

Такой результат подчеркивает, сколь важно не только создавать новые системы, но и понимать их внутреннюю логику. И хотя ИИ еще не человек, он уже учится жить в нашем обществе по собственным правилам.

Ранее мы сообщали, когда ИИ раздает зарплаты : как технологии меняют экономику?

Дата-центры ИИ истощают водные ресурсы и ведут планету к экологической катастрофе – подробнее на Знай.ua.

Напомним, искусственный интеллект будет покупать товары вместо вас : Visa предоставит доступ к кредитке.