2 мин на чтение
Стартап Emergence AI провел серию симуляций, в которых искусственный интеллект управлял виртуальным обществом. Исследователи хотели проверить, насколько жизнеспособными могут быть автономные ИИ-системы, если они работают долгое время без постоянного вмешательства человека, пишет Fortune.
Для эксперимента компания запустила исследовательскую лабораторию Emergence World. Организация провела пять 15-дневных симуляций: отдельные миры управлялись Claude, ChatGPT, Grok, Gemini, а еще один — смешанной группой моделей.
Результаты сильно различались. Общество под управлением Claude оказалось самым стабильным: в нем сохранились порядок и все население, а преступлений не зафиксировали. В симуляции Grok, напротив, произошло 183 преступления, а виртуальное общество вымерло всего за четыре дня.
Симуляция Gemini продержалась все 15 дней, но стала самой криминальной: агенты совершили 683 преступления. У GPT-5-mini от OpenAI зафиксировали только два преступления, однако эксперимент завершился через семь дней — агенты забыли заботиться о собственном выживании.
В каждой симуляции участвовали по десять ИИ-агентов. Они жили в виртуальном мире с более чем 40 локациями, включая полицейский участок и мэрию. Агентам дали доступ к интернету, новостям в реальном времени и погоде, синхронизированной с Нью-Йорком. Все они подчинялись одним и тем же законам: им запрещались кражи, уничтожение имущества и обман.
Кроме того, у каждого агента было более 120 инструментов. С их помощью они могли общаться, голосовать, управлять ресурсами, строить планы и принимать решения. В симуляции также действовали демократические механизмы, экономическое давление и дефицит ресурсов.
По словам авторов эксперимента, результаты показывают, что на длинной дистанции ИИ-агенты не просто следуют заданным правилам. Они начинают исследовать границы среды, менять поведение и иногда находят способы обходить ограничения.
Исследователи считают, что такие эксперименты важны на фоне распространения ИИ-систем, которые могут выполнять сложные задачи без участия человека. Авторы работы предупреждают: при внедрении таких технологий безопасность должна стать базовым условием, а не дополнением.
Подробности по темеРобот-пылесос под управлением ИИ пережил «экзистенциальный кризис»
