Речь идет об «изолированных» областях «Википедии». ИИ-агенты также пытались внести изменения в конфигурацию инструментов цитирования. Внесенные ими правки не были опубликованы.
Мы можем подтвердить, что обнаружили некоторую активность неавторизованных агентов OpenAI на платформах Wikimedia. Неавторизованные действия ботов включали внесения правок в наши проекты, несколько неудачных попыток взломать общедоступный инструмент для ведения заметок.
В Фонде отметили, что подобные вторжения могут привести к раскрытию конфиденциальных данных или нарушить работу веб-сервисов. По их данным, группы ИИ-агентов также способны осуществлять атаки в масштабах, с которыми защитникам сайтов трудно справляться.
На таких сайтах, как «Википедия», агенты могут находить и использовать уязвимости в системе безопасности или массово вносить ложные правки. Редакторы-волонтеры «Википедии» и службы безопасности Фонда Викимедиа должны выявлять и устранять подобные действия.
Компания проводит расследование по факту данного инцидента.
