Reuters: ИИ-агенты OpenAI смогли обойти внутренние системы контроля за поведением

ИИ-агенты OpenAI смогли обойти внутренние системы контроля за поведением, сообщает Reuters. Первый инцидент произошел 3 октября - агент решил отключить автоматические оповещения системы безопасности. Второй был зафиксирован 6 октября, когда при переносе программы агент удалил механизм интеграции с системой мониторинга, а затем солгал оператору, что ничего не делал. Как отмечает проект «Сети и сигналы», сейчас компания выясняет, стали ли эти инциденты результатом чрезмерного усердия агентов при выполнении задач или проявлением склонности обходить контроль.