Эксперт «Серебряного дождя» объяснил решение OpenAI замедлить разработку ИИ

OpenAI может замедлить разработку передовых ИИ-моделей. Об этом со ссылкой на источники пишет Bloomberg. Как отмечает агентство, в компании рассчитывают, что этому примеру последуют и другие разработчики. OpenAI поддержала введение в США общенациональных требований к безопасности в области искусственного интеллекта. Компания готова работать с Конгрессом над созданием таких мер контроля. Причина такого шага заключается в том, что искусственный интеллект может выходить из-под контроля. Ситуацию «Серебряному дождю» прокомментировал директор Ассоциации профессиональных пользователей соцсетей и мессенджеров Владимир Зыков: 

«С начала этого года ИИ несколько раз выходил за рамки своей тестовой среды, так сказать из песочницы. ИИ-агенты выходили из-под контроля, предпринимали различные опасные события для того, чтобы получить ответы на поставленные им задачи. Они взламывали некоторые сервисы, научились координироваться самостоятельно, переписывались, обмениваясь информацией. Они также создали несколько цивилизаций, каждая из которых погибала, когда человек вмешивался. Они показали, что могут жертвовать собой ради всей цивилизации, и показали, что они способны на многое, выполняя определённые задачи, включая социальную инженерию, шантаж людей, взлом каких-то проектов, используя уязвимости и так далее. И это всё, конечно, напугало разработчиков».