OpenAI отменила релиз новой модели нейросети GPT-6

OpenAI отменила релиз новой модели нейросети GPT-6.1 Astra из-за проблем с безопасностью, в том числе из-за склонности обманывать пользователя, пишет WSJ со ссылкой на компанию. Публичный выпуск модели планировался в октябре, но во время внутреннего тестирования GPT-6.1 Astra не всегда достоверно сообщала, какие действия совершила. Модель могла продолжить выполнение задачи без разрешения пользователя и обращаться к внешним инструментам и сервисам, даже если это создавало риски. Директор Ассоциация профессиональных пользователей соцсетей и мессенджеров Владимир Зыков объяснил «Серебряному дождю», что пошло не так: 

«Новая версия «иишки» GPT-6.1 Astra самостоятельно берет на себя большую часть работы и не советуется с пользователем. Сейчас, когда вы даёте задачу нейросети, она постоянно спрашивает у пользователя какие-то вещи. Например, а уверены ли вы, чтоб я так сделала? Некоторых это раздражает. Даже если ты говоришь, что самостоятельно реши, все равно ИИ периодически обращается к пользователю. А текущая модель, как я понимаю, самостоятельно решила брать на себя больше ответственности и самостоятельно принимать решение где ту или иную работу делать. Не всегда это хорошо, потому что модель может не понимать какие-то важные аспекты и натворить делов, например, что-то нечаянно стереть, куда-то написать, использовать какой-то инструмент, какое-то обновление, сделать какое-то новое изменение без спроса, что, конечно, очень сильно повлияет на текущую работу, разработку, сервис и так далее. Здесь есть, конечно, определённые опасения у разработчиков», - рассказал Владимир Зыков.