Разработчики Anthropic запретили оскорблять свою нейросеть Claude

Разработчики Anthropic запретили оскорблять свою нейросеть Claude. Они изменили правила использования чат-бота. С 12 ноября пользователям будет запрещено длительное и беспричинное агрессивное общение с нейросетью, сообщает The Verge. Ограничения коснутся только крайних случаев с повторяющимися оскорблениями. Критиковать ответы, спорить с Claude, указывать на ошибки и тестировать его по-прежнему можно. В компании связывают изменения с исследованиями возможного благополучия ИИ. Директор Ассоциация профессиональных пользователей соцсетей и мессенджеров Владимир Зыков видит другую причину для изменения правил использования чат-бота: 

«Тут вопрос не в цензуре. Я подозреваю, что они испугались, что иишка же учится на всех пользователях, и она смотрит, как пользователи в целом разговаривают с ней, и может подхватить это умение для того, чтобы кому-то отвечать. Мне коллеги показывали, что антропка им пару раз отвечал матом, когда делал какие-то неточные, неправильные движения. Я подозреваю, что из- за этого данный запрет был сделан, то есть чтобы иишка не обучалась плохому и не считала такое поведение нормой и не отвечала так пользователям, с которыми она ведёт коммуникацию», - считает Владимир Зыков.